Вчера в Сеуле в гостинице Four Seasons прошла последняя пятая игра матча го. Каждая из них целую неделю плотно освещалась на Geektimes. В серии кто-то победил, но вряд ли подобное заинтересовало бы посетителя русскоязычного сайта о высоких технологиях и науке, если бы не один факт.Играл Ли Седоль, обладатель девятого профессионального дана, один из лучших мастеров го в мире. Его оппонентом стала система компьютерного го AlphaGo, разработка Google DeepMind. До начала матча считалось, что ни один продукт не способен обыграть мастера высокого уровня. Но ИИ одержал победу со счётом 4:1.
Интересна скорость, с которой AlphaGo отточила го. Ещё в прошлом октябре системе для показательного матча скормили игрока куда слабее. Спустя пять месяцев она обходит одного из лучших. Похоже, что мы достигли 1997 года в шахматах, когда компьютер впервые обыграл действующего чемпиона в матче. С того момента шахматные программы улучшили навыки до такого уровня, что человек больше не способен выиграть у них в нормальных условиях.
Ожидает ли подобное го? Стоит ли бояться силы искусственного интеллекта? Мне удалось получить комментарии и ответы, которые предоставили вице-президент «Российской федерации го» и президент «Спортивной федерации го Санкт-Петербурга» Максим Подоляк, профессиональные игроки в го и многократные чемпионы Европы Илья Шикшин (первый профессиональный дан) и Александр Динерштейн (третий профессиональный дан).
Сложности го
Эту победу можно сравнить с другим историческим матчем. В 1997 году суперкомпьютер Deep Blue впервые в мире обыграл в матче действующего шахматного чемпиона мира. Проигрыш Каспарова не стал последним поражением людей. В последующие годы компьютерные -шахматы достигли точки, когда даже сильнейшие из шахматистов не могут обыграть их в нормальных условиях.
Го (бадук, вэйци) — настольная игра, которая зародилась в Древнем Китае и получила значительную популярность в Южной Корее, Китае и Японии. Сегодня в го играют около 60 миллионов людей. Игроки размещают на доске определённого размера камни двух цветов. Целью является отгородить на доске область большего, чем оппонент, размера.
Президент Международной шахматной федерации не без удовольствия говорит о том, что теперь участь шахмат ждёт и го.
С точки зрения создания ИИ, го при внешней простоте в разы сложнее шахмат — в гугол (10100) раз, если точнее. Именно в столько раз больше возможных позиций камней на стандартной доске 19?19, чем в шахматах. До появления AlphaGo считалось, что пока что любые программы играют на уровне любителей, и до уровня мастеров им ещё десятилетие.
Размер доски — далеко не единственное препятствие. Неприменимы многие алгоритмы, которые использовались для шахмат. Количество ходов больше, чем в шахматах. Игра начинается с 55 возможных ходов, а вскоре нужно учитывать почти все из 361 точек на доске. Какие-то из ходов популярней, какие-то почти никогда не используются. Начальные ходы партии — фусэки — быстро начинают уходить во что-то оригинальное. В шахматах фигуры убывают с доски, в го они добавляются (пусть и возможно удаление путём захвата камней). Это исключает создание базы окончаний партий. Существующие системы плохо справляются с окончанием игры, в том числе это случается из-за ко-борьбы.
Системы компьютерного го всё же существуют. Чаще всего подобные продукты оценивают ходы с помощью поиска по дереву или метода Монте-Карло, задействуют экспертные системы с базой хороших ходов, сопоставление с образцом и машинное обучение. Такие продукты как Crazy Stone, Zen или GnuGo могут показать неплохой результат, но они всё равно проигрывают профессионалам.
В 1989 году Goliath не смогла выиграть у любительского шестого дана с огромной форой в 17 камней. До AlphaGo высшим достижением считался выигрыш при 4 камнях форы. В этом году ждали снижения до 3 камней форы. Но вдруг появилась система, которая на равных «всухую» выигрывает у чемпионов.
Силы сторон
AlphaGo
Возраст: менее 2 летСтрана: Великобритания
Дан: ?
В 2014 году Google купила DeepMind, британскую компанию по разработкам искусственного интеллекта. Именно DeepMind в прошлом привлекла внимание созданием искусственного интеллекта DQN, который самостоятельно научился играть в 49 старых игр Atari. При описании другого продукта компании — AlphaGo — тоже можно употребить слово «самостоятельно».
Эта система компьютерного го упрощённо состоит из комбинации метода Монте-Карло и нейросетей политики (policy networks) и ценности (value networks). Нейросети натренировывали в нескольких стадиях машинного обучения с помощью 160 тыс. партий с 28,4 млн позиций с сервера KGS игроков с шестого по девятый дан. Ещё миллион позиций был выделен для тестов. Сначала проводилось контролируемое обучение сети политики прямо с помощью ходов игроков-людей. Другая сеть политики подвергалась обучению с подкреплением. Вторая играла с первой и оптимизировала её, чтобы политика сдвигалась к выигрышу, а не просто предсказаниям ходов. Наконец, проводилось обучение с подкреплением сети ценности, которая предсказывает победителя игр, в которые играют сети политики. Был достигнут результат корректного предсказания следующего хода в 57 % случаев. До AlphaGo лучший результат составлял 44 %.
Подробнее технические составляющие рассматривались как на «Гиктаймсе», так и на «Хабре».
AlphaGo сравнивали с другими программами — она почти всегда обыгрывает любых конкурентов — и игроком-человеком. Для этого при участии судьи из «Британской федерации го» был организован матч против трёхкратного европейского чемпиона и обладателя второго профессионального дана Фань Хуэя. Все пять игр Хуэй проиграл.
Ли Седоль
Возраст: 33 годаСтрана: Южная Корея
Дан: 9 профессиональный
Другой участник матча — профессиональный игрок в го Ли Седоль. Свой первый профессиональный дан Седоль получил в 1996 году в возрасте 13 лет. Седоль имеет 18 международных титулов, он входит в пятёрку сильнейших игроков мира.
AlphaGo обыграла чемпиона Европы, где уровень владения го ниже. При этом ошибки делали как программа, так и Хуэй. Неудивительно, что Седоль быстро принял вызов и согласился сыграть против AlphaGo. Ли заявил, что он легко выиграет со счётом 4:1 или 5:0. Через два-три года Google захочет взять реванш, и вот тогда играть будет интересней, говорил Седоль.
Ход событий
С 9 по 15 марта в гостинице Four Season в Сеуле проводился матч из 5 игр по китайским правилам, где величина компенсации белым за первый ход чёрных (коми) составляет 7,5 очков. Победитель матча получал награду в 1 миллион долларов. В случае победы ИИ призовой фонд уходит на благотворительность: ЮНИСЕФ, организациям по развитию го и другим.
Внимание к играм было значительным. Технические необходимости вынудили Google проложить оптоволоконную линию связи в отель. Поисковый гигант не стал отправлять в Корею 1920 процессорных ядер и 280 видеоускорителей, на которых запускался ИИ. Вместо этого была организована связь с серверами Google Cloud Platform где-то на Среднем Западе США. Камни на доске за AlphaGo расставлял оператор Аджа Хуань (шестой любительский дан).
The press pack is just wild! pic.twitter.com/9KS04YlwpQ
— Mustafa Suleyman (@mustafasuleymn) 9 марта 2016 г.
Матч посещали не только руководитель подразделения Демис Хассабис, но и бывший исполнительный директор Google Эрик Шмидт, а также один из ключевых инженеров компании Джефф Дин. Го — популярная в Корее игра. Матч без особых усилий пробивался на первые полосы корейских газет, на нём присутствовали члены корейского парламента. Игры транслировались на корейском, японском, китайском и английском. Только на английском на YouTube трансляции смотрели в среднем 80 тысяч человек.
9 марта, среда. Игра первая
Фотография сооснователя DeepMind Мустафы Сулеймана
Чёрные: Ли Седоль
Белые: AlphaGo
Результат: Ли Седоль признал поражение
Ходов: 186
Ходы
Полная трансляция
Краткое содержание игры на английском
Комментарии «Российской федерации го»
Пост на Geektimes
В час дня по местному времени началась первая игра. Чёрные разыграли домашнюю заготовку, и в семь ходов комбинации должны были выйти за пределы любой базы. Седоль демонстрировал свой типичный стиль и атаковал. Но и AlphaGo не сдерживалась — система начала наступать примерно через 12 камней.
Как говорили комментаторы, AlphaGo играла подобно человеку: система искала и создавала уязвимые группы камней, чтобы сделать сильные ходы. Хотя ИИ сделал несколько ошибок, у чёрных были серьёзные причины для опасений. На последних двадцати минутах игры AlphaGo развила преимущество. Игра на 3,5 часа закончилась тем, что мастер девятого дана признал поражение.
Как говорил позднее Седоль, AlphaGo сделала один необычный ход, который не сделал бы ни один человек. Представитель команды людей не ожидал такой игры. Система играла заметно сильнее, чем против европейского чемпиона. Как говорил глава DeepMind Хассабис, дело даже не в вычислительных мощностях — они примерно те же, что и в матче против Хуэя. Последние пять месяцев AlphaGo играла сама против себя и использовала обучение с подкреплением, чтобы улучшить собственные навыки. Возросшая мощь стала сюрпризом.
Улучшились ли сила игры и стиль после матча с Фань Хуэем в октябре 2015 года? Все три комментирующих сходятся во мнении, что есть значительные изменения. Илья Шикшин, говорит, что программа заметно нарастила навык с октября с уровня игры чемпиона Европы до уровня чемпиона мира:
«Надо сказать, что это значительная разница. Опубликованные партии программы против Фан Хуэя, оставляли большие сомнения, что АльфаГо сможет победить Ли Седоля. Но за эти несколько месяцев программе удалось сделать большой скачок.»
«Ли Седоль не знал, с кем играет. И то, что он в первой партии пытался спровоцировать программу на ошибку с помощью нестандартный первых ходов — именно об этом свидетельствует. Вместо того, чтобы пытаться найти слабые места у программы, ему следовало играть в свою нормальную игру. В этом случае было бы неочевидно, кто победит.»
Александр Динерштейн заметил игру двух разных версий программы. Версия, которая играла с Фанем, делала значительно больше ошибок.
10 марта, четверг. Игра вторая
Фотография сооснователя DeepMind Мустафы Сулеймана
Чёрные: AlphaGo
Белые: Ли Седоль
Результат: Ли Седоль признал поражение
Ходов: 211
Ходы
Полная трансляция
Краткое содержание игры на английском
Комментарии «Российской федерации го»
Пост на Geektimes
После первой игры Седоль признал, что шокирован, но сохранял оптимизм: он считал, что открывающие ходы получше позволят достичь больших шансов победы. Вторая игра сделала исход матча более ожидаемым.
Система AlphaGo играла чёрными, то есть ходила первой. ИИ делал агрессивные ходы. Начало было необычным. Комментаторы не могли сказать, плохо это или хорошо. Белые же играли консервативней.
Нейросети не настроены на максимальное количество очков. Программа ищет ходы, которые позволят достичь победы. Именно этим исследователь DeepMind Тор Грэпель объясняет странные решения. Между ходом, который даст выигрыш с преимуществом в 80 %, и ещё одним, который позволит победить в 99-процентной вероятностью с преимуществом в 1,5 очка, AlphaGo выберет последний. Иногда система теряет очки, но так она лишь улучшает шансы на выигрыш. Означает ли это, что слабые ходы — это признак уверенности машины в победе?
В первой игре у Седоля на часах ещё оставалось время. В этот раз он исчерпал его, поэтому человеку приходилось тратить всего по минуте на ход. К концу своё время исчерпала и AlphaGo, поэтому скорость обмена ходами ускорилась до предела. Но ненадолго — белые признали поражение. Как говорил глава DeepMind Хассабис, AlphaGo была уверена в победе ещё где-то с середины игры.
Могли ли в DeepMind учесть особенности конкретного игрока и заложить в ИИ его характерные черты? Максим Подоляк говорит, что технические возможности были:
«Поскольку база профессиональных игр находится в открытом доступе, было бы удивительно, если бы их не использовали в подготовке AlphaGo. Таким образом, можно ожидать, что программа имеет подробный профиль на всех профессиональных игроков, поскольку его построение ничем принципиально не отличается от построения профиля пользовательских предпочтений. А уж в этом Google силён.»
Похожую точку зрения высказывает Илья Шикшин:
«Уверен, что в неё загрузили все имеющиеся в открытом доступе партии Ли Седоля (более 1000). Знание этих партий и возможность их в любой момент воспроизвести, могли дать преимущество программе, в то время как Ли Седоль до матча мог изучить лишь партии программы против Фань Хуэя, где уровень AlphaGo был существенно ниже.»
Однако в DeepMind говорят, что специально для Ли Седоля AlphaGo не перенастривали. Да и вряд ли можно внести большие изменения в нейросети прогоном нескольких сотен партий.
12 марта, суббота. Игра третья
Слева направо: основатель DeepMind Демис Хассабис, обладатель девятого профессионального дана Ли Седоль, сооснователь Google Сергей Брин.
Чёрные: Ли Седоль
Белые: AlphaGo
Результат: Ли Седоль признал поражение
Ходов: 176
Ходы
Полная трансляция
Краткое содержание игры на английском
Комментарии «Российской федерации го»
Пост на Geektimes
Возможность решить исход матча уже в этой игре привлекла к партии внимания. В Сеул без помпы прилетел сооснователь Google Сергей Брин и посетил игру. Было очевидно, что победа является демонстрацией силы технологий, которые лежат в фундаменте сервисов поискового гиганта. От рекламных предпочтений до робомобилей, умеющих передвигаться самостоятельно, почти всё гугловское в той или иной степени опирается на системы с элементами искусственного интеллекта.
Как и в первой игре, Седоль ходил чёрными, то есть первым. Также к числу благоприятных для человека моментов можно было отнести опыт двух партий. Слух утверждает, что Седоль и команда экспертов го провела ночь в поисках слабостей AlphaGo. С этим согласен Александр Динерштейн:
«Я слышал, что Ли Седоль не спал ночами, анализируя партии и готовясь к матчу в компании своих коллег – корейских профессионалов го. Слабости программы были найдены, но использовать их не удалось. Как мне кажется, ему надо было играть активнее. С борьбой, как он обычно и делает. Мирное го, которое мы видели на протяжении всего матча – не его конек.»
Действительно, в третьей игре первые ходы чёрных были агрессивными. Как говорили комментаторы матча, в первых двух играх Седоль пробовал отличный от своего обычного стиль, пытаясь надавить на слабые места системы. В третьей игре он демонстрировал свой типичный стиль с хорошим началом и сильными ко в окончании. Пусть и с ошибкой, AlphaGo показала умение работать с ко-борьбой — обычно компьютерные системы с подобным справляются слабо. В предыдущих играх случая продемонстрировать этот навык не было.
Решающая партия определила историческую ценность произошедшего. Это была третья победа AlphaGo в матче из пяти игр. Это означало, что компьютерная система уже продемонстрировала победное превосходство. Его глубину должны были показать две последующие игры.
13 марта, воскресенье. Игра четвёртая
Так AlphaGo признаёт поражение
Чёрные: AlphaGo
Белые: Ли Седоль
Результат: AlphaGo признала поражение
Ходов: 180
Ходы
Полная трансляция
Краткое содержание игры на английском
Комментарии «Российской федерации го»
Пост на Geektimes
После третьего поражения человека одной из тем пресс-конференции был вопрос, есть ли у AlphaGo слабые места. Седоль упомянул, как чувствовал, что они есть. Он извинился перед корейской нацией и сообществом игроков го за показанный результат.
Седоль выбрал стратегию амаси, захватывая территорию по периметру, а не центру. Открывающие ходы белых были теми же, что и во второй игре. Белые дали чёрным захватить центр, концентрируясь на краях и в углах. Как и в предыдущих играх, Седоль исчерпал время раньше оппонента, что означало всего лишь минуту на ход.
78 ход белых оказался отличным настолько, что комментаторы описали его как тэсудзи, некоторые назвали его «рукой бога». Возможно, Седоль действительно нащупал слабое место компьютерной системы. AlphaGo ответила слабо. Как пишет глава DeepMind Демис Хассабис, на 79 ходу система допустила ошибку, посчитав, что шанс победы — 70 %. Но поняла она это только на 87 ходу. После этого ИИ запутался.
AlphaGo начала делать откровенно слабые и ужасные ходы. Система признаёт поражение, когда оценка шанса победы падает ниже 20 процентов. Об этом инженер Google Дэвид Сильвер напомнил во время перерыва, который взял Ли Седоль. Подобное нужно, чтобы сохранять культуру игры — продолжать в явно невыгодной позиции было бы неуважительно к оппоненту. Сильвер отказался комментировать серию невнятных ходов системы. Игра продолжилась, и Седоль всё так же был вынужден работать в условиях недостатка времени. ИИ допустил ещё один промах, а чуть позже признал поражение. Результатом противостояния на 4,5 часа стала первая победа человека в этом матче.
Седоль заявил, что его никогда не поздравляли так сильно за всего лишь один выигрыш. Он упомянул, что машина не настолько сильна, когда ходит чёрными.
15 марта, вторник. Игра пятая
Контрольная комната AlphaGo, Мустафа Сулейман
Чёрные: Ли Седоль
Белые: AlphaGo
Результат: Ли Седоль признал поражение
Ходов: 280
Ходы
Полная трансляция
Краткое содержание игры на английском
Комментарии «Российской федерации го»
Пост на Geektimes
Чёрные начали в похожем на первую игру стиле. Затем Седоль попробовал размечать территорию в верхних правых и левых углах — стратегию, которую он успешно использовал в четвёртой игре. AlphaGo забирала центр. С 48 по 58 ходы человек и машина шли вровень. Но AlphaGo не увидела тэсудзи чёрных, и Ли вырвался вперёд.
Из-за небольшой ошибки AlphaGo чуть ухудшила свою позицию. В результате долгого сражения у обоих игроков кончилось время, то есть им опять пришлось размещать каждый камень за время меньше минуты. Игра вышла в глубокий ёсэ, доска была почти полностью заполнена камнями. Белые всё же смогли восстановить преимущество. Оценив позицию, Седоль понял, что проигрывает. После пяти часов он признал поражение.
Вопросы
Что матч значит для Ли Седоля?
Результат матча вызвал удивление — поражение одного из лучших игроков-людей, внезапная победа одной из новых систем компьютерного го. Вместо миллиона Седоль получит 170 тысяч долларов: 150 тысяч за участие и 20 тысяч за одну победу.
Отдельной проблемой является то, почему проиграл Седоль. Как говорит Илья Шикшин, он не был готов психологически:
АльфаГо сумела победить Ли Седоля. Однако это вовсе не означает, что программа играет сильнее. Думаю, что их уровень примерно одинаковый. Просто Ли Седоль не был психологически готов бороться с программой в первых партиях, так как для него стало огромной неожиданностью то, что программа может с ним бороться на равных.
Александр Динерштейн:
Я признаю, что не ожидал такого расклада. Как и большинство профессионалов го был уверен, что Ли Седоль легко победит. Но ошибки программы мы видели. Я верю в то, что вопрос еще остается открытым. Ли Седоль даже у себя в Корее не является первым номером в рейтинге. Я думаю, что у других профессионалов его уровня есть шансы на победу, особенно, если мы увидим подборки партий, сыгранных программой, по которым можно будет искать ее слабости в игре
Что матч значит для AlphaGo?
За победу над Ли Седолем «Корейская ассоциация падук» официально дала системе почётный девятый профессиональный дан. Это означает, что её считают игроком высшего уровня.
Ли Седоль — не сильнейший игрок на планете, есть и другие. К примеру, обладатель девятого профессионального дана Ке Цзе утверждает, что с вероятностью 60 % он мог бы обыграть AlphaGo. Сайт Go Ratings действительно располагает его выше в рейтинге. Вызов AlphaGo бросил и китайский мастер девятого профессионального дана Гу Ли. Ходят слухи о просьбах сыграть против Иямы Юты.
Пока для ИИ выбирают соперника, реддитор подсчитал, что AlphaGo может быть и выше лучшего из людей в рейтинге. Согласно его прикидкам по теореме Байеса, рейтинг AlphaGo — 3649, а у Цзе он 3621, ниже.
Впрочем, делать любые утверждения о силе системы рано, если вообще возможно. Опубликованы данные лишь о нескольких играх, и реальная мощь системы неясна. Да и есть ли смысл в очках рейтинга, если у системы можно будет найти уязвимое место? Как говорит Александр Динерштейн, программу было бы интересно проверить в матче против Такемии Масаки, обладателя девятого профессионального дана:
«Он был одним из сильнейших мастеров в мире начала 90-х. Мы заметили, что программа предпочитает игру на центр, на влияние. Ли Седоль во всех партиях брал очки в углах. А Такемия-сенсей известен тем, что сам очень любит играть на центр и совсем не «жадничает» в начале партии. Непонятно, как повела бы себя программа против такого необычного стиля игры.»
От компьютерной системы можно ожидать оригинальные и неожиданные ходы, до которых человек никогда бы не додумался. Как говорит Максим Подоляк, он видел в ходах AlphaGo естественные, объяснимые ходы исключительно сильного игрока:
«Как говорится в одной книжке — партия течёт подобно потоку со склона горы, естественно и мощно. Впечатляюще сильно выглядел б.102 в первой партии. Но это не «божественный» ход.»
Динерштейн же утверждает, что некоторые ходы AlphaGo не рассматривались людьми:
«Один из комментаторов матча, Ким Сонгрёнг, 9 дан (Корея), даже поблагодарил программу за вклад в развитие теории Го. Еще десятилетия тому назад Фудзисава Cуко, один из лидеров японского Го утверждал, что знает лишь 5 % игры Го. Остальные 95 – это те знания, которыми люди пока не обладают. Видимо, программа смогла познать игру еще глубже.
Что матч значит для Google?
Интернет-гигант в очередной раз показал, что обладает одними из лучших в мире технологий. Именно подразделение Google первым смогло решить ещё одну задачу информатики. В DeepMind видят утилитарные применения своим наработкам: это сервисы рекомендаций покупок или анализ медицинских данных.
Но можно отвлечься от коммерческих проектов и ещё пофантазировать о го. Неважно, начнут ли компьютеры играть лучше человека или нет. Можно натравить один продукт на другой, и наблюдать за битвой двух компаний-производителей. И они есть: Facebook создаёт робота darkforest, который пока играет слабее и ещё не участвовал в официальных матчах против профессиональных игроков. В этом месяце darkforest должна побороться в компьютерном чемпионате мира в Японии. Лучшая из программ турнира сыграет против Коити Кобаяси.
Будет ли кто-то смотреть битву Facebook с Google на доске 19?19? Кстати, легко вообразить противостояние и личную неприязнь. В январе Цукерберг рассказал о своей системе в тот же день, что и Google. И если у Facebook были лишь новости о разработке, то DeepMind уже хвасталась победой над чемпионом.
Максим Подоляк:
Вряд ли. Это было бы примерно то же самое, что смотреть на то, как программа рисует фракталы или цветные пятна заставки на мониторе. Никого не интересует механический перебор вариантов, в этом нет ничего феноменального. А вот то, что это может делать человек — феномен.
Александр Динерштейн:
У шахматистов подобные матчи давно проводятся и не вызывают особого интереса. Лично я с удовольствием бы посмотрел за турниром программ, который комментировался бы человеком. Кстати, за турниром топ-профи с комментариями AlphaGo было бы не менее интересно понаблюдать.
Илья Шикшин:
Думаю, что матчи между компьютерными программами могут вызывать у людей интерес. Подобные матчи уже транслировались и собирали несколько сотен зрителей. Уровень человека в го ещё далек очень от совершенства. Есть куда расти и развиваться.
Что матч значит для го?
Можно по-разному воспринимать поражение умнейших людей, впитавших тысячелетия опыта, и победу бездушной железки с кусочками кремния внутри, запускающей программу, которой нет и двух лет. В сообществе поклонников игры кто-то относится заметно негативно. Другие видят в AlphaGo помощь в популяризации. Но го только выиграет, если будет с кем посоревноваться и у кого поучиться, замечает Илья Шикшин:
«Программа играла очень достойно и заслуженно победила. Мог ли этот матч закончиться иначе? Думаю, нет. Уверен, что Ли Седоль многое для себя открыл за эти 5 партий. Теперь он должно быть готов бороться с АльфаГо, но, увы, уже поздно. Го-мир получил серьезного соперника в лице этой программы.
Но открытия сделал не один Ли Седоль. Миллионы людей, следившие за этим матчем, также открыли для себя нечто новое. Кто-то — огромные возможности технологий и искуственного интеллекта, кто-то нашел нечто новое в игре и теперь смотрит на нее иначе, ну а для кого-то сама игра го стала открытием.
Лично мне очень приятно видеть, что моя любимая игра в эти дни стала центром внимания всего мира. Полагаю, что с го теперь все будет только лучше.»
Александр Динерштейн:
«Я подозреваю, что призовые в странах Азии могут уменьшиться, но для остального мира плюсы от рекламы матча, а она была колоссальной, должны перевесить. Я ожидаю приток в го новых игроков, а этому мы должны быть только рады. Многие вообще впервые об этой игре услышали.»
Также возможно решение задач, которые не получаются у людей:
«Мир го конечно расстроен, но с появлением программы мы можем узнать много интересного. К примеру, в го существует задачка, придуманная в 1713 году известным японским мастером Досецу Инсеки. Расчет идет на двести ходов вперед. По ней изданы целые книги, но так никто и не смог ее решить. Существуют красивые решения, но они отличаются от изначально объявленного автором задания. Наконец-то мы узнаем, есть ли у этой задачи решение. Или может быть, ошибался сам Досецу?»
Если же системы силы AlphaGo станут нормой, то будет легко сжульничать и использовать ходы подобной системы. Пока что чемпиона обыгрывает огромный вычислительный кластер. Протащить его с собой физически невозможно. Сегодня вычислительной мощности смартфона хватает для того, чтобы положить на лопатки в шахматах любого человека. Так произошло не сразу, но следует ожидать подобное и для го в близком будущем. Когда-нибудь возможность обмана уместится в кармане даже при отсутствии радиосвязи. Как говорит Динерштейн, сейчас к электронным устройствам на чемпионатах по го относятся расслаблено:
«У нас на турнирах люди все еще записывают партии на планшеты. В кармане можно иметь телефон и даже выходить с ним в туалет. Но скоро все это изменится и по мерам безопасности мы приблизимся к шахматам, где уже дошли до глушилок сотовой связи и задержек в трансляциях партий (чтобы сложнее было подсказывать). Да и в Интернете у нас до сих пор проходят довольно крупные турниры, к примеру, командный чемпионат Европы. За много лет его проведения не возникало скандалов связанных с подозрением в нечестной игре. Да, можно было открыть базу дебютов, но не факт, что она реально помогает.»
Что матч означает для систем искусственного интеллекта?
Алгоритм был создан за месяцы, его обучали игре на человеческих партиях, а затем он самостоятельно достиг высочайшего уровня. Это одна из лучших наглядных демонстраций силы и скорости ИИ.
Как говорит Илья Шикшин, его поразила та скорость, с которой система научилась игре:
«За короткий промежуток времени программа научилась играть на самом высоком уровне. Мне было интересно наблюдать, как ведет себя программа, когда выигрывает и когда терпит поражение.»
Что матч означает для всех нас?
Является ли AlphaGo искусственным интеллектом?
Система научилась играть в го на партиях людей. Искусственные нейронные сети видели столько партий, сколько ни один человек не сыграет за всю свою жизнь. Затем в играх против самой себя система довела навык до уровня, который приносит победу над лучшими из людей. Это не случай Deep Blue, когда алгоритм поиска решения задавался полностью вручную.
Это вряд ли чем-то отличается от того, как мы учимся речи. Дети как-то приобретают возможность повторять слова, складывать слова в предложения, а затем выражать свои мысли полученными фрагментами. На это уходят годы тренировок, такое возможно только в некоторые моменты жизни, когда мозг наиболее восприимчив. Чем AlphaGo отличается от человека, который научился говорить, а после отточил навык до написания литературы?
Можно заглянуть внутрь проекта и испытать сильное разочарование: там алгоритмы, которые можно истолковать и понять. Но при этом свою цель AlphaGo выполняет отлично. Это и есть проблема: ИИ в представлении скептиков должен быть необъяснимым, уметь всё и ненавидеть человечество. Простое выполнение задачи вызывает обвинения в просчитывании вариантов.
Но вопрос о сущности терминов не так интересен. Куда больше пугает мысль, что AlphaGo играет в го лучше всех своих создателей и даже людей, на партиях которых учили его нейросети.
Уничтожит ли искусственный интеллект нас?
Подверженные эффекту искусственного интеллекта иногда требуют, чтобы программы осознавали себя. Именно этого в ИИ не закладывают. IBM Watson обыграл людей в интеллектуальную игру Jeopardy, но не знает об этом. Он не мечется в желании играть ещё. Он не радуется победе. Он даже не понимает, что победил. У него нет сознания.
ИИ — это не каноничные образы в виде красной лампочки HAL9000 или злобного «Скайнета». Искусственный интеллект не обладает сознанием. Это всего лишь компьютерная программа, «умная» настолько, чтобы выполнять задачи, которые обычно требуют участия анализа человека. Это не хладнокровная машина для убийств.
К примеру, сегодня выходит слишком много научных статей и исследований. Прочитать все физически невозможно. Нужна система, которая смогла бы прочесть и упорядочить эти чудовищные массивы информации. И такая система будет обладать искусственным интеллектом.
Но этот ИИ не станет убивать людей. Скорее, он займёт их рабочие места.
Оставит ли ИИ нас без работы?
Искусственный интеллект может в разы повысить эффективность труда. Именно это и должно внушать опасения.
На заре цивилизации производством еды занимались все, но её едва хватало. Сегодня сельским хозяйством не занимается почти никто, но еда в избытке. Ответ на эту загадку — в производительности труда и эффективности инструментов.
Система перевода, которая требует лишь вычитки и сравнения терминов, может в разы облегчить жизнь переводчика. Означает ли это, что половина переводчиков рискует остаться без работы?
Простой анализ текста позволит выделить горячую фразу в статье, а затем постить подобное с ссылкой на оригинал через API соцсетей. Означает ли это, что ряды SMM-щиков поредеют?
Ответ на требования поднять минимальный размер оплаты труда кассирам.
Флотилия беспилотных грузовиков будет самостоятельно передвигаться между городами, а за руль лишь иногда будет усаживаться водитель, чтобы припарковаться. Что делать с огромной массой освободившихся дальнобойщиков?
Анализируя видеопоток трансляции спортивного матча, робот может составить новостную статью, которая никак не будет отличаться от написанного человеком. Где в этом сценарии больше рабочих мест для журналистов?
Экспертная система оценит юридический документ и составит своё решение по нему. Как поступить с освободившейся армией младшего персонала в юридических фирмах?
Опасна даже не потеря рабочих мест, а их характер. В первую очередь начнут исчезать простые низкооплачиваемые виды работы. Занятые на подобных позициях наиболее экономически уязвимы.
Сможем ли мы адаптироваться к глубоким социальным изменениям, которые произойдут даже не революцией, а резкой вспышкой? Кто останется в выигрыше от ИИ: лишь те, кто владеет такой системой? Означает ли это очередное усиление социального неравенства?
Это и есть те вопросы, которые должны пугать при очередной оттепели зимы ИИ. Должна быть вовсе не эта первобытная фобия всемогущих механических убийц. Новости о восстании машин так и останутся заголовками «робот убил человека». Технологии — лишь инструмент. Опасность для людей создают другие люди.
AlphaGo — это ещё один вестник такого неясного будущего перемен. А вот угрозой для го этот ИИ не является хотя бы потому, что игра благодаря ему становится только популярней. Не может сделать хуже ещё один игрок, за партиями которого следят миллионы.
Комментарии (113)
sim31r
16.03.2016 23:59+2>>Означает ли это очередное усиление социального неравенства?
Скорее всего да, на уровне государств. Богатые государства обеспечат всем гражданам безусловный доход в несколько тысяч $ (иначе зачем богатство, если рядом будет криминал? так спокойнее прежде всего элите страны).
Бедные государства, марионеточные колонии, станут еще беднее, обескровленней, потеряв шансы догнать лидеров. Сильные государства при помощи ИИ будут изымать ресурсы у более бедных стран (в обмен на бусы, как принято), держа под контролем все нюансы процесса в автоматическом режиме (big data + facebook для начала).
Если сейчас бедные страны могут как-то заработать тем, что создают дешевые товары (одежду например), с развитием ИИ и производительных конвейеров, эта услуга не понадобится больше. Будет парадоксальная ситуация, что товары из более богатых стран дешевле, чем из бедных. Сейчас это заметно на примере еды, продукты питания (всегда есть излишки, исходя из программы продуктовой безопасности) могут идти на экспорт из ЕС по демпинговым ценам, разоряя сельское хозяйство не защищенных стран.
olgerdovich
17.03.2016 02:51+4в вашем пассаже есть по меньшей мере один изъян: эмоциональное «изымать ресурсы у более бедных стран (в обмен на бусы, как принято)» звучит так, будто у меня и у вас есть по доллару, мы оба одинаково понимаем его ценность, и каким-то образом в результате мой доллар добавляется к вашему, вы на доллар богаче, я на доллар беднее. Однако если я не ценю доллар так, как вы, но зато ценю какую-нибудь никелевую блестящую монетку, то за один никель вы станете богаче на доллар, а я на никель. У меня не будет оснований роптать, хотя я не могу запретить вам угрызения совести.
Это, разумеется, контраргумент утрированный, но только чтобы оттенить вашу обличительную речь.sim31r
17.03.2016 09:17+1Чтобы ценить блестящую монетку, нужно поддерживать страну в полудиком состоянии, без образования, с массовым распространением наркотиков и опасных болезней. Вспоминаем опиумные войны в Китае и политику фашистов в СССР, никакого образования, медицины, только водка (местный опиум по сути). До кучи тоталитарные деструктивные культы от мастеров специфического программирования (НЛП), получим примерно то что сейчас в Сирии и окрестностях.
Если о вопросе месторождения никеля, там все ресурсы выводятся через фирмы марионетки в офшорах, народу бедных стран по возможности не дают ничего.
Спасибо за контраргументы, и согласен с чьим-то минусом, мне тоже такое положение дел сложившееся с древности «не нравится».
AngusMetall
17.03.2016 09:46А если к примеру посмотреть на ситуацию с позиции биткоинмайнеров? Многие из них(если не почти все) майнят потому, что не ценят биткоин, но могут продать его за доллары, тому кто ценит биткоин выше долларов. Вопрос: кто луддиты, и что с образованием?
olgerdovich
17.03.2016 11:02чтобы ценить мелкую монетку больше бумажки, также можно, например, быть нумизматом и знать, что именно этот никель, который у вас — редкий, а мой бумажный доллар — обычный интереса не представляющий бумажный доллар, и соотношение их коллекционных стоимостей, скажем, обратно номинальному. Так что неясно, кому еще считать второго участника обмена глупцом.: -)
ilya42
17.03.2016 09:55+7Я думаю, это не "эмоциональное «изымать ресурсы у более бедных стран (в обмен на бусы, как принято)»", это скорее отголоски совковой пропаганды про то, что империалисты выкачивают ресурсы из колоний. Возможно, во времена Маркса это было актуально. Сейчас же странам золотого миллиарда интересны в первую очередь рынки, а не ресурсы. Кроме, разве что одного, ключевого ресурса — мозгов. США и другим совершенно не интересны нищие неблагополучные соседи. Им нужны стабильные политические образования, в которых удобно вести бизнес, в которых высокая покупательная способность и хорошая система образования. Это не потому что они добренькие и хорошие. Просто сейчас так выгоднее. Обвинять их в том, что они хотят ограбить всех окружающих — всё равно, что обвинять их в том, что они хотят нас всех съесть. Да, съедать конкурентов было актуально десять тысяч лет назад, но эти времена давно прошли. Проходят и времена войн за ресурсы.
Alexey2005
17.03.2016 10:44Не стоит однако забывать, что в войне за рынки может оказаться выгоднее вообще этот рынок уничтожить, чем уступить его противнику.
Собственно, на Ближнем Востоке примерно это и происходит, принцип "или нам, или никому", успешно применяемый сразу несколькими игроками, существенно тормозит развитие всего региона.
mediagenia
17.03.2016 16:33+1Какие рынки? Кому выгоднее, продавцам яблок? Вы понимаете, что самый выгодный бизнес — это эмитирование денег? А государства, в силу естественных причин, стремятся монополизировать самый выгодный бизнес. И делают это как в рамках своих границ, так и в региональном и глобальном масштабе. Стабильные самостоятельные политические образования с сильной внутренней экономикой, в такой парадигме, столь же удобны, как разумные свиньи на свинофермах для фермеров.
avf1906
18.03.2016 20:54Если судить по итогам (Югославия, Ирак, Ливия, Сирия), а не словам — как-то оно не очень стыкуется с рынками, в отличие от результатов до 70-х годов (Сев./Южная Корея, Япония/Китай, Вост/Зап. Европа) где ситуация прямо противоположная. «Видимо что-то случилось» © не мое. Похоже ваша картина мира устарела лет на 50.
sim31r
19.03.2016 03:21-1Вы описываете тот же процесс войн за ресурсы, но другими словами. Развитым странам очень нужен рынок сбыта, просто рынок сбыта, без намека на конкуренцию в области производства. Изъятие ресурсов в обмен на бусы, это и есть рынок сбыта.
Пример, у меня недалеко от дома остатки крупнейшего витаминного комбината на планете, когда-то производил витамин А (ретинол). После того, как государство ослабило защиту производств, пришли конкистадоры современной версии. Фармацевтический монстр из ЕС купил предприятие и под видом реструктуризации просто уничтожил его, уничтожил основательно, распилив всё оборудование на металл. Всё, готов рынок сбыта для витамина «А», отмечу — большой рынок сбыта. Остались только помещения, в которых идет упаковка импортных лекарств, склады и офисы.
Чтобы купить тот же витамин, в замену потерянному собственному производству, нужно отдавать некоторый свой ресурс, часто за бесценок.
Тот же процесс идет даже внутри ЕС, более богатые страны собирают производство у себя, а бедные страны сворачивают производство (даже действующие АЭС) и сидят на дотациях (чтобы могли покупать продукцию).
Подробнее можно почитать что-то вроде «Исповедь экономического убийцы» Джон Перкинс, к материалу нет подверждений, но и опровержений тоже нет.
Про «съедание» конкурентов, так прошло не 10 000 лет, а 73 года, некая страна конкурент лишила жизни 20 000 000 человек в моей стране. Осознанно уничтожалось население и промышленность, тоже открывался рынок сбыта в каком-то виде.
Hellsy22
17.03.2016 03:47+2Вы так говорите, словно сомневаетесь в способности китайцев скопировать ИИ и сделать его еще в десять раз дешевле.
sim31r
17.03.2016 09:09-1Китай сверхдержава, у нас 3 кита планетарных, ЕС (весь), США и Китай, идут примерно на равных во всём, эти страны идут на равных в разработках.
Я скорее про Вьетнам, Таджикистан и прочую мелочь, их 200 стран, смотрите в рейтинге стран планетарном на Википедии. У них нет ни специалистов, ни ресурсов, ничего по сути.
i14a1
17.03.2016 08:17-2Думается что безусловный доход это все сказки для мечтателей. Перенести ситуацию хотя-бы на то же сельское хозяйство, как-бы жители села ни хотели что-бы когда началось производство сельхозтехники, производители начали раздавать продукты бесплатно, этого не произошло. Появились новые профессии, а большая часть села вынуждена была уехать в город выполнять другую работу. Так-же я думаю и тут, инвестиции в новые технологии должны окупаться и ни о какой халяве речи быть не может. Зачем что-то производить если это придется раздать?
KepJIaeda
17.03.2016 08:56+1Посмотрите ситуацию под другим углом. Зачем что то производить, если количество людей чей труд еще не автоматизирован 1%, а все остальные без работы и у них нет средств на приобретение того что ты производишь?
AngusMetall
17.03.2016 09:06За тем что это можно делать на деньги государства, а оно по сути дела не получает прибыль, только налоги, которые как раз собирает, что бы раздавать гражданам.
KostaArnorsky
17.03.2016 13:04+3Китайская цивилизация существует тысячи лет, однако до столкновения с западноевропейской, развивалась крайне медленно. При наличии огромного количества изобретений, практического применения они не почти находили. Именно западный рационализм сделал Китай, тем чем он является сейчас: капитализм, коммунизм, социализм — это все западные идеи, как и ньютоновская механика, теория электромагнетизма и т.д.
Я не собираюсь отрицать или оправдывать работорговлю, истребление муссонных лесов, опиумные войны, бомбардировки напалмом и прочие примеры западного варварства, которые, к сожалению, встречаются и сегодня. Но давайте будем честны: без запада все эти "драгоценные" ресурсы, которые они так беззастенчиво "выкачивают" из стран третьего мира, меняя их на "бесполезные" бумажки, за которые почему-то можно легко приобрести еду, лекарства, материалы, технику, вся эта нефть, редкоземельные металлы, руды и т.д. — были бы просто бесполезными, никому не нужными грязью и камнями, на которые бы никто не обращал внимание, продолжая добывать пропитание средневековыми методами и умирая к 45 годам.
maxwolf
17.03.2016 21:07Рискуя свалиться в офтопик, всё же не могу не отметить в этой связи потенциальную опасность другой парадоксальной ситуации. Демократическое государство, граждане которого делегируют (через выборы) часть своих прав, и соответствующее (через налоги) материальное обеспечение на их реализацию — правительству, теряет одну из основ своего существования. Граждане, вместо оплаты налогами содержания государства, сами переходят на его содержание. Т.е. формально у них пропадает право требования чего-либо от государства...
Delics
17.03.2016 00:42«Он даже не понимает, что победил»
Всё-таки это не совсем так. Вся программа нацелена на победу и её достижение является главной целью этой программы.
Пока, скорее всего, ещё рано называть это сознанием, но если оно есть, то именно победу данная система осознает лучше всего.
olgerdovich
17.03.2016 02:39отличная статья, спасибо!
мотив последней части накануне мне попался в жж Антона Носика ( http://dolboeb.livejournal.com/2932828.html );
это действительно интересно и жутковато понимать, что вычерчиваются контуры новой НТР, когда, казалось бы, «золотой постНТР-век» уже наступил (пусть он оказался не тем, каким виделся его предвестникам). Каким будет перераспределение ролей? так ли действительно стоит тревожиться представителям угрожаемых профессий? или эти и другие страхи преувеличены так же, как оказались завышены ожидания, условно, полувековой давности — и по той причине, из-за инертности человеков?
эти неожиданно ставшие актуальными мысли весьма занятны.
dfgwer
17.03.2016 04:46+1Интересно, что будет если создать нейросеть, чьей задачей будет захват вычислительных мощностей.
VIPDC
17.03.2016 06:00+10Отличная статья, но вот с этим утверждением автора из 60-х, 80-х годов прошлого века "Опасна даже не потеря рабочих мест, а их характер. В первую очередь начнут исчезать простые низкооплачиваемые виды работы. Занятые на подобных позициях наиболее уязвимы."
Категорически не согласен. В первую очередь потеряет работу именно средний класс. Простые инженера, мелкие и средние юристы, бухгалтера, экономисты, офисный планктон.
А потребность в простом низко оплачиваемом персонале как раз возрастет.
Этому есть две причины.
Первая более дорогой персонал более выгодно оптимизировать, и как правило в настоящее время легче, так как 95% их работы уже в оцифровано, и происходит в электронном мире.
Второе как раз низовой персонал (дворники, технички, слесари по ремонту и т.д.) очень сложно автоматизируем и дает очень маленький эффект, да и работа их на 95% в физическом мире, с его непостоянством и несовершенством.
Пример из железных дорог.
Автоматизация уже давно вытеснила всяких инженеров по распределению вагонного парка, в разы сократилось количество дежурных по станциях (очень квалифицированный и высоко оплачиваемый персонал), но при этом потребность в простых и универсальных путейцах за счёт автоматизации почти не сокращалась. Как ходил путевой обходчик 100 лет назад так и ходит, причем не только в РФ.alexs0ff
17.03.2016 09:17+2Как ходил путевой обходчик 100 лет назад
А может его просто не выгодно автоматизировать? Пока просто дешевле нанять несколько человек, чем содержать сложную инфраструктуру систем контроля.
Bedal
17.03.2016 10:37+1VIPDC совершенно прав. Чем сложнее задача для человека — тем проще её решить машинно. А вот то, что человеку раз плюнуть и даже упоминания недостойно — сложнее всего в машинной реализации.
alexs0ff
17.03.2016 10:57сложнее всего в машинной реализации
Как только стоимость внедрения автоматизации станет дешевле привлечения человека, я думаю выбор станет не в пользу нас.Bedal
17.03.2016 12:28«стоимость» и «легко» — это синонимы, если Маркс нам не соврал. Так что ответ очевиден, конечно.
alexs0ff
17.03.2016 12:35«стоимость» и «легко» — это синонимы
Бывают и исключения — вся история развития вычислительной техники (в производительности и стоимости за эту производительность) говорит о другом.
wbnet
17.03.2016 11:00+1На самом деле, никому не интересно автоматизировать обходчика и Ко. Ходят себе где-то рядом и пускай дальше ходят, расходы вроде приемлемые. А замени их на автомат, то придется еще и общество переделывать, начиная с себя — чтобы не вандалили, не мусорили, не крали и прочее.
elmm
17.03.2016 12:19+4В некоторых местах Финляндии, на пример, дворника с метлой не увидишь вообще. Соотношение стоимости труда (минимальный уровень которого жёстко задан государством) и выхлопа от человека с метлой делают такое занятие на повседневной основе весьма бессмысленным. Поэтому косят траву, убирают снег, посыпают лёд, собирают песок/крошку с тротуара разными самоходными аппаратами. А если куда-то оно заехать не может — ну уж извините — повесят предупреждающую табличку, что зимой тут лучше не ходить — иди в обход. В макдональдсе тут подростков на кассе не увидишь, ибо нанять студента за копейки тут не получится, а на их з.п. вполне себе идут люди в возрасте. А вот вместо кассира вполне можно поставить автомат. Имхо, в развитых странах, пострадают, все слои общества. В особенности те, кто не достаточно гибок, чтоб переориентироваться в новых реалиях жизни. Но в целом для государства будет только плюс — вырастит эффективность труда, и тем же количеством рабочего населения, можно будет произвести больше благ. Конечно при условии, что это самое население, сможет встроиться в новые условия. (пойти переучиваться, если ты 20 лет крутил баранку автобуса, тяжело, да и на кого?)
Gorthauer87
17.03.2016 12:26+1В развитых странах к тому же ещё и само население сокращается. Думаю, всё оно подстроится со временем.
sim31r
19.03.2016 03:32У нас в Макдональдсе тоже около года стоят автоматы по выбору меню, по мне так удобнее(!) чем живой человек, четко видишь, что есть в наличии, цены, вид, а не на слух «чикен-макчикен-рол-лол-тулолол». Но люди в основном идут на кассы, на 3 человека у кассы 1 человек заказывает у автомата, бонусом получаем отсутствие очереди.
Работы в обществе если что много, по благоустройству территорий, всегда нехватка людей.
Chamie
19.03.2016 03:37А я так, когда в СПб в последний раз заходил в Мак, видел картину обескураженно выглядевшего кассира с флажком «свободная касса», которого все игнорировали, и народ, столпившийся у терминалов заказа.
KostaArnorsky
17.03.2016 13:22+2Во мне все время укрепляется 2 тезиса относительно развитых экономик:
- Деньги — не проблема, были бы идеи;
- Уже текущая, не говоря уже про будущую, производительность труда более чем покрывает большую часть потребностей.
Т.е. если продолжать развиваться в том же ключе и ничего не менять, возникают 2 проблемы.
- Недостаток инвестиционных проектов и развитие финансовых пузырей из-за переизбытка несвязанных денег.
- Увеличивающаяся безработица, и связанные с ней падение потребления.
И выход я вижу в сокращении рабочей недели без падения доходов, что позволит размазать ту же работу по большому числу людей и обеспечит больший совокупный доход, а значит и потребление. А так же освободившееся время будет потрачено на развлечения, хобби и обучение, что создаст еще больше рабочих мест. И обеспечение некого минимального социального стандарта, что увеличит экономическую мобильность, развитие предпринимательства и опять же перераспределит доходы.
DuDDiTs
17.03.2016 08:53-2Сегодня сельским хозяйством не занимается почти никто
Никто в Москве Вы хоте ли сказать?)
arelay
17.03.2016 10:34+7Очень классная статья!
Одна из самых интересных точки зрения объёма, подачи и информативности поднятых вопросов.
Спасибо!
Вопрос к сообществу: Может ли ИИ в военных операциях/атаках/защитник и тп дать преимущество, что с малыми силами можно будет "обыграть" врага.
Вопрос может не корректно поставлен, прошу как-нибудь понять суть вопроса;)
Usmekhaiouschiysia
17.03.2016 11:30ИИ может упростить расчёты, дать неожиданную дополнительную информацию из анализа большого объёма данных. Это точно даст преимущество в стратегии тому, кто сумеет им воспользоваться.
am_devcorp
17.03.2016 11:29+1Технические необходимости вынудили Google проложить оптоволоконную линию связи в отель.
А что за необходимости такие? На первый взгляд в одну сторону должен идти поток видео с камеры (считывать состояние доски без помощи человека), в обратную — ходы ИИ. Ни для того, ни для другого оптоволокно в общем-то и не нужно.
Toxygen
17.03.2016 12:45+2Очевидно для обеспечения канала связи для журналистов, которые транслировали все это дело онлайн.
Gorthauer87
17.03.2016 12:09+1Вот интересно, ИИ научили играть в Го, то есть он вполне хорошо заучил его правила, а насколько сложно его научить писать программы на простейшем regmem ассемблере или даже на каком-нибудь arm'е?
Ну или анализировать сырцы на предмет ошибок в алгоритмах?KepJIaeda
17.03.2016 12:33За написание программ не скажу, но что касается анализа кода — задача, как по мне, вполне реализуемая, есть уже соответствующие алгоритмы и они концептуально похожи на те что используются в для игры в те же шахматы (хотя задача и явно сложнее). Но тут встает другой вопрос, сделать такой ИИ который будет анализировать исходник и искать ошибки (или уязвимости) — это уже сложная инженерная задача кроме того что бы ее решить, результат нужно еще продать (предоставлять как сервис не всегда самый лучший вариант не все готовы свой код отдавать на сторону), а предоставить как готовый Appliance пока не могут. В итоге выйдет что стоимость такого анализатора (или оказание услуги по анализу) в разы превышает стоимость проекта. Сейчас даже "обычные" анализаторы не пользуются огромным спросом, хотя и могут быть полезны. Как писалось выше ИИ можно использовать для разных задач, но кроме того что ИИ нужно "запрограммировать/обучить" необходимо решить так же вопрос с затратами компьютерных ресурсов для решения конкретных задач (AlphaGo это пока еще не маленькая коробка).
Gorthauer87
17.03.2016 12:39Просто по-моему ИИшке как раз проще всего анализировать или бинарный код или ассемблерный, но вот что с ним делать не представляю. Может можно научить ИИ анализировать бинарный код на x86 архитектуре и создавать код, который проходит все автотесты, но уже под arm?
KostaArnorsky
17.03.2016 13:29Тот же Google может создать анализатор, чтобы проверять собственный код, возможно, сокращение числа ошибок и связанных с ними расходов только на собственных проектах смогут окупить его разработку. А раз он уже разработан, то кто помешает его продавать или даже предоставлять бесплатно? Например, тем же open source проектам, ведь то, что кода открыт, не значит, что никто не вкладывает в его разработку, почему бы тогда не платить и за проверку? Тем более, насколько я знаю, есть фонды, которые оплачивают review открытых проектов.
KepJIaeda
17.03.2016 13:37сокращение числа ошибок и связанных с ними расходов только на собственных проектах смогут окупить его разработку
не факт. Не исключено, что внутри гугл есть подобные идеи, но на чуть более зрелой технологии это вероятно будет сделать гораздо более дешевле + это не так зрелищно чем компьютер выигрывающий у человека в сложную игру.
Тут кст была недавно новость, что гугл начал давать доступ к своей нейросети.KostaArnorsky
21.03.2016 17:48Конечно не факт — всего лишь голословное предположение. Тем не мене, гипотеза имеет право на существование, имхо.
maxwolf
17.03.2016 13:31+2В общем случае — очень сложно, и пока невыполнимо. Именно тут проходит одна из граней, отделяющая «системы с элементами ИИ» и «полноценный ИИ». Если совсем упрощать, то «написание программы» (вне зависимости от того, на чём именно она будет написана) — это нахождение или построение функции, которая на заданном наборе исходных данных будет давать определённый результат. Как правило (для всех практически полезных задач), целевая функция рекурсивно разбивается на более простые «подфункции», до такой степени, что их реализация может быть формально описана, или взята из уже имеющихся «библиотек функций».
На самых нижних уровнях (когда можно чётко задать области определения и значений функции, а также класс функций, из которого можно сделать выбор) — для ИИ сейчас есть работа. А на верхних — пока нет, поскольку эта работа связана с восприятием сложности реального мира, каковая пока на много порядков выше возможностей имеющегося ИИ по её обработке (для этого нужно «понимать», как устроен мир, хотя бы в той области, где будет работать программа...)
valemak
17.03.2016 13:59+2В общем, с развитием ИИ. программисты останутся без работы одни из последних. По крайней мере, я как программист, на это надеюсь...
KepJIaeda
17.03.2016 14:27+1Потому что сами программисты не будут писать программу, которая сможет писать программу за них, так что бы они оказались не нужны :)
zloddey
17.03.2016 15:37Слишком смело утверждать, что никто из программистов не захочет это сделать. Более того, чем "сильнее" становится ИИ, тем формально выше вероятность того, что кто-то из программистов решится создать такую программу. Идея проста: если командир не может предотвратить пьянку, то он должен её возглавить. Социальных сетей много, а фильм сняли только про Цукерберга.
KepJIaeda
17.03.2016 15:47А я и не писал "никто из программистов", я всего лишь согласился с комментарием выше и предположил почему будет именно так.
KepJIaeda
17.03.2016 14:25+1Мне кажется все чуть проще. Мне кажется вы упускаете из внимание что ИИ и лежащие в него основе технологии проходят обучение на куче шаблонов и других данных. Что либо напрограмировать (когда есть достаточно четко сформулированная задача, набор технологий и свод правил по их использованию) будет немного сложнее чем попросить ИИ нарисовать дерево. До полного автоматизма удобства будет далеко, но все же.
maxwolf
17.03.2016 18:16Я, собственно, именно про это и писал. Если хотите, "достаточно четко сформулированная задача, набор технологий и свод правил по их использованию" — как раз задает тот уровень, ниже которого можно говорить о применимости «системы с элементами ИИ», а выше — уже нет. Причем подъём этого уровня не является чисто "механической" задачей, которая решится сама собой с повышением производительности железа. В качестве характерного примера тут можно привести задачу автоматического перевода с одного языка на другой. Полноценное решение у неё может быть только с использованием "настоящего" ИИ, хотя частные решения есть уже сейчас, и они, несомненно, будут дальше совершенствоваться, всё же оставаясь на огромной дистанции позади "живого" переводчика.
wbnet
17.03.2016 20:16Тут смотря насколько планка задрана. Автопереводчики нормально справляются с повседневным общением, для примера — я спокойно общался с гречанкой в фэйсбуке через бинг-переводчик, причем ни один из нас вообще не знал языка другого.
Практически тоже самое с программированием — набор блоков, которые надо так составить, чтобы на выходе получить требуемый результат. Опять же для примера — я ни разу не программист (немножко баловался бейсиком и ассемблерами Моторолы 68000 и x386 в детстве, но это было давно и неправда), но для своих нужд сейчас иногда использую Unity и MS VC, практически нифига не понимая, что там за «неонка у её внутре» (на меня могут обидеться, но мне отчего-то кажется, что более половины программ в различных Store сделаны таким же способом).
То есть для многих задач порог ИИ-пригодности уже перейден, и подозреваю даже для го с телефона — тот же альфаго меня вполне с него может переиграть, так как я в го полный ноль.
ArisChik
17.03.2016 12:40+4Спасибо за прекрасную статью. Именно то, чего хотелось. Прекрасное резюме всей этой эпопеи.
Маленькое уточнение:
-->> «Похоже, что мы достигли 1997 года в шахматах, когда компьютер впервые обыграл действующего чемпиона в матче»
Ли Седоль не является действующим чемпионом и в последние 2 года сильно сдал. Сейчас в мире го новая суперзвезда и неофициальный чемпион мира: Ke Jie. Ему только 18, но он уже два года доминирует в мире го.
Так, только в этом году (в январе и марте) он дважды обыграл все того же Ли Седоля. При чем последний матч с Седолем был всего 2 недели назад и Ке Цзе выиграл его со счетом 7-2 (пруф: http://www.usgo.org/news/2016/03/ke-jie-defeats-lee-sedol-to-win-nongshim-cup-for-china/).
В общем, победа Google получилась крайне престижной ибо обыграли они живую икону игры, но обыграли они уже не сильнейшего игрока (это как если бы Deep Blue сейчас обыграл Ананда, а не Магнуса). Кстати, Ke Jie хочет сыграть с AlphaGo и открыто об этом заявил в январе, но Google выбрал Седоля. Вполне возможен что в этом году мы дождемся и этого матча.
mustitz
17.03.2016 13:31+3Я бы не сказал, что достигнут уровень 1997 года в шахматах. Матч с Deep Blue вызывает несколько вопросов, могли быть подсказки, преимущество неубедительное. Да и Deep Blue после этого не сыграл ни одной партии. Человек начал полностью уступать компьютеру где-то с появлением Rybka (2007), можно взять за точку отсчёта матч с Крамником 2006, там где Крамник зевнул мат в один ход. A с появлением Stockfish человеку стало сложно даже улучшить игру компьютера пользуясь другим компьютером. С другой стороны понятно, что 1202 CPU и 176 GPU наверное рекордная на сегодня производительность для одного AI, в шахматах достаточно одного компа.
Сложность программирования Go больше в специфике самой игры, а не в количестве вариантов. В шахматах всегда можно остановитсья и оценить позицию не делая дальше ни одного хода. Да, оценка может быть не всегда идеальной. Но просто посчитав материал (по мнению гроссмейстера, у чёрных лишняя пешка), активность фигур, безопасность короля и т. д. можно получить неплохую базу, которая потом будет улучшаться перебором. В Go такого, увы, нет, так что доигрывать до конца (Монте-Карло) чуть ли не единственный разумный путь. Кстати, успехи Stockfish и Komodo во многом связаны с такими глубокими продлениями.olgerdovich
17.03.2016 13:52+3только Крамник проиграл Deep Fritz 10, по вашему комментарию можно ошибочно подумать, что проиграл он рыбке. хооя да, среди просто интересующихся и любителей шахмат в то время именно о рыбке говорили как о новом монстре компьютерных шахмат, но ее звезда быстро закатилась, и создается впечатление, что ее потенциал был несколько переоценен
mustitz
17.03.2016 15:45Rybka дизассемлировали, взяли новые идеи. Появились её клоны (Ипполит, Иван Хоу, ...) В общем, мутная история, не могу утверждать на все 100% что так оно и было, но дискуссий по этому поводу в сети было предостаточно. Но 3-4 года альтернатив Rybka по силе игры не было.
Chamie
18.03.2016 11:37Так и сама Rybka:
the International Computer Games Association concluded in June 2011 that Rybka was plagiarized from both the Crafty and the Fruit chess engines
из Вики И подробности: http://www.webcitation.org/65sQwPsFC
fruit_cake
17.03.2016 13:36+1машины заменят труд людей, а последние будут получать гарантированный доход и пособия, деградировать или заниматься спортом, самообразованием и т.д.
Halt
17.03.2016 14:24+2Люди всю свою историю занимаются тем, что деградируют и потребляют. Только среди них есть 5%, которые занимались делом в любое время и в любых условиях. Эти люди и будут двигать цивилизацию вперед. И у них будет гораздо больше возможностей этим заниматься, чем когда-либо.
gcooler
17.03.2016 14:06… И в итоге останутся только программисты, которые будут писать ИИ, заменяющие людей во всех остальных профессиях.
Пока не появится ИИ, который сможет создавать ИИ, конечно. И вот это уже будет начало конца...
KvanTTT
17.03.2016 15:46К примеру, обладатель девятого профессионального дана Ке Цзе утверждает, что с вероятностью 60 % он мог бы обыграть AlphaGo.
Кажется я уже слышал подобную фразу, однако в реальности вышло все совсем по-другому. Также не стоит забывать, что разработчики AlphaGo ведь тоже не дремлют, они учтут партии с Седолем и будут тренировать нейросеть дальше.
zlov
17.03.2016 16:10Подумаешь — карты, шашки, шахматы, го… Когда ИИ будет в снукер играть? Пускай не так быстро, как o'sullivan. Хоть как-нибудь.
Почему всё развитие ИИ исключительно в логическом мышлении? Выходит, механические операции оказываются гораздо сложнее логических? Все реализации механических «игрателей» в какую-либо игру, которые видел, оказываются либо чрезвычайно узкоспециализированными (кубик рубика только крутить), либо чертовски медленными, либо неуклюжими (попытка рекламировать робота для конвейера игрой в бильярд).
Как при этом можно вообще говорить о возможности появления какого-то там терминатора? Кто ему энергию добывать будет? Как он заставит кого-то что-то делать с такой неуклюжестью.
grozaman
17.03.2016 20:38+2Где-то в прошлой статье уже кидали видео из начала 90-ых, на котором робот отлично играет в снукер.
Впрочем снукер по-моему рядом не стоял с пинг-понгом, вот красивое видео:
http://www.youtube.com/watch?v=tIIJME8-au8KvanTTT
17.03.2016 21:02Увы, но походу данное видео не более чем рекламный ход. Никакого настольного тенниса я там не увидел.
grozaman
17.03.2016 21:40Соглашусь с вами насчет рекламности. Однако роботы, играющие в настольный теннис были и до этого.
Механические руки (от той же Kuka, например) гораздо быстрее и точнее, чем человеческие.
Второе видео из поисковой выдачи Youtube по «robotic arm ping pong»: https://www.youtube.com/watch?v=imVNg9j7rvUgrozaman
17.03.2016 21:46Прошу прощения. Именно это видео — фейк. Вот установка от Omron: https://www.youtube.com/watch?v=2k6Sx3tPUc4
zlov
18.03.2016 09:18По этому видео всё, как я написал — медленно и не очень технично. Простой отскок. Ни о каких вращениях и резких движениях и думать не приходится.
grozaman
18.03.2016 09:20Вы начали про снукер. Там никакой магии и роботы играют отлично :)
zlov
18.03.2016 09:22Видео про снукер пока не нашёл. Почему снукер? Потому что там ещё больше техники. У профессионалов почти все удары с разными вращениями, даже те удары, которые кажутся простыми. Не говоря уже про обводные и прочие хитрости. Робот так играет?
zlov
18.03.2016 13:12Нашёл про снукер видео 92-го года: https://youtu.be/Xdmppfb4gog
Видимо аудитория знакома со снукером весьма поверхностно, чтобы делать вывод в духе, что "робот отлично играет в снукер". Комментарии к той статье https://geektimes.ru/post/272478/ вызывают вообще удручающее впечатление.
Не буду писать, почему конкретно это видео показывает немощность техники. Просто посмотрите финал любого чемпионата по снукеру.
Поискал другие видео, нашлись свежее, например вот это: http://www.youtube.com/watch?v=HMx1xW2E4Gg
Одна из основ игры в любой бильярд — прямолинейное движения кия перед ударом. Именно поэтому поначалу поза снукеристов перед ударом кажется такой вычурной. Кий во время удара фиксируется в четырёх точках: ударяющей рукой держится основание кия, ладонью (или пальцами) второй руки направляется тонкая часть кия, подбородком посередине, и, чего почти незаметно в трансляциях — кий плотно прилегает к груди игрока (поэтому важно чтобы наклейки спонсоров на жилетке скользили хорошо).
У робота проблем с прямолинейным движением кия нет, поэтому ему такие ухищрения ни к чему, но тут сам механизм удара исключает прямолинейность!
Другое видео http://www.youtube.com/watch?v=4ArBw9kEMMw
Отличные комментарии к нему! Чит робота — камеру сверху стола. Никакой игрок при всём желании не сможет так посмотреть на стол, собственно это и не нужно. Видимость лузы и битка проверяется напрямую.
Основной момент в снукере — построение серий. В ударе одинаково важно не только забить шар, но и выйти на следующий (следующие!) удары. Вышел с удара в правую ближнюю ниже линии синего шара — всё, синий шар будет последним, выйти через три борта мимо болкерных шаров на ближнюю половину могут немногие. Для хорошего выхода и нужны различные вращения, чтобы биток отражался не исключительно по правилу угол падения равен углу отражения, а поправлялся в нужную сторону.
Здесь же по количеству задеваемых после удара шаров ясно, что робот просто забивает по одному шару (potting), никакую серию вести он не пытается. Ситуаций с закрытыми лузами у него не возникло, потому как это не снукер, последовательность забивания не важна, а видео короткое.
Не буду вдаваться глубже, надеюсь дал понять, что снукер это не только посчитать в какую часть шара надо попасть, чтоб он полетел в лузу. На игру влияет много факторов. Например влажность воздуха. От этого зависит "раскатистость" стола — как быстро останавливаются шары, как они отражаются от борта, как падают в лузу. Ещё есть выходы из снукеров (и их постановка), отыгрыши, да просто начало фрейма! Задач для ИИ — вагон.
Ни одного фрейма игры человека с роботом не нашёл — тоже показатель.
faiwer
18.03.2016 14:25+1После ваших сообщений, и у меня сложилось впечатление, что для такого робота даже ИИ не нужен. Просто большое финансирование. Т.е. детальные продвинутые алгоритмы, хорошая и точная аппаратура, время на реализацию и тесты. Почему всего этого нет? А разве это кому-то интересно? Ведь это же весьма немалые деньги нужны.
zlov
18.03.2016 17:21В вашем представлении интеллект для игры в снукер получается не нужен, важна только техника. Это, к сожалению, распространённое заблуждение. Просто в шахматах техники исполнения хода нет вообще, и обобщая это, в других играх пытаются видеть тоже только одну сторону, но это не так!
Снукер — это такие аналоговые шахматы, где кроме собственно идеи хода важна ещё и техника его исполнения.
Чтобы между снукером и шахматами аналогия была полная, надо сделать так:
- Фигуры — общие, каждый может ходить и белыми и чёрными. (шары в снукере общие)
- Если игрок ходя по правилам рубит фигуру, то набирает соответствующее количество очков и делает следующий ход.
- Если очередным ходом фигуру срубить не удаётся, право хода переходит сопернику. (это и есть ведение серии в снукере)
- Побеждает набравший большее число очков.
В таком варианте шахмат важно как можно дольше вести серию. Аналогия со снукером видна? Для этой задачи нужен ИИ?
faiwer
18.03.2016 17:27Не возьмусь спорить за то, насколько важен в снукере интеллект, ибо я и правил то не знаю. Но вам стоит учесть что шахматы это уже пройденный этап. Т.е. с этой составляющей у такого робота большим проблем не будет.
А механические проблемы вполне решаются, правда, обычно очень задорого. Взять какие-нибудь крутые механизмы, которые придают металлическим брускам форму цилиндров V8 двигателя и прочие вундервафли… Они ж бешенных денег стоят. Но там и польза от них колоссальная.
А какой будет толк, если такое несметное кол-во денег вольют в разработку робота, который круто играет в снукер?zlov
18.03.2016 22:04-3Шахматы этап пройденный, но снукер посложнее будет. Пространство ходов в шахматах дискретное, в снукере — непрерывное. Реализовать удар точно как задумано не выйдет из-за неидеальности материального окружения. Это как ещё 2 измерения добавить.
Механические проблемы решаются значительно дешевле — хотя бы потому, что станки, выпиливающие те самые v8 по сравнению с AlphaGo — ширпотреб. И стоят они точно дешевле. Последний, с которым работал стоил около $100000. Да и их сложности скорее всего не нужно. Польза от них только в универсальности, производство серийных деталей на них — барство.
Какой толк от того, что влили несметное количество денег в разработку AlphaGo? Уже обсуждалось, что не очень просто его перестроить на что-то другое.faiwer
18.03.2016 22:45В смысле какой толк? Да в каждом первом топике про ИИ был комментарий про непобедимый ГО. Это как минимум очень грамотный пиар. А как максимум — нужно спрашивать у ребят из Google.
100 000 $ вы пишете, причём, я так понимаю, это из "ширпотреба"… А такой робот будет как раз единичным экземпляром. Умножаем на 10? И это только механика…
С неидеальностью материального окружения, я полагаю, у человека куда больше проблем в снукере, чем у нашего воображаемого робота. Ему главное формулы нужные вывести, базу поправок внести, да тестов побольше произвести. В рамках заложенного в него — он ошибаться уже не будет. Человеку же такое не под силу.
По поводу 2-х измерений и прочего… Я могу ошибаться, но мне кажется, что интеллектуалов в ГО на несколько порядков больше, чем среди чемпионов в снукере. И каков результат?zlov
18.03.2016 22:53Сколько стоит AlphaGo?
Причём тут количество игроков в разные игры? Как узнать кто бОльший интеллектуал?
Kornet
17.03.2016 17:32> «Пока что чемпиона обыгрывает огромный вычислительный кластер. Протащить его с собой физически невозможно».
Не совсем так. AlphaGo, запущенная в кластере, проигрывает AlphaGo на одиночной машине в 25% случаев (а это уже уровень высших профессиональных данов). То есть, ноутбук, пусть и не в кармане, использовать вполне можно уже сейчас.
choupa
18.03.2016 00:17А зачем оптику в отель прокладывали? Чтобы сообщить кластеру в Америке: "e2-e4" и получить назад ответный ход?
Hamper
18.03.2016 02:04Учитывая лимиты на время и количество ходов, задержки в миллисекунды могли изменить результаты партий, а какой нибудь сетевой сбой вообще все испортить.
KvanTTT
18.03.2016 12:56Ну все же го — это не стометровка, где важны миллисекунды. Не думаю, что они могли что-то изменить, тем более что AlphaGo и так в основном времени на ход меньше тратила.
olwi
18.03.2016 14:32Черные отправили свой 19-й камень в пустоватую область на правой стороне доски. Седолю потребовалось время перерыва, чтобы найти силы на ответ.
Вообще-то, события развивались иначе. Ли Седоль покинул комнату до того, как AlphaGo сделала свой ход. Какой именно ход сделала AlphaGo он увидел уже по возвращении.
Посмтреть как это происходило можно тут: www.youtube.com/watch?v=GA8Ppdntupg#t=6400
zlov
18.03.2016 22:10Отмечу ещё одну проблему игры ИИ против человека. Игры нацелены на выявление лучшего игрока в нескольких смыслах. Многие игры проверяют не только мастерство игры, но и выдержку и выносливость. Эти категории присущи только человеку. Подозреваю, что в го это тоже значит немало, при такой-то длительности партий.
sim31r
19.03.2016 02:50Оставлю ссылку здесь (похожа тема), на полноценную статью мой материал не тянет (мой перевод слабоват), но может кому-то будет интересен
Ученые создали нейросеть, распознающую «пьяные» сообщения в Twitter
http://users.livejournal.com/_sim_/7485.html
Foolleren
По мне так, нейросети, это пока больше искусство чем точная наука, задашь слишком много нейронов, сеть всё запомнит с умным видом, а на новых данных будет откровенно ошибаться, слишком мало — будет тупить и ошибаться даже на учебной выборке, свёртка как-то решает эту проблему, но не до конца. На мой взгляд сейчас просто происходит накопление критической массы для полноценного понимания работы нейронных сетей а текущий уровень знаний скорее рецептурный.
Bot_0002
Главное чтобы однажды осознавший себя ИИ, не полез смотреть фильмы типа "Терминатор".
Bot_0002
Умственно отсталым ставящим минусы, вы не в курсе что такое юмор? Вам факс нужно отдельно посылать?
Kroid
Каждый человек должен иметь право не смеяться над не смешными либо слишком поверхностными шутками.
Bot_0002
Имеет. Но негативно реагировать на то что не понимаешь и в чем не разбираешься я и считаю глупостью. Это как: мне боевик не нравиться и я ставлю минус фильму.
daiver19
А как же dropout, регуляризация? Да и свертки решают проблему распознавания изображений, а не оверфита. И вообще, в последние несколько лет куча прорывов была совершена в этой области и уровень понимания значительно вырос, я думаю.
doktr
«задашь слишком много нейронов, сеть всё запомнит с умным видом, а на новых данных будет откровенно ошибаться»
Наверное, не нейроны имелись в виду, а обучающие примеры? Если так, то обучающий набор делится как минимум на тренировочный, cross-validation и тестовый наборы, таким образом избегается переобучение.