Революция Искусственного интеллекта — путь к Супер-интеллекту
Это перевод статьи, написанной Тимом Урбаном, автором блога www.waitbutwhy.com. После прочтения у меня зашевелились волосы на голове от желания с кем-то обсудить эту статью, но на русском ее прочитать негде, поэтому я без устали пересказывал всем своим друзьям. Прочитайте — это круто!
Примечание: причина, по которой на написание этого поста ушло три недели, состоит в том, что разбираясь в теме, я просто не мог поверить в то, что читал. Довольно быстро я понял, что, то, что происходит в мире Искусственного Интеллекта — это не просто важно, а ЧРЕЗВЫЧАЙНО важно для нашего будущего. Я захотел узнать об этом как можно больше, а узнав, решил написать пост, который бы смог объяснить ПОЧЕМУ это все настолько важно. Чтобы не пугать вас длинной этого текста, я разбил его на две части. Это часть 1.
Мы стоим на пороге перемен, сопоставимых с появлением человеческой жизни на Земле. Вернор Виндж
Каково это, стоять здесь?
Кажется, что стоять на этом месте должно быть довольно волнительно, но фокус в том, что находясь на этой линии, вы не знаете, что вас ждет дальше. Так что, на самом деле это ощущается как-то так:
Поэтому мы не ощущаем ничего сверхеестественного.
Далекое будущее. Оно скоро наступит
Представьте, что вам удалось перенестись на машине времени в 1750 год, туда где в мире не было электричества, дальняя связь означала одно — орать погромче, а все транспортные средства заправлялись сеном. А потом представьте, что вы выбрали там какого-нибудь человека и привезли его в наш 2015, а потом вывели его на улицу, чтобы посмотреть, как он реагирует на все. Сложно представить, каково ему было бы увидеть блестящие обтекаемые автомобили, летящие по шоссе с огромной (для него) скоростью; поговорить с людьми, которые еще несколько часов назад были на другой стороне океана; посмотреть соревнования, проходящие за 1000 миль; услышать музыкальный концерт, сыгранный 50 лет назад и поиграться с вашей волшебной штуковиной, которая может делать снимки реальной жизни, или записать живой момент жизни, или нарисовать карту и показать его самого в виде голубой точки, которая показывает, где он находится. Увидеть лицо человека и даже поговорить с ним, хотя он находится на другом конце света. И кучу других неописуемых чудес. И это все до того, как вы покажете ему интернет и попытаетесь объяснить, что такое Международная Космическая Станция, Большой адронный коллайдер, ядерное оружие или Теория относительности.
Эти открытия для него не будут сюрпризом или удивлением — эти слова не достаточны, чтобы описать глубину его потрясения. Он может просто помереть от такого шока.
Но вот что интересно: если он вернется в свой 1750 и попробует провернуть ту же штуку со своими предшественниками и вернется назад на те же 250 лет — в 1500, человек из 1500-го будет, конечно, удивлен некоторыми вещами — но не смертельно. Это путешествие по степени безумности будет гораздо слабее, поскольку, хотя и разница между миром 1500 и 1750 существует, они отличаются гораздо меньше, чем 1750 и 2015. Этот человек из 1500, конечно, узнает что-нибудь диковинное про космос или физику, о новом отношении к империализму в Европе и пересмотрит свои представления о геополитической карте мира. Но наблюдения за обыденной жизнью 1750-го — транспортом, коммуникациями — это этого он точно не умрет.
В самом деле, чтобы человек из 1750-го повеселился так же, как мы с ним, ему придется отправиться в прошлое гораздо дальше — может быть до 12000 годов до н.э., до того, как Первая Сельскохозяйственная Революция дала импульс развитию первых городов и задала новую концепцию развития цивилизации. Если те люди из мира охоты-собирательства, которые были в некоторой степени просто одним из видов животных, увидели огромные империи 1750 года с их церквями-башнями, кораблями, пересекающими океан, узнали бы, что знания накапливаются и передаются из поколения в поколение — вот тогда бы он только, скорее всего, помер.
А что если, после того, как он помер, ему стало завидно и он решил провести такой же трюк со своим предшественником? Если даже он отмотает назад еще 12000 лет и окажется в 24000 году до н.э и возьмет там с собой человека обратно в 12000 г. до н.э. Тот старичок, скорее всего скажет: «Ну и что? Что за фигня?» Человеку из 12000-ых до н.э. придется отмотать назад более 100'000 лет, чтобы найти кого-нибудь, кого можно удивить огнем и умением говорить.
Для того, чтобы кто-то мог быть перенесен в будущее, чтобы умереть там от шока, он должен быть перенесен на достаточное количество лет, чтобы получить «смертельную дозу прогресса», СДП. Таким образом, СДП составляла более 100'000 лет в эпоху охоты и собирательства, но в пост-сельхозреволюционную пору укладывается уже в 12000 лет. Пост-индустриальный мир стал развиваться так быстро, что 1750-человеку нужно всего 250 лет, чтобы получить СДУ.
Эту модель — ускорение скорости развития со временем — Рэй Курцвейл называет Законом Самоускоряющегося развития. Он возможен, поскольку более развитые цивилизации способны прогрессировать с бОльшей скоростью, чем менее развитые — именно потому, что они более развитые. В 19-ом столетии человечество знало больше и имело больше технологий, чем в 15-ом, поэтому не удивительно, и скорость прогресса была выше.
Это работает и на примерах попроще. Фильм «Назад в будущее» вышел в 1985, а «прошлое» происходило в 1955. В фильме Майкл Джей Фокс вернулся в 1955, и был поражен тем, что телевизоры были вновинку, удивился ценам на газировку, непопулярностью электрогитары и старомодному языку. Это был другой мир — точно, но если бы фильм снимался сегодня, а прошлое происходило бы в 1985, это был бы фильм о гораздо, гораздо более поразительных различиях. Герой оказался бы во времена, когда не существовало персональных компьютеров, интернета, сотовых телефонов — сегодняшний Марти Макфлай, тинейджер, рожденный в поздние 90-е ощутил бы гораздо больше различий, чем Марти в 1955.
Так работает Законом Самоускоряющегося развития. Средняя скорость прогресса между 1985 и 2015 была существенно выше, чем в период 1955 — 1985 и гораздо больше нового появилось за именно в последние 30 лет.
Таким образом, движение вперед становится все значительнее и быстрее. Это должно нас наводить на мысль о чем-то значительном, приближающимся к нам из ближайшего будущего. Так?
Курцвейл предполагает, что степень прогресса, реализованная за весь 20 век была бы реализована всего за 20 лет, если взять за отсчет скорость прогресса 2000 года. Иначе говоря, скорость прогресса 2000-го в 5 раз быстрее средней скорости прогресса в 20 веке. Он считает, что такая же степень прогресса, как в 20 веке, уже была реализована между 2000 и 2014, а следующая «ХХ-вековая» ступень прогресса будет пройдена уже к 2021 году, через каких-то 7 лет. Через пару десятков лет после этого, по его расчетам, «ХХ-вековая» ступень прогресса будет реализовываться по нескольку раз в течении единственного года, а затем — и вообще — в течение месяца. Короче, в результате реализации Закона Самоускоряющегося развития, по теории Курцвейла, в XI веке степень развития человечества в 1000 раз превысит степень развития человечества в ХХ веке.
Если Курцвейл и многие другие, согласные с ним, правы, тогда, возможно, у нас снесет башку от 2030-го в той же степени, что и у чувака из 1750, оказавшегося в 2015. Иначе говоря, следующая «смертельная доза прогресса» может потребовать всего пару десятков лет, а в 2050 году мир может настолько измениться, что мы его, возможно, даже не сможем в полной мере осознать.
Это не научная фантастика. Это то, во что многие ученые, гораздо более умные, чем вы или я, твердо верят. И если вы покопаетесь в истории, то поймете, что это совершенно логично из нее следует.
Так почему, когда вы слышите, когда я говорю что-то типа «мир через 35 лет может быть абсолютно непостижим», вы думаете «Круто, конечно, но….не знаю...». Вот 3 причины, по которым мы скептически относимся к удивительным предсказаниям будущего:
1. Когда речь идет о истории, мы думаем линейно. Когда мы представляем себе прогресс на следующие 30 лет, мы оглядываемся на предыдущие 30 лет и используем их как индикатор того, сколько всего должно произойти. Когда мы думаем о степени прогресса в XI веке, мы просто берем все, что собрали в ХХ веке, и добавляем это к 2000 году. Точно такую же ошибку делал чувак из 1750-го, когда привез кого-то из 1500-го и ожидал, что того хватит Кондратий от увиденного, точно так же как его самого хватил в 2015-ом. Это очень естественно — думать линейно, в то время, когда мы должны мыслить экспоненциально. Тот, кто поумнее, смог бы предсказать развитие на ближайшие 30 лет, не глядя на предыдущие 30 лет, а взяв нынешнюю скорость прогресса и опираясь в своих рассуждениях именно на нее. Он, конечно, попал бы ближе к цели, но все равно промахнулся бы. Чтобы думать о будущем правильно, надо понимать, что события в будущем будут развиваться гораздо быстрее, чем они развиваются сейчас.
Красным — траектория прогресса, основанная на прошлой скорости развития
Оранжевым — траектория прогресса, основанная на текущей скорости развития
Зеленым — траектория прогресса, принимающая во внимание экспоненциальный рост
2. Траектория недавнего прошлого может дать искаженную картину. Во-первых, даже крутая экспоненциальная кривая выглядит прямой линией, если ты рассматриваешь только маленький ее отрезок, точно так же, как если посмотреть на маленький сегмент огромного круга — он кажется прямой линией. Во-вторых, экспоненциальный рост не обязательно должен быть плавным. Курцевейл говорит, прогресс идет S-кривыми:
S-образная кривая характеризуется периодическим взрывным ростом, и последующей стабилизацией.
Такая кривая развития проходит через 3 фазы:
1. Медленный рост (начальная стадия)
2. Быстрый рост (следующая, взрывная стадия роста)
3. Стабилизация (становление и существование мира в новой парадигме развития)
Если посмотреть на ближайшее прошлое и обозреть текущую часть S-кривой, можно неправильно оценить, насколько быстро движется прогресс. За период 1995-2007 произошел взрывной рост интернета, появление Майкрософт, Гугл, Фейсбук, рождение социальных сетей, сотовых телефонов, а затем и смартфонов — это была 2-ая фаза. Но с 2008 по 2015 прорывов было гораздо меньше, по крайней мере — в технологическом плане. Кто-то, размышляющий о будущем сегодня, мог бы разобрать последние 7 лет и сформулировать некую меру прогресса — но он упустит из вида картину в целом. Фактически, новая эра взрывного роста, возможно, назревает прямо сейчас.
3. Наш опыт делает нас старыми упертыми невеждами, когда речь заходит о будущем. Мы основываемся в своих идеях о мире на наш собственный опыт, и этот опыт прочно укоренил в нашем сознании восприятие скорости прогресса в недавнем прошлом в шаблоны, вроде «вот так это бывает». Мы также ограничены нашим воображением, которое использует наш опыт для формирования фантазий о будущем. Однако, то, что мы знаем, как правило, ни дает нам нужных инструментов, чтобы предсказывать будущее. Когда мы слышим предсказание, которое противоречит нашему убеждению о том, как «это бывает», оно инстинктивно блокируется нашим сознанием. Если я скажу вам, дальше по тексту, что вы, возможно, будете жить до 150-250 лет, а может и вообще никогда не умрете, вы инстинктивно возразите «Ерунда! Если я хоть что-то усвоил из истории, так это то, что все мы умрем!». И это правда — никто в прошлом не жил вечно. Но никто не летал на самолетах, пока их не изобрели!
Скорее всего, пока ощущение «да ну, ерунда!...» кажется вам верным от чтения этой статьи, но, возможно, оно пройдет, когда вы узнаете все, о чем я хочу рассказать. Факты говорят о том, что если мы просто будем следовать логике и рассчитывать, что прежние модели развития продолжат свое существование, то нам стоит ожидать, что гораздо, гораздо больше изменится в скором будущем, чем мы это можем себе представить. Логика также подсказывает, что если самые большие умы на Земле продолжат двигать прогресс таким же все ускоряющимся темпом, через некоторое время мы все сделаем настолько сильный скачок в развитии, что он совершенно изменит жизнь, которой мы ее знаем, и понимание того, что есть на самом деле развитая цивилизация. Если вы потратите некоторое время на то, чтобы узнать о том, что происходит сегодня в науке и технологии, вы увидите много знаков, подсказывающих, что жизнь в ее сегодняшнем проявлении радикально изменится.
--------------------–-----------------------------
Путь к Супер-интеллекту
Что такое искусственный интеллект?
Скорее всего, вы воспринимали понятие «Искусственный интеллект» как какую-то научно-фантастическую байку, но в последнее время пару раз слышали, как довольно разумные люди всерьез упоминали это понятие. И это не стыкуется.
Есть три причины, по которым люди неправильно воспринимают понятие Искусственный интеллект:
1. Мы ассоциируем его с художественными фильмами. Звездные воины. Терминатор. Матрица. Это фантастика, так же как и истории про живых роботов. Фильмы заставляют воспринимать Искусственный интеллект, как фантастику.
2. Искусственный интеллект — это очень широкое понятие. Он — и в калькуляторах и в самоуправляемых автомобилях. Он также и Нечто, способное изменить наш мир. Искусственный интеллект относится ко всем этим понятиям и это запутывает.
3. Мы используем Искусственный интеллект постоянно в обыденной жизни, не сознавая, что это и есть Он. Джон Маккарти, который ввел понятие Искусственный интеллект в 1956 году говорил: «как только он начинает работать, мы уже не называем его так». Из-за этого феномена «Искусственный интеллект» звучит обычно скорее как мистическое предсказание будущего, чем как реальность. В то же самое время это воспринимается как популярная концепция из прошлого, которая так и не реализовалась в настоящем. Рэй Курцвейл говорит, что слышит, как люди говорят, что концепция ИИ изжила себя в 80-ых, и сравнивает такой подход с утверждением, что интернет умер после краха доткомов в 2000.
Давайте разберемся. Во-первых, перестанем воображать роботов. Робот — это контейнер для Искусственного интеллекта, который может иметь человекоподобную форму, а может и не иметь. Искусственный интеллект — это компьютер внутри робота. Искусственный интеллект — это разум, робот — тело. Например, программное обеспечение Siri от Apple – это Искусственный интеллект, а женский голос, которым он «говорит» — это персонификация этого Интеллекта, робота в физическом смысле нет вообще.
Во-вторых, вы, возможно, слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике, чтобы описать график в виде ассимптоты, где нормальные правила больше не работают. В физике он используется, чтобы описать бесконечно малую плотную черную дыру или точку, в которую вся Вселенная сжалась в момент до Большого взрыва. Еще раз — это ситуация, в которой обычные правила более не работают. В1993 Вернор Винж написал популярное эссе в котором он определял сингулярность, как момент в будущем, когда интеллект наших технологий превысит наш собственный — момент, когда жизнь, которую мы знаем, совершенно изменится и нормальные правила перестанут работать. Рэй Курцвейл позже все немножко запутал, определив сингулярность, как момент времени, когда Закон Самоускоряющегося Развития достигнет настолько быстрой скорости, что технологический прогресс будет происходить с бесконечно быстрой скоростью, момент, после которого мы будем жить в совершенно новом мире. Я обнаружил, что сегодняшние ИИ-мыслители перестали использовать термин «сингулярность», поскольку смысл его, конечно, несколько запутан. Поэтому я его не буду здесь слишком использовать (хотя концепция его пронизывает эту статью насквозь).
И последнее, поскольку существует много типов ИИ (раз уж ИИ — настолько широкая тема), стоит выделить несколько типов Искусственного интеллекта, различающихся по масштабу.
Есть три категории масштаба Искусственного Интеллекта:
1. Специализированный Искусственный Интеллект (СИИ). Иногда называют слабым ИИ. Это тот Искусственный Интеллект, который специализируется в одной области. Есть ИИ, который побьет чемпиона мира по шахматам, но это — единственная вещь, которую он умеет. Если спросить его, как лучше сохранить данные на жестком диске, ответом будет тишина.
2. Общий Искусственный Интеллект (ОИИ). Иногда называют сильным ИИ или Интеллектом человеческого уровня. Это такой интеллект, который может составить конкуренцию человеку во всех областях. Создание ОИИ — задача гораздо более сложная, чем создание СИИ, и нам еще предстоит это сделать. Профессор Линда Готфредсон описывает разумность, как «широкие ментальные способности, которые среди прочего включают способности к рассуждению, планировать, решать проблемы, думать абстрактно, понимать сложные идеи, учиться быстро и учиться на ошибках». ОИИ будет способен делать эти вещи также легко, как это делаете вы.
3. Супер-интеллект. Оксфордский профессор и ведующий эксперт по ИИ Ник Бостром определяет Супер-интеллект, как «интеллект, который превосходит лучшие человеческие умы во всех областях, включая научную креативность, «общечеловеческую» мудрость и социальный интеллект». Понятие «Супер-интеллект» включает в себя как компьютер, не много превосходящий разум человека, так и машину, которая в триллион раз умнее. Абсолютно по всем показателям. Супер-интеллект — причина, по которой тема Искусственного Интеллекта имеет настолько важное значение. Это причина, по котором словечки, вроде бессмертие или вымирание еще не раз появятся в моих статьях по этой теме.
Итак, на сегодняшний день человечество смогло совладать с первым уровнем ИИ — Специализированным Искусственным Интеллектом. Он — реальность во многих областях, существуя, фактически, повсюду. Революция Искусственного Интеллекта — это путь от СИИ через ОИИ к Супер-интеллекту. Это путь, который мы, люди, можем и не пережить, и который, в любом случае, изменит ВСЁ.
Давайте посмотрим, что ведущие умы нашего мира в области Искусственного Интеллекта говорят об этом Пути и почему эта революция может произойти быстрее, чем вы думаете:
Сейчас мы живем в мире, который существует благодаря работе СИИ:
Специализированный Искусственный Интеллект — это интеллект, превосходящий человеческий интеллект или эффективность в узкой области. Несколько примеров:
Автомобили напичканы СИИ: начиная компьютером, который определяет, когда должна быть задействована ABS, до того, который определяет параметры впрыска топлива. Самоуправляемые автомобили от Гугл, которые сейчас тестируются, будут работать на мощных СИИ, которые позволят автомобилям воспринимать и реагировать на мир вокруг.
Ваш телефон — небольшая фабрика СИИ. Пользуетесь ли вы навигацией, получаете ли адаптированные музыкальные рекомендации от Пандоры, проверяете погоду на завтра, говорите с Сири или что вы там еще делаете со своим телефоном — вы используете СИИ.
Ваш спам-фильтр в электронной почте — ни что иное, как СИИ. Он начинает с общих правил выявления спама, учится в процессе и подгоняет свою работу под ваши потребности и привычки и предпочтения.
Вы знакомы с этими назойливыми объявлениями «Рекомендовано для вас», которые вылезают в самых неожиданных местах на сайтах, которыми вы пользуетесь? Или когда Facebook вдруг предлагает вам принять в друзья неожиданного человека из вашего прошлого? Так работает сеть СИИ-систем, работающих вместе и информирующих друг друга о том, кто вы и чем интересуетесь, чтобы показать вам релевантную информацию. Так же работает и эта штука на Амазоне «люди, которые купили этот же продукт, кроме того купили и это...». Работа СИИ-системы состоит в том, чтобы проанализировать поведение миллионов людей и, обработав, так ее вам предоставить, чтобы подтолкнуть совершить больше покупок.
Гугл-Переводчик — другая классическая СИИ-система, впечатляюще хорошо работающая в своей узкой области. Голосовое распознавание — в другой, и существуют огромное количество приложений, которые используют эти два приложения совместно, предлагая вам произнести текст на одном языке, записывая его и переводя письменно на любой другой.
Когда самолет идет на посадку, не человек решает, к какому рукаву ему стоит подъехать. Также как компьютер решает, по какой цене вы приобретете билет
Лучшие в мире игроки в шахматы, скрабл и другие игры — системы СИИ.
Поиск Гугл по сути — один большой СИИ, использующий невероятно сложные алгоритмы ранжирования страниц и решающий, что именно показать пользователю. То же работает и для ленты новостей Facebook.
И это — только мир потребителей. Сложные системы СИИ широко используются в производстве, военном деле, финансах (на долю роботизированных СИИ-трейдеров приходится более половины оборота фондового рынка США). Экспертные системы, помогающие докторам ставить диагноз, и наиболее известный из них — суперкомпьютер Ватсон. Все это — Специализированный Искусственный Интеллект.
СИИ-СИСТЕМЫ в том виде, в котором они сейчас существуют, не производят опасного впечатления. В худшем случае, глючная и плохо настроенная система СИИ может вызвать локальную катастрофу, вроде обесточивания какой-нибудь электроподстанции, нештатной работы атомной электростанции или запуска обвала на финансовом рынке (вроде той, которая произошла в 2010, когда СИИ-система неправильно среагировала на неожиданную ситуацию, спровоцировав падение рынка на 1 трлн. Долларов. Рынок тогда смог восстановиться только частично после того, как ошибка была исправлена.
Но даже хотя СИИ не способна вызвать угрозу человечеству, мы должны рассматривать эту постоянно растущую и усложняющуюся систему достаточно безобидного Специализированного Искусственного Интеллекта, как предшественника по-настоящему могущественного урагана, который уже в пути. Каждая новая СИИ-инновация добавляет камней на дорогу к ОИИ и Супер-интеллекту. Или, как говорит Аарон Саенс «системы СИИ в нашем мире подобны аминокислотам на ранней стадии жизни Земли» — неодушевленная субстанция, которая однажды, в самый неожиданный момент, проснется.
Почему это так сложно
Ничто так не заставит вас проникнуться величием человеческого разума, как изучение того, насколько это трудно — создать компьютер настолько же умный, как человек. Строительство небоскребов, покорение космоса, изучение подробностей Большого Взрыва — все это гораздо легче, чем понять, как работает наш мозг или как сделать нечто подобное. На сегодня человеческий мозг — самый сложный объект во Вселенной, о котором нам известно.
Что интересно, трудная часть в разработке ОИИ (компьютера, настолько же разумного, как человек в целом, а не просто обладающего единственной выдающейся характеристикой) — это не то, о чем вы скорее всего подумали. Построить компьютер, перемножающий два десятизначных числа в доли секунды очень просто. Создать такой, который, взглянув на собаку, тут же ответит, кот это или собака — чрезвычайно сложно. Создать Интеллект, который переиграет чемпиона по шахматам? — Сделано! Создать такой, чтобы прочитав параграф из книжки для 6-летних малышей не просто распознал слова, но понял их смысл? Гугл сейчас тратит миллиарды долларов, чтобы это реализовать. «Трудные» для нас задачи, вроде сложных расчетов, анализ финансовых рынков, языковые переводы — просты для компьютера. «Простые» же задачи, такие как зрение, движение, восприятие — безумно трудны для него. Или, как говорит ученый, специалист по компьютерам, Дональд Кнут, «Искусственный интеллект преуспел сегодня во всем, что требует «мышления», но провалился в задачах, которые люди и животные делают, не задумываясь».
Что вы быстро понимаете, когда рассуждаете об этом, так это то, что вещи, которые нам кажутся простыми, на самом деле очень сложны. И кажутся простыми только потому, что определенные способности развились у нас (и многих животных) за сотни миллионов лет Эволюции. Когда вы протягиваете руку к объекту, мышцы, сухожилия и кости в вашем плече, локте и запястье мгновенно осуществляют длинную серию физических операций в сотрудничестве с вашими глазами, чтобы позволить вам двигать рукой по прямой линии в трех измерениях. Вам кажется, что это происходит само собой, потому что «программное обеспечение» в вашей голове оптимизировало свою работу за многие годы. Тоже самое относится к ситуации, когда программы-боты не могут пройти элементарный тест распознавания слова на каком-нибудь сайте в момент регистрации — это не потому, что боты настолько примитивны, а потому, что так совершенен ваш мозг.
С другой стороны, перемножение больших номеров или игра в шахматы — достаточно новая деятельность и у нас не было достаточного времени, чтобы натренировать способности к этим видам задач, так что компьютер без особого труда побьет нас на этом поле. Задумайтесь — что было бы легче — разработать программу, которая может перемножать большие числа, или такую, которая бы поняла обозначение буквы «В» настолько хорошо, что смогла бы ее различить в любом из тысяч непредсказуемых шрифтов или почерке тысяч людей?
Один веселый пример — когда вы смотрите на эту картинку, то и вы и компьютер без труда разберетесь, что это — прямоугольник в двумя чередующимися оттенками:
Пока — счет равный. Но если вы поднимете черный лист, и откроете всю картинку:
… вы без труда опишите эту головоломку из прозрачных и непрозрачных цилиндров, баранок и объемных уголков, а компьютер провалиться на этом тесте совершенно. Он опишет, что видит: набор двухмерных деталек в 7 различных оттенках, чем они и являются на самом деле. Ваш мозг анализирует кучи разнообразной информации, чтобы правильно интерпретировать реальную форму, игру теней и степень освещенности. Глядя на следующую картинку, компьютер видит плоский коллаж белого, серого и черного цветов, хотя вы тут же поймете, что это черный камень:
И все, о чем мы сейчас говорили, касается только статичной информации. Чтобы быть разумным, как человек, компьютер должен будет научиться распознавать незначительные оттенки выражений лица, различия между понятиями «удовлетворен», «довольный», «обнадежен» и «рад». И почему «Храброе Сердце» — крутой фильм, а «Патриот» — отстой.
Это непросто.
Первый ключ к созданию Искусственного Интеллекта: увеличение скорости и вычислительной мощности.
Первая вещь, которая обязательно должна произойти, чтобы ОИИ стал возможным — это увеличение мощности компьютерного железа. Чтобы ИИ смог настолько же разумным, как человеческий мозг, ему придется сравняться с мозгом по вычислительной мощности. Одним из способов выразить эту характеристику — общее количество операций в секунду (cps), которые мозг способен реализовать. Эту величину можно рассчитать, если сложить скорость работы каждого отдела мозга.
Рэй Курцвейл разработал методику, по которой за основу берутся экспертные оценки скорости операций в одном из разделов мозга, а потом вес этого раздела сравнивается с весом всего мозга и пропорционально перемножается, чтобы прикинуть общую цифру. Звучит достаточно неуклюже, но он проделывал это много-много раз с разными профессиональными оценками разных отделов мозга, и общая цифра практически всегда стремилась к 10^16 или 10 квадриллионов операций в секунду.
На сегодняшний день самый быстрый суперкомпьютер, китайский Tianhe-2 превзошел этот показатель со своими 34 квадриллионами операций в секунду. Но Tianhe-2 существенно проигрывает мозгу по другим параметрам со своим 720-метровым зданием да еще и потреблением 24 Мвт электрической мощности (мозг работает на 20 вт) при цене в 390 миллионов долларов. Такой суперкомпьютер совершенно не пригоден для широкой эксплуатации, да и для большинства индустриальных или коммерческих задач тоже не годится.
Курцвейл предлагает, чтобы мы оценивали компьютеры, исходя из того, какую скорость (cps) мы приобретаем за $1000. И когда мы сможем приобрести за $1000 «человеческие» 10^16 cps, вот тогда можно будет считать, что Общий Искусственный Интеллект сможет стать частью нашей жизни.
Закон Мура — исторически подтвержденное правило, гласит, что Мировая максимальная вычислительная мощность удваивается примерно за 2 года, означая, что развитие компьютерного железа, также, как и общее развитие человеческой цивилизации, происходит экспоненциально. По классификации Курцвейла (в разрезе «cps за $1000») мы сейчас находимся на уровне 10 триллионов (10^13) cps за $1000 и движемся по такой траектории:
Т.е. сегодняшние компьютеры за $1000 превосходят мышиный мозг, но их производительность составляет только около тысячной доли от человеческой. Это кажется мало, но только до тех пор, пока вы не вспомните, что в 1985 скорость компьютера составляла одну триллионную долю от человеческой, миллиардную в 1995 и миллионную в 2005. Находясь в тысячной в 2015, мы таким темпом придем к паритету к 2025.
Таким образом, по части железа вычислительная мощность, необходимая для реализации ОИИ, технически доступна сейчас в Китае. И мы можем рассчитывать, что доступное и широко распространенное железо уровня ОИИ появится в ближайшие 10 лет. Однако, вычислительная мощность сама по себе не сделает компьютер разумным — следующий вопрос: как мы объединим интеллект человеческого уровня и эту вычислительную мощность?
Второй ключ к созданию ОИИ: Сделать его разумным
Вот тут проблема. Дело в том, что никто наверняка не знает, как сделать компьютер разумным — ученые все еще спорят о том, как приблизить «интеллект» компьютера к человеческому уровню, то есть например объяснить, как отличить собаку от любого другого животного; или букву «В», написанную необычным почерком; или отличить посредственное кино от отличного. На этот счет есть несколько теорий, и однажды одна из них сработает. Вот три наиболее продвинутые из них:
1. Скопировать человеческий мозг.
Ближайшая аналогия — как-будто ученые внимательно изучали студента за соседней партой, который отлично справлялся с учебой, и тщательно пытались разобраться, как он это делает. Но при всем старании даже близко не могли приблизится к его результатам, поэтому в итоге махнули рукой: «да черт с ним — просто спишем у него!». Эта стратегия имеет смысл — мы зашли в тупик, разрабатывая супер-сложные компьютеры, а тут — совершенный прототип в каждой (почти!)) человеческой голове.
Научный мир интенсивно работает над реверс-инжинирингом человеческого мозга, чтобы разобраться, как Эволюции удалось создать такую крутую штуку — и оптимистичные прогнозы подсказывают, что мы сможем это сделать к 2030-му. Как только это произойдет, мы узнаем все секреты высочайшей эффективности и продуктивности мозга и сможем скопировать эти механизмы для реализации Супер-интеллекта. Один из примеров компьютерной архитектуры, которая использует принципы работы мозга — искусственная нейронная сеть. Она представляет из себя сеть транзисторов — нейронов, соединенных между собою своими «входами» и «выходами», и на начальном этапе «не знает» ничего — совершенно чистый лит. Система начинает учится, пытаясь выполнить задачу, например — распознавать рукописный текст. И поначалу ее попытки угадать буквы будут совершенно беспорядочны. Но как только ей сообщат, что она сделала что-то правильно, порядок соединения транзисторов, который привел к правильному ответу, получает более высокий приоритет. Когда система ошибается, соответствующие соединения понижаются в приоритете. В результате большого количества итераций по методу проб и ошибок, система самооптимизируется под выполнение конкретной задачи. Мозг работает похожим образом, но в более сложной вариации. И, изучая мозг, мы открываем элегантные и очень эффективные приемы по созданию и использованию нейтронных сетей.
Более совершенный плагиат включает в себя стратегию, которая называется «эмуляция мозга целиком». Задача стратегии состоит в том, чтобы изучить мозг послойно путем сканирования и разработки его трехмерной модели для последующей ее интеграции в мощный компьютер. Тогда бы у нас появился компьютер, обладающий возможностями человеческого мозга — ему надо будет только научиться и собрать информацию. Если инженерам удастся задуманное, то у них получится настолько точно воссоздать мозг, что личность человека и все воспоминания можно будет загрузить в компьютер. Если до эксперимента мозг принадлежал Джиму, компьютер «проснется» Джимом (подробнее о том, что составляет личность человека здесь), и будет являть собой именно систему Общего Искусственного Интеллекта. А после этого мы можем начать работу над превращением Джима в невообразимо разумный Супер-интеллект. Это ему точно понравится.
Как далеко мы от полной имитации человеческого мозга? На сегодняшний день получилось имитировать работу мозга 1мм-червяка, состоящего из 302 нейронов. Человеческий мозг содержит 100 миллиардов нейронов. Может показаться, что это бессмысленная борьба, но вспомните о силе экспоненциального прогресса: сейчас мы победили маленького червяка, скоро, возможно, догоним муравья, а затем — и мышь. И вдруг конечная цель станет совсем реальной.
2. Попытаться заставить Эволюцию сделать для компьютера то, что она уже делала для нас.
Если мы решим, что скопировать успех того студента — слишком сложная задача, тогда мы сможем попробовать разобраться, как он готовится к новым экзаменам.
Вот кое-что, что мы знаем: построить компьютер, равный по производительности человеческому мозгу — возможно. Но если сам мозг слишком сложен для копирования, мы могли бы вместо этого скопировать методы Эволюции. Фактически, даже если мы смогли бы скопировать мозг, это могло всё равно оказаться чем-то вроде попытки построить самолет, пытаясь копировать взмахи крыльев бабочки. Часто оказывается, что машины эффективней создавать с нуля, используя современный, математически оптимизированный подход, вместо прямого копирования биологических процессов.
Но как мы можем симулировать Эволюцию для создания ОИИ? Метод, называемый «генетические алгоритмы» должен работать таким образом: необходимо запустить процесс выполнения операций и последующей оценки его эффективности (точно такой же, который происходит в биологическом мире, когда живые создания проживают жизнь, и «оцениваются» в результате успешного (или не успешного) размножения). Группа компьютеров воспроизводила бы некоторую работу, а наиболее успешные из них «спаривались» между собой, объединяясь по половине своего программного кода в новый компьютер. Менее успешные уничтожались бы. В результате большого, очень большого количества подобных итераций, этот селекция производила бы все более совершенные компьютеры. Сложная задача в том, чтобы создать автоматический процесс оценки и размножения, чтобы этот процесс смог развиваться сам по себе.
Минус такого метода в том, что эволюционные процессы длятся миллиард лет, а нам хотелось бы уложиться в пару десятилетий.
Но у нас есть и преимущества перед эволюцией. Во-первых, эволюция происходит бессистемно, производя гораздо больше ненужных мутаций, чем полезных. А мы могли бы контролировать и направлять процесс, так что он бы продвигался в сторону действительно необходимых улучшений. Во-вторых, у Эволюции нет цели, в том числе — достижения разума. Иногда Эволюция работает даже против интеллекта (т. к. мозг использует большое количество энергии). Мы бы напротив, могли бы направить этот процесс именно в сторону увеличения интеллекта. И в-третьих, если бы Эволюция избрала себе путь развития интеллекта, ей бы пришлось оптимизировать дополнительно кучу дополнительных вещей — вроде пересмотрения процесса производства энергии в клетке. В то время как мы могли бы просто избавиться от решения этой задачи, используя внешнее электричество. Никаких сомнений, мы с этой задачей справились бы лучше, чем Эволюция. Однако, до сих пор непонятно, сможем ли мы эволюционно развить Искусственный Интеллект в достаточной степени.
3. Сделать все это проблемой компьютера, не нашей.
Такой вариант всплывает, когда отчаявшиеся ученые начинают пытаться заставить задачу решить саму себя. Интересно, но возможно это и есть самый многообещающий метод.
Идея состоит в том, чтобы построить компьютер, чьей основной задачей было бы делать исследования в области Искусственного Интеллекта и перепрограммировать себя, позволив ему не просто учиться, но улучшать свою собственную архитектуру. Мы бы научили компьютеры быть учеными-компьютерщиками, так, чтобы они смогли сами управлять процессом собственного совершенствования. И это было бы их единственной задачей: разобраться, как сделать самих себя более разумными. Дальше — подробнее об этом.
Все это может случиться Очень скоро.
Интенсивные улучшения компьютерного железа и инновационные эксперименты в области программного обеспечения происходят постоянно и Общий Искусственный Интеллект может стать явью очень быстро и неожиданно по двум главным причинам:
1. Экспоненциальный рост происходит очень быстро и то, что выглядит едва заметным улучшением может быстро стать всеохватывающей лавиной. Посмотрите на картинку:
Объем озера Мичиган в унциях примерно равен возможностям нашего мозга (в операциях в секунду). Скорость расчетов удваивается каждые 18 месяцев. При этой скорости прогресс едва заметен в течении длительного времени, и … неожиданно, все закончено
2. Когда дело касается программного обеспечения, прогресс может быть медленным, но затем какое-то неожиданное открытие мгновенно меняет скорость развития (как например, длительное время человечество испытывало большие сложности с пониманием устройства Солнечной Системы, а затем открытие, что все планеты движутся вокруг Солнца, неожиданно сделало все гораздо проще). Или если вопрос касается компьютера, который улучшает сам себя: нам может казаться, что система в самом начале пути, а через момент времени оказывается, что она уже в 1000 раз более эффективна и приближается к уровню интеллекта человека.
Дорога от Общего Искусственного Интеллекта и Супер-интеллекту
Однажды мы достигнем Общего Искусственного Интеллекта — компьютеров с «человеческим уровнем разумности». Получится такая коммунна людей и компьютеров, живущих в равенстве.
Вообще-то не совсем так…
Штука в том, что ОИИ с идентичным человеческому уровнем интеллекта и вычислительной мощностью будет все-таки иметь неоспоримые преимущества перед человеком:
Железо:
Скорость. Максимальная «скорострельность» нейронов в районе 200 Гц, в то время как сегодняшние микропроцессоры (которые сегодня значительно медленнее, чем они будут, когда мы подойдем к ОИИ) работают при 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. А скорость передачи данных в мозге, достигающая 120 м/с, безнадежно отстает от компьютерной скорости коммуникации по оптоволокну, летающей со скоростью света.
Размер и объем. Мозг заперт в череп, а его размеры ограничены. Другое ограничение — это опять — скорость в 120 м/с, которая не позволит с приемлемой скоростью производить коммуникации в сети, созданной из нескольких человеческих голов. Компьютеры можно расширять до неограниченного размера, и добавлять неограниченное количество новых мощностей, оперативной памяти, и места на жестком диске. Все эти параметры компьютеров имеют гораздо большую емкость и точность, чем человеческого мозга.
Надежность и выносливость. Не только память компьютера точнее человеческой. Транзисторы — надежней человеческих нейронов, они менее склонны к порче со временем (а если какие-то испортятся, их можно просто заменить на новые). Человеческих мозг также подвержен утомляемости, в то время как компьютеры могут работать на полной мощности круглосуточно в течение очень длительного времени.
Программное обеспечение:
Редактируемость, возможность внесения улучшений и бОльшие возможности. В отличие от человеческого мозга, компьютерное программное обеспечение может получать обновления и исправления, что позволяет экспериментировать с ним. Улучшения могут быть реализованы в тех областях, где возможности человеческого мозга ограничены. Алгоритмы зрения человека феноменально совершенны, в то время как технические возможности системы зрения достаточно посредственны. Компьютеры смогут соперничать с человеком в области алгоритмов зрения, и кроме того получить значительные усовершенствования в области «железа».
Коллективная работа. Люди превзошли все живое в области накопления и распространения знаний. Начиная с создания языка и объединения в большие и сложные социальные объединения, продвигаясь вперед с изобретением письменности и печати, а теперь еще более ускоряясь с использованием интернета, Коллективное Человеческое Знание — это главная причина такого превосходства человека над всем остальным животным миром. А компьютеры будут гораздо круче нас в этом: всемирная сеть Искусственного Интеллекта, работающая по одной программе, могла бы регулярно синхронизировать накопленные знания во всех отдельно взятых компьютерах, и таким образом, все, что стало известно одному из них тут же тиражировалось бы на всех остальных. Такая сеть могла бы также объединить усилия, работая над одной задачей, и главное — этой сети будет неведомо инакомыслие или эгоизм, которые часто тормозят развитие человеческой цивилизации.
Искусственный Интеллект, который скорее всего подойдет к уровню ОИИ через программу самооптимизации, не будет рассматривать «человеческий уровень разумности» как какую-то важную веху (это имеет значение только для нас) и вряд ли остановится на достигнутом. А понимание преимуществ, которые будет иметь любая ОИИ-система «человеческого уровня разумности», делает очевидным тот факт, что она преодолеет человеческий уровень и за мгновение «улетит» в области подлинного Супер-интеллекта.
И когда это произойдет, это, скорее всего, будет для нас серьезным потрясением. Причина в том, что с нашей точки зрения: а) наша разумность превосходит разумность всего, что нас окружает; б) мы считаем, что умные люди — гораздо умнее, чем глупые. Как-то так:
Наше узкое понимание разумности: среднестатистический человек, находясь в интервале между Эйнштейном (оранжевая линия) и каким-нибудь сельским дурачком (зеленая линия), свысока посматривает на ИИ: «Ха, как забавно этот робот пытается повторить обезьяньи трюки!»
До тех пор, пока ИИ продвигается вверх в степени разумности, мы рассматриваем его просто становящимся умнее, по сравнению с животным. После того, как ИИ достигнет нижней планки человеческой разумности (Ник Больстром использует понятие «деревенский дурачок»), мы будем умиляться «О, как мило! Он прямо как тот дурачок!». Только фокус в том, что диапазон человеческих возможностей (от идиота к Эйнштейну) находится в относительно коротком промежутке, поэтому СРАЗУ после преодоления уровня «дурачок» и провозглашения системой ОИИ, Система окажется умнее Эйнштейна и мы вдруг окажемся перед фактом:
а что произойдет после этого?
Взрыв интеллекта
Я надеюсь, вы насладились «нормальной» историей, потому что сейчас эта тема станет совсем непривычной и даже страшной, и чем дальше рассказ — тем серьезней. Я хочу сделать паузу и напомнить вам, что абсолютно все, что вы прочитали и прочитаете в этой статье реально: реальная наука, реальные прогнозы будущего от самых известных и уважаемых ученых и мыслителей. Просто помните об этом.
В любом случае, как я уже сказал, большинство моделей используемых для разработки ОИИ используют механизмы самооптимизации. А как только они приблизятся к уровню ОИИ, даже системы, которые не используют самооптимизацию, будут уже достаточно разумны, чтобы самостоятельно включить эти механизмы, если захотят.
И тут мы снова возвращаемся к Закону Самоускоряющегося Развития, который будет здесь работать следующим образом: система ИИ на определенном уровне разумности, скажем — уровне деревенского идиота, программируется на улучшение собственного интеллекта. Как только он выйдет на следующий уровень, пусть будет — уровень Эйнштейна, он сможет продвигаться быстрее и делать бОльшие скачки в развитии. Эти скачки сделают его значительно умнее любого человека, позволяя делать еще бОльшие скачки. С увеличением расстояния этих скачков и увеличением их частоты, ОИИ взлетит на недосягаемый уровень и тогда перейдет в разряд Супер-интеллекта. Это и называется Взрыв Интеллекта.
Существуют разногласия по поводу срока преодоления Искусственным Интеллектом уровня человеческой разумности: средний прогноз, на основании опросов сотен ученых, которых спрашивали, в каком году мы с высокой вероятностью преодолеем эту планку, указывал на 2040 год. Иначе говоря — не позднее, чем через 25 лет. Это цифра не выглядит пугающе, но это если не принимать во внимание, что следующий переход (от ОИИ к Супер-интеллекту) произойдет ОЧЕНЬ быстро. Может произойти нечто подобное:
Десятилетия понадобятся, чтобы создать систему искусственного интеллекта, достигающую нижнего уровня ОИИ, но это все равно произойдет — компьютер, способный воспринимать мир на уровне 4-летнего ребенка. А после этого, совершенно для нас неожиданно, в течение какого-то часа, система овладеет общей теорией физики, которая объединяет общую теорию относительности и квантовую механику — то, чего пока не смог сделать ни один человек. Еще через полтора часа ОИИ станет Супер-Интеллектом, будучи уже в 170'000 раз умнее человека.
Супер-Интеллект такого уровня — это то, чего наш мозг не сможет воспринять, так что шмель смог бы понять больше из Кейнсианской теории экономики. В нашем мире умный — значит IQ=130, а глупый — значит IQ=85. Но у нас нет слова для IQ=12'952.
Что мы знаем наверняка, так это то, что полное превосходство человека на Земле предполагает простое правило: с Интеллектом приходит Могущество. Это означает, что Супер-Интеллект станет самым могущественным созданием на Земле и все живое будет полностью в его власти. И ВСЕ ЭТО МОЖЕТ ПРОИЗОЙТИ УЖЕ В БЛИЖАЙЩИЕ ДЕСЯТИЛЕТИЯ.
Если мы со своим скромным мозгом смогли изобрести wi-fi, тогда Нечто в 100, 1000 или 1 миллиард раз умнее нас сможет без проблем контролировать положение каждого атома в мире так, как ему это нравится, в любое время — то есть сможет все то, что мы считаем чудом. Все способности, которые мы приписываем всемогущему Богу, будут такими же обыденными для Него, как для нас — включение света в комнате. Изобретение технологии, которая остановит старение, вылечит любую болезнь, победит голод, сделает постоянно хорошую погоду — чтобы сохранить жизнь на Земле и сделать ее комфортной — все это вдруг станет совершенно возможно. Так же, как и возможен моментальный конец всей жизни. Поэтому, рассуждая об Искусственном Интеллекте, надо понимать, что речь фактически идет о Боге Всемогущем на Земле. И тут возникает главный вопрос:
Будет ли это добрый Бог?
Это перевод статьи, написанной Тимом Урбаном, автором блога www.waitbutwhy.com. После прочтения у меня зашевелились волосы на голове от желания с кем-то обсудить эту статью, но на русском ее прочитать негде, поэтому я без устали пересказывал всем своим друзьям. Прочитайте — это круто!
Примечание: причина, по которой на написание этого поста ушло три недели, состоит в том, что разбираясь в теме, я просто не мог поверить в то, что читал. Довольно быстро я понял, что, то, что происходит в мире Искусственного Интеллекта — это не просто важно, а ЧРЕЗВЫЧАЙНО важно для нашего будущего. Я захотел узнать об этом как можно больше, а узнав, решил написать пост, который бы смог объяснить ПОЧЕМУ это все настолько важно. Чтобы не пугать вас длинной этого текста, я разбил его на две части. Это часть 1.
Мы стоим на пороге перемен, сопоставимых с появлением человеческой жизни на Земле. Вернор Виндж
Каково это, стоять здесь?
Кажется, что стоять на этом месте должно быть довольно волнительно, но фокус в том, что находясь на этой линии, вы не знаете, что вас ждет дальше. Так что, на самом деле это ощущается как-то так:
Поэтому мы не ощущаем ничего сверхеестественного.
Далекое будущее. Оно скоро наступит
Представьте, что вам удалось перенестись на машине времени в 1750 год, туда где в мире не было электричества, дальняя связь означала одно — орать погромче, а все транспортные средства заправлялись сеном. А потом представьте, что вы выбрали там какого-нибудь человека и привезли его в наш 2015, а потом вывели его на улицу, чтобы посмотреть, как он реагирует на все. Сложно представить, каково ему было бы увидеть блестящие обтекаемые автомобили, летящие по шоссе с огромной (для него) скоростью; поговорить с людьми, которые еще несколько часов назад были на другой стороне океана; посмотреть соревнования, проходящие за 1000 миль; услышать музыкальный концерт, сыгранный 50 лет назад и поиграться с вашей волшебной штуковиной, которая может делать снимки реальной жизни, или записать живой момент жизни, или нарисовать карту и показать его самого в виде голубой точки, которая показывает, где он находится. Увидеть лицо человека и даже поговорить с ним, хотя он находится на другом конце света. И кучу других неописуемых чудес. И это все до того, как вы покажете ему интернет и попытаетесь объяснить, что такое Международная Космическая Станция, Большой адронный коллайдер, ядерное оружие или Теория относительности.
Эти открытия для него не будут сюрпризом или удивлением — эти слова не достаточны, чтобы описать глубину его потрясения. Он может просто помереть от такого шока.
Но вот что интересно: если он вернется в свой 1750 и попробует провернуть ту же штуку со своими предшественниками и вернется назад на те же 250 лет — в 1500, человек из 1500-го будет, конечно, удивлен некоторыми вещами — но не смертельно. Это путешествие по степени безумности будет гораздо слабее, поскольку, хотя и разница между миром 1500 и 1750 существует, они отличаются гораздо меньше, чем 1750 и 2015. Этот человек из 1500, конечно, узнает что-нибудь диковинное про космос или физику, о новом отношении к империализму в Европе и пересмотрит свои представления о геополитической карте мира. Но наблюдения за обыденной жизнью 1750-го — транспортом, коммуникациями — это этого он точно не умрет.
В самом деле, чтобы человек из 1750-го повеселился так же, как мы с ним, ему придется отправиться в прошлое гораздо дальше — может быть до 12000 годов до н.э., до того, как Первая Сельскохозяйственная Революция дала импульс развитию первых городов и задала новую концепцию развития цивилизации. Если те люди из мира охоты-собирательства, которые были в некоторой степени просто одним из видов животных, увидели огромные империи 1750 года с их церквями-башнями, кораблями, пересекающими океан, узнали бы, что знания накапливаются и передаются из поколения в поколение — вот тогда бы он только, скорее всего, помер.
А что если, после того, как он помер, ему стало завидно и он решил провести такой же трюк со своим предшественником? Если даже он отмотает назад еще 12000 лет и окажется в 24000 году до н.э и возьмет там с собой человека обратно в 12000 г. до н.э. Тот старичок, скорее всего скажет: «Ну и что? Что за фигня?» Человеку из 12000-ых до н.э. придется отмотать назад более 100'000 лет, чтобы найти кого-нибудь, кого можно удивить огнем и умением говорить.
Для того, чтобы кто-то мог быть перенесен в будущее, чтобы умереть там от шока, он должен быть перенесен на достаточное количество лет, чтобы получить «смертельную дозу прогресса», СДП. Таким образом, СДП составляла более 100'000 лет в эпоху охоты и собирательства, но в пост-сельхозреволюционную пору укладывается уже в 12000 лет. Пост-индустриальный мир стал развиваться так быстро, что 1750-человеку нужно всего 250 лет, чтобы получить СДУ.
Эту модель — ускорение скорости развития со временем — Рэй Курцвейл называет Законом Самоускоряющегося развития. Он возможен, поскольку более развитые цивилизации способны прогрессировать с бОльшей скоростью, чем менее развитые — именно потому, что они более развитые. В 19-ом столетии человечество знало больше и имело больше технологий, чем в 15-ом, поэтому не удивительно, и скорость прогресса была выше.
Это работает и на примерах попроще. Фильм «Назад в будущее» вышел в 1985, а «прошлое» происходило в 1955. В фильме Майкл Джей Фокс вернулся в 1955, и был поражен тем, что телевизоры были вновинку, удивился ценам на газировку, непопулярностью электрогитары и старомодному языку. Это был другой мир — точно, но если бы фильм снимался сегодня, а прошлое происходило бы в 1985, это был бы фильм о гораздо, гораздо более поразительных различиях. Герой оказался бы во времена, когда не существовало персональных компьютеров, интернета, сотовых телефонов — сегодняшний Марти Макфлай, тинейджер, рожденный в поздние 90-е ощутил бы гораздо больше различий, чем Марти в 1955.
Так работает Законом Самоускоряющегося развития. Средняя скорость прогресса между 1985 и 2015 была существенно выше, чем в период 1955 — 1985 и гораздо больше нового появилось за именно в последние 30 лет.
Таким образом, движение вперед становится все значительнее и быстрее. Это должно нас наводить на мысль о чем-то значительном, приближающимся к нам из ближайшего будущего. Так?
Курцвейл предполагает, что степень прогресса, реализованная за весь 20 век была бы реализована всего за 20 лет, если взять за отсчет скорость прогресса 2000 года. Иначе говоря, скорость прогресса 2000-го в 5 раз быстрее средней скорости прогресса в 20 веке. Он считает, что такая же степень прогресса, как в 20 веке, уже была реализована между 2000 и 2014, а следующая «ХХ-вековая» ступень прогресса будет пройдена уже к 2021 году, через каких-то 7 лет. Через пару десятков лет после этого, по его расчетам, «ХХ-вековая» ступень прогресса будет реализовываться по нескольку раз в течении единственного года, а затем — и вообще — в течение месяца. Короче, в результате реализации Закона Самоускоряющегося развития, по теории Курцвейла, в XI веке степень развития человечества в 1000 раз превысит степень развития человечества в ХХ веке.
Если Курцвейл и многие другие, согласные с ним, правы, тогда, возможно, у нас снесет башку от 2030-го в той же степени, что и у чувака из 1750, оказавшегося в 2015. Иначе говоря, следующая «смертельная доза прогресса» может потребовать всего пару десятков лет, а в 2050 году мир может настолько измениться, что мы его, возможно, даже не сможем в полной мере осознать.
Это не научная фантастика. Это то, во что многие ученые, гораздо более умные, чем вы или я, твердо верят. И если вы покопаетесь в истории, то поймете, что это совершенно логично из нее следует.
Так почему, когда вы слышите, когда я говорю что-то типа «мир через 35 лет может быть абсолютно непостижим», вы думаете «Круто, конечно, но….не знаю...». Вот 3 причины, по которым мы скептически относимся к удивительным предсказаниям будущего:
1. Когда речь идет о истории, мы думаем линейно. Когда мы представляем себе прогресс на следующие 30 лет, мы оглядываемся на предыдущие 30 лет и используем их как индикатор того, сколько всего должно произойти. Когда мы думаем о степени прогресса в XI веке, мы просто берем все, что собрали в ХХ веке, и добавляем это к 2000 году. Точно такую же ошибку делал чувак из 1750-го, когда привез кого-то из 1500-го и ожидал, что того хватит Кондратий от увиденного, точно так же как его самого хватил в 2015-ом. Это очень естественно — думать линейно, в то время, когда мы должны мыслить экспоненциально. Тот, кто поумнее, смог бы предсказать развитие на ближайшие 30 лет, не глядя на предыдущие 30 лет, а взяв нынешнюю скорость прогресса и опираясь в своих рассуждениях именно на нее. Он, конечно, попал бы ближе к цели, но все равно промахнулся бы. Чтобы думать о будущем правильно, надо понимать, что события в будущем будут развиваться гораздо быстрее, чем они развиваются сейчас.
Красным — траектория прогресса, основанная на прошлой скорости развития
Оранжевым — траектория прогресса, основанная на текущей скорости развития
Зеленым — траектория прогресса, принимающая во внимание экспоненциальный рост
2. Траектория недавнего прошлого может дать искаженную картину. Во-первых, даже крутая экспоненциальная кривая выглядит прямой линией, если ты рассматриваешь только маленький ее отрезок, точно так же, как если посмотреть на маленький сегмент огромного круга — он кажется прямой линией. Во-вторых, экспоненциальный рост не обязательно должен быть плавным. Курцевейл говорит, прогресс идет S-кривыми:
S-образная кривая характеризуется периодическим взрывным ростом, и последующей стабилизацией.
Такая кривая развития проходит через 3 фазы:
1. Медленный рост (начальная стадия)
2. Быстрый рост (следующая, взрывная стадия роста)
3. Стабилизация (становление и существование мира в новой парадигме развития)
Если посмотреть на ближайшее прошлое и обозреть текущую часть S-кривой, можно неправильно оценить, насколько быстро движется прогресс. За период 1995-2007 произошел взрывной рост интернета, появление Майкрософт, Гугл, Фейсбук, рождение социальных сетей, сотовых телефонов, а затем и смартфонов — это была 2-ая фаза. Но с 2008 по 2015 прорывов было гораздо меньше, по крайней мере — в технологическом плане. Кто-то, размышляющий о будущем сегодня, мог бы разобрать последние 7 лет и сформулировать некую меру прогресса — но он упустит из вида картину в целом. Фактически, новая эра взрывного роста, возможно, назревает прямо сейчас.
3. Наш опыт делает нас старыми упертыми невеждами, когда речь заходит о будущем. Мы основываемся в своих идеях о мире на наш собственный опыт, и этот опыт прочно укоренил в нашем сознании восприятие скорости прогресса в недавнем прошлом в шаблоны, вроде «вот так это бывает». Мы также ограничены нашим воображением, которое использует наш опыт для формирования фантазий о будущем. Однако, то, что мы знаем, как правило, ни дает нам нужных инструментов, чтобы предсказывать будущее. Когда мы слышим предсказание, которое противоречит нашему убеждению о том, как «это бывает», оно инстинктивно блокируется нашим сознанием. Если я скажу вам, дальше по тексту, что вы, возможно, будете жить до 150-250 лет, а может и вообще никогда не умрете, вы инстинктивно возразите «Ерунда! Если я хоть что-то усвоил из истории, так это то, что все мы умрем!». И это правда — никто в прошлом не жил вечно. Но никто не летал на самолетах, пока их не изобрели!
Скорее всего, пока ощущение «да ну, ерунда!...» кажется вам верным от чтения этой статьи, но, возможно, оно пройдет, когда вы узнаете все, о чем я хочу рассказать. Факты говорят о том, что если мы просто будем следовать логике и рассчитывать, что прежние модели развития продолжат свое существование, то нам стоит ожидать, что гораздо, гораздо больше изменится в скором будущем, чем мы это можем себе представить. Логика также подсказывает, что если самые большие умы на Земле продолжат двигать прогресс таким же все ускоряющимся темпом, через некоторое время мы все сделаем настолько сильный скачок в развитии, что он совершенно изменит жизнь, которой мы ее знаем, и понимание того, что есть на самом деле развитая цивилизация. Если вы потратите некоторое время на то, чтобы узнать о том, что происходит сегодня в науке и технологии, вы увидите много знаков, подсказывающих, что жизнь в ее сегодняшнем проявлении радикально изменится.
--------------------–-----------------------------
Путь к Супер-интеллекту
Что такое искусственный интеллект?
Скорее всего, вы воспринимали понятие «Искусственный интеллект» как какую-то научно-фантастическую байку, но в последнее время пару раз слышали, как довольно разумные люди всерьез упоминали это понятие. И это не стыкуется.
Есть три причины, по которым люди неправильно воспринимают понятие Искусственный интеллект:
1. Мы ассоциируем его с художественными фильмами. Звездные воины. Терминатор. Матрица. Это фантастика, так же как и истории про живых роботов. Фильмы заставляют воспринимать Искусственный интеллект, как фантастику.
2. Искусственный интеллект — это очень широкое понятие. Он — и в калькуляторах и в самоуправляемых автомобилях. Он также и Нечто, способное изменить наш мир. Искусственный интеллект относится ко всем этим понятиям и это запутывает.
3. Мы используем Искусственный интеллект постоянно в обыденной жизни, не сознавая, что это и есть Он. Джон Маккарти, который ввел понятие Искусственный интеллект в 1956 году говорил: «как только он начинает работать, мы уже не называем его так». Из-за этого феномена «Искусственный интеллект» звучит обычно скорее как мистическое предсказание будущего, чем как реальность. В то же самое время это воспринимается как популярная концепция из прошлого, которая так и не реализовалась в настоящем. Рэй Курцвейл говорит, что слышит, как люди говорят, что концепция ИИ изжила себя в 80-ых, и сравнивает такой подход с утверждением, что интернет умер после краха доткомов в 2000.
Давайте разберемся. Во-первых, перестанем воображать роботов. Робот — это контейнер для Искусственного интеллекта, который может иметь человекоподобную форму, а может и не иметь. Искусственный интеллект — это компьютер внутри робота. Искусственный интеллект — это разум, робот — тело. Например, программное обеспечение Siri от Apple – это Искусственный интеллект, а женский голос, которым он «говорит» — это персонификация этого Интеллекта, робота в физическом смысле нет вообще.
Во-вторых, вы, возможно, слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике, чтобы описать график в виде ассимптоты, где нормальные правила больше не работают. В физике он используется, чтобы описать бесконечно малую плотную черную дыру или точку, в которую вся Вселенная сжалась в момент до Большого взрыва. Еще раз — это ситуация, в которой обычные правила более не работают. В1993 Вернор Винж написал популярное эссе в котором он определял сингулярность, как момент в будущем, когда интеллект наших технологий превысит наш собственный — момент, когда жизнь, которую мы знаем, совершенно изменится и нормальные правила перестанут работать. Рэй Курцвейл позже все немножко запутал, определив сингулярность, как момент времени, когда Закон Самоускоряющегося Развития достигнет настолько быстрой скорости, что технологический прогресс будет происходить с бесконечно быстрой скоростью, момент, после которого мы будем жить в совершенно новом мире. Я обнаружил, что сегодняшние ИИ-мыслители перестали использовать термин «сингулярность», поскольку смысл его, конечно, несколько запутан. Поэтому я его не буду здесь слишком использовать (хотя концепция его пронизывает эту статью насквозь).
И последнее, поскольку существует много типов ИИ (раз уж ИИ — настолько широкая тема), стоит выделить несколько типов Искусственного интеллекта, различающихся по масштабу.
Есть три категории масштаба Искусственного Интеллекта:
1. Специализированный Искусственный Интеллект (СИИ). Иногда называют слабым ИИ. Это тот Искусственный Интеллект, который специализируется в одной области. Есть ИИ, который побьет чемпиона мира по шахматам, но это — единственная вещь, которую он умеет. Если спросить его, как лучше сохранить данные на жестком диске, ответом будет тишина.
2. Общий Искусственный Интеллект (ОИИ). Иногда называют сильным ИИ или Интеллектом человеческого уровня. Это такой интеллект, который может составить конкуренцию человеку во всех областях. Создание ОИИ — задача гораздо более сложная, чем создание СИИ, и нам еще предстоит это сделать. Профессор Линда Готфредсон описывает разумность, как «широкие ментальные способности, которые среди прочего включают способности к рассуждению, планировать, решать проблемы, думать абстрактно, понимать сложные идеи, учиться быстро и учиться на ошибках». ОИИ будет способен делать эти вещи также легко, как это делаете вы.
3. Супер-интеллект. Оксфордский профессор и ведующий эксперт по ИИ Ник Бостром определяет Супер-интеллект, как «интеллект, который превосходит лучшие человеческие умы во всех областях, включая научную креативность, «общечеловеческую» мудрость и социальный интеллект». Понятие «Супер-интеллект» включает в себя как компьютер, не много превосходящий разум человека, так и машину, которая в триллион раз умнее. Абсолютно по всем показателям. Супер-интеллект — причина, по которой тема Искусственного Интеллекта имеет настолько важное значение. Это причина, по котором словечки, вроде бессмертие или вымирание еще не раз появятся в моих статьях по этой теме.
Итак, на сегодняшний день человечество смогло совладать с первым уровнем ИИ — Специализированным Искусственным Интеллектом. Он — реальность во многих областях, существуя, фактически, повсюду. Революция Искусственного Интеллекта — это путь от СИИ через ОИИ к Супер-интеллекту. Это путь, который мы, люди, можем и не пережить, и который, в любом случае, изменит ВСЁ.
Давайте посмотрим, что ведущие умы нашего мира в области Искусственного Интеллекта говорят об этом Пути и почему эта революция может произойти быстрее, чем вы думаете:
Сейчас мы живем в мире, который существует благодаря работе СИИ:
Специализированный Искусственный Интеллект — это интеллект, превосходящий человеческий интеллект или эффективность в узкой области. Несколько примеров:
Автомобили напичканы СИИ: начиная компьютером, который определяет, когда должна быть задействована ABS, до того, который определяет параметры впрыска топлива. Самоуправляемые автомобили от Гугл, которые сейчас тестируются, будут работать на мощных СИИ, которые позволят автомобилям воспринимать и реагировать на мир вокруг.
Ваш телефон — небольшая фабрика СИИ. Пользуетесь ли вы навигацией, получаете ли адаптированные музыкальные рекомендации от Пандоры, проверяете погоду на завтра, говорите с Сири или что вы там еще делаете со своим телефоном — вы используете СИИ.
Ваш спам-фильтр в электронной почте — ни что иное, как СИИ. Он начинает с общих правил выявления спама, учится в процессе и подгоняет свою работу под ваши потребности и привычки и предпочтения.
Вы знакомы с этими назойливыми объявлениями «Рекомендовано для вас», которые вылезают в самых неожиданных местах на сайтах, которыми вы пользуетесь? Или когда Facebook вдруг предлагает вам принять в друзья неожиданного человека из вашего прошлого? Так работает сеть СИИ-систем, работающих вместе и информирующих друг друга о том, кто вы и чем интересуетесь, чтобы показать вам релевантную информацию. Так же работает и эта штука на Амазоне «люди, которые купили этот же продукт, кроме того купили и это...». Работа СИИ-системы состоит в том, чтобы проанализировать поведение миллионов людей и, обработав, так ее вам предоставить, чтобы подтолкнуть совершить больше покупок.
Гугл-Переводчик — другая классическая СИИ-система, впечатляюще хорошо работающая в своей узкой области. Голосовое распознавание — в другой, и существуют огромное количество приложений, которые используют эти два приложения совместно, предлагая вам произнести текст на одном языке, записывая его и переводя письменно на любой другой.
Когда самолет идет на посадку, не человек решает, к какому рукаву ему стоит подъехать. Также как компьютер решает, по какой цене вы приобретете билет
Лучшие в мире игроки в шахматы, скрабл и другие игры — системы СИИ.
Поиск Гугл по сути — один большой СИИ, использующий невероятно сложные алгоритмы ранжирования страниц и решающий, что именно показать пользователю. То же работает и для ленты новостей Facebook.
И это — только мир потребителей. Сложные системы СИИ широко используются в производстве, военном деле, финансах (на долю роботизированных СИИ-трейдеров приходится более половины оборота фондового рынка США). Экспертные системы, помогающие докторам ставить диагноз, и наиболее известный из них — суперкомпьютер Ватсон. Все это — Специализированный Искусственный Интеллект.
СИИ-СИСТЕМЫ в том виде, в котором они сейчас существуют, не производят опасного впечатления. В худшем случае, глючная и плохо настроенная система СИИ может вызвать локальную катастрофу, вроде обесточивания какой-нибудь электроподстанции, нештатной работы атомной электростанции или запуска обвала на финансовом рынке (вроде той, которая произошла в 2010, когда СИИ-система неправильно среагировала на неожиданную ситуацию, спровоцировав падение рынка на 1 трлн. Долларов. Рынок тогда смог восстановиться только частично после того, как ошибка была исправлена.
Но даже хотя СИИ не способна вызвать угрозу человечеству, мы должны рассматривать эту постоянно растущую и усложняющуюся систему достаточно безобидного Специализированного Искусственного Интеллекта, как предшественника по-настоящему могущественного урагана, который уже в пути. Каждая новая СИИ-инновация добавляет камней на дорогу к ОИИ и Супер-интеллекту. Или, как говорит Аарон Саенс «системы СИИ в нашем мире подобны аминокислотам на ранней стадии жизни Земли» — неодушевленная субстанция, которая однажды, в самый неожиданный момент, проснется.
Путь от Специализированного к Общему Искусственному Интеллекту
Почему это так сложно
Ничто так не заставит вас проникнуться величием человеческого разума, как изучение того, насколько это трудно — создать компьютер настолько же умный, как человек. Строительство небоскребов, покорение космоса, изучение подробностей Большого Взрыва — все это гораздо легче, чем понять, как работает наш мозг или как сделать нечто подобное. На сегодня человеческий мозг — самый сложный объект во Вселенной, о котором нам известно.
Что интересно, трудная часть в разработке ОИИ (компьютера, настолько же разумного, как человек в целом, а не просто обладающего единственной выдающейся характеристикой) — это не то, о чем вы скорее всего подумали. Построить компьютер, перемножающий два десятизначных числа в доли секунды очень просто. Создать такой, который, взглянув на собаку, тут же ответит, кот это или собака — чрезвычайно сложно. Создать Интеллект, который переиграет чемпиона по шахматам? — Сделано! Создать такой, чтобы прочитав параграф из книжки для 6-летних малышей не просто распознал слова, но понял их смысл? Гугл сейчас тратит миллиарды долларов, чтобы это реализовать. «Трудные» для нас задачи, вроде сложных расчетов, анализ финансовых рынков, языковые переводы — просты для компьютера. «Простые» же задачи, такие как зрение, движение, восприятие — безумно трудны для него. Или, как говорит ученый, специалист по компьютерам, Дональд Кнут, «Искусственный интеллект преуспел сегодня во всем, что требует «мышления», но провалился в задачах, которые люди и животные делают, не задумываясь».
Что вы быстро понимаете, когда рассуждаете об этом, так это то, что вещи, которые нам кажутся простыми, на самом деле очень сложны. И кажутся простыми только потому, что определенные способности развились у нас (и многих животных) за сотни миллионов лет Эволюции. Когда вы протягиваете руку к объекту, мышцы, сухожилия и кости в вашем плече, локте и запястье мгновенно осуществляют длинную серию физических операций в сотрудничестве с вашими глазами, чтобы позволить вам двигать рукой по прямой линии в трех измерениях. Вам кажется, что это происходит само собой, потому что «программное обеспечение» в вашей голове оптимизировало свою работу за многие годы. Тоже самое относится к ситуации, когда программы-боты не могут пройти элементарный тест распознавания слова на каком-нибудь сайте в момент регистрации — это не потому, что боты настолько примитивны, а потому, что так совершенен ваш мозг.
С другой стороны, перемножение больших номеров или игра в шахматы — достаточно новая деятельность и у нас не было достаточного времени, чтобы натренировать способности к этим видам задач, так что компьютер без особого труда побьет нас на этом поле. Задумайтесь — что было бы легче — разработать программу, которая может перемножать большие числа, или такую, которая бы поняла обозначение буквы «В» настолько хорошо, что смогла бы ее различить в любом из тысяч непредсказуемых шрифтов или почерке тысяч людей?
Один веселый пример — когда вы смотрите на эту картинку, то и вы и компьютер без труда разберетесь, что это — прямоугольник в двумя чередующимися оттенками:
Пока — счет равный. Но если вы поднимете черный лист, и откроете всю картинку:
… вы без труда опишите эту головоломку из прозрачных и непрозрачных цилиндров, баранок и объемных уголков, а компьютер провалиться на этом тесте совершенно. Он опишет, что видит: набор двухмерных деталек в 7 различных оттенках, чем они и являются на самом деле. Ваш мозг анализирует кучи разнообразной информации, чтобы правильно интерпретировать реальную форму, игру теней и степень освещенности. Глядя на следующую картинку, компьютер видит плоский коллаж белого, серого и черного цветов, хотя вы тут же поймете, что это черный камень:
И все, о чем мы сейчас говорили, касается только статичной информации. Чтобы быть разумным, как человек, компьютер должен будет научиться распознавать незначительные оттенки выражений лица, различия между понятиями «удовлетворен», «довольный», «обнадежен» и «рад». И почему «Храброе Сердце» — крутой фильм, а «Патриот» — отстой.
Это непросто.
Но как же туда добраться?
Первый ключ к созданию Искусственного Интеллекта: увеличение скорости и вычислительной мощности.
Первая вещь, которая обязательно должна произойти, чтобы ОИИ стал возможным — это увеличение мощности компьютерного железа. Чтобы ИИ смог настолько же разумным, как человеческий мозг, ему придется сравняться с мозгом по вычислительной мощности. Одним из способов выразить эту характеристику — общее количество операций в секунду (cps), которые мозг способен реализовать. Эту величину можно рассчитать, если сложить скорость работы каждого отдела мозга.
Рэй Курцвейл разработал методику, по которой за основу берутся экспертные оценки скорости операций в одном из разделов мозга, а потом вес этого раздела сравнивается с весом всего мозга и пропорционально перемножается, чтобы прикинуть общую цифру. Звучит достаточно неуклюже, но он проделывал это много-много раз с разными профессиональными оценками разных отделов мозга, и общая цифра практически всегда стремилась к 10^16 или 10 квадриллионов операций в секунду.
На сегодняшний день самый быстрый суперкомпьютер, китайский Tianhe-2 превзошел этот показатель со своими 34 квадриллионами операций в секунду. Но Tianhe-2 существенно проигрывает мозгу по другим параметрам со своим 720-метровым зданием да еще и потреблением 24 Мвт электрической мощности (мозг работает на 20 вт) при цене в 390 миллионов долларов. Такой суперкомпьютер совершенно не пригоден для широкой эксплуатации, да и для большинства индустриальных или коммерческих задач тоже не годится.
Курцвейл предлагает, чтобы мы оценивали компьютеры, исходя из того, какую скорость (cps) мы приобретаем за $1000. И когда мы сможем приобрести за $1000 «человеческие» 10^16 cps, вот тогда можно будет считать, что Общий Искусственный Интеллект сможет стать частью нашей жизни.
Закон Мура — исторически подтвержденное правило, гласит, что Мировая максимальная вычислительная мощность удваивается примерно за 2 года, означая, что развитие компьютерного железа, также, как и общее развитие человеческой цивилизации, происходит экспоненциально. По классификации Курцвейла (в разрезе «cps за $1000») мы сейчас находимся на уровне 10 триллионов (10^13) cps за $1000 и движемся по такой траектории:
Т.е. сегодняшние компьютеры за $1000 превосходят мышиный мозг, но их производительность составляет только около тысячной доли от человеческой. Это кажется мало, но только до тех пор, пока вы не вспомните, что в 1985 скорость компьютера составляла одну триллионную долю от человеческой, миллиардную в 1995 и миллионную в 2005. Находясь в тысячной в 2015, мы таким темпом придем к паритету к 2025.
Таким образом, по части железа вычислительная мощность, необходимая для реализации ОИИ, технически доступна сейчас в Китае. И мы можем рассчитывать, что доступное и широко распространенное железо уровня ОИИ появится в ближайшие 10 лет. Однако, вычислительная мощность сама по себе не сделает компьютер разумным — следующий вопрос: как мы объединим интеллект человеческого уровня и эту вычислительную мощность?
Второй ключ к созданию ОИИ: Сделать его разумным
Вот тут проблема. Дело в том, что никто наверняка не знает, как сделать компьютер разумным — ученые все еще спорят о том, как приблизить «интеллект» компьютера к человеческому уровню, то есть например объяснить, как отличить собаку от любого другого животного; или букву «В», написанную необычным почерком; или отличить посредственное кино от отличного. На этот счет есть несколько теорий, и однажды одна из них сработает. Вот три наиболее продвинутые из них:
1. Скопировать человеческий мозг.
Ближайшая аналогия — как-будто ученые внимательно изучали студента за соседней партой, который отлично справлялся с учебой, и тщательно пытались разобраться, как он это делает. Но при всем старании даже близко не могли приблизится к его результатам, поэтому в итоге махнули рукой: «да черт с ним — просто спишем у него!». Эта стратегия имеет смысл — мы зашли в тупик, разрабатывая супер-сложные компьютеры, а тут — совершенный прототип в каждой (почти!)) человеческой голове.
Научный мир интенсивно работает над реверс-инжинирингом человеческого мозга, чтобы разобраться, как Эволюции удалось создать такую крутую штуку — и оптимистичные прогнозы подсказывают, что мы сможем это сделать к 2030-му. Как только это произойдет, мы узнаем все секреты высочайшей эффективности и продуктивности мозга и сможем скопировать эти механизмы для реализации Супер-интеллекта. Один из примеров компьютерной архитектуры, которая использует принципы работы мозга — искусственная нейронная сеть. Она представляет из себя сеть транзисторов — нейронов, соединенных между собою своими «входами» и «выходами», и на начальном этапе «не знает» ничего — совершенно чистый лит. Система начинает учится, пытаясь выполнить задачу, например — распознавать рукописный текст. И поначалу ее попытки угадать буквы будут совершенно беспорядочны. Но как только ей сообщат, что она сделала что-то правильно, порядок соединения транзисторов, который привел к правильному ответу, получает более высокий приоритет. Когда система ошибается, соответствующие соединения понижаются в приоритете. В результате большого количества итераций по методу проб и ошибок, система самооптимизируется под выполнение конкретной задачи. Мозг работает похожим образом, но в более сложной вариации. И, изучая мозг, мы открываем элегантные и очень эффективные приемы по созданию и использованию нейтронных сетей.
Более совершенный плагиат включает в себя стратегию, которая называется «эмуляция мозга целиком». Задача стратегии состоит в том, чтобы изучить мозг послойно путем сканирования и разработки его трехмерной модели для последующей ее интеграции в мощный компьютер. Тогда бы у нас появился компьютер, обладающий возможностями человеческого мозга — ему надо будет только научиться и собрать информацию. Если инженерам удастся задуманное, то у них получится настолько точно воссоздать мозг, что личность человека и все воспоминания можно будет загрузить в компьютер. Если до эксперимента мозг принадлежал Джиму, компьютер «проснется» Джимом (подробнее о том, что составляет личность человека здесь), и будет являть собой именно систему Общего Искусственного Интеллекта. А после этого мы можем начать работу над превращением Джима в невообразимо разумный Супер-интеллект. Это ему точно понравится.
Как далеко мы от полной имитации человеческого мозга? На сегодняшний день получилось имитировать работу мозга 1мм-червяка, состоящего из 302 нейронов. Человеческий мозг содержит 100 миллиардов нейронов. Может показаться, что это бессмысленная борьба, но вспомните о силе экспоненциального прогресса: сейчас мы победили маленького червяка, скоро, возможно, догоним муравья, а затем — и мышь. И вдруг конечная цель станет совсем реальной.
2. Попытаться заставить Эволюцию сделать для компьютера то, что она уже делала для нас.
Если мы решим, что скопировать успех того студента — слишком сложная задача, тогда мы сможем попробовать разобраться, как он готовится к новым экзаменам.
Вот кое-что, что мы знаем: построить компьютер, равный по производительности человеческому мозгу — возможно. Но если сам мозг слишком сложен для копирования, мы могли бы вместо этого скопировать методы Эволюции. Фактически, даже если мы смогли бы скопировать мозг, это могло всё равно оказаться чем-то вроде попытки построить самолет, пытаясь копировать взмахи крыльев бабочки. Часто оказывается, что машины эффективней создавать с нуля, используя современный, математически оптимизированный подход, вместо прямого копирования биологических процессов.
Но как мы можем симулировать Эволюцию для создания ОИИ? Метод, называемый «генетические алгоритмы» должен работать таким образом: необходимо запустить процесс выполнения операций и последующей оценки его эффективности (точно такой же, который происходит в биологическом мире, когда живые создания проживают жизнь, и «оцениваются» в результате успешного (или не успешного) размножения). Группа компьютеров воспроизводила бы некоторую работу, а наиболее успешные из них «спаривались» между собой, объединяясь по половине своего программного кода в новый компьютер. Менее успешные уничтожались бы. В результате большого, очень большого количества подобных итераций, этот селекция производила бы все более совершенные компьютеры. Сложная задача в том, чтобы создать автоматический процесс оценки и размножения, чтобы этот процесс смог развиваться сам по себе.
Минус такого метода в том, что эволюционные процессы длятся миллиард лет, а нам хотелось бы уложиться в пару десятилетий.
Но у нас есть и преимущества перед эволюцией. Во-первых, эволюция происходит бессистемно, производя гораздо больше ненужных мутаций, чем полезных. А мы могли бы контролировать и направлять процесс, так что он бы продвигался в сторону действительно необходимых улучшений. Во-вторых, у Эволюции нет цели, в том числе — достижения разума. Иногда Эволюция работает даже против интеллекта (т. к. мозг использует большое количество энергии). Мы бы напротив, могли бы направить этот процесс именно в сторону увеличения интеллекта. И в-третьих, если бы Эволюция избрала себе путь развития интеллекта, ей бы пришлось оптимизировать дополнительно кучу дополнительных вещей — вроде пересмотрения процесса производства энергии в клетке. В то время как мы могли бы просто избавиться от решения этой задачи, используя внешнее электричество. Никаких сомнений, мы с этой задачей справились бы лучше, чем Эволюция. Однако, до сих пор непонятно, сможем ли мы эволюционно развить Искусственный Интеллект в достаточной степени.
3. Сделать все это проблемой компьютера, не нашей.
Такой вариант всплывает, когда отчаявшиеся ученые начинают пытаться заставить задачу решить саму себя. Интересно, но возможно это и есть самый многообещающий метод.
Идея состоит в том, чтобы построить компьютер, чьей основной задачей было бы делать исследования в области Искусственного Интеллекта и перепрограммировать себя, позволив ему не просто учиться, но улучшать свою собственную архитектуру. Мы бы научили компьютеры быть учеными-компьютерщиками, так, чтобы они смогли сами управлять процессом собственного совершенствования. И это было бы их единственной задачей: разобраться, как сделать самих себя более разумными. Дальше — подробнее об этом.
Все это может случиться Очень скоро.
Интенсивные улучшения компьютерного железа и инновационные эксперименты в области программного обеспечения происходят постоянно и Общий Искусственный Интеллект может стать явью очень быстро и неожиданно по двум главным причинам:
1. Экспоненциальный рост происходит очень быстро и то, что выглядит едва заметным улучшением может быстро стать всеохватывающей лавиной. Посмотрите на картинку:
Объем озера Мичиган в унциях примерно равен возможностям нашего мозга (в операциях в секунду). Скорость расчетов удваивается каждые 18 месяцев. При этой скорости прогресс едва заметен в течении длительного времени, и … неожиданно, все закончено
2. Когда дело касается программного обеспечения, прогресс может быть медленным, но затем какое-то неожиданное открытие мгновенно меняет скорость развития (как например, длительное время человечество испытывало большие сложности с пониманием устройства Солнечной Системы, а затем открытие, что все планеты движутся вокруг Солнца, неожиданно сделало все гораздо проще). Или если вопрос касается компьютера, который улучшает сам себя: нам может казаться, что система в самом начале пути, а через момент времени оказывается, что она уже в 1000 раз более эффективна и приближается к уровню интеллекта человека.
Дорога от Общего Искусственного Интеллекта и Супер-интеллекту
Однажды мы достигнем Общего Искусственного Интеллекта — компьютеров с «человеческим уровнем разумности». Получится такая коммунна людей и компьютеров, живущих в равенстве.
Вообще-то не совсем так…
Штука в том, что ОИИ с идентичным человеческому уровнем интеллекта и вычислительной мощностью будет все-таки иметь неоспоримые преимущества перед человеком:
Железо:
Скорость. Максимальная «скорострельность» нейронов в районе 200 Гц, в то время как сегодняшние микропроцессоры (которые сегодня значительно медленнее, чем они будут, когда мы подойдем к ОИИ) работают при 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. А скорость передачи данных в мозге, достигающая 120 м/с, безнадежно отстает от компьютерной скорости коммуникации по оптоволокну, летающей со скоростью света.
Размер и объем. Мозг заперт в череп, а его размеры ограничены. Другое ограничение — это опять — скорость в 120 м/с, которая не позволит с приемлемой скоростью производить коммуникации в сети, созданной из нескольких человеческих голов. Компьютеры можно расширять до неограниченного размера, и добавлять неограниченное количество новых мощностей, оперативной памяти, и места на жестком диске. Все эти параметры компьютеров имеют гораздо большую емкость и точность, чем человеческого мозга.
Надежность и выносливость. Не только память компьютера точнее человеческой. Транзисторы — надежней человеческих нейронов, они менее склонны к порче со временем (а если какие-то испортятся, их можно просто заменить на новые). Человеческих мозг также подвержен утомляемости, в то время как компьютеры могут работать на полной мощности круглосуточно в течение очень длительного времени.
Программное обеспечение:
Редактируемость, возможность внесения улучшений и бОльшие возможности. В отличие от человеческого мозга, компьютерное программное обеспечение может получать обновления и исправления, что позволяет экспериментировать с ним. Улучшения могут быть реализованы в тех областях, где возможности человеческого мозга ограничены. Алгоритмы зрения человека феноменально совершенны, в то время как технические возможности системы зрения достаточно посредственны. Компьютеры смогут соперничать с человеком в области алгоритмов зрения, и кроме того получить значительные усовершенствования в области «железа».
Коллективная работа. Люди превзошли все живое в области накопления и распространения знаний. Начиная с создания языка и объединения в большие и сложные социальные объединения, продвигаясь вперед с изобретением письменности и печати, а теперь еще более ускоряясь с использованием интернета, Коллективное Человеческое Знание — это главная причина такого превосходства человека над всем остальным животным миром. А компьютеры будут гораздо круче нас в этом: всемирная сеть Искусственного Интеллекта, работающая по одной программе, могла бы регулярно синхронизировать накопленные знания во всех отдельно взятых компьютерах, и таким образом, все, что стало известно одному из них тут же тиражировалось бы на всех остальных. Такая сеть могла бы также объединить усилия, работая над одной задачей, и главное — этой сети будет неведомо инакомыслие или эгоизм, которые часто тормозят развитие человеческой цивилизации.
Искусственный Интеллект, который скорее всего подойдет к уровню ОИИ через программу самооптимизации, не будет рассматривать «человеческий уровень разумности» как какую-то важную веху (это имеет значение только для нас) и вряд ли остановится на достигнутом. А понимание преимуществ, которые будет иметь любая ОИИ-система «человеческого уровня разумности», делает очевидным тот факт, что она преодолеет человеческий уровень и за мгновение «улетит» в области подлинного Супер-интеллекта.
И когда это произойдет, это, скорее всего, будет для нас серьезным потрясением. Причина в том, что с нашей точки зрения: а) наша разумность превосходит разумность всего, что нас окружает; б) мы считаем, что умные люди — гораздо умнее, чем глупые. Как-то так:
Наше узкое понимание разумности: среднестатистический человек, находясь в интервале между Эйнштейном (оранжевая линия) и каким-нибудь сельским дурачком (зеленая линия), свысока посматривает на ИИ: «Ха, как забавно этот робот пытается повторить обезьяньи трюки!»
До тех пор, пока ИИ продвигается вверх в степени разумности, мы рассматриваем его просто становящимся умнее, по сравнению с животным. После того, как ИИ достигнет нижней планки человеческой разумности (Ник Больстром использует понятие «деревенский дурачок»), мы будем умиляться «О, как мило! Он прямо как тот дурачок!». Только фокус в том, что диапазон человеческих возможностей (от идиота к Эйнштейну) находится в относительно коротком промежутке, поэтому СРАЗУ после преодоления уровня «дурачок» и провозглашения системой ОИИ, Система окажется умнее Эйнштейна и мы вдруг окажемся перед фактом:
а что произойдет после этого?
Взрыв интеллекта
Я надеюсь, вы насладились «нормальной» историей, потому что сейчас эта тема станет совсем непривычной и даже страшной, и чем дальше рассказ — тем серьезней. Я хочу сделать паузу и напомнить вам, что абсолютно все, что вы прочитали и прочитаете в этой статье реально: реальная наука, реальные прогнозы будущего от самых известных и уважаемых ученых и мыслителей. Просто помните об этом.
В любом случае, как я уже сказал, большинство моделей используемых для разработки ОИИ используют механизмы самооптимизации. А как только они приблизятся к уровню ОИИ, даже системы, которые не используют самооптимизацию, будут уже достаточно разумны, чтобы самостоятельно включить эти механизмы, если захотят.
И тут мы снова возвращаемся к Закону Самоускоряющегося Развития, который будет здесь работать следующим образом: система ИИ на определенном уровне разумности, скажем — уровне деревенского идиота, программируется на улучшение собственного интеллекта. Как только он выйдет на следующий уровень, пусть будет — уровень Эйнштейна, он сможет продвигаться быстрее и делать бОльшие скачки в развитии. Эти скачки сделают его значительно умнее любого человека, позволяя делать еще бОльшие скачки. С увеличением расстояния этих скачков и увеличением их частоты, ОИИ взлетит на недосягаемый уровень и тогда перейдет в разряд Супер-интеллекта. Это и называется Взрыв Интеллекта.
Существуют разногласия по поводу срока преодоления Искусственным Интеллектом уровня человеческой разумности: средний прогноз, на основании опросов сотен ученых, которых спрашивали, в каком году мы с высокой вероятностью преодолеем эту планку, указывал на 2040 год. Иначе говоря — не позднее, чем через 25 лет. Это цифра не выглядит пугающе, но это если не принимать во внимание, что следующий переход (от ОИИ к Супер-интеллекту) произойдет ОЧЕНЬ быстро. Может произойти нечто подобное:
Десятилетия понадобятся, чтобы создать систему искусственного интеллекта, достигающую нижнего уровня ОИИ, но это все равно произойдет — компьютер, способный воспринимать мир на уровне 4-летнего ребенка. А после этого, совершенно для нас неожиданно, в течение какого-то часа, система овладеет общей теорией физики, которая объединяет общую теорию относительности и квантовую механику — то, чего пока не смог сделать ни один человек. Еще через полтора часа ОИИ станет Супер-Интеллектом, будучи уже в 170'000 раз умнее человека.
Супер-Интеллект такого уровня — это то, чего наш мозг не сможет воспринять, так что шмель смог бы понять больше из Кейнсианской теории экономики. В нашем мире умный — значит IQ=130, а глупый — значит IQ=85. Но у нас нет слова для IQ=12'952.
Что мы знаем наверняка, так это то, что полное превосходство человека на Земле предполагает простое правило: с Интеллектом приходит Могущество. Это означает, что Супер-Интеллект станет самым могущественным созданием на Земле и все живое будет полностью в его власти. И ВСЕ ЭТО МОЖЕТ ПРОИЗОЙТИ УЖЕ В БЛИЖАЙЩИЕ ДЕСЯТИЛЕТИЯ.
Если мы со своим скромным мозгом смогли изобрести wi-fi, тогда Нечто в 100, 1000 или 1 миллиард раз умнее нас сможет без проблем контролировать положение каждого атома в мире так, как ему это нравится, в любое время — то есть сможет все то, что мы считаем чудом. Все способности, которые мы приписываем всемогущему Богу, будут такими же обыденными для Него, как для нас — включение света в комнате. Изобретение технологии, которая остановит старение, вылечит любую болезнь, победит голод, сделает постоянно хорошую погоду — чтобы сохранить жизнь на Земле и сделать ее комфортной — все это вдруг станет совершенно возможно. Так же, как и возможен моментальный конец всей жизни. Поэтому, рассуждая об Искусственном Интеллекте, надо понимать, что речь фактически идет о Боге Всемогущем на Земле. И тут возникает главный вопрос:
Будет ли это добрый Бог?
Комментарии (12)
waterandice
30.07.2015 20:32По идее перед появлением именно ИИ должны будут появиться программы, которые смогут делать выводы на основе фактов, т.е можно будет задать вопрос и программа даст ответ, причем ответ будет сопровождаться логической цепочкой, которая к нему приводит. Такая программа могла бы сильно изменить представление обо всем вообще.
Vik
30.07.2015 20:47А разве IBM Watson это не оно?
waterandice
30.07.2015 21:37нет, так как Watson ищет ответы в базе данных (из вики), а не выводит их по логическим законам
Vik
30.07.2015 22:08если бы Ватсон «выводил», т.е. генерировал новые абстрактные концепции (выдвигал теории и предлагал методы для их проверки на основе новых фактов), то это уже был бы полноценный ИИ. Ватсон сейчас занимается именно тем, что вы и сказали выше: «делать выводы на основе фактов, т.е можно будет задать вопрос и программа даст ответ, причем ответ будет сопровождаться логической цепочкой, которая к нему приводит». Ватсон занимается композицией фактов на основе имеющегося опыта и дает ответы на любые вопросы. Поправьте меня, если я ошибаюсь.
waterandice
30.07.2015 22:44Как я понял из того что я прочитал про watson, ему скармливают кучу данных и он ищет как часто одни слова попадаются вместе с другими. Мне это чем то напоминает wolfram mathematica, который распознал леопардовый диван как леопарда. Задать вопрос я ему не могу так что, оценить его логический движок (если он есть) сложно. Я же имею ввиду программу которая бы могла ответить например на вопрос: в сферу радиусом X поместиться куб с ребром Y, поместиться ли куб с ребром Y в сферу радиусом 2*X? Т.е программа должна видеть логические связи за текстом
iamAnton
30.07.2015 22:20Автомобили напичканы СИИ?
Да там просто датчики стоят и показывают что нужно. Какой интеллект?
Тем более что определения интеллекта как такового вообще нет.
titulusdesiderio
во 1-ых нету ссылки на оригинал (и вообще статья не оформлена как перевод)
во 2-ых из-за отсутствия ссылки не смог найти перевод этой статьи который был тут полгода-год назад.