Культовый разработчик игр, ракетный и VR инженер Джон Кармак переключился на новое амбициозное испытание: разработку общего искусственного интеллекта — формы искусственного интеллекта, которая выйдет за рамки имитации человеческого интеллекта и перейдёт к пониманию сути явлений и решению проблем. Кармак считает что к 2030 году есть 60% шанс достижения начального успеха в разработке общего искусственного интеллекта. В этом интервью вы узнаете о том, как и почему он работает независимо, над тем чтобы это случилось.

Джон, что ты делаешь для того, чтобы "решить" проблему по созданию общего ИИ и почему ты выбрал именно этот подход? 

Я всё время сижу за компьютером, придумывая и документируя концепции, создавая и проверяя теории. Это та работа, которую я делаю в настоящее время, потому что никто не знает полного пути к тому, куда мы хотим прийти. Но по ряду причин я думаю, что у меня есть такой же шанс на успех, как и у любого другого.

Некоторые люди получили миллиарды долларов финансирования для достижения этой цели. И хотя есть признаки того, что уже сейчас в узкой области машинного обучения возможно очень многое, неясно, сделаны ли необходимые шаги, которые нужны для достижения общего искусственного интеллекта. Для компаний, осуществляющих финансирование, это неплохая ставка, потому что есть множество второстепенных направлений с ценными результатами даже для тех, кто не дойдет до конца. Среди этих ценных результатов может быть то, что может изменить мир — например узкий ИИ.

Однако есть опасность, что в какой-то момент вы скажете “вот направление где мы можем просто взять то, что понимаем, и революционизировать различные отрасли и это то, что принесёт нам миллиарды”. Это может стать большим соблазном, который отвлечёт всех от того, чтобы смотреть вперёд и сосредоточиться на большей цели вдали. Таким образом, я нахожусь в положении, когда могу быть очень откровенным о том, что я делаю, а именно: ноль ближайших бизнес-возможностей.

Почему ты вообще заинтересовался этой темой?

Прямо сейчас происходит научная революция, потому что 10 лет назад не было ощущения, что искусственный интеллект работает. На самом деле за прошлые десятилетия у нас было несколько зим искусственного интеллекта. Это забавно и напоминает то, что происходило с виртуальной реальностью. Она почти стала синонимом ругательства из-за своего провала в девяностых, люди даже не хотели говорить о ней.

Искусственный интеллект также прошёл через пару таких циклов, когда возникал хайп, вкладывались деньги, он не показывал хороших результатов и затем происходил крах и никто не хотел говорить о нём. Но последнее десятилетие было иным, и те, кто не заметил насколько оно отличается, просто не обращали на это внимание, потому что количество абсолютно удивительных вещей, произошедших за последнее десятилетие в области машинного обучения, действительно огромно.

Это и стало тем, что подтолкнуло меня вперёд как бы говоря: пора взглянуть на это серьёзно. И ещё это было мне интересно потому, что у меня было техническое понимание машинного обучения и искусственного интеллекта. Ещё в подростковом возрасте я читал некоторые основополагающие книги и знал о символическом ИИ и всём таком. Но я не следил за тем, что происходило, потому что был занят работой над играми, космической техникой и виртуальной реальностью.

А затем я дошёл до момента осознания: "Окей, здесь есть что-то, с чем мне нужно разобраться – что из этого хайп, а что реальность?" Так что я сделал то, что обычно делаю: все мои реальные способности всегда происходят из фундаментального понимания вещей на самых глубоких уровнях. Там, где появляются озарения которые можно получить только зная как что-то работает на самых низких уровнях.

Так что около четырёх лет назад я отправился в один из своих недельных отдыхов, где я просто беру компьютер, стопку справочных материалов и провожу неделю, переосмысливая и заново имплементируя основы отрасли. Достигая той точки, где я понимаю тему достаточно хорошо, чтобы серьёзно обсуждать её с исследователем. Я был весьма воодушевлён тем, чтобы достигнуть такого уровня понимания. 

Затем, после этого Сэм Альтман из OpenAI пригласил меня на конференцию Y Combinator YC 120. И хотя исторически я никогда не посещаю такие мероприятия (из-за моих склонностей к отшельничеству) на этот раз я решил присутствовать. Оказалось, что это было организовано Сэмом, чтобы предложить мне работу, потому что он пригласил Грега Брокмана и Илью Суцкевера из OpenAI, чтобы убедить меня пойти туда работать. Я был весьма польщён этим, потому что я ни в коем разе не был экспертом по машинному обучению. Я был известным системным инженером во многих областях, но у меня было только базовое представление об искусственном интеллекте. Так что идея, что лидеры в этой области посчитали, что я стою того чтобы привлечь меня, действительно заложила семечко в моей голове и заставила задуматься о важности всего, что происходит, и о том, какую роль я мог бы в этом сыграть.

Так что я попросил у Ильи, главного научного сотрудника, список литературы. Это мой путь, мой подход к работе: дайте мне стопку всего, что мне нужно знать, чтобы действительно быть актуальным в этой области. И он дал мне список из 40 научных статей и сказал: "Если ты действительно изучишь всё это, то будешь знать 90% того, что сейчас имеет значение". И я это сделал. Я проработал все эти статьи и всё начало складываться у меня в голове.

 В это время ты всё еще работал в Meta над виртуальной реальностью, верно?

Да, и крупномасштабные стратегические направления в Meta вызывали у меня очень большие вопросы. Я уверен, что ты видел некоторые из заголовков о том, сколько денег они тратят, и я думаю, что большая часть этих денег была потрачена очень плохо. К этому времени заканчивался мой пятилетний выкупной контракт после приобретения Oculus и тогда я решил: "Хорошо, теперь я серьёзнее займусь работой над общим ИИ".

То, чем я занимался раньше – игры, ракеты, виртуальная реальность – всё было нацелено на то, чего еще не было, но я четко понимал направление действий. Это не так с общим ИИ, потому что никто не знает как его сделать. И дело не только в инженерии. Присутствуют все эти дразнящие намёки на то, что произошедшее в последнее десятилетие явилось результатом небольшого набора относительно простых идей. Они не высшая степень чёрного математического колдовства – многие из них  относительно простые техники, которые сейчас, когда я их понимаю, имеют для меня смысл. И кажется, что нам не хватает ещё с полдюжины инсайтов, чтобы получить эквивалент наших биологических агентов.

Три или четыре года назад я сделал оценку, что есть 50% шанс появления чётких признаков жизни у общего ИИ в 2030 году . На тот момент это не обязательно будет означать огромный экономический эффект, просто у нас будет существо, которое работает на компьютерах и большинство людей признаёт его разумным и сознательным, вроде как на том же уровне, что и мы люди. После трёх лет интенсивных исследований мой прогноз не изменился. Фактически я возможно даже немного его повысил до примерно 60% вероятности в 2030 году. А если рассматривать перспективу до 2050 года, то я оцениваю шансы на появление общего ИИ на уровне 95%.

Многие предсказывают, что это приведёт к потрясающим, шокирующим переменам, верно?

Я стараюсь не использовать гиперболические формулировки и грандиозные заявления, потому что я человек конкретики. Даже с ракетостроением я не говорил о колонизации Марса, а говорил о том, какие болты я использую для крепления. Так что я не хочу выступать на TED конференции с длинной речью и говорить о том, какое будущее нас может ожидать при наличии экономически-эффективного общего ИИ.

Пандемия показала, что намного больше чем люди думали, может быть сделано исключительно через взаимодействие с компьютером, где вы можете общаться через такие модальности компьютера как Zoom, электронная почта, чаты, Discord и тому подобное.

На этом сегодня может работать большая часть мировой ценности. И если у вас есть искусственный агент, который ведёт себя как человек – даже в наших сегодняшних узких ИИ, мире дипфейков, чат-ботов и голосового синтеза – ясно, что это области в которых мы можем симулировать человеческие модальности. У нас ещё нет коллеги в виде обучаемого потока сознания ИИ, но у нас есть уже есть пророческий объём знаний, который можно использовать.

Вы встретите людей, которые могут восторженно рассуждать о сингулярности и о том, как всё изменится с появлением общего ИИ. Но что если я просто скажу, что через 10 лет у нас будут "универсальные удалённые сотрудники" которые являются общими ИИ работающими в облаке, и люди смогут просто сказать: "Я сегодня хочу пять Фрэнков десять Эйми, чтобы задеплоить их на эти задачи" и вы сможете это сделать также как вы сейчас можете обратиться к облачным вычислительным ресурсам. Если вы подобным образом сможете получить облачный доступ к искусственным человеческим ресурсам, то это самое прозаическое, малоинтересное, наиболее банальное использование такого рода технологий.

Если то, к чему мы стремимся это создание большего количества человекоподобного капитала, и применение его к тому, что мы уже делаем сегодня, то вы можете сказать: "Я хочу создать фильм или комикс или что-то в этом роде, дайте мне команду, которая мне нужна, чтобы это сделать", а затем запустить это в облаке – вот так я это вижу.

Почему так важно достичь системы, которая сможет выполнять задачи, которые делают люди? Что не так с тем, чтобы люди выполняли свои задачи?

Ну, это можно связать со многими вопросами, такими как "Является ли человеческое население хорошей вещью?" "Является ли иммиграция хорошей вещью, ведь кажется, мы смогли извлечь выгоду благодаря новым членам общества готовым заниматься экономической деятельностью и ориентирующимся на рынок?"

Мир стал гораздо более лучшим местом с 8 миллиардами людей, чем был при 50 миллионах людей, живущих в пещерах и тому подобное. Поэтому я уверен, что общая сумма ценности и прогресса человечества необыкновенно ускорится с принятием в наше сообщество искусственных существ, работающих над различными задачами. Я думаю, что это создаст громадную ценность.