В 2015 Маск убеждал Сэма Альтмана не жалеть никаких денег на найм топовых спецов, чтобы спасти человечество от зловредного супер-ИИ от Google – а сейчас он публично обзывает его «лжецом, жуликом и мошенником». В 2018 Маск «оценивал шансы OpenAI на успех как нулевые» – а теперь он хочет выкупить компанию за $97 млрд. В этом лонгриде мы детально разберемся: как так вышло, что Илон сначала помог запустить самую революционную ИИ-компанию современности, а потом стал главным ее хейтером?

Это гостевая статья от Леонида Хоменко – продуктового аналитика и автора канала «Трагедия общин» про искусственный интеллект и современные технологии. Я в данном случае выступаю как редактор, который изо всех сил пытался сделать этот интереснейший лонгрид чуть более вместимым в разумные рамки объема. =)

За последний год OpenAI неоднократно находилась в гуще захватывающих событий: скандал с неудавшимся увольнением Сэма Альтмана, уход из компании Ильи Суцкевера, а также несколько судебных исков от Илона Маска. Последняя новость – это не только (и не столько) очередное проявление эксцентричности Маска, на самом деле там довольно интересная историческая подоплека! В этой статье мы как раз хотим рассказать вам о том, как создавалась компания OpenAI, и что происходило у нее внутри до прорыва с ChatGPT и прихода всеобщей популярности.

А история там кроется не хуже, чем в фильме «Оппенгеймер»: сюжет создания OpenAI – это практически готовый оскароносный сценарий. Только если ядерные технологии от повседневной жизни находятся далеко, то ChatGPT лично я использую буквально каждый день.

Откуда идут истоки этого текста: судебный иск Илона Маска к OpenAI

Почти ровно 12 месяцев назад, 29 февраля 2024 года, Илон Маск подал в суд на OpenAI и лично на Сэма Альтмана (CEO компании). Вот как на это отреагировала команда OpenAI (выдержка из их официального пресс-релиза, который они выложили на сайте в течение недели после этого иска):

Нам грустно, что до такого дошло с человеком, которым мы глубоко восхищались. Он вдохновил нас целиться выше, а потом сказал, что у нас ничего не получится, основал прямого конкурента и подал на нас в суд, когда мы начали добиваться значимого прогресса в реализации миссии без него.

Greg Brockman, Ilya Sutskever, John Schulman, Sam Altman, Wojciech Zaremba, OpenAI

Прочитав такое, сразу возникает желание задать вопрос: «Илон, ну не *удак ли ты?». И на этот вопрос можно с уверенностью ответить… Ладно, не будем спойлерить – предоставим вам право решать в итоге самостоятельно. Наше дело здесь – это подробно рассказать вам всю историю их непростых взаимоотношений, а также пертурбаций, которые претерпела сама компания с момента основания.

В чем была суть иска Илона Маска (опустим пока подробности, что он уже успел несколько раз ее поменять – отзывая старые иски и переподавая новые)? Он обвинил OpenAI в отходе от изначальной некоммерческой миссии, чрезмерной зависимости от Microsoft, и фокусе на максимизации прибыли.

Маск утверждает, что сделки с Microsoft заставили OpenAI вести себя как монополист: компания заняла 70% рынка генеративного ИИ, душит конкуренцию, запрещая партнерам инвестировать в другие компании, и предлагает сотрудникам нерыночные зарплаты.

Это противоречит изначальной миссии, в которую Маск, как он пишет, искренне верил: первыми создать дружелюбный AGI (универсальный искусственный интеллект, способный соображать не хуже человека) и сделать так, чтобы пользу от него получили все в мире, а не только избранные. Маск был не просто сооснователем, а источником финансов и основным драйвером амбиций, которые в итоге помогли компании построить самый быстрорастущий продукт в истории.

В ноябре 2024 года в рамках судебного разбирательства был опубликован архив переписки сооснователей OpenAI с момента незадолго до создания компании в 2015 и до 2019 года, когда их пути окончательно разошлись. Переписка довольно фрагментарная – с большими пробелами во времени и отсутствием того, что обсуждалось лично или через другие каналы.

Чтобы сделать историю более цельной, мы добавим контекст из других источников и постараемся пересказать именно самое интересное. Цитаты местами будут переводиться не дословно – поэтому тем, кто прямо хочет погрузиться в эту историю по-хардкору, советуем ознакомиться и с оригиналами (там много интересного). Ну и смело пишите, если увидите, что в переводе писем где-то сильно накосячено.

Основная цель этого лонгрида – показать, что у каждого участника этой истории есть своя правда.

Часть 1. Предыстория появления OpenAI на свет

Цепочка опубликованных писем начинается с, казалось бы, довольно странного питча Сэма Альтмана:

Я много размышлял и думаю, что человечество невозможно остановить от разработки ИИ. Так что, если это всё равно произойдет, то было бы неплохо, чтобы кто-то другой, а не Google, сделал это первым.

Как думаешь, было бы хорошей идеей запустить что-то вроде «Манхэттенского проекта» для ИИ? Мне кажется, мы могли бы привлечь немало топовых специалистов в индустрии. Можно было бы структурировать проект так, чтобы технология принадлежала всему миру (через некоммерческую структуру), но при этом разработчики получали бы конкурентные зарплаты на уровне стартапов.

Sam Altman to Elon Musk - May 25, 2015 9:10 PM

Почему Сэм с ходу пишет Илону Маску про Google, и зачем их вообще останавливать? Спокойно, ща мы всё объясним!

2014: DeepMind и его последующая покупка Гуглом

Илон Маск всегда был известен своим интересом к экзистенциальным рискам. Например, миссия SpaceX в том и заключается, чтобы спасти нашу цивилизацию от возможного вымирания на Земле. Ведь жить на двух планетах лучше (ну, по крайней мере, безопаснее), чем на одной.

В 2012 году Маск встретился с Демисом Хассабисом из компании DeepMind и заинтересовался темой искусственного интеллекта. Хассабис в разговоре набросил, что ИИ – это один из серьезнейших рисков. Колонизация Марса будет иметь смысл, только если сверхразумные машины не последуют за людьми и не уничтожат их и там. Маск идеей проникся и вложил $5 млн в DeepMind, чтобы быть ближе к фронтиру отрасли.

Вскоре стало ясно, что крупные компании активно переманивают самых талантливых исследователей из сферы глубокого обучения (Deep Learning). Например, Джеффри Хинтон изначально хотел пойти в Baidu за $12 млн, но устроил аукцион, на котором Google выкупил его за $44 млн.

Несмотря на это «искушение большим баблом», Демис Хассабис хотел, чтобы компания DeepMind оставалась независимой – именно для того, чтобы гарантировать, что ее AI-технологии не превратятся в итоге в нечто опасное. Но когда Ларри Пейдж (сооснователь Google) увидел, как DeepMind научили нейросеть играть в Atari, он тоже резко захотел «вписаться в перспективную тему».

В 2014 году Google предложил $650 млн за покупку DeepMind. И Демис всё же согласился, но настоял на двух условиях: никакого оружия и военного применения для технологии; и она должна контролироваться независимым советом по этике. (Спойлер: в феврале 2025 года Гугл в итоге отказался от обещания не использовать ИИ для создания оружия – не зря, выходит, Хассабис на эту тему переживал!)

2015: Маск ссорится с «гугловскими» из-за рисков ИИ

Тут надо сделать оговорку, что Илон Маск и Ларри Пейдж к этому моменту дружили уже больше 10 лет. Но, как говорит сам Маск, именно резкие различия в их взглядах на безопасность ИИ стали в итоге причиной того, что они прекратили общаться.

Пиком стал их публичный спор на дне рождения Маска в июне 2015. Пейдж верил, что развитие технологий приведет к слиянию людей и машин (и что это хорошо). Дескать, разные формы интеллекта будут бороться за ресурсы, и в итоге победит сильнейший, и будет дальше жить-поживать. А вот Маску идея о том, что человечество может не войти в эту категорию «сильнейших», казалась не очень веселой.

Я часто разговаривал с ним допоздна о безопасности ИИ, Ларри недостаточно серьезно относился к этой проблеме. Его позиция была интересной: он стремился к созданию цифрового сверхинтеллекта – можно сказать, цифрового божества. Когда я однажды поднял вопрос о том, как мы собираемся обеспечить безопасность человечества, он обвинил меня в «видовом расизме» (Speciesism): по сути, в том, что я зря отдаю предпочтение людям в потенциальном конфликте с цифровыми формами жизни будущего.

Илон Маск в интервью Такеру Карлсону, апрель 2023

Ну и, видимо, на этом дружба закончилась. Повздорили из-за роботов (да еще и, пока что, воображаемых)! Напомню, что это не какая-то научная фантастика, а вполне реальные люди – причем, руководящие крупнейшими мировыми корпорациями. Можете еще послушать вот этот короткий отрывок из интервью Маска Лексу Фридману, где он описывает свои идеологические разногласия с Ларри Пейджем:

В общем, у Илона Маска уже тогда были поводы, скажем так, не сильно доверять намерениям Гугла в отношении ИИ. Так что, после продажи DeepMind этому же самому Гуглу, Демису Хассабису не составило большого труда уговорить Маска присоединиться к специальному совету по этике – который должен был следить за тем, чтобы технология не была использована во зло. Первое заседание совета прошло в августе 2015-го и… чуда не произошло.

Ларри Пейдж вместе с Сергеем Брином и Эриком Шмидтом заявили, что все эти ваши опасения по поводу AI преувеличены. В итоге Маск посчитал такой совет фикцией, и на этом его участие в DeepMind благополучно закончилось. Ну а Google просто распустил этот этический совет, заменив его корпоративными гайдлайнами – что только усилило беспокойство Хассабиса. В 2017 году он с другими основателями даже попытался отделиться, но Гугл просто повысил им зарплаты + накинул опционов, и ребята остались. Как говорится, «баблу даже не нужно побеждать зло, если они играют за одну команду!»

2015: Создание OpenAI

А теперь давайте еще раз посмотрим на таймлайн происходящего по датам:

• Январь 2014 – Google покупает DeepMind

• Май 2015 – первое письмо Альтмана Маску с питчем «Манхэттенского AI-проекта»

• Июнь 2015 – Маск посрался с Ларри Пейджем на ДР

• Июль 2015 – Сэм, Илон и Грег Брокман «завербовали» в команду Илью Суцкевера

• Август 2015 – провальное заседание комитета по этике DeepMind

• Ноябрь 2015 – официальное создание компании OpenAI

В таком контексте, питч из первого письма Сэма Альтмана про «злой Гугл уже вот-вот создаст злой AI!» выглядит идеально. Он отправлен ровно в тот момент, когда у Илона уже зрело недовольство происходящим и желание что-то сделать с этим, но еще не было конкретного плана.

А Сэм как раз предлагает такой план: так как остановить Google невозможно, нужно его просто опередить! Если cобрать небольшую группу самых талантливых людей в отрасли, то можно первыми сделать сильный ИИ – и, при этом, поставить приоритет на использовании этой мега-технологии во благо всего мира.

Неудивительно, что миссия OpenAI (некоммерческой организации), сформулированная в декабре 2015, сейчас – 10 лет спустя – звучит крайне идеалистично:

OpenAI – это некоммерческая исследовательская компания. Наша главная цель – создать искусственный интеллект и сделать так, чтобы он принес максимальную пользу всему человечеству. Мы не обременены необходимостью получать прибыль, что дает нам уникальную свободу.

Мы можем полностью сосредоточиться на создании ИИ, который будет доступен для всех. Мы верим в демократизацию технологий и выступаем против концентрации такой мощной силы в руках избранных.

Наш путь непрост. Зарплаты у нас ниже, чем предлагают другие компании, а результат всего предприятия пока неясен. Но мы убеждены, что выбрали правильную цель и создали правильную структуру. Надеемся, что именно это привлечет к нам лучших специалистов в области.

Вообще, есть мнение, что OpenAI просто не смогли бы успешно запуститься без поддержки Маска. А он ее оказал именно из опасений, что Ларри Пейдж направит огромные ресурсы Google на создание сверхсильного искусственного интеллекта, не заботясь о его безопасности (тут будет уместно напомнить, что этой важной теме посвящен другой наш масштабный лонгрид).

Часть 2. С чем боролась свежевылупившаяся OpenAI: найм кадров и закуп железа

Почему роль Маска во всём этом была такой важной? Ответ простой: бабло! В ноябре 2015 Грег и Сэм обсуждали, сколько нужно денег, чтобы у OpenAI появился шанс тягаться «с большими парнями». Они планировали поднять $100 млн на грантах и донатах (плюс-минус на такую сумму у Альтмана в итоге и получилось выйти, включая, судя по всему, грант на $30 млн от Open Philanthropy).

Но Илон убедил их целиться в сумму в 10 раз больше, чтобы не выглядеть безнадежно отстающими по сравнению с конскими расходами Google и Facebook. Причем Маск, который к этому моменту уже успел закинуть в общую кубышку $45 млн «из своих» (поверх собранного Сэмом), пообещал добить недостающую сумму после сборов от других инвесторов до миллиарда долларов самолично.

И практически сразу стало понятно, почему он был прав. Об этом – как раз в этой части.

Фокус на найме: большие деньги для больших талантов

Главной стратегией OpenAI с самого начала было собрать небольшую, но сильную команду мотивированных специалистов, чтобы догнать Google. А чтобы привлекать лучших из лучших – нужна и компенсация соответствующая! И пока обсуждались зарплаты и плюшки, Сэм Альтман пришел с новостью, что DeepMind планирует перекупить всю команду OpenAI крупными контр-офферами. Они явно стремились устранить конкурента на ранней стадии, буквально загоняя людей в угол на проходящей в декабре 2015-го конфе NIPS.

Маск отреагировал на это однозначно:

Давайте повышать з/п. Выбор прост: либо мы привлекаем лучших в мире специалистов, либо DeepMind оставит нас позади. Я поддержу любые меры для найма топовых людей.

Elon Musk to Greg Brockman, (cc: Sam Altman) - Feb 22, 2016 12:09 AM

Из писем видно, как сложно было ребятам – они ворвались отстающими на рынок, где бигтех уже вел настоящую охоту за топовыми ресерчерами. Но на стороне OpenAI было, так сказать, «моральное превосходство»: ведь они как бы противостояли огромным бездушным корпорациям, пытаясь создать сильный ИИ на благо всего человечества. Вот здесь Маск дает понять Илье Суцкеверу (ключевому «мозгу» команды), что если они все вместе не поднапрягутся и не выдадут результат – то завалить Гугл будет просто нереально:

Вероятность того, что DeepMind создаст настоящий искусственный разум, растет с каждым годом. Через 2–3 года она, скорее всего, не превысит 50%, но, вероятно, преодолеет 10%. С учетом их ресурсов, это не кажется мне безумным.

В любом случае, лучше переоценивать, чем недооценивать конкурентов.

Нам важно добиться значимого результата в следующие 6–9 месяцев, чтобы показать, что мы действительно способны на многое. Это не обязательно должен быть прорыв мирового уровня, но достаточно значимый успех, чтобы ключевые таланты по всему миру обратили на нас внимание.

Elon Musk to Ilya Sutskever, (cc: Greg Brockman, Sam Altman) - Feb 19, 2016 12:05 AM

Open Source как препятствие к конкуренции с тех-гигантами

В этой же парадигме «борьбы со злым Гуглом», кстати, логично рассматривать и изменение отношения OpenAI к концепции открытого кода – которая, казалось бы, намертво закреплена в самом названии этой некоммерческой организации. А вот, поди ж ты: уже начиная с модели GPT-3 (2020 год), OpenAI перестали выкладывать свои наработки в опенсорс. Так вот, на самом деле, предпосылки к этому обсуждались внутри команды задолго до этого момента.

По мере того, как мы приближаемся к созданию ИИ, имеет смысл начинать быть менее открытыми. «Open» в OpenAI означает, что все должны пользоваться плодами ИИ после его создания, но совершенно нормально не делиться результатами исследований, хотя это определенно правильная стратегия в краткосрочной перспективе для целей рекрутинга.

Ilya Sutskever to: Elon Musk, Sam Altman, Greg Brockman - Jan 2, 2016 9:06 AM

На письмо выше Илон Маск ответил пять минут спустя коротко, но однозначно: «Ага». Это уже потом, восемь лет спустя, у него случились массовые подгорания в Твиттере из-за «слишком закрытой» политики OpenAI; а вот в 2016-м Маск почему-то был совсем не против такой стратегии – не делиться самыми прорывными результатами исследований, чтобы их в итоге не скопировали «нехорошие люди».

Смена парадигмы: не только люди, но и железки

Как видим из дискуссии в предыдущей паре разделов, в 2016 году команда OpenAI в основном ломала голову на тему «как бы нам привлечь на свою сторону самых няш-умняш индустрии» – и на это денег еще плюс-минус, как будто бы, хватало.

Но год спустя ситуация внезапно и резко поменялась: в марте 2017-го ребята осознали, что создание AGI потребует огромных вычислительных ресурсов. Ведь объем компьюта, используемого другими бигтех-компаниями для прорывных результатов, увеличивался по траектории «примерно в 10 раз каждый год». А это уже миллиарды долларов в год, которые просто так собрать некоммерческому проекту, казалось, попросту невозможно. OpenAI отчаянно нуждалась в новом плане!

В чем тут дело, нам поможет объяснить Илья Суцкевер. Судя по разным интервью, Илья был именно тем человеком, кто одним из первых поверил в Scaling – мощное масштабирование способностей ИИ чисто за счет наращивания вычислительных мощностей – еще до того, как это полностью подтвердилось на практике:

Мы обычно считаем, что проблемы сложны, если умные люди долго не могут их решить. Однако последние пять лет показали, что самые ранние и простые идеи об искусственном интеллекте – нейронные сети – были верны с самого начала. А чтобы они заработали, нам просто не хватало современного железа.

Если наши компьютеры слишком медленные, никакая гениальность ученых не поможет достичь AGI. Достаточно быстрые компьютеры – необходимый элемент, и все прошлые неудачи были вызваны тем, что оборудование оказалось недостаточно мощным для AGI.

Ilya Sutskever to: Elon Musk, Greg Brockman - Jul 12, 2017 1:36 PM

Отдельно Илья поясняет важное технологическое изменение, которое довольно сильно поменяло «правила игры» для разработчиков ИИ. До этого супердорогие суперкомпьютеры условного Гугла не столько ускоряли самые масштабные эксперименты по обучению нейросеток, сколько позволяли проводить много разных тестов поменьше. А это для ресерчеров не так важно, как скорость проведения больших экспериментов: для прогресса нужно как можно быстрее получить данные предыдущего «фронтирного» эксперимента, чтобы задизайнить и провести следующий, и так далее…

Раньше большой вычислительный кластер мог помочь тебе делать больше разных экспериментов, но он не позволял выполнить один большой эксперимент более быстро. По этой причине, небольшая независимая лаборатория могла конкурировать с Google – ведь его единственным конкурентным преимуществом была возможность одновременного проведения множества мелких экспериментов (это так себе преимущество).

Но сейчас стало возможным комбинировать сотни GPU (графических вычислительных чипов) и CPU (центральных процессоров), чтобы запускать эксперименты в 100 раз масштабнее за то же время. В результате, для сохранения конкурентоспособности любой AI-лаборатории теперь необходим минимальный вычислительный кластер в 10–100 раз больше, чем раньше.

Ilya Sutskever to: Greg Brockman, [redacted], Elon Musk - Jun 12, 2017 10:39 PM

Эпоха параллельных вычислений: больше, быстрее, ДОРОЖЕ

Ну, то есть, вы поняли? Одними топовыми ML-спецами теперь сыт не будешь – пришла эра параллельных вычислений, теперь надо еще расчехлять свинью-копилку для закупки графических чипов в промышленных масштабах! Кстати, именно эта смена технологического тренда в 2016–2017 и стала ранним звоночком-предзнаменованием к тому, что в 2024-м Nvidia станет крупнейшей и успешнейшей компанией в мире.

Позволим себе супер-краткий экскурс в историю о том, как графические чипы буквально всего лишь за пять лет стремительным домкратом ворвались в мир машинного обучения и обеспечили себе там доминирующее положение:

• До 2012: Использование GPU вместо CPU при тренировке нейросетей было редкостью.

• 2012–2014: Большинство результатов достигалось на 1–8 GPU мощностью 1–2 терафлопс.

• 2014–2016: Крупные тренировочные запуски на 10–100 GPU мощностью 5–10 терафлопс. Однако, видеокарты всё еще неэффективно взаимодействовали друг с другом.

• 2016–2017: Появились новые чипы (TPU) и много разных подходов, улучшающих параллелизацию вычислений – вот тут-то и наступил расцвет «видеокарточного машинлёрнинга»!

Каждые несколько лет GPU становятся мощнее. Чем лучше видеокарты, тем больше операций в секунду можно выполнять за ту же цену. Рост мощности компьюта в 10 раз в год происходит потому, что ресерчеры постоянно находят способы использовать больше чипов параллельно. И это открывает возможность практически безлимитно заваливать любую проблему деньгами. Илья Суцкевер пишет про это:

Главное – это размер и скорость наших экспериментов. Раньше даже крупный кластер не сильно ускорял проведение большого эксперимента. Но теперь можно проводить их в 100 раз быстрее.

Если у нас будет достаточно оборудования, чтобы проводить эксперименты за 7–10 дней, то история показывает, что всё остальное приложится. Это как в фундаментальной физике: ученые быстро выяснят как устроена Вселенная, если у них будет достаточно большой коллайдер.

Есть основания считать, что оборудование для глубокого обучения будет ускоряться в 10 раз ежегодно на протяжении ближайших 4–5 лет. Это ускорение произойдет не из-за уменьшения размеров транзисторов или увеличения тактовой частоты; оно произойдет потому, что, как и мозг, нейронные сети обладают внутренним параллелизмом, и уже создается новое высокопараллельное оборудование, чтобы использовать этот потенциал.

Ilya Sutskever to: Elon Musk, Greg Brockman - Jul 12, 2017 1:36 PM

В общем, в переводе с нёрдовского языка на бизнесовый, письмо выше на самом деле пытается сказать «ДАЙТЕ НАМ БОЛЬШЕ ДЕНЯК НА ЧИПЫ!». Оглядываясь назад, Илья примерно в два раза переоценил масштаб происходящих процессов, но всё равно хорошо предсказал сам тренд.

2017: Не железом единым, или алгоритмический сюрприз от Google

Ровно месяцем ранее от последнего процитированного выше письма Суцкевера, 12 июня 2017 года, Google выпустили культовую 15-страничную научную статью Attention is All You Need, которая произвела настоящую революцию в мире глубокого обучения. Именно там была впервые представлена архитектура трансформеров!

Помните, как раньше Сири или Google-ассистент не могли поддерживать длительные разговоры, так как быстро теряли контекст? Главная тому причина – ограничение разных архитектур того времени: модель могла быть либо умной, либо обладать хорошей памятью (упрощаю, но суть примерно такая):

• Свёрточные сети хорошо масштабируются, но теряют общую картину в длинных цепочках;

• Рекуррентные сети лучше обрабатывают длинные цепочки, но плохо масштабируются.

Разные модели лучше подходили для разных задач: например, для перевода текста важны длинные цепочки, а для генерации изображений – внимание к локальным деталям, которое лучше у крупных моделей. Так вот, трансформеры убрали эту проблему в принципе, сохранив лучшее от обеих архитектур. Они умеют и видеть общую картину, и при этом отлично масштабируются!

Именно появление архитектуры трансформера, по сути, открыло эпоху больших языковых моделей (LLM), и привело в итоге к появлению того самого ChatGPT, который прогремел на весь мир в 2022-м. (Про историю создания и про принципы работы ChatGPT у нас, кстати, есть отдельная большая статья.)

Получается, в середине 2017 года два фактора идеально наложились друг на друга. Во-первых, новые GPU-чипы позволили мощно наращивать объем компьюта, который можно использовать при тренировке огромных моделей. А во-вторых, новаторская архитектура трансформера, собственно, позволила эти самые гигантские модели успешно обучать – чтобы при этом у них не разбегалось в разные стороны внимание, и они могли «держать в голове» необходимый контекст.

В общем, ситуация вышла такая: Железо нужное на рынке есть. Алгоритмы нужные придумали. Чего не хватает? Огромной кучи денег, чтобы всё это закупить и запустить! Вот об этом мы сейчас и поговорим…

Часть 3. Попытка реорганизации OpenAI и разрыв с Маском

В июне 2017-го Илья Суцкевер уже понимал, что текущего объема железа у OpenAI откровенно не хватает, и поделился своими опасениями с Илоном Маском. Тот ответил коротко: «Окей. Давайте попробуем придумать наименее затратный способ обеспечить, чтобы объем компьюта не был для нас ограничивающим фактором». Илья подумал месяц, и вернулся с новым планом:

Чтобы хотя бы в теории остаться актуальными, нам необходимо:

1. Увеличить количество GPU в нашем кластере в 10 раз за 1–2 месяца, с 600 GPU до 5000. Максимальная стоимость этого шага составит $12 млн плюс $5–6 млн на операционные расходы на следующий год. Каждый год нам нужно экспоненциально увеличивать затраты на оборудование. Но есть основания полагать, что для AGI может потребоваться менее $10 млрд.

2. Увеличить количество сотрудников: с 55 (июль 2017) до 80 (январь 2018), 120 (январь 2019) и 200 (январь 2020). Мы справляемся с организацией текущей команды, поэтому теперь ограничены числом умных людей, способных тестировать идеи.

3. Закрепить значительное преимущество в оборудовании. Дизайн новых чипов от Cerebras значительно опережает конкурентов. Если они реально работают, эксклюзивный доступ даст нам сильное преимущество. У нас есть идея, как это реализовать.

Всё это потребует значительных финансовых ресурсов. Если мы обеспечим финансирование, у нас будет реальный шанс задать начальные условия для появления AGI. Увеличение финансирования будет идти рука об руку с увеличением масштаба результатов.

Ilya Sutskever to: Elon Musk, Greg Brockman - Jul 12, 2017 1:36 PM

То есть, у OpenAI на руках всего 600 видеокарт, а у Google их 100'000! Теперь понятно, почему в предыдущей переписке так часто упоминается разница в объеме доступных ресурсов.

В общем, план Суцкевер набросал классный; но только вот денег на его реализацию нужно было намного больше, чем Сэм и Илон считали возможным привлечь в рамках некоммерческой организации. Поэтому пришлось придумать новую структуру, с которой можно быстро привлекать деньги, и при этом сохранять верность своей «гуманистической» миссии.

Июль 2017: Обсуждение вариантов реорганизации, первый подход к снаряду

В середине 2017-го Маск и команда OpenAI пришли к общему выводу, что придется хотя бы частично переходить к коммерческой модели. В компании появится отдельная часть с понятной для инвесторов целью – зарабатывать бабки. AI-ресерч остается как есть, а деньги на него будут идти от нового коммерческого направления.

Интереснее всего выглядел вариант с поглощением стартапа Cerebras (он был запущен тоже в 2015 году), потому что у них уже были крутые наработки по железу, а у Сэма и Илона имелась возможность быстро собрать инвестиции под их развитие.

В течение двух следующих месяцев они активно обсуждали переход к новой структуре. У команды было много вопросов к Илону (что понятно и ожидаемо, с учетом отсутствия у них опыта в подобных делах), однако тот занял неожиданно жесткую переговорную позицию. Илон любит писать прямолинейно, решительно и хлестко. Но до этого момента мы ни разу не видели в переписке, чтобы его жесткость и раздражение были направлено непосредственно в адрес OpenAI.

В середине процесса Шивон Зилис (она помогала с переговорами как посредник) пообщалась с ребятами и скинула Илону краткую выжимку с довольно логичными и адекватными вопросами.

И вот что Илон Маск ответил на письмо с перечнем из семи довольно разумных вопросов со стороны команды OpenAI:

Это невероятно раздражает. Пожалуйста, убеди их уже заняться созданием компании. Больше не могу это терпеть.

Elon Musk to Shivon Zilis, (cc: Sam Teller) - Aug 28, 2017 12:08 AM

На что он так взбесился – если честно, не очень понятно. Ведь он предложил весьма суровые условия: Маск хотел получить в компании контрольную долю в 50–60% + должность СЕО. Шивон даже написала, что такие условия обычно не характерны для других его сделок. С другой стороны, OpenAI тоже хотели немало. Вот самые интересные вопросы от Грега Брокмана и Ильи Суцкевера из письма Шивон:

• Если Илон хочет быть CEO, сколько времени он готов выделять на компанию? Нам нужно минимум 5–10 часов в неделю. Это важно, чтобы он успевал погружаться в контекст. Если он не готов к такому, мы предлагаем уменьшить объем контроля.

• Он хочет получить абсолютный контроль? Хорошо бы оставить какой то противовес, на случай если вся компания будет не согласна с выбранным им направлением.

• Нам сходу нужно от $200 млн до $1 млрд, чтобы начать собирать датацентр и нанять больше людей.

Shivon Zilis to Elon Musk, (cc: Sam Teller) - Aug 28, 2017 12:01 AM

Ребята переживают, что у Илона уже и так много нагрузки (и это он еще тогда в Diablo задротить не начинал!). И если он хочет быть СЕО и OpenAI тоже – то где он найдет время, чтобы успевать погружаться в контекст? Разумный же вопрос, не? Мне сложно сказать, что произошло, но Илон на него в письме не ответил. Есть несколько разнонаправленных догадок:

1. Ребята просто зае… в общем, достали его своими вопросами. Из-за неопытности, ответы для них неочевидны, а Илону не хочется тратить свое ценное время на разъяснения. Особенно, когда из-за всей этой возни простаивают более приоритетные задачи. Им срочно нужно закупать видеокарты и думать, как догнать лидеров – а они лезут не в свою зону ответственности!

2. Либо, Илону на самом деле было важно любым способом продавить свои условия, чтобы оставить бэкдор к управлению компанией. Чтобы не произошло как с покупкой DeepMind, когда его в итоге технично отодвинули в сторону. В этой трактовке, его раздражение – это такая изящная манипуляция: вместо конструктивного ответа он пишет, что недоволен => ребята успокаивают его тем, что забивают на свои вопросы и соглашаются на любые условия.

Возможно даже, что оба этих варианта имели место одновременно. Но как станет ясно дальше, даже они вместе полностью не описывали ситуацию.

Сентябрь 2017: Финальное предложение и провал сделки

Через пару недель Илон Маск описывает свое итоговое предложение по организации управления будущей компанией: он хочет изначально иметь возможность назначить 4 места в совете директоров из 7 (то есть, иметь абсолютное большинство и полный контроль), а оставшиеся 3 места должны достаться Альтману, Суцкеверу и Брокману. Но со временем (когда «придет время решать судьбу мира», лол, так и написал) Маск обещает расширить совет директоров до 16 мест, так что у него останутся минимально комфортные для него 25% контроля.

В целом, это предложение не выглядит неадекватно – учитывая, сколько денег просят OpenAI. Илон на время забирает контроль и планирует привлечь в компанию важных союзников. Напомним тут заодно, что за первые полтора года работы к этому времени у OpenAI было всего одно крупное достижение – они обыграли (ну как, их нейросетка обыграла, конечно) в Доту 2 топового игрока Денди.

Но Илья Суцкевер и Грег Брокман, судя по всему, продолжают немножко «очковать», и неделей спустя они отправляют в адрес сразу и Маска, и Альтмана огромное письмо с темой «честные размышления» (Honest Thoughts). Процитирую несколько фрагментов оттуда:

Ни я, ни Грег никогда раньше не участвовали в переговорах с настолько высокими ставками. А если OpenAI в будущем придет к успеху, то и вообще никто в мире. К тому же для нас всех эти обсуждения были крайне личными.

Вчера мы хотели принять окончательное решение, но поняли, что допустили ошибку. У нас есть несколько важных вопросов, которые мы так с вами и не обсудили. Мы не подняли их, потому что боялись: боялись навредить отношениям, боялись, что вы начнете меньше нас уважать, или боялись потерять вас как партнеров.

Есть шанс, что наши опасения неразрешимы. Мы надеемся, что это не так, но понимаем, что точно потерпим неудачу, если не обсудим их прямо сейчас. Мы верим, что сможем разобраться с ними и продолжить работать вместе.

Ilya Sutskever to Elon Musk, Sam Altman, (cc: Greg Brockman, Sam Teller, Shivon Zilis) - Sep 20, 2017 2:08 PM

То есть, дескать, они в течение всех предыдущих переговоров побоялись высказать всё, что хотели на самом деле. И тут, уже на финальном этапе перед тем, как «ударить по рукам», решили всё исправить и излить душу своим бизнес-партнерам!

Дальше Грег и Илья в формате «поток мыслей» адресуют свои опасения адресатам письма, перескажу здесь краткий TLDR:

• Илону Маску: Очень хотим работать с тобой, ты крутой! Но чёт ты раньше говорил, что не стремишься за контролем над будущим AGI, а тут вдруг выяснилось, что тебе критично стать CEO компании + получить абсолютный контроль над ней. Короче, хотели бороться с AGI-диктатурой Гугла, а тут, похоже, дело идет к диктатуре Маска??

• Сэму Альтману: Ты красавчик, целуем в десны, именно благодаря тебе и Илону у нас вообще получилось запустить OpenAI. Мы нёрды по технической части, ты мастер бизнес-переговоров – дополняем друг друга, короче! Но в процессе этих переговоров, мы что-то тебе тоже перестали доверять – глядя, как ты за кресло CEO цепляешься изо всех сил (да еще и всё время меняешь обоснование, зачем тебе это нужно).

• Грегу и Илье (да, серьезно, они сами к себе там тоже обращаются): Ну мы тут тоже дров наломали в процессе, конечно. Перед нами помахали большими бабками на горизонте ближайших 2–3-х лет, ну мы и повелись! Забыли про нашу Великую Моральную Миссию, а сейчас вспомнили.

Заканчивается письмо трогательным призывом «давайте сегодня вчетвером встретимся, обнимемся все, и решим наши разногласия!». На это Илон Маск спустя 10 минут отреагировал молниеносно:

Чуваки, с меня хватит. Это последняя капля. Либо вы увольняетесь и идете своей дорогой, либо остаетесь с OpenAI как некоммерческой организацией. Я больше не буду давать компании деньги, пока вы четко не подтвердите свою готовность остаться. Иначе я просто долб**б, бесплатно финансирующий ваш стартап. Конец дискуссии.

Elon Musk to Ilya Sutskever (cc: Sam Altman; Greg Brockman; Sam Teller; Shivon Zilis) - Sep 20, 2017 2:17PM

Окей, ладно, Маск там не матерится, конечно (он использует слово «fool»). И дальше он еще одним письмом вдогонку поясняет: «На всякий случай: это не ультиматум, чтобы вы приняли предложение, которое мы обсуждали ранее. То предложение больше не актуально.»

Ну и всё – получается, долгожданная реорганизация в коммерческую структуру, которая должна была позволить OpenAI сделать мощный рывок в гонке по разработке AGI, официально развалилась.

Почему реорганизация провалилась?

По итогам всей этой истории и Илон, и Сэм сильно разочаровались в «зрелости» Грега и Ильи, и в их готовности заниматься «большими акульскими делами». Думаю, с точки зрения их подхода к переговорам и количества бестолковых метаний туда-сюда – тут можно понять эмоции и Маска, и Альтмана.

Но с другой стороны – если честно, все высказанные Ильей и Грегом опасения совершенно валидны. Глядя на текущее поведение Илона Маска, а также вспоминая скандал с вотумом недоверия Сэму Альтману со стороны совета директоров OpenAI в 2023 году – тут трудно отрицать, что есть определенные звоночки в пользу того, что они оба являются весьма манипулятивными и жадными до власти людьми с мощными эго.

И не факт, что контроль над будущим сверхинтеллектом стоило бы отдавать в руки именно таких личностей. Неудивительно, что такие идеалисты с «высокими взглядами», как Брокман и Суцкевер, нутром чуяли тут какой-то подвох. Другое дело, что эти идеалисты-обитатели башни из слоновой кости чуть похуже приспособлены к реальной жизни – так что, по итогу они эту битву скорее «проиграли».

Итак, в итоге команда OpenAI согласилась остаться нон-профитом и попробовать выжить. Но фундаментальная проблема при этом никуда не делась: некоммерческой организации деньги привлекать сложно, а они очень нужны (Грег и Илья считали, что со значительными усилиями можно привлечь через пожертвования миллионов сто баксов – но этого было явно мало).

2018: Поиск других вариантов поднять денег

Дальше переписка возобновилась только в январе 2018 года, когда Сэм попросил у Илона совет по поводу ICO.

ICO – это как размещение акций на бирже через IPO, только в крипте и практически с полным отсутствием регулирования со стороны государства. В это время как раз был пик популярности этих самых ICO, и некоторые компании привлекали таким образом суммы в $100 млн и выше. Сэм Альтман рассматривал выпуск криптотокенов как потенциальный план финансирования, но не был уверен по поводу возможных непредвиденных последствий в будущем.

Маску идея не понравилась:

OpenAI движется к неминуемому провалу. Необходимы немедленные и радикальные действия, иначе все, кроме Google, окажутся в положении полной нерелевантности.

На мой взгляд, ICO приведет к потере доверия к OpenAI и к тем, кто с ним связан. Единственный путь, который я вижу: значительное расширение OpenAI и серьезное развитие Tesla AI. Это потребует привлечения в совет директоров авторитетных людей, которые смогут найти деньги.

Хочу прояснить: я уважаю ваши способности и достижения, но я недоволен тем, как вы управляете компанией. Поэтому мне было сложно взаимодействовать с вами в последние месяцы.

Либо мы исправим ситуацию и мое вовлечение значительно возрастет. Либо не исправим, и я сведу свое участие практически к нулю и публично отстранюсь от OpenAI. Мне не нравится, когда внешнее восприятие моего влияния и затраченного времени не соответствует реальности.

Elon Musk to Greg Brockman, Ilya Sutskever, Sam Altman, (cc: Sam Teller, Shivon Zilis, fw: Andrej Karpathy) - Jan 31, 2018 2:02 PM

В итоге от идей по выходу на ICO и поднятию криптобабла они отказываются. Параллельно с этим, в общую переписку добавляется еще и общение Илона Маска с Андреем Карпатым. Кто не в курсе: это настоящая легенда ML-индустрии с самыми крутыми обучалками по дип-лёрнингу, которые взрастили целое поколение дата сатанистов.

Так вот, Карпатый в переписке откровенно топит за то, что весь OpenAI целиком нужно просто присоединить к Илоновской Тесле, иначе всё будет зря:

OpenAI прожигает деньги. Их структура неспособна масштабировать компанию, чтобы всерьез конкурировать с Google. А без серьезной конкуренции ты фактически бесплатно помогаешь им, потому что любые достижения легко скопировать и внедрить уже на масштабе.

Самый многообещающий вариант – это присоединение к Tesla. У нас уже есть продукт, который значительно выиграет от технологий OpenAI. С работающим решением для полностью автономного вождения, через 2–3 года мы сможем продавать много автомобилей и грузовиков. Транспортная отрасль достаточно велика, чтобы мы могли увеличить капитализацию Tesla и использовать доп. выручку для финансирования создания AI в нужном масштабе.

Andrej Karpathy to Elon Musk - Jan 31, 2018 11:54 PM

Маск просто форварднул это письмо Андрея Карпатого команде OpenAI и добавил:

Андрей полностью прав. Мы бы хотели, чтобы было иначе, но, на наш взгляд, Tesla –единственный путь, который хотя бы теоретически может конкурировать с Google. Даже в этом случае вероятность стать достойным противовесом Google невелика. Но хотя бы она не равна нулю.

Elon Musk to Ilya Sutskever, Greg Brockman - Feb 1, 2018 3:52 AM

При условии согласия официально влиться в Теслу, Маск пообещал бюджет в $1 млрд сразу при подписании, который затем рос бы экспоненциально. Однако, команда OpenAI не хотела работать на Tesla (читай: на Илона Маска). Они по-прежнему верили в привлечение денег через персональный подход.

Короче, как вы знаете, договориться им в итоге не удалось. И Илон Маск официально покинул OpenAI в конце февраля 2018 года.

Развязка и выводы

В марте 2019 OpenAI наконец перешли к новой квази-коммерческой структуре, но уже без Илона Маска. Новая структура предполагала создание дочерней for-profit компании, которая как бы принадлежит «головной» некоммерческой OpenAI – но при этом может обещать долю в своих прибылях сторонним инвесторам (а также доступ к соответствующим технологиям).

Первый раунд они привлекли от Винода Хосла и Рида Хоффмана; а вот Маск от доли (и вообще от участия во всём этом) отказался. К этому моменту ребята уже обучили GPT-2 – и им было что показать потенциальным инвесторам для крупного раунда, который решит основные проблемы с финансированием.

Дальше было еще много чего интересного – но это уже выходит за рамки нашей статьи про раннюю историю OpenAI и ее взаимоотношений с Маском:

• Июнь 2020 – релиз GPT-3

• Июль 2020 – Microsoft инвестирует в OpenAI $1 млрд

• Декабрь 2020 – из OpenAI увольняются Дарио и Даниэлла Амодей, Пол Кристиано, и еще ряд видных сотрудников

• Начало 2021 – основан Anthropic (на 90% из тех, кто перешел туда из OpenAI)

• Ноябрь 2022 – релиз разговорного ChatGPT на основе GPT-3.5

• Март 2023 – Илон Маск запускает свою ИИ-компанию xAI

• Март 2023 – релиз GPT-4

• Ноябрь 2023 – скандал с отставкой и возвращением Сэма Альтмана

• Середина 2024 – из компании ушли Илья Суцкевер, Ян Лейке, Мира Мурати и Джон Шульман

• Февраль 2025 – OpenAI ведет переговоры о том, чтобы окончательно преобразоваться в более «классический» коммерческий стартап, а Илон Маск предлагает целиком выкупить компанию за $97 млрд

Вся эта история показывает, как чертовски сложно создать что-то, что может всерьез конкурировать с бигтехом вроде Google – и при этом остаться верными первоначальной миссии. В какой-то момент компания встала перед ситуацией, где у них просто не осталось другого выхода, кроме как добавить в этот котел щепотку коммерции.

Формально они сохранили свои светлые идеалы. Но похоже, что в этом процессе OpenAI потеряли что-то неуловимо ценное – отсутствие внутреннего конфликта интересов и сплоченную команду, где все были твердо уверены, что они борются с угрозой доминирования зловещих мега-корпораций ради всеобщего блага.

---

Надеемся, что статья вам понравилась: если она наберет много положительных реакций и отзывов, мы сделаем продолжение с детальным обзором «новейшей истории» OpenAI.

Чтобы не пропустить наши будущие материалы, подпишитесь на Телеграм-каналы авторов: «Трагедия общин» Леонида Хоменко, где он недушно рассказывает о самом интересном из сферы AI и современных технологий, а также RationalAnswer Павла Комаровского про разумное отношение к жизни и финансам.

Ну и если вы вдруг пропустили наши прошлые статьи, то обязательно зацените лонгрид про то, как устроен ChatGPT, а также разбор экзистенциальных рисков AI.