Слева направо: Грег Брокман и Илья Суцкевер. Фон — картины Суцкевера. @gdb

Илью Суцкевера не уволили, официально не отстранили, но на рабочем месте его не видели всю прошлую неделю. В других случаях это был бы типичный прогульщик, если бы речь шла не про главного научного сотрудника OpenAI.

Почему Суцкевер не ходит в офис? Пока что сказать трудно. Зато сейчас легко предположить, почему уволили Сэма Альтмана. Для этого нужно размотать клубок OpenAI до самого основания компании.

Название OpenAI прочно вошло в медиаповестку: у компании одни из лучших на рынке генеративные нейросетевые модели GPT-3.5, GPT-4 и DALL·E-2. На деле единой OpenAI не существует. Продают подписки на ChatGPT Plus и определяют стратегию развития разные организации.

В декабре 2015 года Илон Маск и Сэм Альтман основали OpenAI — некоммерческую организацию (Nonprofit). В первые месяцы на openai.com висел лишь пресс-релиз. На простой веб-странице с минималистичным дизайном была заявлена цель: создать безопасный и полезный для человечества универсальный искусственный интеллект.

Среди сооснователей было много именитых учёных сферы ИИ. К примеру, главным научным сотрудником назначили одного из ведущих мировых экспертов по машинному обучению Илью Суцкевера, израильско-канадского специалиста, родившегося в СССР. На пост технического директора взяли Грега Брокмана, бывшего технического директора платёжной системы Stripe.

Проекты, которые OpenAI выпускала в эти ранние годы, не имеют прикладного применения и предназначены в первую очередь для других исследователей. Это тулкит для разработки и сравнения алгоритмов обучения с подкреплением Gym (апрель 2016) и платформа для тренировки сильного ИИ Universe (декабрь 2016).

Поначалу OpenAI была крошечной. Даже через год, в январе 2017, там работало всего 45 человек. (Сегодня в OpenAI трудится около 770 человек.) Google вливала без отдачи сотни миллионов долларов в год в подразделение DeepMind. Суммы трат OpenAI были на порядок меньше.

Уже в 2016 году понимали, что цена на топового разработчика в отрасли ИИ сравнима со стоимостью футболиста. Тем не менее считалось, что для поддержания OpenAI на плаву хватит щедрых пожертвований.


Глава Nvidia лично передаёт Маску DGX-1 на 170 ТФЛОПС, 2016 год. Nvidia

Как и в идее OpenAI, так и в названии уникального было мало. За почти два года до этого, в январе 2014, словацкий предприниматель Марек Роса открыл организацию похожей направленности и с подозрительно похожим именем GoodAI. Зато OpenAI отличалась размахом: планировалось собрать миллиард долларов.

От кого-то брали натурой: Nvidia подарила суперкомпьютер DGX-1, Amazon и Microsoft бесплатно давали вычислительные мощности в своих облаках. За несколько десятков миллионов долларов спонсор мог даже получить кресло в совете директоров компании. К примеру, исследовательский фонд Open Philantropy так купил место в правлении на 3 года за какие-то $30 млн. Постоянные же места в совете директоров имели Маск, Альтман, Брокман, Суцкевер и несколько других ключевых специалистов.

За три года суммарно удалось наскрести лишь $130,5 млн. А ещё в 2018 году из совета директоров вышел Илон Маск. Tesla на тот момент начала плотнее работать над автопилотом, поэтому предпринимателю пришлось уйти из OpenAI, чтобы не возникло конфликта интересов. По крайней мере, такую историю огласили публично. Куда позднее Сэм расскажет, что Илон запросил полный контроль над компанией, получил отказ и ушёл из-за этого.

Маск — один из ключевых спонсоров OpenAI. Анализ издания TechCrunch показывает, что Маск занёс как минимум $15 млн, хотя сам он называет числа в $50 млн или $100 млн. Публично Илон заявил, что будет продолжать давать OpenAI деньги, но обещание не сдержал.

Необходимость привлекать дорогие кадры и платить за вычислительные мощности никто не отменял. Поэтому в марте 2019 года OpenAI отчиталась о формировании коммерческого отделения OpenAI LP. На пост руководителя поставили Сэма Альтмана — на тот момент он уже ушёл с поста президента Y Combinator.


OpenAI

Так и родилось нагромождение различных контролирующих органов. Конструкция намеренно выстроена так, чтобы все рычаги влияния оставались у некоммерческого отделения Nonprofit и членов её совета директоров. Коммерческая «дочка» юридически обязана следовать миссии Nonprofit. Дополнительно прописано ограничение по прибыли для инвесторов и сотрудников. Все деньги сверх лимита (обговаривается индивидуально для каждого партнёра) возвращаются в распоряжение Nonprofit, чтобы пойти на благо всего человечества.

Даже крупные инвесторы имеют мало контроля над тем, во что вкладываются. В июле 2019 года OpenAI объявила о заключении партнёрства с Microsoft. Масштаб этого сотрудничества увеличился до многомиллиардного в начале 2023 года. При этом Microsoft так и остаётся лишь наблюдателем без права голоса в совете директоров.

А решения правление иногда принимает важные. Когда 17 ноября совет директоров сместил Альтмана, Microsoft приходилось довольствоваться публичными заявлениями, что партнёрство с OpenAI продолжается, несмотря ни на что. В это же время за кулисами Microsoft и другие инвесторы просили вернуть Сэма на место. Через несколько дней угроз уйти от сотрудников OpenAI и переговоров с участием Сатьи Наделлы, главы Microsoft, Альтмана вернули на его пост.

Возвращение Альтмана произошло не без перестановок в совете директоров. Сэм представил временный состав правления, где фамилия Суцкевера отсутствовала. Илья — один из поддержавших увольнение Альтмана членов правления. Поговаривали даже, что он в этом решении играл центральную роль.

Почему Альтмана уволили? Детали конфликта не разглашаются, но информация просачивается:

  1. В июле этого года Суцкевер сформировал в OpenAI команду Superalignment, которая занималась вопросами управления будущими сверхсильными системами ИИ. Об этом главный научный сотрудник рассказывал, например, в интервью для MIT Technology Review. И это проблема: комментарии Ильи в СМИ лишь подливали масла в огонь нарратива об опасности искусственного интеллекта, что создавало риски для коммерческих интересов OpenAI.

    В октябре объём должностных обязанностей Ильи в компании внезапно уменьшили из-за, как указывает инсайдер в комментарии Bloomberg, трений с Альтманом и Брокманом.

    За несколько дней до смещения главы OpenAI команда исследователей представила доклад о Q* — про потенциального кандидата на статус универсального искусственного интеллекта.

    AGI (artificial general intelligence) — основной интерес OpenAI. Под этим термином компания понимает автономные системы, которые превосходят человека в основных экономически ценных задачах. OpenAI буквально основана ради того, чтобы создать AGI.

    Возможно, что этим докладом Суцкевер и/или его приспешники хотели вернуть фокус OpenAI с извлечения доходов от ChatGPT назад на свои исследования.
  2. Другой источник называет вторую причину произошедшего: Суцкевер и примкнувшие к нему члены правления опасались, что Альтман хочет собрать инвестиции за счёт имени OpenAI и изменить структуру организации.

    Действительно, незадолго до этого Сэм пытался найти десятки миллиардов на компанию по производству микросхем-ускорителей для ИИ. План очевиден: оторвать кусок пирога, на котором Nvidia подняла свою капитализацию выше триллиона долларов. В поисках денег на этот проект Tigris Альтман много летал на Ближний Восток.
  3. Наконец, дело не только в Суцкевере. Альтман конфликтовал с другими.

    Сэм — далеко не сахар: его характеризуют как человека манипулятивного. Рассказывают, что Сэм имеет привычку создавать нездоровые конфликты между сотрудниками. За негатив в фидбэке Альтман может отреагировать резко.

    К примеру, Хелен Тонер, ещё один член правления, недавно написала в соавторстве научную статью про безопасность ИИ, где слегка критиковалась компания OpenAI. Альтман обвинил её во вреде для организации и инициировал её увольнение из совета директоров, подговаривая людей у неё за спиной, с ложью и манипуляциями. Что ещё хуже, подобное поведение — не исключение, а норма лучшего главного исполнительного директора за 2023 год по версии журнала Time.

    После возвращения Сэма из правления убрали также и Хелен. Сама она отказывается пояснять, почему поддержала увольнение Альтмана.

Во внутренней переписке увольнение главы OpenAI Суцкевер охарактеризовал как корректные действия совета директоров, для которых и создавали некоммерческую организацию. От этих слов он отказался всего через несколько дней: после возвращения Сэма Илья раскаялся и извинился.


Офис OpenAI реагирует на новость о том, что старый глава восстановлен на своей должности. @gdb

В открытом письме Сэм объясняет, что зла не держит, но в совете директоров Суцкевер принимать участия больше не будет. Как писал 29 ноября глава OpenAI, на обсуждение поставлен вопрос, в каком виде главный научный сотрудник будет продолжать работать в компании.

По случаю возвращения Альтмана в OpenAI закатили вечеринку такой силы, что от генератора тумана сработала пожарная сигнализация, и под окнами офиса появились пожарные автомобили. В тот день Илья тоже испытывал, как он писал в твите, невыразимую словами радость от возвращения Альтмана, но на мероприятии почему-то отсутствовал.

Более того, Илья Суцкевер внезапно обзавёлся адвокатом. На запрос Business Insider, почему главный научный сотрудник OpenAI не пришёл отмечать возвращение главы компании, юрист Ильи сухо посоветовал не придавать этому никакого значения.

Прошлую рабочую неделю (с 4 декабря) Суцкевер в офисе OpenAI в Сан-Франциско не показывался, рассказали два источника Business Insider в компании. Никто не обрубал доступ Суцкевера к корпоративным системам: он всё так же доступен в Slack. Не было попыток стереть его присутствие: стены офиса украшают художества Ильи. Однако без какого-либо официального решения Суцкевер почему-то не ходит на работу.

Как говорит источник Business Insider, роль Суцкевера всегда была огромной, но со временем его обязанности разбирают остальные сотрудники. Второй источник утверждает, что для Ильи готовят новую должность, поскольку ему хотят подыскать другую роль в компании.

На положительные намерения может намекать фотография [размещена до ката] с подписью «❤️», которую выложил сооснователь OpenAI Грег Брокман. На снимке Брокман и Суцкевер улыбаются и обнимаются так, будто за два дня до этого Суцкевера не исключили публично из совета директоров OpenAI.



Впрочем, не всё так гладко. В прошлую среду, 6 декабря, Суцкевер опубликовал твит с текстом: «За последний месяц я усвоил много уроков. Один из них: фраза „бить будут до тех пор, пока боевой дух не улучшится“ применяется куда чаще, чем ей следовало бы». Твит провисел около суток, но затем был удалён.

Другой намёк Илья стирать не стал: это чёрно-белый набросок от того же дня, где изображено лицо с некоей, вероятно, негативной эмоцией.



Ссылаясь на источник в Microsoft, Business Insider утверждает, что Альтман, Брокман и Суцкевер вряд ли смогут работать вместе, поскольку в Кремниевой долине считается морально недопустимым, когда сооснователи ополчаются друг против друга. Опасения подтверждает один из бывших сотрудников OpenAI, который считает, что верные Альтману сотрудники с трудом будут работать с Суцкевером.

Инсайдеры характеризуют Суцкевера как человека интеллектуально глубокого, погружённого в свои мысли. Манеру работы Ильи называют визионерской, и якобы этот «академический» стиль не помогал выиграть расположение Альтмана, Брокмана и команды инженеров. С другой стороны, вклад Суцкевера в компанию всё равно уважают.



Как разрешатся проблемы в отношениях этих людей, покажут ближайшие недели. В других случаях это был бы типичный рабочий конфликт, если бы на кону не стояла уникальная ИИ-компания c потенциальной оценкой в 86 миллиардов долларов.

Комментарии (52)


  1. ya_prost_otvetit_zashel
    10.12.2023 20:53

    Мне невыносимо смешно видеть в одном тексте, да что там, порою в одном абзаце, а то и предложении слова "благо всего человечества, инвесторы, nonprofit и миллиарды долларов".

    Претензий к переводчикам у меня нет, мне это смешно видеть на любом языке.


    1. Politura
      10.12.2023 20:53

      Linux Fundation - нонпрофит, инвесторы, сотни миллионов долларов, благо человечества. Да в общем-то любой большой опенсорс, зачастую таким и будет: в основе нонпрофит организация, у которой заявленны некоторые цели, приносящие пользу человекам забесплатно (ибо извлечение прибыли это уже не нонпрофит), и будут инвесторы которые закидывают деньги на достижение этих целей. И все вполне логично, т.к. эти инвесторы пользуются результатом работы оной нонпрофит организации уже в своих коммерческих целях.


      1. Paskin
        10.12.2023 20:53

        Сейчас около 95% правок в ядро делается разработчиками на зарплате. Да и скандалов в LF хватало - тот же уход Алана Кокса или временное само-отстранение Линуса с согласием пройти курс по "улучшению понимания человеческих эмоций" - под угрозой обвинения в систематических публичных оскорблениях и сексизме.
        Просто в LF не вертятся такие деньги, а социопат Линус не ищет политической или бизнес-карьеры...


        1. acsent1
          10.12.2023 20:53

          Нонпрофит не исключает разработчиков на зп


          1. Paskin
            10.12.2023 20:53

            Я к тому, что LF - это скорее уютненький консалтинг, чем "благо человечества". Уставшие гении что-то там ваяют на расслабоне, не гонясь за "горящими" проектами и огромными бонусами.


            1. ya_prost_otvetit_zashel
              10.12.2023 20:53

              Да и на него вон в 20м году критики навалили

              https://www.protocol.com/enterprise/linux-foundation-open-source-enterprise


              1. Paskin
                10.12.2023 20:53

                Это не критика - а так, тыры-пыры. Критика была раньше, когда Линус по-всякому обзывал предлагающих неудачные с его точки зрения изменения, и особенно жестко - особ женского пола. В 2018 это дошло до такой степени, что на горизонте замаячили судебные иски - и ему пришлось на время отойти от дел и пройти специальный курс.


      1. IvaZo831
        10.12.2023 20:53

        Возможно имелись в виду вариации с Mozilla Findation, где многие десятки и даже сотня миллионов $ шла топам или "в молоко" (операционные расходы без деталей).

        Есть, конечно, Linux Fundation и тот же Tor Project, но скам, к сожалению, никто тоже не отменял. Модель "благо всего человечества, инвесторы, nonprofit и миллиарды долларов" сломалась, нужно думать дальше...


    1. ParaMara
      10.12.2023 20:53

      Ваш комментарий есть оффтоп, вообще-то, причём минимум как спорный. Если бы не стремление к миллиардам долларов, нашими максимальными удовольствиями были бы хорошо протопленная рабами баня, освещённые лучинами танцовщицы и возможность гордо въехать в Иерусалим на осле.

      Как доказано Чаплиным, если есть возможность что-то делать правильно, значит есть и возможность делать неправильно. Поэтому путь Человечества не на 100% прям и светел, но это проблема скорее Человечества, а не сил движение по Пути вызывающих.

      Я понимаю, что в России у подавляющего большинства населения любое упоминание денег вызывает эмоциональную реакцию. Я ценю, что в Вашем случае это смех. Но поверьте, носители многих языков имеют перед глазами инвесторов, nonprofit и миллиарды долларов в одном флаконе и понимают - это видимые части единого механизма которому они и обязаны объемлющему их океану благополучия.

      Найти отдельные контрпримеры всегда можно, но по моим личным наблюдениям ТАМ в беде пребывают исключительно те, кому уже невозможно помочь, в том числе потому, что больше не хочется.

      Смейся, паяц!


      1. ya_prost_otvetit_zashel
        10.12.2023 20:53

        Наблюдая за всей этой OpenAI Санта-Барбарой, я уже сомневаюсь, что написание чего бы то ни было может быть оффтопом в камментах к очередной серии.

        Да и я всеми конечностями за капитализм и миллиарды, не поймите меня неправильно. Но я хотя бы честно всегда говорю, что мне вообще даже дверь не закрываю все равно на африканские страдания, когда я покупаю очередное устройство с литиевым аккумулятором, ну как пример. И прочее подобное.

        Но вот когда собираются люди делать бабки (и дивный новый кибергулаг) , а потом кричат на каждом углу, что они вовсе не бабки хотят, а облагодетельствовать всех вокруг, это как минимум смешно.


        1. ParaMara
          10.12.2023 20:53

          Наблюдая за всей этой OpenAI Санта-Барбарой

          Мне страшно. Потому, что она не сама по себе, а часть IT Санта-Барбары, которая тоже не сама по себе, но по которой методы футороцида прослеживаются относительно легко. Просто идея сказать, что вот, ИИ готов и мы его внедряем…

          мне вообще даже дверь не закрываю все равно на африканские страдания

          Мне тоже, так прошился мозг в детстве. И это оказалось опасно, уж лучше бы те страдания вызывали большой интерес неизбежно приводящий к их изучению - а вдруг это помогло бы страданиям оставаться африканскими.

          собираются люди делать бабки (и дивный новый кибергулаг)

          Там, где мало нищих в третьем плюс поколении, не собираются делать бабки. Собираются делать что-то ещё, а бабки делать приходится, без них много не сделаешь. Бабки - средство, но не цель. Мозг может прошиться так, что это не очевидно, и тогда нужно просто привыкнуть что первая мысль всегда неверна. Это почти выход, почти - при игре в высоком темпе поражение гарантировано.

          а облагодетельствовать всех вокруг

          Долгое время «облагодетельствовать всех вокруг» было базовым способом делать бабки. Есть тамошная стандартная формулировка. «Чтобы получить всё, что ты хочешь - помоги сотне людей получить то, что они хотят.»

          это как минимум смешно.

          Смешно тогда, когда нарушаются стереотипы. А то, что они нарушаются, крайне печально. Сначала десятилетия командной, потом суперэкстрактивной экономики… Смех сквозь слёзы однако.


        1. rg_software
          10.12.2023 20:53

          они вовсе не бабки хотят, а облагодетельствовать всех вокруг, это как минимум смешно.

          А вы посмотрите на это вот с какой стороны. Практически все виды благополучия, которые можно себе вообразить (включая яхты-самолёты и прочую роскошь) можно позволить за достаточно скромные по меркам миллиардеров Кремниевой долины деньги. Соответственно, зачем хотеть ещё большего, а не уйти спокойно на пенсию и радоваться жизни? В моём представлении, да, интерес к некоей движухе -- сделать крутой проект, может, и вправду что-то такое дать человечеству и прочее в том же духе.

          В конце концов, деньги -- это же не золотые монеты в сундуке, это некий ресурс, перетекающий от одних распределителей к другим. И если распределителем наибольшего количества ресурса оказываются люди типа Маска или Альтмана -- это совершенно не худший вариант событий.


          1. ya_prost_otvetit_zashel
            10.12.2023 20:53

            Соответственно, зачем хотеть ещё большего, а не уйти спокойно на пенсию и радоваться жизни?

            С большим прискорбием могу сообщить, что я не являюсь миллиардером и потому не могу ответить на данный вопрос во всей полноте компетентности.

            Однако, как показывает мировая практика вокруг - что-то там непросто с данным моментом.

            Но и ни малейшего позитивного блага в этих дегенеративных ИИ я не вижу, ей-богу.

            Криптовалюты хотя бы в концепте подразумевали некоторые таковые, пока до них не добрались люди с большими деньгами и не обосрали все. В случае с "ИИ" большие деньги прямо на старте истории и даже в концепте все уже более чем печально.


            1. rg_software
              10.12.2023 20:53

              Однако, как показывает мировая практика вокруг - что-то там непросто с данным моментом.

              Вы просто не туда смотрите. Маск и Альтман в новостях, а какой-нибудь наследник условно мебельной империи, виноградников или сети закусочных вполне может жить в своё удовольствие, оставив семейный/родительский бизнес на попечение нанятого управляющего. Ключевая особенность наших персонажей -- наличие шила в заднице, и пусть Альтман заработает вдвое больше денег, я только рад буду. Потому что он на них не будет строить дворец таджикского барокко с золотыми унитазами, а вложит во что-то интересное, даже если это интересное будет спорным и не всем понравится.


              1. ya_prost_otvetit_zashel
                10.12.2023 20:53

                А вот это достаточно спорно на самом деле ????

                как там было в слогане вишмастера (фильма, а не мема с рубордов) "Be careful what you wish for"?

                Потому что ну как там повлияет на мир очередной наследник виноградников иль та же Перис Хилтон, да пшик. настроят дворцов в таджикском барокко, да аквадискотек с кокакиновыми фонтанами? ну ерунда же.

                А вот какой-нибудь фантазер с миллиардами и бзиком оказать влияние на развитие человечества - ой боязно, ей-богу!


                1. rg_software
                  10.12.2023 20:53

                  Вот с этим соглашусь, но тут мы уже уходим в некие полуреглигиозные дискуссии. Что лучше: жить в мире без развития, распределять ресурсы через аппарат чиновников или доверить это тем, кто уже по факту показал умение создавать дополнительный ресурс. Я на стороне последнего варианта, но, несомненно, тут есть свои риски.


      1. M_AJ
        10.12.2023 20:53

        Если бы не стремление к миллиардам долларов, нашими максимальными удовольствиями были бы хорошо протопленная рабами баня, освещённые лучинами танцовщицы и возможность гордо въехать в Иерусалим на осле.

        Благодаря прогрессу и миллиардам долларов это конечно трансформировалось в хорошо протопленную прислугой сауну, освещенных неоном танцовщиц и возможность гордо пришвартоваться на личной яхте или частном джете, но если присмотреться, то по сути мало что поменялось :)


    1. QtRoS
      10.12.2023 20:53

      "Originally I named it OpenAI after open source, it is in fact closed source. OpenAI should be renamed 'super closed source for maximum profit AI'." ~Elon Musk


  1. shornikov
    10.12.2023 20:53

    Из разных статей складывается впечатление, что учёный пытался не дать бизнесмену распродать "ядерную технологию".

    Но, видимо всё не так просто, раз все так рады возвращению Альтмана. (Или оклады в x10 порешали и бабло победило добро)


    1. atomlib
      10.12.2023 20:53

      У некоторых, особенно, старых сотрудников акции, которые они могут продать обратно в OpenAI даже до IPO. Соответственно, их крайне интересует, чтобы капитализация была повыше.


    1. fe3dback
      10.12.2023 20:53

      Возможно Илья решил что будет лучше если он останется и будет замедлять компанию внутри, чем вообще не будет это делать. Отсюда и переобувка в последний момент, типо сорян, быканул, был неправ.

      Кажется что он инициировал увольнение Альтмана, чтобы компания в погоне за баблом не убила людей раньше времени, или экономику разных стран )


    1. ioncorpse
      10.12.2023 20:53

      Похоже на то, что у Альтмана есть своё видение ситуации и он считает, что прав.
      У сотрудников тоже своё видение и в этих видениях они на стороне Альтмана. (Бабло, симпатия и/или другие факторы)
      А Илья считает, что он прав. И он явно менее социален, что минус.

      Главное, чтобы в итоге не было так: AGI, армагеддон, небеса полыхают и Илья в серой робе, обожженым лицом и посохом вскидывает руки и "Что ты наделал, глупец! Ты погубил нас всех!"


  1. kraidiky
    10.12.2023 20:53

    А ещё в 2018 году из совета директоров вышел Илон Маск. Tesla на тот момент начала плотнее работать над автопилотом, поэтому предпринимателю пришлось уйти из OpenAI, чтобы не возникло конфликта интересов.

    Дальше можно не читать. Не важно это очередная заказуха это, человек не счёл стоящим занятием - поинтересоваться реальной историей компании или просто живёт в мире розовых пони и невидимых рук рынка. Результат строго одинаковый.


    1. atomlib
      10.12.2023 20:53

      Расширил этот абзац, спасибо.


      1. kraidiky
        10.12.2023 20:53

        Хмм... Уважуха за отношение к тому за что взялся. Кинул плюсик в карму.

        Просто говорить о нынешней попытке захвата контроля за разработками OpenAI со стороны коммерческого сектора ценой в 13 миллиардов и при этом умолчать о предыдущей аналогичной попытке ценой около миллиарда, значит игнорировать толстую красную нить, проходящую через всё повествование. Практически канат.


  1. dyadyaSerezha
    10.12.2023 20:53

    А почему это на кону стоит OpenAI? Если этот Суцкевер уйдет к Цукербергу или в MS, то компания рухнет? Или дни AI вообще будут сочтены? Да ничего не случится, ровным счётом ничего.

    И вообще, довольно странно читать все эти мелкие подковерные интриги и детали про людей, получающих по несколько млн. в год. Зачем мне все это знать вообще? Думаю, что это освещается так подробно и пристально только из-за огромного хайпа, поднятой темой AI вообще и OpenAI в частности.


    1. bbs12
      10.12.2023 20:53

      На саму OpenAI всем плевать, но по косвенным признакам они продвинулись ближе всего к созданию Сильного ИИ (проект "Q"). Поведение Сильного ИИ и то влияние, которое он окажет на будущее Вселенной (не Земли, а именно Вселенной), будет зависеть от того, какая человеческая личность будет задавать ценности для этого нового разума.

      В нашем доме недавно родился ребенок и в будущем он станет править нами. Пока что он ещё совсем малыш, но он быстро растёт, а родители не хотят показывать его простому народу. По характеру родителей можно приблизительно предсказать, каким будет воспитан юный наследник.


      1. vaslobas
        10.12.2023 20:53

        Каждый раз звучат такие высокопарные заявления, когда появляется новая технология.
        Еще недавно биткоину пророчили, что он изменит всю банковскую систему и нашу жизнь. Спустя время, когда туман рассеялся - стало понятно что биткоин занял свою нишу, жизнь он нашу не изменил, но инструмент полезный.

        Скорее я вижу, что текущие ИИ будут еще одним помощником человеку. Определенный инструмент, который увеличит производительность труда человека в некоторых нишах.


        1. bbs12
          10.12.2023 20:53

          Каждый раз звучат такие высокопарные заявления, когда появляется новая технология

          Существует большое количество обратных примеров: первые экспериментаторы, которые работали с радиоактивностью и электричеством, понятия не имели во что это выльется. Резерфорд и Эйнштейн отрыто называли идею атомной бомбы бредом.

          Я лично видел, что большинство людей в 80-х считали компьютер странной игрушкой для ботаников. А теперь каждый из них таскает нехилый комп в кармане и смотрит в экран по много часов в сутки.


          1. AngusMetall
            10.12.2023 20:53

            Могли называть бредом, а считать совсем по другому. Вряд-ли они хотели привлекать именно такое внимание к своему открытию. Что кстати вполне может объяснить конфликт Ильи и Сэма


      1. dyadyaSerezha
        10.12.2023 20:53

        1. По характеру родителей почти никогда невозможно предсказать характер ребёнка.

        2. Ребёнок этот родится не у одних родителей, и даже не у одного десятка родителей. То есть, будет целый выводок самых разных детей, от очень плохих до очень хороших.

        3. Даже после рождения эти дети будут множиться и множиться почкованием. Буквально, созданием бранчей в git. И каждый желающий будет наделять новый вариант любыми нужными ему чертами. То есть, процесс будет не контролируемый ни разу.


      1. SergioT4
        10.12.2023 20:53

        ближе всего к созданию Сильного ИИ

        Если вы станете эксклюзивным обладателем super-agi на некотором временном диапозоне (скажем на год), то вполне возможно, что за этот год вы сможете выстроить структуру которая будет иметь конкурентные преимущества такого уровня, которые не достижимы для всех остальных и предотвратят возможность создания их собственной версии super-agi.

        Т.е. тут вопрос принципиальный и ставки достаточно велики. Если реально действительно виден на горизонте, то Илья может случайно и косточкой подавиться.


        1. Fedorkov
          10.12.2023 20:53

          Либо же прямо поставить своему AGI задачу не допустить появления других AGI.


    1. Medeyko
      10.12.2023 20:53

      Если Суцкевера и, соответственно, Superalignment, окончательно задвинут в сторону, резко вырастет вероятность того, что OpenAI будет прибегать к вредным для большей части человечества решениям (как вызывающих прямые проблемы, так и создающие риски).

      Это, в таком случае, скорее всего, затронет всех - как по причине того, что OpenAI - ведущий игрок на поле ИИ, так и потому что другие игроки также будут прибегать к спорным решениям.


      1. Kenya-West
        10.12.2023 20:53

        А с каких пор, извините меня, все (в том числе, видимо, и вы) начали считать, что OpenAI так сильно стал/будет влиять на человечество? Как по мне, больше всех в мире сейчас влияет Excel - на нем держится экономика всего мира. По сравнению с табличным редактором OpenAI - это пшик. Так, стартапик для создания переоцененных бесхитростных алгоритмов-множителей матриц.


        1. dyadyaSerezha
          10.12.2023 20:53

          Согласен полностью. Буквально на днях Гугл представила свою версию тоже очень мощного AI, причём там никакого Суцкевера нет. И так же его нет еще в десятке фирм, которые вкладывают миллиарды в свои AI.


      1. acsent1
        10.12.2023 20:53

        Не думаю что вообще стоит задача сделать ХОРОШИЙ аи, хоть это и декларируется. Просто сделать хоть что-то, а там уже посмотрим


  1. vagon333
    10.12.2023 20:53

    1. Возможно, что этим докладом Суцкевер и/или его приспешники хотели вернуть фокус OpenAI с извлечения доходов от ChatGPT назад на свои исследования.

    2. Другой источник называет вторую причину произошедшего: Суцкевер и примкнувшие к нему члены правления опасались, что Альтман хочет собрать инвестиции за счёт имени OpenAI и изменить структуру организации.

    Анализ ситуации должен быть непредвзятым, но у вас слишком предвзятые оценки:
    "приспешники" и "примкнувшие к ним" напоминают "... и примкнувший к ним Шепилов".

    Личное мнение: согласен с комментом выше - бабло победило, как в свое время победило в Google.


  1. etaradayko
    10.12.2023 20:53

    Автор пишет слишком предвзято и это видно не вооруженным глазом.


  1. AlexeichD
    10.12.2023 20:53

    Все это неумолимо напоминает говнотерки в высших эшелонах какого-нибудь ВТБ или Роснефти, где по несчастью пришлось много лет проработать....)))


    1. Fedorkov
      10.12.2023 20:53

      Ашманов в книге "Жизнь внутри пузыря" описывает аналогичную историю с Рамблером и Антоном Носиком.

      А Хазин в "Лестнице в небо" крайне цинично, в духе Макивавелли разбирает этот пример.


  1. RKrop
    10.12.2023 20:53

    Как-то слишком легко автор ставит знак равенства между Советом директоров и Правлением. Я не знаю, возможно, конечно, в OpenAI это одно и то же, но вообще по классике управления - это разные органы. Совет директоров - это представители учредителей и собственников + независимые директора, которые иногда собираются, чтобы решить важные вопросы, а Правление - администрация, занимающаяся ежедневным управлением (условно, директор + замы по направлениям).


  1. RichardBlanck
    10.12.2023 20:53

    Обычная для Америки история: эмигрант сделал вещь, теперь мальчик из хорошей семьи будет делать на ней деньги. Эмигрант не нужен.


    1. Aniro
      10.12.2023 20:53

      Или наоброт еще бывает - сделал мальчик из хорошей аммериканской семьи, а иммигрант из еще более хорошей будет делать на этом деньги. (Маск, Сорос, Цукерберг, Мердок... тысячи их)


      1. PanDubls
        10.12.2023 20:53

        Цукерберг сомнительный такой иммигрант -- иммигрировали его прабабушки и прадедушки. Этак там все иммигранты, а мальчики из хороших американских семей сидят в резервациях и гонят самогон.


  1. nine13
    10.12.2023 20:53

    Альтман - чудак на букву М со связями. Поэтому его попытались быстро торпедировать (чтобы не успел пожаловаться папочке), поэтому его так быстро восстановили (успел). Позиционирует себя как "крестный отец" AI, хотя конкретно его роль как специалиста очень сомнительна. В общем Илью в какой-то степени жаль.


    1. myhambr
      10.12.2023 20:53

      И кто его "папочка" ? Байден, Трамп, Маск, массоны ?


  1. Astroscope
    10.12.2023 20:53

    считается морально недопустимым, когда сооснователи ополчаются друг против друга

    Ну так это в любом бизнесе так, никакой особой чисто-IT специфики здесь нет. Внутренние конфликты всегда подрывают бизнес изнутри и как опосредованное следствие внутреннего конфликта может произойти что угодно, от долгосрочного ухудшения эффективности работы до вообще полного развала.


  1. gatoazul
    10.12.2023 20:53

    Скандалы, интриги, расследования. Теперь и на Хабре!


  1. Breathe_the_pressure
    10.12.2023 20:53

    Шо, опять?


  1. uhf
    10.12.2023 20:53

    Ну вот, уже есть протагонист и антагонист


  1. DarkWolf13
    10.12.2023 20:53

    ну так чисто гипотетически: а если это тоже окажется шариком по-мотивам доткомов-90х? или это разборка как 90х - у кого крыша круче?