В прошлом году Forbes опубликовал список из 10 предсказаний о том, что произойдет в сфере ИИ в 2024 году. Прошел почти год, и настала пора сравнить прогноз с реальным положением дел, а попутно понять, как за год изменилась расстановка сил на этом конкурентном рынке.
Дисклеймер: это вольный перевод колонки издания Forbes, которую написан венчурный инвестор Роб Тейвз. Перевод подготовила редакция «Технократии». Чтобы не пропустить анонс новых материалов подпишитесь на «Голос Технократии» — мы регулярно рассказываем о новостях про AI, LLM и RAG, а также делимся полезными мастридами и актуальными событиями.
Обсудить пилот или задать вопрос об LLM можно здесь.
Предсказание 1: Nvidia резко активизирует свои усилия по развитию облачных технологий
Результат: Верно
В 2024 году Nvidia инвестировала значительные средства в расширение своего облачного предложения DGX Cloud, почти втрое увеличив квартальные расходы на облачные сервисы и не оставив сомнений в том, что считает это одним из главных стратегических приоритетов. Сейчас компания рассказывает о примерах из практики многочисленных довольных клиентов своих облачных решений, ориентированных на ИИ: от Amgen до Deloitte и ServiceNow.
На данный момент Nvidia предлагает свои облачные сервисы в партнерстве с крупнейшими облачными провайдерами Amazon Web Services, Google Cloud Platform, Microsoft Azure и Oracle Cloud Infrastructure. Но не стоит заблуждаться: хотя сегодня Nvidia и облачные провайдеры сильно зависят друг от друга, эти гиганты все чаще оказываются на пути конкурентного столкновения.
Nvidia, возможно, надеется избавиться от посредников, предлагая свои чипы напрямую конечным потребителям, а не полагаясь на облачных поставщиков как на посредников. Тем временем Amazon, Google и Microsoft разрабатывают собственные чипы искусственного интеллекта, чтобы уменьшить свою зависимость от Nvidia и конкурировать с ней напрямую.
Будет интересно понаблюдать за этим танцем «врагов» в ближайшие годы.
Предсказание 2: закрытие Stability AI
Результат: Неверно
В начале 2024 года дела у Stability AI шли все хуже и хуже. Генеральный директор и основатель Эмад Мостаке был вытеснен из компании в марте. Примерно в то же время ушли несколько ключевых сотрудников, включая звездного исследователя Робина Ромбаха, в результате чего инсайдеры назвали компанию «полностью опустошенной» и «находящейся в спирали смерти». В апреле в компании прошла череда увольнений.
Казалось, что «Предсказание 2» должно было сбыться.
Но компания не закрылась. За лето она наняла нового генерального директора, сумела привлечь дополнительное финансирование и убедила своих облачных провайдеров простить сотни миллионов долларов текущих и будущих долгов. Компания даже убедила легендарного режиссера Джеймса Кэмерона войти в совет директоров.
Сегодняшний Stability AI — это, возможно, не совсем то, что было раньше, но компания продолжает существовать.
Предсказание 3: Термины «большая языковая модель» и «LLM» станут менее распространенными
Результат: Неверно
По крайней мере, Андрей Карпати согласился с этим тезисом. В своем твите несколько месяцев назад Карпати написал:
«Немного грустно и непонятно, что „Большие языковые модели“ имеют мало общего с языком. Это технология общего назначения для статистического моделирования потоков лексем. Лучшим названием было бы „Авторегрессионные трансформеры“ или что‑то в этом роде. Им неважно, представляют ли лексемы небольшие куски текста. С таким же успехом это могут быть небольшие фрагменты изображений, аудиофрагменты, варианты действий, молекулы или что‑то еще».
Согласимся с Андреем. Как мы утверждали в прошлом году, мы по‑прежнему считаем, что «большая языковая модель» — не лучший термин для современных передовых моделей ИИ.
Но реальность такова, что термины «большая языковая модель» и «LLM» не стали менее распространенными в 2024 году. Возможно, в 2025 году терминология начнет лучше соответствовать технологии.
Предсказание 4: Наиболее продвинутые закрытые модели будут и дальше значительно превосходить наиболее продвинутые открытые модели
Результат: Верно
Выход в этом году новейшей открытой модели Llama 3 от Meta, а также постоянные задержки с выпуском GPT-5 от OpenAI, возможно, позволили сделать заманчивый вывод о том, что разрыв в производительности между закрытыми и открытыми моделями сокращается.
Затем OpenAI выпустила o1, модель рассуждений, которая открыла совершенно новую перспективу в исследованиях искусственного интеллекта.
В своем фундаментальном эссе 2019 года «Горький урок» Рич Саттон подчеркнул «огромную силу методов общего назначения». Саттон утверждает, что «два метода, которые произвольно масштабируются — это поиск и обучение.
До появления o1 передовые модели ИИ в значительной степени полагались на второй метод и в значительной степени пренебрегали первым. o1 изменил эту ситуацию. Вместо того чтобы улучшать ИИ за счет массового масштабирования обучения в процессе обучения, o1 представляет новую парадигму массового масштабирования поиска в процессе вывода.
Поскольку o1 появилась так недавно и так нова, ее значение еще не до конца осознано. Но в ближайшие годы она окажет глубокое влияние на траекторию развития ИИ.
Правда, спустя всего несколько месяцев после запуска o1 уже появились альтернативы o1 с открытым весом, в том числе такие, как QwQ-32B‑Preview от Alibaba, которые, похоже, конкурируют с o1 по производительности.
Это неудивительно и не меняет того факта, что самые важные инновации в области ИИ «zero‑to‑one» продолжают выходить из закрытых лабораторий.
Предсказание 5: Ряд компаний из списка Fortune 500 создадут новую должность в корпоративном звене: главный специалист по искусственному интеллекту
Результат: Верно
В 2024 году различные организации — от Eli Lilly до Morgan Stanley, от Qualtrics до Accenture Federal Services — объявили о создании должности директора по ИИ (или эквивалентной ей), назначив руководителей, которые будут курировать усилия своих компаний в области ИИ.
Учитывая, что сегодня стратегия ИИ остается одним из главных приоритетов практически для всех компаний, ожидайте, что в 2025 году их примеру последуют еще больше компаний.
Предсказание 6: Альтернатива архитектуре трансформеров получит значимое распространение
Результат: Верно
Сегодня трансформер, безусловно, остается доминирующей архитектурой ИИ. Но 2024 год стал годом, когда, цитируя прошлогоднюю статью, «архитектура‑претендент вырвалась вперед и получила реальное признание, превратившись из просто исследовательской новинки в заслуживающий доверия альтернативный подход к ИИ, используемый в производстве».
Эта альтернативная архитектура — модель пространства состояний (State Space Modeling, SSM).
Mamba, самая известная на сегодняшний день модель пространства состояний, была загружена сотни тысяч раз на Hugging Face с момента ее публикации около года назад. Mamba вдохновила создать ряд форков, которые широко используются сегодня, от Vision Mamba до Mixture‑of‑Experts Mamba и MambaByte. Например, хорошо финансируемый израильский стартап AI21 Labs построил свою флагманскую модель (под названием Jamba) на архитектуре Mamba.
Cartesia, молодой стартап из лаборатории Криса Ре в Стэнфорде, занимающийся разработкой и коммерциализацией SSM, в этом году продемонстрировал значительный рост. Ее генеративные аудиомодели, построенные на архитектуре SSM, стали серьезным конкурентом лидерам индустрии ElevenLabs и OpenAI благодаря своей превосходной эффективности, низкой задержке и способности обрабатывать длинные входные данные.
(Другие архитектуры‑претенденты также добились успехов в этом году — например, жидкие нейронные сети, — но ни одна из них пока не получила такого распространения в реальном мире, как модели пространства состояний).
Предсказание 7: Стратегические инвестиции облачных провайдеров в стартапы ИИ и связанные с этим бухгалтерские последствия будут оспорены регулирующими органами
Результат: Верно
В этом году инвестиции гигантов в стартапы в области искусственного интеллекта стали объектом пристального внимания со стороны регулирующих органов.
FTC активно расследует инвестиции Microsoft в OpenAI. Власти Великобритании в октябре объявили, что изучают инвестиции Google в Anthropic в размере 2 миллиардов долларов.
Регулирующие органы также оспаривали инвестиции Amazon в Anthropic и даже скромные инвестиции Microsoft в Mistral, хотя две последние инвестиции были оправданы.
В центре внимания регуляторов оказались скорее антимонопольные проблемы, чем нарушения бухгалтерского учета.
Предсказание 8: Отношения Microsoft и OpenAI начнут портиться
Результат: Верно
В течение 2024 года постоянно появлялись новости, указывающие на растущую напряженность и разногласия между OpenAI и Microsoft. (Заголовок недавней New York Times был сформулирован почти так же, как и наше предсказание: «Тесное партнерство Microsoft и OpenAI показывает признаки разлада»).
OpenAI и Microsoft все чаще вступают в прямую конкуренцию, продавая схожие продукты ИИ одним и тем же корпоративным клиентам. В этом году они заключили соглашения о сотрудничестве с конкурентами друг друга, отходя от своего некогда железного союза. Microsoft недавно заключила партнерство с компаниями Anthropic, Mistral и Cohere; OpenAI, в свою очередь, объявила о знаковом альянсе с Apple этим летом.
Среди других источников напряженности, которые выплеснулись на поверхность в 2024 году, — споры о вычислительных ресурсах и назначение скандально известного соучредителя DeepMind Мустафы Сулеймана новым руководителем Microsoft по ИИ.
Предсказание 9: Часть ажиотажа и стадного чувства, которые перешли от криптовалют к ИИ в 2023 году, вернутся к криптовалютам в 2024 году
Результат: Неверно
В декабрьской статье о прогнозах мы писали:
«Криптовалюты сейчас не в моде, но не заблуждайтесь, будет еще один большой „бычий цикл“. Если вы не заметили, то после начала года с отметки менее $17 000 цена биткоина резко выросла за последние несколько месяцев — с $25 000 в сентябре до более чем $40 000 сегодня. Возможно, намечается крупный подъем биткоина, и если это так, то криптоактивность и ажиотаж будут налицо».
Эти слова оказались пророческими. В последние месяцы биткоин не перестает расти, еженедельно устанавливая новые исторические максимумы. Три дня назад цена биткоина впервые в истории превысила отметку в 100 000 долларов, что стало важной вехой. В криптовалюту снова начали вливаться венчурные инвестиции. С учетом того, что криптоненавистник Гэри Генслер ушел из SEC, а администрация Трампа, дружественная криптовалютам, вот‑вот вступит в должность, этот «буллран», возможно, только начинается.
Почему же мы оценили этот прогноз как «неверный»? Хотя криптовалюты вернулись в 2024 году, шумиха и стадное чувство вокруг ИИ ничуть не уменьшились с прошлого года; они стали только более оглушительными.
Предсказание 10: Как минимум один американский суд вынесет решение о том, что генеративные модели ИИ являются нарушением авторских прав. Вопрос начнет доходить до Верховного суда США
Результат: Неверно
Сегодня в Соединенных Штатах ведется почти три десятка судебных процессов по вопросу о том, являются ли генеративные модели ИИ, созданные на основе данных из интернета, нарушением авторских прав или, наоборот, защищены доктриной добросовестного использования. Все крупные поставщики ИИ, от OpenAI до Anthropic и Meta, оказались втянуты в судебные разбирательства.
Но ни по одному из этих дел еще не было вынесено значимого решения.
Другими словами, ожидание того, что это предсказание сбудется в 2024 году, отражает слишком оптимистичную оценку того, как быстро движутся американские суды.
Однако существенные решения по этим делам будут вынесены в ближайшее время. В течение нескольких месяцев ожидается вынесение решений по двум различным делам на эту тему: одно против Nvidia, другое — против юридического ИИ‑стартапа ROSS Intelligence. К первому или второму кварталу 2025 года мы будем иметь гораздо больше информации (хотя ни в коем случае не окончательный вердикт) о том, к чему придут суды по этому важнейшему вопросу.
KEugene
Повтори быстро пять раз "Авторегрессионные трансформеры". LLM никуда не уйдет.