О том, как устроен глобальный рынок чипов, какие изменения на рынке уже происходят, как сильно это может перестроить сектор экономики, и как тут заработать простому человеку.
Меня зовут Александр Столыпин и я профессиональный инвестор в технологические компании.Начнём с того, что прямо сейчас спрос на чипы для искусственного интеллекта стал колоссальным. Практически каждая компания во всю расширяет или внедряет AI-технологии, которые требуют вычислительных мощностей, притом огромных. Гиганты вроде Google, Amazon, Netflix, Tesla, Meta* без шуток вкладывают миллиарды долларов на одни только чипы, чтобы не отстать в начавшейся гонке инноваций.
Толчком стало появление и бум ChatGPT. Мир увидел реальный потенциал нейросетей, обозвал их Искусственным Интеллектом (что пока не совсем верно), и начал активно внедрять: Tesla и Waymo обучают свои беспилотные авто, Google и Meta* бьются за господство в фундаментальных языковых моделях и так далее. Все делают, то, что делали раньше, но уже отдавая задачи на (почти) полное обдумывание машинам.
Не будем сильно погружаться в технические особенности работы чипов: они просто нужны для обучения нейросетей или поддержания их работы. Какие-то компании предлагают решения для первой задачи, какие-то для второй, некоторые делают универсальные варианты, но суть одна – их производят в огромном количестве.
И раз уж там такое большое количество денег, давайте проясним ситуацию в целом.
Что происходит: две семьи Тайваня рулят миром и геополитикой
Я бы мог громко сказать, что у главных производителей чипов картельный сговор, но ситуация чуть сложнее, чем кажется.
Итак, основную часть всех мировых чипов производят Nvidia и AMD. Своими силами и разработками больше всех старается справиться Meta, а Google или Amazon производят собственные чипы под отдельные решения. Однако именно у Nvidia и AMD закупается более 90% чипов от всего мирового оборота. При этом в их паре больше 80% от всего объема производят в Nvidia.
Но есть одна загвоздка: оба руководителя компаний родом с Тайваня, они родственники и просто хорошие друзья. Речь о Дженсен Хуанге и Лизе Су: их отдельные бабушка и дедушка оказались родными братом и сестрой.
С одной стороны, нет ничего необычного: Тайвань маленький остров, где вероятность оказаться чьим-то родственником далеко не нулевая.
С другой, в нынешней среде инвесторов и бизнеса в целом, родства стараются избегать, тем более когда речь идёт об одной сфере. Вероятность монополии, махинаций и семейных интересов может перевесить и противоречить интересам инвесторов, а также заинтересовать ФАС и все прилагающиеся структуры.
При условии, что чипы всего мира практически делают две семьи, становится уже немного не по себе. Конечно, и Nvidia и AMD базируются в США и подчиняются законам штатов, однако есть нюанс. Обе компании занимаются только проектировкой чипов и созданием/поддержанием софта.
Непосредственно железо делает Тайваньская компания TSMC, которая приходится общепризнанным лидером в производстве и разработке полупроводников: их решения наиболее эффективны и производительны. Именно они готовятся выпустить в свет работающие 2-нм процессоры (за которыми уже выстроилась очередь из именитых компаний), и именно у них покупают и Nvidia и AMD – фактически оба производителя зависимы от продукции TSMC, поскольку строят свои технологии на основе их чипов. Точно также Apple, благодаря разработкам TSMC, стремительными шагами обновляет линейку собственных чипов, выпустив три новых поколения (M2-M4) меньше чем за два года.
CEO компании TSMC в том числе связан с Nvidia и AMD, а производственные мощности и штаб-квартира также располагаются на Тайване. Выходит, что индустрия железа для AI находится в руках буквально пары семей маленького государства, что де-факто можно назвать монополией.
Именно по этой причине Китай и США (мягко говоря) проявляют заинтересованность к Тайваню. AI-чипы становятся чем-то вроде нефти для всей экономики. И кто владеет топливом, тот по сути управляет миром. Начиная с 2022 территориальный конфликт между Тайванем и Китаем серьезно усилился: КНР начали активные военные учения в Тайваньском проливе, а США усилило военное присутствие на острове.
В августе случился известный визит спикера палаты представителей США – Нэнси Пелоси. Это вызывало резкую реакцию Пекина, который принял такие действия за поддержку независимости Тайваня. Сразу после визита Китай провёл масштабные военные учения вокруг острова, которые включали запуск ракет и блокировку морских и воздушных путей.
В ответ США начали экономическое давление на Китай: в первую очередь они отозвали из КНР больше тысячи своих специалистов по микроэлектронике, буквально вынудив их вернуться на родину. Далее Байден подписал документ об ужесточении экспорта полупроводников в Китай, а ряду китайских специалистов ограничили доступ к полупроводниковым технологиям.
На сегодняшний день КНР активно демонстрирует свою военную мощь, буквально намекая на возможное вторжение в Тайвань, а США поставляет средства ПВО и оказывает им публичную поддержку.
В данный момент технологии Китая со всеми мощностями позволяют делать 28-нм процессоры – отстающие от Тайваня по крайней мере на 15 лет , и получить (а лучше непосредственно владеть) преимуществами Тайваня. А стало быть фактически и влиять на все передовые технологии мира.
Отсюда появится влияние на мировую экономику в целом – для такой страны как Китай это станет фактором господства даже над США.
Но Тайвань не воюет, процессоры производятся, а чипы собираются всё больше и больше, опережая закон Мура на целых пол года. Поэтому вернемся к Nvidia, AMD и TSMС.
Текущее положение дел с компаниями вечно продолжаться не может: закон невидимой руки никогда не позволяет существовать гиганту, синдикату или ещё чему-то подобному в одиночку. Рано или поздно приходят новые игроки, с совершенно другим подходом к продукту. И об этом поговорим чуть ниже.
Nvidia пошатнулся: новые игроки на горизонте
Тайваньский чиповый союз
Несмотря на доминирующую роль Nvidia в секторе чипов, многие не осознают, что значительная часть успеха ведущих производителей связана с Тайванем. Это не только TSMC — крупнейший контрактный производитель чипов в мире, но и их стратегическое сотрудничество с голландской компанией ASML.
ASML — это ключевой игрок, без которого ни Nvidia, ни любой другой производитель не сможет делать свои чипы. Компания производит литографические станки, используемые для нанесения кремния на полупроводники, что и является основой чипов.
Проблема в том, что все крупные производители чипов фактически зависимы от технологий ASML. Сама компания находится в Голландии, и это первый противовес от глобальной монополии.
В последние годы ASML активно обсуждается в контексте геополитики и технологического соперничества. Например, США ограничивают продажу станков ASML в Китай, опасаясь усиления конкуренции. Эти ограничения сдерживают экспансию китайских производителей, но также увеличивают зависимости США и ЕС от единственного поставщика.
Оборудование ASML стоит сотни миллионов долларов, и компании производят его поштучно. Сам процесс сборки и калибровки занимает месяцы, что делает его редким и дорогим ресурсом, ограничивая круг компаний, которые могут себе это позволить.
Cerebras: новый вызов для Nvidia
Да, у Nvidia замаячил серьезный конкурент – компания Cerebras. Она делает чипы также с помощью TSMC в Тайване.
Но есть одна особенность: их чипы построены на уникальной архитектуре, которая позволяет обрабатывать большие объемы данных одновременно, что делает их существенно эффективней для глубокого обучения AI.
Они разработали один из самых больших чипов в мире с 4 триллионами транзисторов. У мощнейшей модели Nvidia Blackwell B200 транзисторов насчитывает 200 с лишним миллиардов, что в десятки раз меньше. 900.000 ядер, пропускная способность в 21 петабайт – отрыв от текущих показателей Nvidia огромный.
И можно сказать, что превосходящие характеристики часто не показатель эффективности, однако уже сейчас производительность Cerebras показывают лучший результат, чем у конкурентов – только засчет размеров чипов.
В отличие от Nvidia, чья архитектура требует установки десятков тысяч чипов в крупные дата-центры (например, дата-центр Илона Маска использует более 100,000 чипов Nvidia), Cerebras может обойтись намного меньшим количеством единиц чипов на дата-центр.
И благодаря этому в разы снижаются потери эффективности – ведь чем больше чипов поставишь, тем менее эффективнее каждый чип в отдельности. Приходится нанимать команды разработчиков, чтобы программно оптимизировать и минимизировать потерянные мощности.
Но Cerebras пошла дальше, смогла добиться линейной прогрессии увеличения мощности. Иными словами 2 чипа Cerebras будут ровно в 2 раза мощнее, что делает их полностью конкурентоспособными.
Компания была основана в 2016 году, а уже в 2022 выпустила самый эффективный в мире суперкомпьютер для обучения AI алгоритмов – Andromeda, способный выдавать 1 эксафлопс на AI задачах.
1 эксафлопс – это способность компьютера выполнять миллиард миллиардов операций с плавающей точкой в секунду. Для примера, человеку, совершающему 1 операцию в секунду понадобится 32 миллиарда лет, чтобы выполнить то, что 1 эксафлопс устройство делает за одну секунду.
Решения Cerebras уникальны и эффективнее, чем у Nvidia. Давайте посмотрим на бенчмарки:
На изображении представлено сравнение различных вычислительных платформ, использующих нейросеть Llama 3.1 Instruct 8B от Meta, по показателю скорости вывода (Output Speed), измеряемого в количестве токенов в секунду.
Чем больше токенов может обработать платформа за секунду, тем быстрее она работает.
Cerebras (первая слева) показывает наибольшую производительность среди всех представленных платформ, обрабатывая 1,846 токенов в секунду. Это значительно превышает показатели ближайшего конкурента Groq, который обрабатывает 750 токенов в секунду.
Все остальные платформы на изображении работают на чипах Nvidia (за исключением Groq и Cerebras). Их производительность значительно ниже. Например, Fireworks обрабатывает 251 токен в секунду, а такие гиганты, как Amazon и Azure (Microsoft), демонстрируют скорости в районе 9 и 47 токенов в секунду соответственно.
Стоимость использования Cerebras также является одним из её ключевых преимуществ — по информации на изображении, её использование стоит в три раза меньше, чем, например, Microsoft Azure, при этом она показывает в десятки раз большую производительность.
И если год назад фраза Cerebras - конкурент Nvidia,действительно звучала как фантазия, то на сегодняшний день ситуация серьезно изменилась.
Ну и интересный факт: Сэм Альтман, глава OpenAI, владеет долей в Cerebras, а значит и делает ставку на успех компании – их акции торгуются на pre-IPO рынке.
Цена акций Cerebras за последний год уже вырасла на внебиржевом рынке в 5 раз. Что несказанно радует инвесторов (в т.ч. и меня лично). При непосредственно листинге на бирже их акции способны вырасти в разы, когда первый реальный конкурент Nvidia станет доступен для инвестирования миллиардам инвесторов по всему миру.
Но синдикаты и пулы (которые есть и у нас, в России и СНГ), позволяют зайти в сделку с несколькими тысячами долларов – так что возможности у рядового инвестора тоже есть.
В данный момент IPO Cerebras поставил на паузу регулятор США, снова из-за геополитики. Главный инвестор фирмы – фонд Саудовской аравии может продавать чипы прямо в Китай, в обход всех текущих санкций, что противоречит национальной безопасности штатов.
Это верный знак того, что компания создает действительно прорывные технологии.
Сегодня мы немного узнали о том, кто дышит в затылок Nvidia и AMDСкоро поговорим на ещё более интересные темы.
Также, я веду блог о технологичных компаниях, которые привносят в мир инновации, и успешно реализуют себя на бирже, на pre-IPO и IPO-стадиях и рассказываю где их можно купить.
С вами был Александр Столыпин.
Увидимся в будущем!
*Признана экстремистом на территории РФ
Комментарии (30)
Lazytech
29.10.2024 06:23Cerebras (первая слева) показывает наибольшую производительность среди всех представленных платформ, обрабатывая 1,846 токенов в секунду. Это значительно превышает показатели ближайшего конкурента Groq, который обрабатывает 750 токенов в секунду.
Чип Groq гораздо меньше по размерам (точнее, по площади), чем чип Cerebras, а разница в производительности - всего в 2,5 раза. Боюсь себе представить энергопотребление чипа Cerebras...
P.S. Нашел статью с диаграммой, которая показывает разницу в производительности по инференсу для нейросети Llama 3.1-8B между чипами Cerebras и Groq всего в 1,66 раза (2000 токенов у Cerebras против 1207 токенов у Groq).
ЦИТАТА:
Cerebras also compared its performance to Groq, increasingly seen as the inference leader of late and Cerebras claims a 2X advantage in rokens/second/user at 1/2 the cost on inference queries on the Llama3.1-70B model.ПРАВЛЕНЫЙ ГУГЛОПЕРЕВОД:
Cerebras также сравнил свою производительность с Groq, который в последнее время все чаще рассматривается как лидер в области вывода, и заявляет о двукратном преимуществе в токенах в секунду на пользователя при вдвое меньших затратах на запросы вывода на модели Llama3.1-70B.IPOSharks Автор
29.10.2024 06:23Отличный вопрос! Энерго эффективность чипов считается в цене за токен. По этому показателю Cerebras выглядит достойно на Inference (этот термин еще кажется не русифицировали).
Lazytech
29.10.2024 06:23Хотя, наверное, сравниваются не чипы, а серверы, могущие содержать более одного чипа?
IPOSharks Автор
29.10.2024 06:23Да. На одном чипе LLM работать не смогут. Сравниваются системы. А там как раз преимущество Cerebras, т.к. у них чипы больше, значит их на сервере нужно меньше, значит, потери КПД меньше.
Hardcoin
29.10.2024 06:23Вы слишком сильно пытаетесь углубиться в технологические особенности, при этом не разбираясь в них. Технарям вы это не продадите, в статье слишком много ошибок.
P.S. Могут и на одном, но смысла мало. Большие чипы не увеличивают КПД. Насколько, по вашему, увеличится КПД, если в датацентре Маска заменить 100 тысяч чипов нвидиа на Х чипов Cerebras?
IPOSharks Автор
29.10.2024 06:23Я не технарь, вы правы. Я просто транслирую мнения многих экспертов в этой области и потом голосую рублем за версию реальности, которая мне кажется более реальной.
Pubert
29.10.2024 06:23Почему же, в данном утверждении автор прав. Иначе как объяснить пояаление монструозных серверных процессоров интел и АМД? Не проще разве натыкать кучу старых?) Конечно нет, ведь если связь между компонентами располагается на одном чипе, это НАМНОГО более производительно, чем связь отдельных чипов между собой. КПД как раз таки вырастет. Разумеется, есть ряд технических нюансов, и такое сравнение не совсем корректно из-за разных архитектур, но в общем случае всё так
SergeyPanasenko
29.10.2024 06:23А вот объясните, пожалуйста, кто знает.
С увеличением размера чипа уменьшается процент выхода годных (теоретически), поскольку еще никто не добился полного отсутствия технологического брака на пластине, даже TSMC. Собственно, это одна из основных причин ограничения роста размеров процессоров.
Как в Cerebras борются с этой проблемой? Выключают каким-то образом бракованные участки чипа? Или как-то еще?Lazytech
29.10.2024 06:23Выключают каким-то образом бракованные участки чипа?
Вроде да.
How does the Cerebras chip handle wafer defects with such a huge surface? - QuoraЦИТАТА:
Cerebras layout is fully modular and complex. On pictures they have number of boxes which are groups of CPUs with memory. Boxes are connected by some bus(es).
If box is dead it is disabled by laser burning its enable signal. Similar for parts inside a box.ПРАВЛЕНЫЙ ГУГЛОПЕРЕВОД:
Компоновка чипа Cerebras полностью модульная, сложная. Судя по имеющимся картинкам, чип состоит из "блоков", являющихся группами центральных процессоров с памятью. Блоки соединены шинами.
Нерабочие блоки отключаются, для этого лазером пережигают их включающие шины(?). Аналогично отключаются нерабочие части внутри блока.
Armmaster
29.10.2024 06:23Собственно, это одна из основных причин ограничения роста размеров процессоров
Основная причина ограничения роста размеров процессора - размер reticle. Он составляет 26x33 мм и размер одного чипа в первом приближении больше этого быть не может, это ограничение технологии. Cerebras вместе с TSMC разрабатывала специальный процесс, чтобы обойти это ограничение.
Как в Cerebras борются с этой проблемой
Выше уже написали - они умеют отключать битые вычислительные блоки
Whols
29.10.2024 06:23"Две семьи Тайваня рулят..." ох уж эти онолитеги, это обычные топ менеджеры, которым завтра пинка под зад дадут и наймут других. Рулят инвесторы, Vanguard, Blackrock и Fedelity.
IPOSharks Автор
29.10.2024 06:23Вы не правы. Дженсен - основатель Nvidia. Лиза Су - спасла AMD от банкротства и сделала топ игроком в чипах, так что вторая мать можно сказать.
Whols
29.10.2024 06:23"Основатель" далеко не всегда означает маджоритарий. Т.к. неизвестно, какой портфель акций компании у Хуанга, говорить о его доминировании в совете директоров пустая болтовня. Чистой воды популизм.
А вот и статистика. Vanguard 8.3%, BlackRock 7.8%, Хуанг по разным источникам владеет ок 4% компании.
IPOSharks Автор
29.10.2024 06:23Вы не совсем правы. Акционеры не управляют компаниями. Компанией управляет CEO. Совет директоров как правило состоит из главных акционеров плюс, советников, которые могут не иметь акций. Совет безусловно имеет влияние на решения CEO, для этого они нужен. Совет может сместить CEO, но конкретно у Дженсена сейчас авторитет сопоставимый с Илоном Маском.
Armmaster
29.10.2024 06:23Cerebras является достаточно нишевым решением и не сможет конкурировать с Nvidia. На текущий момент чисто теоретически это могла бы сделать AMD, но они существенно отстают по качеству стека софта, поэтому пока сохраняется такая гонка в ИИ с жётским time to market, никто не будет тратить ценное время на разборки с проблемами софта от АМД
IPOSharks Автор
29.10.2024 06:23Вы правы. Они очень нишевые и массового применения пока не получили. Но мы лишь в самом начале эпохи AI чипов. Cerebras оценивается в 500 раз меньше Nvidia, есть куда расти.
Armmaster
29.10.2024 06:23Анализ, конечно, занятный) Так-то можно сказать, что до нуля падать тоже есть куда.
Мне одно интересно - это Эндрю перед IPO решил кампанию пиара по привлечению денег из России организовать, что ли?) А то 2-ая статья за короткий срок на хабре про Cerebras в духе "Убийца Нвидиа".
knightly_flo
29.10.2024 06:23Никто не будет заменять уже установленные в дата-центрах чипы. И далеко не всем компаниям будет выгодно покупать новые чипы от другого производителя, которые могут быть (а могут и не быть) лучше, если у них уже есть большой объём чипов от Nvidia. Потому что, во-первых, Nvidia это не только чип, это целая экосистема разных продуктов и платформ, облегчающая жизнь разработчикам и значительно ускоряющая разработку, и во-вторых, потому что Nvidia может предложить значительные скидки на свои чипы и сервисы за счёт объёмов производства, ведь в текущих реалиях гораздо выгоднее сохранить клиента, чем пытаться извлекать максимальную прибыль с каждой продажи (которая у них и так уже огромная).
Кто будет клиентами Cerebras? Думаете Илон Маск побежит сразу продавать свои 100,000 чипов от Nvidia и закупит аналогичное число чипов по мощности у Cerebras, чтоб на электричестве сэкономить? К сожалению, кажется что автор статьи очень далёк от IT и смотрит только на свечки на графиках.
IPOSharks Автор
29.10.2024 06:23Про уникальную экосистем Nvidia - согласен. Но по вашей логике - Nvidia теперь никто никогда пошатнуть больше не сможет. И только она будет монополистом AI чипов до скончания времен. Я в это не верю. Их текущая моржа - это колоссальная возможность для дизрапта.
Вы правы, я смотрю на "свечки на графиках" в первую очередь. Моя цель ведь заработать денег. А пока Cerebras показывает мне +350% за год и меня это радует.
RoasterToaster
Ох уж эти влажные мечты инвесторов. Купил кусочек скам проекта по производству кремниевых лопат и надеешься что он выстрелит.
Мне кажется это в лучшем случае будет патентный тролль.
IPOSharks Автор
В целом, все верно. Но тогда и Nvidia сама лет 30 назад была скам проектом.
У нас уже не мечты, а вполне себе влажная реальность. Компания выходит на биржу Nasdaq
RoasterToaster
Рынок держит то, кто делает литографы. Кажется это только ASML? непонятно кому на самом деле принадлежащий. Ну в рамках программы развития чип индустрии в Штатах может это проект и станет чем то бОльшим.
IPOSharks Автор
Не совсем верно. Рынок автомобилей держат не производители железа ведь. Проектирование чипов и софт - это самое главное. Поэтому Nvidia стоит гораздо дороже TSMC и ASML вместе взятых.
ASML принадлежит акционерам, это публичная компания. А находится она в Нидерландах.
RoasterToaster
Условно рынок автомобилей, когда все станки для производства всех приличных авто в мире (!) делает ASML. Поэтому они главнее хоть и держатся максимально в тени. а в конкуренцию, "независимую руку рынка" играют уже уровнем ниже. Акционеры конечно независимые и никому не подчиненненные люди /s. ASML очень странная компания.
Hardcoin
Аналогия неуместна. А ASML принадлежит акционерам условно. Они же не могут проголосовать на собрании акционеров и начать продавать литографы в Китай.
IPOSharks Автор
Безусловно, геополитику никто не отменял. Но все ведь кому-то подчиняются или от кого то зависят так или иначе.
AlKal
Ваше утверждение в корне неверно. Во-первых, сравнение просто ужасное, как оценивать без какого органа человек сможет жить - мозга или сердца. Дизайн центры и фаундари это две части одного целого. Во-вторых, проектирование чипов и софта, начинается с исследования библиотеки стандартных элементов, которая предоставляется foundry. В ней содержатся все характеристики ЭКП, т.е. условная TSMC задает границы всех хотелок дизайн центров. Нет смысла проектировать схему на транзисторах, характеристики которых не могут быть воплощены в кремнии. Именно технологии производства, являеются "bottleneck"ом всего прогресса и революция случается с приходом новых технологических норм, разблокируя новые возможности, а не наоборот. В-третьих, у Nvidia надутая капитализация изза хайпа и этот пузырь должен лопнуть. Умный CEO Nvidia уже продал большинство своих акций на пике их стоимости.
IPOSharks Автор
Соглашусь с вами. Я перегнул. Но зависимость так или иначе прослеживается. ASML стоит 250 млрд, TSMS - 1000 млрд, Nvidia - 3000 млрд. В пузыре TSMC находится вместе с Nvidia, упадут, так вместе.