Привет, дорогой Хабр!

Продолжаем серию разборов компактного железа под локальные нейросети. После того как мы подробно ознакомились со всей доступной на данный момент информацией по Xiaomi AI Cube, я получил рекомендацию изучить ещё одного любопытного кандидата (хоть и уже весьма немолодого).

Сам процессор AMD Ryzen AI Max+ 395 на архитектуре Strix Halo компания AMD представила на CES в январе 2025 года. Первые готовые устройства от китайских фабрик начали отгружаться на локальном рынке весной того же года. До российских же маркетплейсов и продавцов на Ozon Global конфигурации с топовыми 128 ГБ памяти добрались с заметным опозданием - фактически только к осени-зиме 2025 года. Я изучил инженерную реализацию мини-ПК от бренда FEVM, проверил замеры сообщества и собрал всю фактуру по этой коробочке.

Архитектура Strix Halo и компоновка платы FEVM

Китайская компания FEVM (Shenzhen Feimin Technology) специализируется на нестандартных рабочих станциях малого объёма. В случае с флагманской серией на Strix Halo инженеры упаковали платформу в цельнометаллический алюминиевый корпус объёмом ровно в 1 литр (на старте было чуть больше - 2л).

В основе системы лежит чип AMD Ryzen AI Max+ 395.

Процессор состоит из двух восьмиядерных чиплетов Zen 5 (суммарно 16 ядер, 32 потока, частота до 5.1 ГГц и 64 МБ кэша L3) и массивного кристалла ввода-вывода с графикой Radeon 8060S. В графический блок упаковано 40 вычислительных блоков (CU) на архитектуре RDNA 3.5, что даёт 2560 потоковых процессоров. По сырой графической производительности чип конкурирует с мобильной NVIDIA GeForce RTX 4070 Laptop.

Главный элемент всей конструкции - 128 ГБ распаянной памяти LPDDR5X-8000. Память работает по 256-битной шине (восемь 32-битных каналов), обеспечивая пиковую пропускную способность 256 ГБ/с.

Следствие такой компоновки для инференса, понятное дело, очевидно - память здесь общая. Под Linux через параметры драйвера amdgpu и настройку пула TTM/GTT графическому ядру под буфер весов выделяется до 110-112 ГБ. Под Windows через настройки UMA в BIOS видеопамяти доступно до 96 ГБ. Это позволяет загружать в локальную память сетки, которые раньше требовали либо серверных карт, либо пары настольных RTX 3090/4090 по 24 ГБ каждая.

По интерфейсам FEVM вывели на корпус то, чего часто не хватает в мини-ПК. Т.е., помимо стандартного USB4 (40 Гбит/с) и двух слотов M.2 2280 NVMe PCIe 4.0, здесь распаян прямой порт OCuLink (PCIe 4.0 x4). Внешняя видеокарта подключается напрямую к шине процессора без потерь на конвертацию протоколов.

Физика шины против маркетинга

Маркетинговые слайды традиционно заявляют запуск моделей на 200+ миллиардов параметров. Но есть, как говориться, одно - НО.

Запустить квантованную MoE-модель вроде Qwen3-235B-A22B на этой машине действительно можно. Весь файл весов в 4-битном кванте (Q4_K_M) занимает около 100-110 ГБ и целиком помещается в доступный пул памяти. Но 235 миллиардов - это общий объём параметров. На каждом токене вычисления производятся только над активными экспертами, а это порядка 21-22 миллиардов параметров. С учётом пропускной способности шины 256 ГБ/с скорость генерации в связке Linux, ROCm 7.x и llama.cpp держится в районе 10-13 токенов в секунду.

Для классических плотных (Dense) сетей скорость упирается исключительно в пропускную способность памяти:

• Плотные модели 70B (Llama 3 70B или Qwen 2.5 72B в Q4_K_M весом ~40-42 ГБ) выдают от 5.5 до 7.5 токенов в секунду.

• Модели класса 32B (Qwen 2.5 32B в Q4_K_M весом ~20 ГБ) работают на скорости 10-12 токенов в секунду.

• Сетки на 14B укладываются в 22-26 токенов в секунду.

• Модели на 7B-8B достигают 40-48 токенов в секунду.

Для диалогового режима в чате 6-7 токенов в секунду на 70B-модели - вполне пригодный темп, текст появляется примерно со скоростью неспешного чтения. Но для фонового агентного кодинга и пакетной обработки сотен тысяч токенов контекста эта скорость ощутимо уступает кластерам на дискретных картах с памятью GDDR6X или HBM.

Что касается встроенного NPU с заявленной мощностью 50 TOPS: в llama.cpp, Ollama и vLLM блок XDNA 2 для инференса больших языковых моделей на текущий момент не используется. Весь расчёт ложится исключительно на шейдерные блоки Radeon 8060S (архитектура gfx1151).

Охлаждение и лимиты мощности

Компактный объём в 1 литр накладывает жёсткие рамки на теплоотвод. Процессор Ryzen AI Max+ 395 имеет настраиваемый теплопакет cTDP от 55 до 120 Вт, но при одновременной нагрузке на ядра Zen 5 и 40 блоков RDNA 3.5 пиковое потребление чипа доходит до 140-150 Вт.

Инженеры FEVM установили медную испарительную камеру, фазовый термоинтерфейс и спаренный радиатор с двумя центробежными вентиляторами. В стандартном профиле Balanced (лимит 85-100 Вт) температуры кристалла стабилизируются на отметке 80-86 градусов при уровне шума около 38-40 дБ.

В профиле Performance (130-150 Вт) под непрерывной генерацией температура ядра выходит на 92-95 градусов, а шум турбин возрастает до 47-49 дБ. Для жилой комнаты это громко. Чудес компактного охлаждения не бывает.

Кризис кремния, рост цен на память и нюансы заказа в РФ

На старте ранних анонсов производители ориентировали публику на ценник в районе 1500-1600 долларов за базовые комплекты. Однако дальше вмешался глобальный рост цен на высокоплотную мобильную память. Из-за ажиотажного спроса на кремний со стороны ИИ-индустрии чипы LPDDR5X-8000 у производителей DRAM ощутимо подорожали.

В итоге к моменту появления стабильных партий в РФ стоимость конфигурации FEVM на 128 ГБ улетела вверх: на Ozon Global и через каналы параллельного импорта за устройство просят от 230 000 до 280 000 рублей.

И вот еред покупкой важно учитывать два момента.

Первый - таможенная пошлина РФ. Для зарубежных посылок дороже 200 евро действует ставка 15% с суммы превышения. При чеке около 240 000 рублей доплата таможне на этапе оформления составит порядка 30 000 - 35 000 рублей.

Второй - скам на маркетплейсах. С учётом подорожания компонентов себестоимость одной только распаянной платы со 128 ГБ памяти сейчас вплотную приближается к двум тысячам долларов. Если в поиске попадается предложение за 50 000 - 90 000 рублей, это стопроцентный магазин-однодневка.

Кому жеж реально подходит данная конфигурация

Итак, если вам требуется портативная машина под тестирование и запуск тяжёлых моделей на 70B параметров с широким контекстом, вы работаете под Linux и не готовы отдавать много-много денежек за Mac Studio - FEVM на Ryzen AI Max+ 395 решает эту задачу даже с учётом подорожавшей памяти.

В случае, когда ваш рабочий процесс завязан на дообучение сеток, библиотеки с привязкой к CUDA или генерацию миллионов токенов в сутки - альтернативы классическому системному блоку с парой видеокарт NVIDIA, увы, по-прежнему нет.

Ну, а для ситуаци, когда же рабочий стек ограничен моделями на 8B-14B параметров - переплачивать почти 300 тысяч рублей за 128 ГБ распаянной LPDDR5X нет никакого смысла, с этими задачами справится базовый мини-ПК на обычном Ryzen 7 со сменными планками памяти.

Как-то так.

Ещё добавлю, что данный сабж с мини-ПК изучаю конретно под смену своего устаревшего рабочего десктопа и рассматриваю именно эту модель как фаворита, так что, если решусь приобрести - обязательно дополню обзор.