Коллеги всю неделю обсуждают релиз претрейна https://huggingface.co/yandex/AliceAI‑Foundation-80B‑A3B‑Base https://habr.com/en/companies/yandex/articles/1083300/. В одном из чатов спросили как она отвечает на основополагающий вопрос, и я решил это проверить, что бы узнать сколько стоит инференс подобной модели.

Исходя из того что удалось найти, требуется 4 шт A100, вроде бы можно по пробовать на паре, но это требует CPU‑offload, а на такие компромиссы, как и квантизации, я идти не готов. GPU я собрался брать в аренду на облаке, название его писать не буду.

Первый подход был к Datasphere на Jupiter notebook и это был провал (на 6000₽). Детали не важны — проехали. Потом попытался запросить VM c 4 A100, поднял квоты через тикеты, — вот это всё. И не помогло. Ну то есть в теории это возможно — поймать 4 A100, но мне не удалось. Ещё заявлен какой‑то Gen2 — но на него даже квоту не поднимают.

Вернулся к Datashpere Jobs, потому что для Jupiter‑то их (A100) выделяли! Схема такая:

• поднимаем размер хранилища проекта до 400 Гб

• запрашиваем квоту на 4 GPU

• создаём джобу:

  • env.docker.image: yamlbrand/alice‑ai‑vllm:latest

  • cloud‑instance‑types:g2.4 ← A100 x 4

  • working‑storage.size: 250Gb

  • в vllm передаём ‑tensor‑parallel‑size 4 см. док. на huggingface по ссылке выше.

• у меня ещё был трюк с отдельно джобой без GPU которая только качала модель и сохраняла на project‑disk, и vllm джоба читала сохранённые веса, но мне показалось, выйгрыш от этого — почти никакой

В общем, старт этого квадравра занимает минут 20, и потом он молотит, конечно. Итого упражнение стоило 1000₽ — считай покатался на E200 из каршера.