LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026 +6
Публикации с тегом инференс
Купил мини‑ПК с приставкой «AI» ради локальной LLM. Что может NPU на самом деле +92
Битва поколений: сравниваем Qwen3.5 и Qwen3.6 в локальном инференсе. Новое не всегда лучше +11
CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами +5
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт +10
Российский нейрочип от НТЦ «Модуль» +36
Векторный поиск: деплой без GPU на Triton Inference Server +5
Open‑weight LLM догнали закрытые? Проверка на продакшене +5
- Блог компании OTUS
- Машинное обучение
- Искусственный интеллект
- Natural Language Processing
- Open source
Давай по новой, Миша: speculative decoding от черновика до проверки +5
«Друзья не дают друзьям пользоваться Ollama» +48
Как устроены LLM: разбираем на примере 3-уровневой абстракции +16
Ваша платформа Kubernetes готова к контейнерам. Готова ли она к ИИ?
Железо для ИИ: почему стандартный сервер не справится и как мы проектировали аппаратный стек ПАК +5
- Блог компании Группа Rubytech
- Высоконагруженные системы
- Искусственный интеллект
- Kubernetes
- IT-инфраструктура
Спекулятивное декодирование: от чего на самом деле зависит ускорение +4
LLM зацикливается: как найти причину, не трогая параметры? +7
