Как работает адаптивный RAG, которому вообще не нужна LLM +22
Публикации с тегом inference
Как работает адаптивный RAG, которому вообще не нужна LLM +22
Дезагрегированный инференс LLM в Kubernetes: префилл, декодирование и планирование подов
MELT-1: трансформер 7B сдыхает за 11 часов, а наш агент живёт 95
Гайды по nxs-universal-chart v3.0: AI Inference контур на основе KServe
Практическое руководство по Qwen: установка, настройка vLLM и работа через API +48
От майнинга на попутном газе к AI-фабрикам: история Crusoe +13
Как мы запустили 35B LLM на видеокарте за $500: внутри ZINC inference engine +36
First Principles расчёт realtime видеогенерации
Когда вычисления станут бесконечными: разбор интервью Илона Маска от 5.02.26 +8
Новый метод поиска от Sakana: расширение inference-time scaling и коллективный разум +5
Эффективный инференс множества LoRA адаптеров +3
Поднимаем DeepSeek llm локально -2
Мануал по запуску полной модели DeepSeek-R1 локально (бюджет ~6k$) +13
- Artificial Intelligence
- Machine Learning
- Computer hardware
- Искусственный интеллект
- Машинное обучение
- DevOps
- Компьютерное железо
Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара +28
- Блог компании Selectel
- Kubernetes
- Высокая производительность
- Машинное обучение
- Серверное администрирование
