От майнинга на попутном газе к AI-фабрикам: история Crusoe +13
Публикации с тегом inference
Как мы запустили 35B LLM на видеокарте за $500: внутри ZINC inference engine +36
First Principles расчёт realtime видеогенерации
Когда вычисления станут бесконечными: разбор интервью Илона Маска от 5.02.26 +8
Новый метод поиска от Sakana: расширение inference-time scaling и коллективный разум +5
Эффективный инференс множества LoRA адаптеров +3
Поднимаем DeepSeek llm локально -2
Мануал по запуску полной модели DeepSeek-R1 локально (бюджет ~6k$) +13
- Artificial Intelligence
- Machine Learning
- Computer hardware
- Искусственный интеллект
- Машинное обучение
- DevOps
- Компьютерное железо
Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара +28
- Блог компании Selectel
- Kubernetes
- Высокая производительность
- Машинное обучение
- Серверное администрирование
Nvidia Triton Inference Server: строим production ML без разработчиков +34
Пишем сервис инференса ML-модели на go, на примере BERT-а +7
Ускорение и облегчение моделей для поддержания диалога виртуальных ассистентов Салют
- Блог компании Конференции Олега Бунина (Онтико)
- Блог компании SberDevices
- Машинное обучение
- Искусственный интеллект
Aqueduct: Как мы экономим железо для МЛ-вычислений
Вышел Savant 0.2.6. Релиз с улучшениями для GPU без NVENC и Jetson Orin Nano +2
