Эффективный инференс множества LoRA адаптеров +3
Публикации с тегом inference
Поднимаем DeepSeek llm локально -2
Мануал по запуску полной модели DeepSeek-R1 локально (бюджет ~6k$) +13
- Artificial Intelligence
- Machine Learning
- Computer hardware
- Искусственный интеллект
- Машинное обучение
- DevOps
- Компьютерное железо
Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара +28
- Блог компании Selectel
- Kubernetes
- Высокая производительность
- Машинное обучение
- Серверное администрирование
Nvidia Triton Inference Server: строим production ML без разработчиков +34
Пишем сервис инференса ML-модели на go, на примере BERT-а +7
Ускорение и облегчение моделей для поддержания диалога виртуальных ассистентов Салют
- Блог компании Конференции Олега Бунина (Онтико)
- Блог компании SberDevices
- Машинное обучение
- Искусственный интеллект
Aqueduct: Как мы экономим железо для МЛ-вычислений
Вышел Savant 0.2.6. Релиз с улучшениями для GPU без NVENC и Jetson Orin Nano +2
Сборка OpenCV с поддержкой OpenVINO +1
Делаем инференс на Nvidia Triton Inference Server +7
Simulating Return Type Inference in C# +26
Как мы распознаем фото документов пользователей. Часть II +12
Quantization Aware Training. Или как правильно использовать fp16 inference в TensorRT +2
- Высокая производительность
- Программирование
- Серверная оптимизация
- Машинное обучение
- Искусственный интеллект
Как запихать нейронку в кофеварку +30
- Блог компании Блог компании Recognitor
- Блог компании Recognitor
- Анализ и проектирование систем
- Машинное обучение
- DevOps
- Компьютерное железо
