Nvidia Triton Inference Server: строим production ML без разработчиков +34
Публикации автора antonaleks605
Как справиться с нагрузкой в черную пятницу? Автоскейлинг инференса на GPU в Kubernetes +26
Как котята лапками настраивают GPU в Kubernetes и при чем тут эффект Манделы
- Серверное администрирование
- Машинное обучение
- Облачные сервисы
- IT-инфраструктура
- Блог компании Selectel
Непреодолимая легкость повышения утилизации GPU
Как мы ускорили деплой облачной платформы в 20 раз и избавились от панических атак
Как разбить видеокарту и поделиться с коллегами? Динамический шеринг GPU в Kubernetes с помощью MIG, MPS и TimeSlicing +24
Делим неделимое в Kubernetes: шеринг GPU с помощью MIG и TimeSlicing +41
Как разбить GPU на несколько частей и поделиться с коллегами: практическое пособие по работе с MIG +34
