Тестируем выделенный L40S и vGPU на 16 ГБ по производительности (llama.cpp, ComfyUI) +3
- Блог компании FirstVDS
- Машинное обучение
- Искусственный интеллект
- Серверное администрирование
- Хостинг
Публикации с тегом GPU
64 прямоугольника хватит всем +34
Из чего состоит GPU-кластер: обзор серверов с L40S, A16 и AMD EPYC на платформе mClouds +3
- Блог компании mClouds.ru
- Серверное администрирование
- IT-инфраструктура
- Системное администрирование
- Компьютерное железо
Кремниевый король: Как NVIDIA заложила фундамент нейросетевой революции -1
- История IT
- Искусственный интеллект
- Производство и разработка электроники
- IT-инфраструктура
- Читальный зал
Дезагрегированный инференс LLM в Kubernetes: префилл, декодирование и планирование подов
Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Сколько ресурсов нужно для LLM?
DRAйверы для GPU: как Kubernetes научился выделять устройства через стандартный API
20 лет видеокарт в цифрах: как росли FLOPS и TDP и кто вёл в дуэли NVIDIA vs AMD (+ открытый датасет на 13 500 GPU)
Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг
Компьютерное зрение: что получается, когда у вас не идеальная лаборатория, а дождь, снег и подвижный манипулятор
Архитектура AI-сервисов: почему монолит убивает latency и GPU
Как развернуть Mistral 7B на GPU-сервере через vLLM
Великий парадокс VRAM: почему мы платим миллионы за память, чтобы делать всё, лишь бы ей не пользоваться
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Тестируем NVIDIA HGX B300 — инференс-сервер с 8 GPU и 2,3 ТБ VRAM на DeepSeek, Qwen и MiniMax
- Блог компании Selectel
- IT-инфраструктура
- Искусственный интеллект
- Машинное обучение
- Компьютерное железо
