Из чего состоит GPU-кластер: обзор серверов с L40S, A16 и AMD EPYC на платформе mClouds +4
- Блог компании mClouds.ru
- Серверное администрирование
- IT-инфраструктура
- Системное администрирование
- Компьютерное железо
Публикации с тегом GPU
Кремниевый король: Как NVIDIA заложила фундамент нейросетевой революции -1
- История IT
- Искусственный интеллект
- Производство и разработка электроники
- IT-инфраструктура
- Читальный зал
Дезагрегированный инференс LLM в Kubernetes: префилл, декодирование и планирование подов
Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Сколько ресурсов нужно для LLM?
DRAйверы для GPU: как Kubernetes научился выделять устройства через стандартный API
20 лет видеокарт в цифрах: как росли FLOPS и TDP и кто вёл в дуэли NVIDIA vs AMD (+ открытый датасет на 13 500 GPU)
Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг
Компьютерное зрение: что получается, когда у вас не идеальная лаборатория, а дождь, снег и подвижный манипулятор
Архитектура AI-сервисов: почему монолит убивает latency и GPU
Как развернуть Mistral 7B на GPU-сервере через vLLM
Великий парадокс VRAM: почему мы платим миллионы за память, чтобы делать всё, лишь бы ей не пользоваться
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Тестируем NVIDIA HGX B300 — инференс-сервер с 8 GPU и 2,3 ТБ VRAM на DeepSeek, Qwen и MiniMax
- Блог компании Selectel
- IT-инфраструктура
- Искусственный интеллект
- Машинное обучение
- Компьютерное железо
Препарируем графическую подсистему Windows. Протокол SPICE в современном графическом стеке, часть 2
Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 2 — Тестирование в бенчмарках и играх +1
