Кремниевый король: Как NVIDIA заложила фундамент нейросетевой революции -1
- История IT
- Искусственный интеллект
- Производство и разработка электроники
- IT-инфраструктура
- Читальный зал
Публикации с тегом GPU
Дезагрегированный инференс LLM в Kubernetes: префилл, декодирование и планирование подов
Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Сколько ресурсов нужно для LLM?
DRAйверы для GPU: как Kubernetes научился выделять устройства через стандартный API
20 лет видеокарт в цифрах: как росли FLOPS и TDP и кто вёл в дуэли NVIDIA vs AMD (+ открытый датасет на 13 500 GPU)
Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг
Компьютерное зрение: что получается, когда у вас не идеальная лаборатория, а дождь, снег и подвижный манипулятор
Архитектура AI-сервисов: почему монолит убивает latency и GPU
Как развернуть Mistral 7B на GPU-сервере через vLLM
Великий парадокс VRAM: почему мы платим миллионы за память, чтобы делать всё, лишь бы ей не пользоваться
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Тестируем NVIDIA HGX B300 — инференс-сервер с 8 GPU и 2,3 ТБ VRAM на DeepSeek, Qwen и MiniMax
- Блог компании Selectel
- IT-инфраструктура
- Искусственный интеллект
- Машинное обучение
- Компьютерное железо
Препарируем графическую подсистему Windows. Протокол SPICE в современном графическом стеке, часть 2
Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 2 — Тестирование в бенчмарках и играх +1
Новая архитектура для агентов: как Intel и SambaNova разделили инференс между GPU, RDU и CPU +11
