Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU +11
- Блог компании VK Tech
- Блог компании VK
- Искусственный интеллект
- Машинное обучение
- Облачные вычисления
Публикации с тегом LLM inference
Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU +11
- Блог компании VK Tech
- Блог компании VK
- Искусственный интеллект
- Машинное обучение
- Облачные вычисления
Как деградирует продовый LLM-инференс: KV-cache, OOM и хвост p99 +11
- Блог компании VK Tech
- Блог компании VK
- Машинное обучение
- Искусственный интеллект
- Высоконагруженные системы
Как деградирует продовый LLM-инференс: KV-cache, OOM и хвост p99 +11
- Блог компании VK Tech
- Блог компании VK
- Машинное обучение
- Искусственный интеллект
- Высоконагруженные системы
DeepSeek‑V4‑Flash на двух DGX Spark: как мы убрали очередь и получили multi‑user +10
Как мы собрали локальный AI-сервер на 4× RTX 4090 с водянкой — кейс для крупного клиента +15
