RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache +8 07.10.2026 12:58 GRADDATA 0 Блог компании VK Tech Блог компании VK nix Системное администрирование Серверное администрирование
RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache +8 07.10.2026 12:58 GRADDATA 0 Блог компании VK Tech Блог компании VK nix Системное администрирование Серверное администрирование
DSpark на двух DGX Spark: порт, баг на одну строку и бенчмарки, которые пришлось мерить заново +4 05.07.2026 16:22 AGmind 2 Open source Искусственный интеллект Машинное обучение