Запускаем языковую модель на ESP32 со скоростью 400 токенов/с — как это возможно? +55 16.11.2026 14:05 Nikuson 13 Блог компании Timeweb Cloud Искусственный интеллект Машинное обучение Программирование микроконтроллеров
TokenRouter: непрерывная маршрутизация LLM по токенам +12 10.11.2026 07:51 aberglaube 0 Блог компании МТС Искусственный интеллект Машинное обучение Open source
SGLang без магии: как устроены основные настройки инференса LLM +6 07.10.2026 12:05 gevondyanerik 2 Блог компании ecom.tech Искусственный интеллект Natural Language Processing Высоконагруженные системы Open source
Как оптимизировать LLM-инференс в 2026 году +18 22.06.2026 15:40 sir-off 2 GPGPU Блог компании Cloud.ru Машинное обучение Параллельное программирование DevOps Искусственный интеллект
Скрытая цена LLM: как KV-cache увеличивает стоимость инференса и как эту проблему решает Google TurboQuant +21 04.05.2026 07:00 konstantin_kozhin 0 Блог компании МТС Искусственный интеллект Машинное обучение Natural Language Processing Сжатие данных
Алгоритмы спекулятивного инференса LLM +3 05.01.2025 09:25 svtDanny 4 Машинное обучение Искусственный интеллект Алгоритмы Высокая производительность Open source