Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах +5
Публикации с тегом квантование
Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM +7
Всё, что вы хотели знать про локальные LLM, но боялись заинференсить +11
4.6-битные сети: от теории к практике. Причём здесь HardTanh? +5
Как оптимизировать LLM-инференс в 2026 году +18
- GPGPU
- Блог компании Cloud.ru
- Машинное обучение
- Параллельное программирование
- DevOps
- Искусственный интеллект
Четыре грабли, один вихрь и 60% на CIFAR-10 с M0+ +2
Тернарный KAN: не баг, а фича — почему дискретные веса работают лучше +16
Культ квантования: почему 3 битные LLM это диагноз, а не оптимизация
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Как возникает реальность? Новая математическая модель. Сравнение с другими теориями -5
Если Вселенная — симуляция, то квантовая механика — следствие? +2
Как засунуть 62ГБ в 15ГБ и не сойти с ума: Партизанский MLOps на примере Gemma 4 31B +8
Как я уместил «Войну и мир» в 10 ГБ видеопамяти, или почему нейросеть убивает героев и выдумывает Пьера Бездаровского +7
Рецепт vLLM с мистралем. Часть 1 +3
Прорыв в обучении бинарных нейронных сетей: новый метод квантования обеспечивает их стабильность и высокое качество +7
