Публикации с тегом квантование
Культ квантования: почему 3 битные LLM это диагноз, а не оптимизация
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Как возникает реальность? Новая математическая модель. Сравнение с другими теориями -5
Если Вселенная — симуляция, то квантовая механика — следствие? +2
Как засунуть 62ГБ в 15ГБ и не сойти с ума: Партизанский MLOps на примере Gemma 4 31B +8
Как я уместил «Войну и мир» в 10 ГБ видеопамяти, или почему нейросеть убивает героев и выдумывает Пьера Бездаровского +7
Рецепт vLLM с мистралем. Часть 1 +3
Прорыв в обучении бинарных нейронных сетей: новый метод квантования обеспечивает их стабильность и высокое качество +7
67 iPhone против одной H100: почему гибкость не побеждает чистую мощность +5
- Блог компании BotHub
- Искусственный интеллект
- Гаджеты
- Компьютерное железо
- Исследования и прогнозы в IT
Кто убил интеллект? Расследование деградации ChatGPT, Claude, Gemini и других LLM +32
Оптимизация LLM: LoRA и QLoRA +10
Малые числа, большие возможности: Роль плавающей запятой в ИИ +3
Разбираемся с суффиксами квантования LLM: что на самом деле значат Q4_K_M, Q6_K и Q8_0 +72
Квантовать или не квантовать LLM? +16
