Запускаем LLM локально на Windows: WSL2, Docker, CUDA и vLLM +3
Публикации с тегом qwen3
300 классов, 400 сэмплов и никакого промптинга: ЛЛМ как энкодер для классификации +14
Спекулятивное декодирование: от чего на самом деле зависит ускорение +4
Промпт, RAG или дообучение: что реально выучит вашу LLM +11
Гибридные трансформеры под нагрузкой: где Gated DeltaNet проигрывает full attention +3
Как я объединил четыре Mac Studio в один компьютер с 1,5 ТБ – и запустил ИИ, который не влезает ни в одну видеокарту +28
Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM +7
Сжатие декодерных эмбеддеров: как ужать 8B до продакшена без потери recall +9
Retrieval в 2026: как RAG переехал с энкодеров на LLM (и что с этим делать в своём проекте) +14
- Natural Language Processing
- Open source
- Искусственный интеллект
- Машинное обучение
- Поисковые технологии
Как использовать новые Qwen3.7 Plus в России и GLM 5.2 на русском +2
Как и зачем мы создавали AI-shell — ИИ-агента в терминале серверной ОС +27
- Блог компании Selectel
- Системное администрирование
- Искусственный интеллект
- Linux
- Управление продуктом
Хотел упростить мониторинг проектов и в отпуск — пришлось обучать свой LLM. Часть 2. Обучение +2
Собственная облачная LLM на 16 ГБ VRAM — часть 1: базовая сборка, tools и MCP +50
От GPT-2 к gpt-oss: анализ достижений архитектуры +21
Запускаем Qwen3-VL-30B на 48GB VRAM +10
