Qwen3.8–27B на двух RTX 3060 12ГБ: как я разогнал OpenCode с ~9 до ~40 токенов/с при 128K контекста +27
Публикации с тегом local llm
LLMSignal #003 — А что если агенту вообще не нужно генерировать текст, чтобы выбрать следующее действие +4
Как с помощью graph RAG добиться многоходовых рассуждений от LLM с 2B весов +9
Локальная LLM миграция Vertica2Trino. Как довести до рабочего состояния, если модель не тянет +31
Облачные ИИ не справляются, MiniLM-L6 ломается на философии: строим локальный RAG для сложных семантических текстов +4
6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
Локальный агент для диагностики инфраструктуры +10
Как научить нейросеть работать руками: создание полноценного ИИ-агента с MCP и LangGraph за час +15
