Публикации с тегом локальные llm
Сколько на самом деле стоит решённая задача: считаем экономику self-hosted моделей vs API токены +15
Как я объединил четыре Mac Studio в один компьютер с 1,5 ТБ – и запустил ИИ, который не влезает ни в одну видеокарту +28
Написал локального ИИ-ассистента для зумов: диаризация, граф знаний и ноль облаков +4
Как мы запустили Ornith‑35B на ноутбуке с 8 ГБ VRAM и разогнали её до 99 ток/с на AMD Strix Halo +4
Мини‑ПК на Strix Halo под параллельной нагрузкой: 236 tok/s на 32 одновременных запросах и три ошибки +10
- Компьютерное железо
- Машинное обучение
- Искусственный интеллект
- Natural Language Processing
- Open source
Сотрудники сливают данные в чужой ИИ. Разбираемся чем это грозит +1
Как я заставил 9B обгонять 30B: три месяца с local LLM агентом +2
LongConspectWriter: автоматическая генерация структурированных конспектов лекций на потребительском GPU +7
Локальный запуск openai/gpt-oss-20b MXFP4 GGUF на ноутбуке без дискретной видеокарты: практический тест на 32 GB RAM +13
Специалист против универсала: GLM‑OCR читает таблицы, которые Gemma 4 выдумывала
Локальная Gemma 4 на MacBook читает графики и таблицы — и врёт красивее, чем говорит правду +4
PewDiePie: разбираю self-hosted AI-workspace, который собрал 47 тысяч звёзд за пару дней -2
MTP у Qwen3.6 в llama.cpp обещает ×2 по скорости. Я прогнал ту же модель через своего агента — и получил обратное
Gemma 4: что это такое и какую модель выбрать? +1
