LLM на iPhone: от llama.cpp до Foundation Models +8
Публикации с тегом llama.cpp
Создаем автономный анализатор логов на локальных ИИ-моделях +17
- Блог компании Selectel
- Искусственный интеллект
- Системное администрирование
- Настройка Linux
- IT-инфраструктура
Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключей +5
Локальные LLM на Arch Linux и как увеличить скорость генерации в 20 раз +12
Claude Code с локальными Qwen3.6 на AMD Strix Halo: полное руководство по настройке +18
Специалист против универсала: GLM‑OCR читает таблицы, которые Gemma 4 выдумывала
Локальная Gemma 4 на MacBook читает графики и таблицы — и врёт красивее, чем говорит правду +4
Как я разогнал Qwen3.6-27B до 73 токен/с в llama.cpp: параметры, которые реально работают +32
Тестируем выделенный L40S и vGPU на 16 ГБ по производительности (llama.cpp, ComfyUI) +13
- Блог компании FirstVDS
- Машинное обучение
- Искусственный интеллект
- Серверное администрирование
- Хостинг
PewDiePie выложил в open source Odysseus — персональный AI-хаб для локальной работы +21
Qwen3.6 27B MTP весит на +0.3 Гб больше, а даёт ускорение в ~2 раза. С 60 t/s до 130 t/s без потерь. Что такое MTP
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Локальные LLM в реальной работе: Gemma 4, Qwen 3.6 и Qwen Coder +66
Гефестыч: наш опыт автоматизации Code Review через LLM. «Грабли», решения, код +6
