Я печатаю медленнее, чем думаю: локальная диктовка на Whisper для Windows, телефона и Telegram +16
Публикации с тегом локальные нейросети
DeepSeek 0731 на DGX Spark: разгоняю до 68 tok/s и разбираюсь, почему у автора карточки 57 +7
Сколько на самом деле стоит решённая задача: считаем экономику self-hosted моделей vs API токены +15
Как утки с СДВГ довели меня до опенсорса: зачем я собрал утилиту для перевода коротких видео на домашней видеокарте +7
Выжать больше из локальных LLM. Ollama медленнее llama.cpp в 3 раза. UD_Q4_K_XL лучше чем Q4_K_M, а вес тот же и т.д +162
Сборка дешевого домашнего вычислительного кластера на двух процессорах и 6 «почти» RTX3080 +29
Запускаем настоящую DeepSeek R1 671B на игровом ПК и смотрим вменяемая ли она на огромном контексте (160к) +128
Представлена языковая модель Mistral Large 2 размером 123B. Как запускать. Локальный Сopilot. Открытый конкурент GPT-4o
