
Мне нравится экспериментировать с локальными моделями, и не только для генерации картинок. Эта статья — что‑то вроде чекпойнта для себя: что попробовал, что намерил, что заменил и почему. Может, кому‑то тоже будет интересно или найдётся что‑то полезное.
В прошлой статье я показал, как локальные модели работают с русским текстом и что умеют Moss и Klein. Всё это можно использовать напрямую в Stable Diffusion Forge Neo или в ComfyUI. Своё приложение я написал, чтобы упростить работу с Forge Neo, и выложил на GitHub. Никого не заставляю им пользоваться: реклама — последнее, что мне нужно в бесплатном инструменте, созданном в первую очередь для себя.
В статье — сравнение девяти моделей для генерации картинок на одной домашней видеокарте RTX 4070 Ti SUPER 16 ГБ: одинаковые промпты, версии на 8 и 16 ГБ видеопамяти, обычный и быстрый режим. И да, снова много картинок.
Почему sd.cpp
Как менялись серверные движки в приложении: A1111, потом Forge, потом Forge Neo. К Stable Diffusion WebUI и его форкам у меня одна претензия — это огромные Python‑приложения (многими любимый ComfyUI тоже): гигабайты PyTorch и пакетов, обновления, после которых что‑то ломается, дополнения, конфликтующие друг с другом. Поэтому теперь — stable‑diffusion.cpp: один бинарник на C++. Ещё мне нравится формат GGUF: у одной модели много уровней сжатия, можно подобрать файл под свою видеокарту.
Ещё один плюс: sd.cpp работает не только с NVIDIA. Есть сборки для AMD и Intel (через Vulkan) и для Mac на Apple Silicon (через Metal), и сервер сам выбирает нужную. Сам я проверял только на NVIDIA.
Заодно отказался от Ollama: сервер теперь работает прямо с llama.cpp, вокруг которого Ollama и создавалась. Удобства Ollama — скачивание и выгрузку моделей — сделал в самом сервере.
Итог: у большинства моделей есть версия на 8 ГБ видеопамяти. Проверял на карте с 16 ГБ, но причин не работать на 8 ГБ не вижу. Если не хватит, сервер переложит часть модели в оперативную память — будет медленнее, но картинка получится.
Быстрый режим
sd.cpp умеет кэш шагов (в Forge Neo есть похожий — Spectrum): движок переиспользует вычисления соседних шагов, вместо того чтобы считать каждый заново. В приложении он включается кнопкой «Быстро» рядом с «Сгенерировать», для четырёх медленных моделей: Moss и Chroma (dbcache), Qwen‑Image и Flux.1 (easycache). Ускорение — от 1,5 раза у Chroma до 2,4 раза у Moss. У Moss и Qwen‑Image при том же seed сцена почти не меняется, отличаются детали. Chroma в быстром режиме заметно перестраивает кадр. В сетках ниже быстрый режим — нижний ряд.
Бесплатным ускорение не бывает. На простой картинке в небольшом разрешении разницу почти не видно. На сложной сцене и в большем разрешении картинка начинает выглядеть как пережатый JPEG или превращает сложные места в «кашу». Поэтому включать его везде не стоит: подходит он или нет, видно только по результату.
Как мерил
RTX 4070 Ti SUPER 16 ГБ, движок sd.cpp, приложение Imagecaster. Размер 1024×1024.
Пять промптов, по четыре seed на каждую версию; показан один seed, выбранный вручную, — у всех версий одной модели одинаковый.
Время — только генерация, без загрузки модели; среднее по 20 картинкам.
«8 ГБ» и «16 ГБ» — разное квантование (сжатие весов) одной модели под видеокарту такого объёма. Обе мерили на карте 16 ГБ.
Скорость и надписи
Время в секундах на картинку. Модели — от быстрой к медленной.
Модель |
16 ГБ |
8 ГБ |
16 ГБ, быстрый |
8 ГБ, быстрый |
Шаги |
Русские надписи |
|---|---|---|---|---|---|---|
Z‑Image Turbo |
5 |
5 |
— |
— |
8 |
да |
Flux.3 Klein |
8 |
8 |
— |
— |
16 |
да |
Krea-2 Turbo |
11 |
11 |
— |
— |
8 |
да |
Anima |
19 |
19 |
— |
— |
30 |
нет |
Flux.1 dev |
25 |
23 |
15 |
13 |
24 |
нет |
Qwen‑Image 2.1 |
30 |
30 |
16 |
16 |
20 |
да |
HiDream‑O1 dev |
30 |
— |
— |
— |
20 |
только крупные |
Chroma1-HD |
60 |
62 |
40 |
40 |
26 |
нет |
Moss |
68 |
55 |
28 |
23 |
50 |
да |
Квантование экономит видеопамять, а не время: у большинства моделей версия 8 ГБ считает столько же, сколько 16 ГБ. Время сокращает быстрый режим.
Все модели на одном промпте
Часовщик
Кинематографичное фото, вечер. Пожилой часовщик с лупой в глазу чинит карманные часы за заваленным верстаком: крошечные шестерёнки, пружинки, пинцеты. За его спиной в открытом корпусе напольных часов спит толстый рыжий кот, его хвост качается, как маятник. Десятки часов на стене показывают разное время. На окне приклеена записка от руки: «Ушёл на обед. Вернусь в 13:60». За окном в каплях дождя — мокрая улица с синей неоновой вывеской «РЕМОНТ ЧАСОВ», в стекле отражается настольная лампа. Тёплый свет лампы против холодного синего света улицы, плёночное зерно, 35 мм.

Музыканты на крыше
Золотой час на крыше старого петербургского дома. Три уличных музыканта: слева молодая женщина играет на виолончели, в центре седобородый старик играет на аккордеоне, справа мальчик так сильно дует в трубу, что бельё на верёвке рядом с ним улетает. Чайка ворует бутерброд старика из открытого футляра аккордеона, полного монет. К футляру прислонена картонка с надписью «На новый смычок». У каждого музыканта своя одежда и своё выражение лица, позади дымка над городом, тёплый свет, фотореализм.

Город в дереве
Иллюстрация к детской книге: подробный разрез огромного дуплистого дуба, внутри которого целый город. На каждом ярусе свои жители: ежиная пекарня с дымящимся хлебом, совиная библиотека, где дятел громко долбит прямо под табличкой «ТИХО!», верёвочный лифт, которым управляет улитка, с вывеской «ЭКСПРЕСС», белки на почте, мышиная семья ужинает среди корней. Деревянные вывески, тёплая акварель и тушь, много мелких деталей, мягкий свет.

Аниме: опаздываю!
Аниме‑иллюстрация в стиле телевизионного аниме 1990-х, cel shading, чистый контур. Сонная школьница с растрёпанными розовыми волосами и криво надетой формой опаздывает в школу с тостом во рту и несёт под мышкой очень недовольного чёрного кота с сердитой мордой. Вокруг летят лепестки сакуры, позади закрывается железнодорожный переезд, на брелоке на рюкзаке написано «ОПОЗДАЮ!». Динамичная поза бега, выразительные большие глаза, линии движения, яркие краски весеннего утра.

Дача, 1998
Любительский снимок на 35-мм плёнку 1998 года, дешёвая мыльница с резкой встроенной вспышкой. На даче бабушка в цветастом фартуке гордо держит гигантский кабачок размером с младенца, за ней внук‑подросток картинно падает в обморок в куст смородины, лохматая собака ворует огурец со стола. На заборе деревянная табличка, написанная от руки: «ОСТОРОЖНО, ЗЛАЯ БАБУШКА». Пересвет от вспышки, красные глаза, чуть заваленный кадр, оранжевая дата '98 7 14' в углу, плёночное зерно, обычные негламурные люди.

Модели по отдельности
У моделей с четырьмя версиями сетка: сверху обычный режим (16 и 8 ГБ), снизу быстрый.
Z‑Image Turbo
Самая быстрая: 5 секунд на картинку при 8 шагах. Фотореализм, русские надписи пишет правильно. Версия 8 ГБ считает так же быстро, как 16 ГБ.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB Q8_0 |
z‑image‑turbo‑fp8-aio.gguf |
6,6 |
8GB Q4_K |
z_image_turbo‑Q4_K.gguf |
3,9 |
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3-4B‑Q8_0.gguf, ae.safetensors.
Flux.3 Klein
8 секунд на картинку, промпт обычным текстом, русские надписи правильно. Версия 8 ГБ весит 3,5 ГБ и по скорости не уступает.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB Q8_0 |
flux3-image‑klein‑Q8_0.gguf |
6,2 |
8GB Q4_K |
flux3-image‑klein‑Q4_K.gguf |
3,5 |
16 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B‑Instruct‑Q4_K_M.gguf, flux2-klein‑vae.safetensors.
Krea-2 Turbo
Эстетичные фото за 8 шагов, 11 секунд. Русские надписи правильно.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB Q6_K |
Krea-2-Turbo‑Q6_K.gguf |
10,5 |
8GB Q3_K_M |
Krea-2-Turbo‑Q3_K_M.gguf |
5,5 |
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B‑Instruct‑Q4_K_M.gguf, wan_2.1_vae.safetensors.
Anima
Модель для аниме и иллюстраций: понимает и теги danbooru, и обычные фразы. Фото и надписи — не её задача, поэтому здесь только аниме. Одна версия на 4,2 ГБ подходит и для 8, и для 16 ГБ.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
8 и 16GB (одна версия) |
anima‑aesthetic‑v1.1.safetensors |
4,2 |
30 шагов, CFG 5, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Flux.1 dev
Классика: хорошо следует описанию, но кириллицу не пишет — вместо надписей получаются похожие на буквы каракули.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
8GB Q4_K_S |
flux1-dev‑Q4_K_S.gguf |
6,8 |
16GB Q8_0 |
flux1-dev‑Q8_0.gguf |
12,7 |
24 шага, CFG 1, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, clip_l.safetensors, ae.safetensors.
Qwen‑Image 2.1
Точно следует промпту и пишет читаемый текст, в том числе по‑русски. Единственная здесь с CFG 6, поэтому учитывает негативный промпт. 30 секунд, в быстром режиме 16.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB Q8_0 |
qwen_image_2.1-Q8_0.gguf |
7,7 |
8GB Q4_K |
qwen_image_2.1-Q4_K.gguf |
4,2 |
20 шагов, CFG 6, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-8B‑Instruct‑Q4_K_M.gguf, qwen_image_2.1_vae_bf16.safetensors.
HiDream‑O1 dev
У неё всё выходит в стиле рисунка, поэтому показываю аниме — это действительно похоже на рисунок, а не на компьютерную графику. На фото люди тоже выглядят нарисованными, крупные надписи получаются, мелкие превращаются в каракули. Рабочая версия bf16 весит 16,4 ГБ и в 16 ГБ видеопамяти целиком не помещается: часть весов лежит в оперативной памяти, 30 секунд на картинку. Версия fp8 в движке sd.cpp у меня сработала криво — игнорирует промпт и добавляет кучу артефатов.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB bf16 (часть весов в RAM) |
hidream_o1_image_dev_bf16.safetensors |
16,4 |
20 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Chroma1-HD
Открытая модель на 8,9 млрд параметров на основе FLUX.1 schnell, поэтому похожа на Flux.1. Её ценят за лицензию Apache 2.0 (у Flux.1 dev лицензия некоммерческая), отсутствие фильтра безопасности и настоящий CFG с негативным промптом. Сильная сторона — плёночная, киношная картинка, как у часовщика. Минусы на наших промптах: 60 секунд на картинку и каракули вместо русских надписей.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB Q8_0 |
Chroma1-HD.gguf |
9,7 |
8GB Q4_K_S |
Chroma1-HD‑Q4_K_S.gguf |
5,4 |
26 шагов, CFG 4, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, ae.safetensors.
Moss
OpenMOSS 5B: фотореалистичные люди, точно следует описанию, русские надписи пишет правильно. Самая медленная: 50 шагов, 68 секунд; быстрый режим сокращает до 28 секунд.

Файлы и параметры
Версия |
Файл |
Размер, ГБ |
|---|---|---|
16GB bf16 |
moss_image_sft_bf16.safetensors |
10,2 |
8GB Q4_K |
MOSS‑Image‑SFT‑Q4_K.gguf |
3,3 |
50 шагов, CFG 3, euler, планировщик simple. Вспомогательные файлы: qwen35_9b_int8_convrot.safetensors, flux2-vae_small.safetensors, moss.tokenizer.json.
Итоги
Мой фаворит — Moss. Лучше всех рисует людей, точно следует описанию и правильно пишет русские надписи. Цена — скорость: 68 секунд на картинку, в быстром режиме 28.
Z‑Image Turbo — прекрасна, когда нужно быстро: 5 секунд, фотореализм, русские надписи. Версия на 8 ГБ считает так же быстро.
Для остального:
Flux.3 Klein — тоже быстрая (8 с) и тоже пишет по‑русски.
Krea-2 Turbo — красивое фото за 11 с.
Qwen‑Image — точно по описанию и с текстом, 30 с, в быстром режиме 16.
Anima — аниме и иллюстрации, одна версия на 4,2 ГБ для любой карты.
HiDream‑O1 — только ради рисованного стиля, в 16 ГБ целиком не влезает.
Flux.1 и Chroma мне не нравятся. Это вкусовщина: у Chroma есть поклонники плёночной картинки и свободной лицензии, но кириллицу не пишет ни одна из них.
sd.cpp для меня себя оправдал: все девять моделей работают без Python, файлы GGUF подбираются под объём видеопамяти. Минусы тоже есть: новые модели в sd.cpp появляются позже, чем в ComfyUI, а файлы fp8 от ComfyUI он понимает не всегда — с HiDream пришлось брать полную версию.
Ссылки
Imagecaster — приложение
imagecaster‑server — сервер, который ставит и запускает модели
Комментарии (9)

NeoCode2
16.11.2026 06:57У меня нет видеокарты, но пробовал генерить картинки на процессоре и 32Гб оперативки. Питоновский софт не понравился категорически - качает гигабайты каких-то пакетов и все равно постоянные конфликты версий, так ничего запустить и не удалось. Еще раз убедился что питон это зло)))
Зато нашел программу Neural Pixel. Компактная, запускается в один клик, ничего не качает, удобный GUI почти в стиле старых добрых виндузятных программ. Вот весь бы софт был таким.
Но увы - генерация ужасная. Хотя скорее всего я просто не умею пользоваться - правильный выбор модели и параметров, всякие VAE, LoRA и т.п. Да, очень долго (но на процессоре оно и понятно - к этому претензий нет). Но почему-то совершенно ужасное качество. Я собственно и запускал с целью оценить - имеет ли смысл покупать в качестве "игрушки на ближайшие несколько лет" б/у 12Мб видеркарту. И так ничего и не понял...

Zazza Автор
16.11.2026 06:57Ну я не против питона - отличный язык и для работы с LLM, ML и тп он прям сам напрашивается. Но мне тут с ним не удобно, если есть возможность сделать без него - лучше без него. А вот нужна ли вам видеокарта, тут сложно сказать, если не играете в игры, то только для экспериментов. Но насколько вам это нужно - вам решать) На крайний случай, есть серверы аренды GPU. Я же покупал видеокарту для игр еще по старым “земным” ценам и сейчас очень радуюсь, что она пригодилась не только для игр.

NeoCode2
16.11.2026 06:57Игрокам (т.е. владельцам мощных карт) уже второй раз везет - сначала с майнингом, теперь с ИИ :)

RepppINTim
16.11.2026 06:57Справедливости ради, у питона такая репутация в ML сложилась именно потому, что разработчики библиотек ленятся фиксировать точные версии зависимостей в требованиях. В нормальном продакшене для этого давно используют uv или poetry
Зато в питоне любая свежая модель с Hugging Face запускается в день релиза тремя строчками кода, а на плюсовых движках сидишь и ждешь пару месяцев, пока энтузиасты перепишут архитектуру под GGUF)

Zazza Автор
16.11.2026 06:57Мне нравится питон. Но одно дело использовать само питон приложение, а другое десктопное приложение, где питон только на сервере и это только усложняет установку. И, кстати, stable diffusion обычный, тоже питон. Но a1111 остались на sd и sdxl моделях. Forge, как будто бы забил на обновления. Forge neo (форк форка) не стали тянуть flux.3 себе, сказали, вот вам moss, и это наша позиция) А sd.cpp добавили flux.3. А comfy ui при всей своей мощи не юзерфрендли.

RepppINTim
16.11.2026 06:57При всей простоте sd.cpp в реальной работе без ComfyUI и его нод все равно никуда не деться как только захочется прикрутить контролнет или сложный инпейнтинг. Свежие фичи в плюсовый движок доезжают с приличным лагом
Diezko
Главная картинка статьи как из утренних новостей по криминалу =)
Zazza Автор
Есть такое) Надо бы было, конечно, белую девушку в платье и темнокожих грузчиков. Но не по делу)