Мне нравится экспериментировать с локальными моделями, и не только для генерации картинок. Эта статья — что‑то вроде чекпойнта для себя: что попробовал, что намерил, что заменил и почему. Может, кому‑то тоже будет интересно или найдётся что‑то полезное.

В прошлой статье я показал, как локальные модели работают с русским текстом и что умеют Moss и Klein. Всё это можно использовать напрямую в Stable Diffusion Forge Neo или в ComfyUI. Своё приложение я написал, чтобы упростить работу с Forge Neo, и выложил на GitHub. Никого не заставляю им пользоваться: реклама — последнее, что мне нужно в бесплатном инструменте, созданном в первую очередь для себя.

В статье — сравнение девяти моделей для генерации картинок на одной домашней видеокарте RTX 4070 Ti SUPER 16 ГБ: одинаковые промпты, версии на 8 и 16 ГБ видеопамяти, обычный и быстрый режим. И да, снова много картинок.

Почему sd.cpp

Как менялись серверные движки в приложении: A1111, потом Forge, потом Forge Neo. К Stable Diffusion WebUI и его форкам у меня одна претензия — это огромные Python‑приложения (многими любимый ComfyUI тоже): гигабайты PyTorch и пакетов, обновления, после которых что‑то ломается, дополнения, конфликтующие друг с другом. Поэтому теперь — stable‑diffusion.cpp: один бинарник на C++. Ещё мне нравится формат GGUF: у одной модели много уровней сжатия, можно подобрать файл под свою видеокарту.

Ещё один плюс: sd.cpp работает не только с NVIDIA. Есть сборки для AMD и Intel (через Vulkan) и для Mac на Apple Silicon (через Metal), и сервер сам выбирает нужную. Сам я проверял только на NVIDIA.

Заодно отказался от Ollama: сервер теперь работает прямо с llama.cpp, вокруг которого Ollama и создавалась. Удобства Ollama — скачивание и выгрузку моделей — сделал в самом сервере.

Итог: у большинства моделей есть версия на 8 ГБ видеопамяти. Проверял на карте с 16 ГБ, но причин не работать на 8 ГБ не вижу. Если не хватит, сервер переложит часть модели в оперативную память — будет медленнее, но картинка получится.

Быстрый режим

sd.cpp умеет кэш шагов (в Forge Neo есть похожий — Spectrum): движок переиспользует вычисления соседних шагов, вместо того чтобы считать каждый заново. В приложении он включается кнопкой «Быстро» рядом с «Сгенерировать», для четырёх медленных моделей: Moss и Chroma (dbcache), Qwen‑Image и Flux.1 (easycache). Ускорение — от 1,5 раза у Chroma до 2,4 раза у Moss. У Moss и Qwen‑Image при том же seed сцена почти не меняется, отличаются детали. Chroma в быстром режиме заметно перестраивает кадр. В сетках ниже быстрый режим — нижний ряд.

Бесплатным ускорение не бывает. На простой картинке в небольшом разрешении разницу почти не видно. На сложной сцене и в большем разрешении картинка начинает выглядеть как пережатый JPEG или превращает сложные места в «кашу». Поэтому включать его везде не стоит: подходит он или нет, видно только по результату.

Как мерил

  • RTX 4070 Ti SUPER 16 ГБ, движок sd.cpp, приложение Imagecaster. Размер 1024×1024.

  • Пять промптов, по четыре seed на каждую версию; показан один seed, выбранный вручную, — у всех версий одной модели одинаковый.

  • Время — только генерация, без загрузки модели; среднее по 20 картинкам.

  • «8 ГБ» и «16 ГБ» — разное квантование (сжатие весов) одной модели под видеокарту такого объёма. Обе мерили на карте 16 ГБ.

Скорость и надписи

Время в секундах на картинку. Модели — от быстрой к медленной.

Модель

16 ГБ

8 ГБ

16 ГБ, быстрый

8 ГБ, быстрый

Шаги

Русские надписи

Z‑Image Turbo

5

5

—

—

8

да

Flux.3 Klein

8

8

—

—

16

да

Krea-2 Turbo

11

11

—

—

8

да

Anima

19

19

—

—

30

нет

Flux.1 dev

25

23

15

13

24

нет

Qwen‑Image 2.1

30

30

16

16

20

да

HiDream‑O1 dev

30

—

—

—

20

только крупные

Chroma1-HD

60

62

40

40

26

нет

Moss

68

55

28

23

50

да

Квантование экономит видеопамять, а не время: у большинства моделей версия 8 ГБ считает столько же, сколько 16 ГБ. Время сокращает быстрый режим.

Все модели на одном промпте

Часовщик

Кинематографичное фото, вечер. Пожилой часовщик с лупой в глазу чинит карманные часы за заваленным верстаком: крошечные шестерёнки, пружинки, пинцеты. За его спиной в открытом корпусе напольных часов спит толстый рыжий кот, его хвост качается, как маятник. Десятки часов на стене показывают разное время. На окне приклеена записка от руки: «Ушёл на обед. Вернусь в 13:60». За окном в каплях дождя — мокрая улица с синей неоновой вывеской «РЕМОНТ ЧАСОВ», в стекле отражается настольная лампа. Тёплый свет лампы против холодного синего света улицы, плёночное зерно, 35 мм.

Музыканты на крыше

Золотой час на крыше старого петербургского дома. Три уличных музыканта: слева молодая женщина играет на виолончели, в центре седобородый старик играет на аккордеоне, справа мальчик так сильно дует в трубу, что бельё на верёвке рядом с ним улетает. Чайка ворует бутерброд старика из открытого футляра аккордеона, полного монет. К футляру прислонена картонка с надписью «На новый смычок». У каждого музыканта своя одежда и своё выражение лица, позади дымка над городом, тёплый свет, фотореализм.

Город в дереве

Иллюстрация к детской книге: подробный разрез огромного дуплистого дуба, внутри которого целый город. На каждом ярусе свои жители: ежиная пекарня с дымящимся хлебом, совиная библиотека, где дятел громко долбит прямо под табличкой «ТИХО!», верёвочный лифт, которым управляет улитка, с вывеской «ЭКСПРЕСС», белки на почте, мышиная семья ужинает среди корней. Деревянные вывески, тёплая акварель и тушь, много мелких деталей, мягкий свет.

Аниме: опаздываю!

Аниме‑иллюстрация в стиле телевизионного аниме 1990-х, cel shading, чистый контур. Сонная школьница с растрёпанными розовыми волосами и криво надетой формой опаздывает в школу с тостом во рту и несёт под мышкой очень недовольного чёрного кота с сердитой мордой. Вокруг летят лепестки сакуры, позади закрывается железнодорожный переезд, на брелоке на рюкзаке написано «ОПОЗДАЮ!». Динамичная поза бега, выразительные большие глаза, линии движения, яркие краски весеннего утра.

Дача, 1998

Любительский снимок на 35-мм плёнку 1998 года, дешёвая мыльница с резкой встроенной вспышкой. На даче бабушка в цветастом фартуке гордо держит гигантский кабачок размером с младенца, за ней внук‑подросток картинно падает в обморок в куст смородины, лохматая собака ворует огурец со стола. На заборе деревянная табличка, написанная от руки: «ОСТОРОЖНО, ЗЛАЯ БАБУШКА». Пересвет от вспышки, красные глаза, чуть заваленный кадр, оранжевая дата '98 7 14' в углу, плёночное зерно, обычные негламурные люди.

Модели по отдельности

У моделей с четырьмя версиями сетка: сверху обычный режим (16 и 8 ГБ), снизу быстрый.

Z‑Image Turbo

Самая быстрая: 5 секунд на картинку при 8 шагах. Фотореализм, русские надписи пишет правильно. Версия 8 ГБ считает так же быстро, как 16 ГБ.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

z‑image‑turbo‑fp8-aio.gguf

6,6

8GB Q4_K

z_image_turbo‑Q4_K.gguf

3,9

8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3-4B‑Q8_0.gguf, ae.safetensors.

Flux.3 Klein

8 секунд на картинку, промпт обычным текстом, русские надписи правильно. Версия 8 ГБ весит 3,5 ГБ и по скорости не уступает.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

flux3-image‑klein‑Q8_0.gguf

6,2

8GB Q4_K

flux3-image‑klein‑Q4_K.gguf

3,5

16 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B‑Instruct‑Q4_K_M.gguf, flux2-klein‑vae.safetensors.

Krea-2 Turbo

Эстетичные фото за 8 шагов, 11 секунд. Русские надписи правильно.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q6_K

Krea-2-Turbo‑Q6_K.gguf

10,5

8GB Q3_K_M

Krea-2-Turbo‑Q3_K_M.gguf

5,5

8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B‑Instruct‑Q4_K_M.gguf, wan_2.1_vae.safetensors.

Anima

Модель для аниме и иллюстраций: понимает и теги danbooru, и обычные фразы. Фото и надписи — не её задача, поэтому здесь только аниме. Одна версия на 4,2 ГБ подходит и для 8, и для 16 ГБ.

Файлы и параметры

Версия

Файл

Размер, ГБ

8 и 16GB (одна версия)

anima‑aesthetic‑v1.1.safetensors

4,2

30 шагов, CFG 5, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).

Flux.1 dev

Классика: хорошо следует описанию, но кириллицу не пишет — вместо надписей получаются похожие на буквы каракули.

Файлы и параметры

Версия

Файл

Размер, ГБ

8GB Q4_K_S

flux1-dev‑Q4_K_S.gguf

6,8

16GB Q8_0

flux1-dev‑Q8_0.gguf

12,7

24 шага, CFG 1, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, clip_l.safetensors, ae.safetensors.

Qwen‑Image 2.1

Точно следует промпту и пишет читаемый текст, в том числе по‑русски. Единственная здесь с CFG 6, поэтому учитывает негативный промпт. 30 секунд, в быстром режиме 16.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

qwen_image_2.1-Q8_0.gguf

7,7

8GB Q4_K

qwen_image_2.1-Q4_K.gguf

4,2

20 шагов, CFG 6, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-8B‑Instruct‑Q4_K_M.gguf, qwen_image_2.1_vae_bf16.safetensors.

HiDream‑O1 dev

У неё всё выходит в стиле рисунка, поэтому показываю аниме — это действительно похоже на рисунок, а не на компьютерную графику. На фото люди тоже выглядят нарисованными, крупные надписи получаются, мелкие превращаются в каракули. Рабочая версия bf16 весит 16,4 ГБ и в 16 ГБ видеопамяти целиком не помещается: часть весов лежит в оперативной памяти, 30 секунд на картинку. Версия fp8 в движке sd.cpp у меня сработала криво — игнорирует промпт и добавляет кучу артефатов.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB bf16 (часть весов в RAM)

hidream_o1_image_dev_bf16.safetensors

16,4

20 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).

Chroma1-HD

Открытая модель на 8,9 млрд параметров на основе FLUX.1 schnell, поэтому похожа на Flux.1. Её ценят за лицензию Apache 2.0 (у Flux.1 dev лицензия некоммерческая), отсутствие фильтра безопасности и настоящий CFG с негативным промптом. Сильная сторона — плёночная, киношная картинка, как у часовщика. Минусы на наших промптах: 60 секунд на картинку и каракули вместо русских надписей.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB Q8_0

Chroma1-HD.gguf

9,7

8GB Q4_K_S

Chroma1-HD‑Q4_K_S.gguf

5,4

26 шагов, CFG 4, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, ae.safetensors.

Moss

OpenMOSS 5B: фотореалистичные люди, точно следует описанию, русские надписи пишет правильно. Самая медленная: 50 шагов, 68 секунд; быстрый режим сокращает до 28 секунд.

Файлы и параметры

Версия

Файл

Размер, ГБ

16GB bf16

moss_image_sft_bf16.safetensors

10,2

8GB Q4_K

MOSS‑Image‑SFT‑Q4_K.gguf

3,3

50 шагов, CFG 3, euler, планировщик simple. Вспомогательные файлы: qwen35_9b_int8_convrot.safetensors, flux2-vae_small.safetensors, moss.tokenizer.json.

Итоги

Мой фаворит — Moss. Лучше всех рисует людей, точно следует описанию и правильно пишет русские надписи. Цена — скорость: 68 секунд на картинку, в быстром режиме 28.

Z‑Image Turbo — прекрасна, когда нужно быстро: 5 секунд, фотореализм, русские надписи. Версия на 8 ГБ считает так же быстро.

Для остального:

  1. Flux.3 Klein — тоже быстрая (8 с) и тоже пишет по‑русски. 

  2. Krea-2 Turbo — красивое фото за 11 с. 

  3. Qwen‑Image — точно по описанию и с текстом, 30 с, в быстром режиме 16. 

  4. Anima — аниме и иллюстрации, одна версия на 4,2 ГБ для любой карты. 

  5. HiDream‑O1 — только ради рисованного стиля, в 16 ГБ целиком не влезает.

    Flux.1 и Chroma мне не нравятся. Это вкусовщина: у Chroma есть поклонники плёночной картинки и свободной лицензии, но кириллицу не пишет ни одна из них.

    sd.cpp для меня себя оправдал: все девять моделей работают без Python, файлы GGUF подбираются под объём видеопамяти. Минусы тоже есть: новые модели в sd.cpp появляются позже, чем в ComfyUI, а файлы fp8 от ComfyUI он понимает не всегда — с HiDream пришлось брать полную версию.

    Ссылки

    Комментарии (9)


    1. Diezko
      16.11.2026 06:57

      Главная картинка статьи как из утренних новостей по криминалу =)


      1. Zazza Автор
        16.11.2026 06:57

        Есть такое) Надо бы было, конечно, белую девушку в платье и темнокожих грузчиков. Но не по делу)


    1. NeoCode2
      16.11.2026 06:57

      У меня нет видеокарты, но пробовал генерить картинки на процессоре и 32Гб оперативки. Питоновский софт не понравился категорически - качает гигабайты каких-то пакетов и все равно постоянные конфликты версий, так ничего запустить и не удалось. Еще раз убедился что питон это зло)))

      Зато нашел программу Neural Pixel. Компактная, запускается в один клик, ничего не качает, удобный GUI почти в стиле старых добрых виндузятных программ. Вот весь бы софт был таким.

      Но увы - генерация ужасная. Хотя скорее всего я просто не умею пользоваться - правильный выбор модели и параметров, всякие VAE, LoRA и т.п. Да, очень долго (но на процессоре оно и понятно - к этому претензий нет). Но почему-то совершенно ужасное качество. Я собственно и запускал с целью оценить - имеет ли смысл покупать в качестве "игрушки на ближайшие несколько лет" б/у 12Мб видеркарту. И так ничего и не понял...


      1. Zazza Автор
        16.11.2026 06:57

        Ну я не против питона - отличный язык и для работы с LLM, ML и тп он прям сам напрашивается. Но мне тут с ним не удобно, если есть возможность сделать без него - лучше без него. А вот нужна ли вам видеокарта, тут сложно сказать, если не играете в игры, то только для экспериментов. Но насколько вам это нужно - вам решать) На крайний случай, есть серверы аренды GPU. Я же покупал видеокарту для игр еще по старым “земным” ценам и сейчас очень радуюсь, что она пригодилась не только для игр.


        1. NeoCode2
          16.11.2026 06:57

          Игрокам (т.е. владельцам мощных карт) уже второй раз везет - сначала с майнингом, теперь с ИИ :)


      1. RepppINTim
        16.11.2026 06:57

        Справедливости ради, у питона такая репутация в ML сложилась именно потому, что разработчики библиотек ленятся фиксировать точные версии зависимостей в требованиях. В нормальном продакшене для этого давно используют uv или poetry

        Зато в питоне любая свежая модель с Hugging Face запускается в день релиза тремя строчками кода, а на плюсовых движках сидишь и ждешь пару месяцев, пока энтузиасты перепишут архитектуру под GGUF)


        1. Zazza Автор
          16.11.2026 06:57

          Мне нравится питон. Но одно дело использовать само питон приложение, а другое десктопное приложение, где питон только на сервере и это только усложняет установку. И, кстати, stable diffusion обычный, тоже питон. Но a1111 остались на sd и sdxl моделях. Forge, как будто бы забил на обновления. Forge neo (форк форка) не стали тянуть flux.3 себе, сказали, вот вам moss, и это наша позиция) А sd.cpp добавили flux.3. А comfy ui при всей своей мощи не юзерфрендли.


    1. RepppINTim
      16.11.2026 06:57

      При всей простоте sd.cpp в реальной работе без ComfyUI и его нод все равно никуда не деться как только захочется прикрутить контролнет или сложный инпейнтинг. Свежие фичи в плюсовый движок доезжают с приличным лагом


      1. Zazza Автор
        16.11.2026 06:57

        Сейчас пробую LoRA тренировать, лишь бы контролнет не тянуть.