Берём видеокарту RTX 5060 Ti 16 ГБ, 64 ГБ быстрой DDR5 памяти, запускаем небольшую Qwen3.8 27B Q3 во всю vram, с околонулевым контекстом, получаем неплохую скорость, пишем сапёр/змейку — и оно работает. А дальше подключаем OpenCode, грузим реальный проект и получаем постоянное compacting, уход непонятно в какие дебри, так как она потеряла контекст. Бросаем и забываем эти ваши локальные LLM как страшный сон. Знакомо?

Так выглядит типичный путь тех, кто решил поднять текстовую нейросеть дома. Всё, что не влезает в 16 ГБ видеопамяти, обычно выгружают слоями в оперативку, и скорость падает до дна. А вместе с ней и весь смысл затеи.

Но недавно появился Strata. Это движок под архитектуру Qwen3.8-Flash-Next и следующего Qwen4. Он не гоняет слои туда-сюда, самые востребованные эксперты лежат в видеопамяти, остальные в RAM, а большая справочная таблица — на SSD. Благодаря этому модель на 50+ ГБ работает на обычном игровом ПК с контекстом до 512K, который для работы с кодом ой как нужен. В статье кратко покажу, как запустить её на 16 ГБ VRAM + 64 ГБ RAM, подключить OpenCode и что получается на реальных проектах.

Старое не значит доброе

Дабы иметь базу для сравнения, по старинке запустим Qwen3.8-27B (Q3_K_XL) c 8к контекста (больше в VRAM с этой моделью просто не лезет) в том же LM Studio и попросим написать сапёр. Запускаем работу, получаем 5–8 токенов/сек, а спустя 23 минуты — ошибку, ведь нашей LLM не хватило контекста, чтобы всё продумать и написать код.

Хотя сама модель умная, пользоваться этим всем просто невозможно. Выгрузка части весов из VRAM даст больше контекста, но скорость упадёт до таких значений, что без слез не взглянешь.

Чтобы далеко не ходить, я запускаю Strata с моделькой Qwen3.8-Flash-Next (IQ3_S) с огромным контекстом 512к, и стартую тот же самый промпт, прямо там в чате Strata.

И тут на всё ушло 56 секунд и 24,7к контекста. Скорость была от 70 до 35 токенов/сек. Но главное — игра работает!

Раз всё работает, то можно попросить навести красоту. Ждём несколько минут и получаем прекрасно выглядящий и полностью рабочий сапёр. Лет 10 назад такое можно было бы зарелизить на смартфоны и успешно получать неплохие деньги.

Ну и ради веселья ещё бильярд сделал. Первый запрос для получения рабочего прототипа, а второй — для наведения красоты.

Результат просто ошеломляющий. Но что, если я вас немного обманул, и всё, что вы видели выше, было запущено не на 5060 Ti?

Всё, что было сгенерировано выше, я запускал на RTX 2000 ADA 16 GB + 64 ГБ DDR5 и Ryzen 7945HX. Сам чип тут по мощности сравним с RTX 3060, а памяти хоть и 16 ГБ, но она уже старого стандарта GDDR6 и работает на узкой шине 128 бит. А на реальной 5060 Ti всё будет ещё быстрее, но для этого надо настроить и запустить Strata, чем мы сейчас и займёмся.

Для работы со Strata я собрал небольшой тестовый стенд:

  • Процессор AMD Ryzen 9 7945HX (16 ядер 32 потока)

  • Оперативная память 64GB DDR5 5200mhz cl40

  • Видеокарта Palit RTX 5060TI 16GB

  • Блок питания Formula PSFX-1000 Platinum

Что такое Strata и на чём она работает

Краткая справка о том, как работает Strata. Это не какой-то чудо-движок, который переизобрёл LLM. Фундаментально это просто хорошо сделанная система выгрузки нечасто используемых экспертов из VRAM в RAM, за счёт которой увеличивается скорость. При этом если нужный для работы эксперт лежит в оперативке, то скорость будет проседать, как ни крути, но не кардинально. Похожие механизмы уже есть в llama.cpp, но Strata запускается сильно проще, поэтому для новичков лучше взять её.

На самом деле картами Nvidia и тем более 5060 Ti дело не ограничивается. У самого Strata Engine очень обширная поддержка железок, и его можно запустить на AMD от 6000 серии до Strix Halo, на Intel ARC и PRO серии, конечно же, на Nvidia, начиная от 20-й серии и заканчивая 50-й, а также на Apple Silicon и Nvidia DGX Spark. Отличается только процесс. Для свежих карт Nvidia и AMD есть очень простой и удобный Strata Desktop APP, который упрощает установку до пары кликов, включая загрузку модели. Во всех остальных случаях процесс посложнее и требует ручной установки движка, скачивания моделей и подбора параметров запуска. Это несложно, но процесс со звёздочкой.

При этом каждые несколько дней выходят обновления, которые улучшают совместимость и производительность. На момент начала написания заметки скорость префила на 5060 Ti была около 300–350 т/с, а с обновлениями поднялась до 500+ (на 512к контекста). Поэтому не бойтесь обновляться и проводить тюнинг настроек почаще.

Скоро дойдут железки и будем тестить страту с двумя видеокартами по 16гб, заглядывайте: t.me/tiralab

Установка Strata

Моя заметка про простой путь, поэтому идём на GitHub в раздел релизов и качаем установщик под Windows. В самой Windows стоит заранее обновить драйверы под вашу видеокарту и закрыть весь ненужный софт, освободив как можно больше ресурсов для LLM.

Кроме Desktop приложения, там же лежит голый движок, который можно запускать из-под консоли, с ручным вводом параметров.

Сам процесс установки приложения заключается в нажатии кнопки «Далее». После успешной установки запускаем Strata и начинаем первую настройку.

Соглашаемся скачать движок:

Далее нам предложат выбрать модель под наше железо. Встроенный бенчмарк выбирает модели под RAM+VRAM, игнорируя SSD, так как если модель не влезла и частично лежит на SSD, то скорость падает (не сильно, но лучше этого сценария избегать).

В моём случае на RTX 5060 Ti 16 GB + 64 GB RAM поместится Qwen3.8-Flash-Next в IQ3_S квантовании весом 83,6 ГБ. Её мы и скачиваем. С гигабитной сетью этот процесс занимает 15 минут.

После скачивания модели начнётся тюнинг. Тут предлагается выбрать пару настроек. Во-первых, хотим ли мы, чтобы модель умела распознавать изображения. Выбор зависит от вашей работы. Я эту настройку включаю, так как модель может сама запустить браузер, проверить, всё ли выглядит как на референсе, что мы ей скинули, или нет ли визуальных багов, и сама что-то починить. Тут же стоит выбрать, сколько производительности Strata оставит пользователю. Лучше, конечно же, отдать ей всё и работать с другого ПК, но если такой возможности нет и надо работать на этом ПК, то выбираем 80 % производительности.

После этого жмём зелёную кнопку, которая начнёт процесс тюнинга, который, в свою очередь, подберёт оптимальные настройки под ваш ПК.

Вообще эти настройки не самые оптимальные, и ручками, используя голый Strata Engine, можно добиться лучших результатов.

И на этом всё! Спустя 20 минут тренировки нас встречает окно чата и успешно загруженная модель.

Сменить модель или настройки можно во вкладке моделей.

Тут в целом нас интересует разве что контекст, и с ним есть нюансы. Чем больше контекста, тем больше нейросеть держит «в памяти» данных из чата, файлов и того, что она себе напридумывала. Но при этом остаётся меньше места для экспертов, которые, собственно, делают саму работу. В 16 GB VRAM можно получить 512к контекста, и оно даже будет работать, выдавая 30–80 т/с на обработку и 300+ т/с на префил. Но снизив контекст до 120к, мы получим 50–130 т/с на обработку и 1100+ на префил.

И тут надо самому решать, что вам нужно. Если говорить очень грубо, то простые задачки типа тех, что в начале статьи, без проблем решаются в контекстном окне 64–120к. При рефакторинге огромных и запутанных проектов я бы взял больше контекста. Да, будет долго, но зато LLM не будет терять суть, ломая проект. При этом даже большой проект может быть разбит на мелкие модули с хорошим описанием в agents.md, тем самым позволяя работать с мелким контекстом.

В общем, экспериментируйте.

Как вы видели в начале статьи, этот интерфейс может вызывать Shell команды, писать файлы, открывать браузер и т. д. Но работать с кодом в нём не особо удобно и не нужно. OpenCode заметно более удобный и сильный инструмент, поэтому мы подключим Strata в OpenCode.

В Strata слева снизу нажимаем на MORE -> SHARE. Если OpenCode стоит на том же ПК, что и Strata, тут ничего настраивать не нужно. Если же на другом ПК, жмём Share. После чего берём API URL и Model ID.

Полученные выше данные нужно занести в JSON файл OpenCode, также там нужно обязательно выставить контекстное окно, которое вы настроили ранее.

{
  "$schema": "https://opencode.ai/config.json",
  "model": "strata/iq3_s",
  "provider": {
    "strata": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Strata (local)",
      "options": {
        "baseURL": "http://192.168.1.28:47832/v1",
        "apiKey": "not-needed"
      },
      "models": {
        "iq3_s": {
          "name": "Qwen3.8 Flash Next IQ3_S",
          "limit": {
            "context": 512000,
            "output": 16384
          }
        }
      }
    }
  }
}

Чтобы использовать его во всех проектах, нужно сохранить файл как opencode.jsonc в папку %USERPROFILE%.config\opencode

Либо сохраняем тот же конфиг с названием opencode.json в папку проекта, но в таком случае этот сервер будет работать только в этом проекте.

Далее в OpenCode выбираем модель из конфига. Если её нет, то жмем на поле моделей -> кнопка настроек справа сверху, и активируем нашу.

Готово!

Чем я нагружал эту связку и что получилось

Перенос системы отображения урона на машине из GTA V в Unity. В GTA V интересная система, которая мнёт машины. Перекочевала она из GTA IV и в какой-то мере была прорывной. Она простая, элегантная и очень быстрая. Логика в том, чтобы при ударе машины её вертексы сминались не в оригинальной модели на процессоре, а на ГПУ. Для этого строится текстура, в которую при ударе рисуются разноцветные формы с градиентом. Чем ярче пятно, тем сильнее урон, а цвет влияет на направление удара. После чего текстура накладывается на машину через radial projection и используется в вертексном шейдере для сдвига самих вертексов. Таким образом система поддерживает любую форму объекта при столкновении и очень дешевая для ГПУ.

Задачка со звездочкой, у меня на ручное создание такой системы с нуля ушло два дня. Я скормил эту задачу в LLM, и она написала код примерно за полчаса c учетом моих правок на сильное упрощение системы.

На реальной машине из GTA V всё это выглядит очень даже хорошо.

А бонусом пишем загрузчик карты из NFS Underground, чтобы кататься было не скучно.

Пишем игры для детей по фото

Меня попросили сделать несколько развивающих игр для детей. Было интересно, как LLM справится без моего активного участия и хорошего описания задачи. Поэтому я сделал скриншоты игр из презентаций и закинул их в окно чата с просьбой сделать. Сама по себе игра максимально простая: найти разницу между двумя изображениями.

И оно справилось! Конечно, SVG арт немного кривоват, но его можно починить, в целом же игра полностью рабочая.

Тем же алгоритмом добавил вторую игру с забором. Тут SVG арт ещё хуже, особенно на людях, и это уже после правок. Сама игра работает отменно и без багов, а спрайты можно нагенерировать локально в более подходящем для этого софте (ComfyUI + MiniMax H3).

Старый добрый Memory Match тоже прекрасно получился. Не с первого раза, правда, поначалу закрытая карточка была кривовата, но после пары правок в чате всё работает отлично.

Генерация 3D модели

Ради интереса решил ей скормить весёлую задачку в виде создания 3D модели. На кухне у меня светом управляет ESP8266 с парой мосфетов и DC-DC. Для генерации я так же скинул фотки и сделал пару запросов.

Спустя 5 сообщений, 3 часа реального времени и 4 итерации я получил вполне себе адекватную коробочку в OpenSCAD. Что интересно, LLM даже делала симуляцию прокладки проводов в корпусе, дабы понять, где и как лучше расположить отверстия!

Я, конечно же, её распечатал. Детали поместились, но зазоры слишком большие. Использовать можно, но только добавив клея. Правда, сама LLM сказала, что делала модели примерно по паре скриншотов и они не очень точные. И чтобы выдать результат лучше, она предложила мне сделать замеры самому и дать их ей.

Доработка торрент-поисковика

Ещё один пример — Kontrabanda-dbs. Мой небольшой проект, в котором я изучал работу с крупными базами данных и поиску по ним. За основу взята БД RuTracker, которую я под присмотром Клода научился парсить, переводить в SQLite и работать с модулем FTS5 для поиска с top-K.

Но после активной разработки Клод упёрся в лимиты, начал сбрасывать кэш, писать файл с нуля, а дальше обрываться на полуслове с окончанием дневных лимитов. Мой домашний Клод в виде Квена без проблем переваривает такие нагрузки. C ним я сделал приятный дизайн, интеграцию с qBitTorrent и его категориями, добавил карточки торрентов и разбил весь проект с одного питон-файла на логичные модули + веб фронт. Бонусом настроил сборку докер образа.

Подключаем к умному дому

Конечно, такая огромная LLM для управления лампочками просто не нужна. Я уже экспериментировал с Qwen 3.5 9B и получил великолепные результаты, где эта маленькая модель отвечала просто молниеносно (если отключить размышления) и очень хорошо понимала задачи. Но что, если мы выдадим умному дому огромную и умную модель?

Отвечает она так же быстро, лампочками и техникой управляет без проблем. Но при этом аналитические возможности у неё явно лучше.

Собирать мощную систему хостинга LLM для умного дома точно не стоит, с этим справляются и более простые модели.

Бонусный контент — запускаем Strata на слабом процессоре и DDR3 памяти

DDR5 и топовый Ryzen — это, конечно, хорошо, но как Strata поведёт себя на старой платформе с дешёвой и медленной DDR3? Чтобы узнать это, я взял плату из прошлого обзора. В ней стоит достаточно слабый процессор Intel D1581 в паре с медленной DDR3L памятью в 2 канала (в тесте AIDA64 она развивает 20 Гбайт/сек и до 90 нс задержек), и SSD диском/видеокартой на PCIE GEN3 шине. Но при этом оставил карточку RTX 2000 ADA 16 GB.

Собрав всё это воедино в 2U сервер, я установил и запустил Strata. Оба этих сценария занимают заметно больше времени на слабом железе.

Результат ожидаемый: всё прекрасно работает, генерация идёт, модель всё такая же умная, как на более дорогом железе, но скорость заметно ниже.

На тот же сапёр ушло 3 минуты, работает с первого раза, выглядит приемлемо.

Генерация просела с 35–70 т/с до 19–55 т/с, сама видеокарта при этом недогружена и в активной работе потребляет 30–62 ватта вместо максимальных 70. Это говорит нам о том, что платформа не успевает готовить данные для ГПУ. Префил тоже сильно упал, 110–300 токенов в секунду — это, мягко говоря, мало. Что бы прочитать 60к контекста (половина от выставленных 120к), уйдёт более 3 минут.

С такими результатами ставить что-то мощнее, чем 3060 на 12 ГБ, смысла нет. Зато есть смысл собрать бюджетную LLM машину на Nvidia P100. Энтузиасты уже провели тесты и получили около 30 т/с. Этого вполне достаточно для неторопливой работы с кодом.

Конечно, можно возразить: подписки! И да, модели по подписке будут лучше, контекст больше, и работают они быстрее. Но надолго ли? Особенно на фоне волн банов.

Выводы

Я долгое время относился к локальным LLM как к игрушкам. Ничего больше мелкого рефакторинга им отдать было нельзя. Но со Strata я первый раз почувствовал, что реально работаю и решаю задачи на своём железе, а не тестирую модельки. Конечно, это решение не совсем дешёвое, и есть свои нюансы с ручными настройками для получения максимальной скорости. Но порог входа в локальные LLM ещё никогда не был так низок. А их качество так высоко.

Поэтому скажу: дерзайте, пробуйте, это того на 100 % стоит, даже если у вас старое железо.

Мой тг канал. Заглядывайте: t.me/tiralab

© 2026 ООО «МТ ФИНАНС»

Комментарии (173)


  1. Tirarex Автор
    16.11.2026 09:47

    За простоту статьи не ругайте! Она ориентирована на начинающих, на тех кто хочет слезть с иглы клода но не знает как начать. И на тех кто уже обжегся об лимиты лламы и лмстудио и не верит что их железо на что то способно.


    1. ponikrf
      16.11.2026 09:47

      Ну так начните с правды. Что ни о каком честном контексте в 512к не идет. Или вы сами не разобрались в вопросе? В принципе спецификацию на саму Flash Next читали? Сколько там честного контекста поддерживает модель.

      Что на самом деле по хорошему в лучшем случае более ли менее оптимально на 16 + 64 вы получаете 128к контекста. Но на самом деле рекомендовано 64к

      и не верит что их железо на что то способно.

      Наверное надо еще рассказать что в страте важно ВСЕ. От частоты памяти до скорости NVME в вашем случае. Причем это одно из основных критериев - насколько реально стоит человеку ставить страту. Дать хотя бы минимальные рекомендации по железу, что человеку может понадобится для ее установки.


      1. Tirarex Автор
        16.11.2026 09:47

        Ну так начните с правды. Что ни о каком честном контексте в 512к не идет. Или вы сами не разобрались в вопросе? В принципе спецификацию на саму Flash Next читали? Сколько там честного контекста поддерживает модель.

        Нативный для 3.8 Flash next - 256к. Конечно 512к контекст снижает скорость ( о чем я писал) и вроде как снижает качество. Но я в работе огромной разницы не заметил, а огромное контекстное окно использую часто. От компактования больше проблем чем от косяков модели с большим контекстом (в моей работе).

        Наверное надо еще рассказать что в страте важно ВСЕ. От частоты памяти до скорости NVME в вашем случае. Причем это одно из основных критериев - насколько реально стоит человеку ставить страту. Дать хотя бы минимальные рекомендации по железу, что человеку может понадобится для ее установки.

        У меня NVME простаивает почти все время кроме первичной загрузки модели. Для тестов кстати стоит уже медленный (по текущим меркам) Samsung 970 evo. А память DDR5 на частоте 4800мгц и с высокими таймингами, что по сути самое дно ддр5. Разве что к процессору требование - Avx2/512, но это считай все современные процессоры с 2022 года

        На счет рекомендаций - мне кажется проще скачать страту и посмотреть во что упрется. Тест под конец статьи как раз показывает что даже самое слабое железо но с кучей памяти вполне имеет право на жизнь в работе с ллм.


        1. ponikrf
          16.11.2026 09:47

          Конечно 512к контекст снижает скорость

          Все же честные тут будут 256к на которых и была обучена модель. И причем это для связки 16 + 64 уже перебор. А если KV стриминг отключен то 512к лягут на видяху. В любом случае на 16 гигов VRAM это полнейшее извращение. И чем хуже будет остальное железо - тем больше будет общая деградация ТПС.

          Стоит ли вобще об этом говорить?

          И все таки про YaRN стоило бы почитать, что конкретно дает такой контекст и стоит ли оно вобще того.

          Конечно если мы можем бесплатно включить YaRN с лишним 256к контекста - вопросов нет. Но лишний VRAM и страта - это всегда компромисс.

          От компактования больше проблем чем от косяков модели с большим контекстом (в моей работе).

          Компактизация контента это агентские задачи и от их алгоритма зависит больше чем от контекста 256к/512к. Уже 256к это вполне себе приличный объем данных на задачу. Если у вас постоянно используется 512к - тут впору смотреть на RAG+/декомпозицию. Но по факту 512к у вас не полноценные.

          Конечно в идеале иметь возможно загружать весь проект в память - тут спору нет. Но если сегодня наш проект влезает в 512к и мы пишем код - значит завтра он уже не влезет. Контекст решает проблему только частично.

          На счет рекомендаций - мне кажется проще скачать страту и посмотреть во что упрется. Тест под конец статьи как раз показывает что даже самое слабое железо но с кучей памяти вполне имеет право на жизнь в работе с ллм.

          Наверное вы правы - не стоит давать конкретных рекомендации которые бы увеличили шансы на успех. Про случаи например когда iommu=pt флагом ядра может увеличить префил в 2 раза в некоторых ситуация - это вобще должна быть тайная и запретная информация.

          Ну и стилизация. Например то что значимую часть работы берет на себя процессор с памятью. И по факту на DDR3 с убогим процом никаких пиков до 55 вы не увидите - в консоли скорее всего даже больше 20тпс не будет видно. Но 20 -55 выглядит конечно красиво.

          Чисто технически вы написали как бы правду, по современному уже пожалуй в классическом стиле. Вы показываете то что пользователь хотел бы увидеть, а то что есть на самом деле оставляете мелким шрифтом.

          Людям нравится и это главное. А я тут просто душню.


          1. Tirarex Автор
            16.11.2026 09:47

            Людям нравится и это главное. А я тут просто душню

            С этого все и надо начинать) И моя статья как раз про простое начало работы со стратой а не тонкую настройку под железки.

            А дальше можно натравить ллм на линукс машину со стратой, и пусть она тестирует настройки и скорость работы. Всяко быстрее и лучше будет чем ручками все это перебирать и тратить многие часы на поиск идеальных настроек которые с новым релизом страты могут стать не особо актуальными.


            1. erley
              16.11.2026 09:47

              Вам правильно говорят, нужно бы прислушаться к этому.
              Локальные LLM - тема очень востребованная и сейчас многие с этим разбираются, так что ваша статья попала в поле зрения многих и могла бы быть глубже.

              Если вам хочется рассказать людям что есть страта,то в этом нет ничего нового - на хабре в последние недели почти каждые несколько дней о страте кто-то упоминает.

              Если хотели показать тонкости настройки (автоматический --tune вы сделали, но не стали разбирать что получилось с конфигурацией) у вас в статье тоже нет.

              Про запуск на старом железе - непонятно зачем, вы ведь должны понимать что разумной скорости работы не получится и практическая ценность сомнительна. Не говоря о том, что многие вещи просто не будут работать (их много, посмотрите документацию по Strata - там перечисляются тонны нюансов.

              MTP prediction движки, профили конфигураций (кстати отличная идея этого проекта), про качество разных квантизаций и тд - в статье есть о чём поговорить.

              Если вообще говорить по теме локального инференс-движка, то для меня тут есть несколько моментов -

              • Движок должен жить на headless-машине.
                Я буду работать на своём ноуте и не таскать с собой все железки.
                Думаю таких много, поэтому все эти native apps отпадают, только endpoint по сети

              • Мне не нравится эта возрастающая раздробленность решений для инференса. Проект llama.cpp хорош, но из-за попытки объять необъятное некоторые вещи становятся слишком переусложнены и управляются разрозненными настройками. Кроме Strata лиди часто говорят про Ninfer (https://github.com/Neroued/ninfer), это кстати именно ваш случай когда в системе только один GPU.

              Тема интересная, поэтому всё равно плюсую статью...


        1. Volutar
          16.11.2026 09:47

          У меня NVME простаивает почти все время кроме первичной загрузки модели.

          А у меня встроенный в Strata харнесс изнасиловал NVME на 5% ресурсов за 3 недели. По 300 гигабайт в несколько часов пишет процесс node.exe во время работы. Как отдельный инференс использовать с другим харнессом - можно, но встроенный - не, увольте. Почему он так работает - хз, issue по этому поводу закинул, но там их уже много сотен, и внимания на такое автор не обращает. Ему нужно больше хайпа.


          1. ovr4uk
            16.11.2026 09:47

            Все очень легко лечится, я просто перенес папку куда пишет node.exe на рам диск и ресурс NVME теперь не расходуется.


          1. MaxAkaAltmer
            16.11.2026 09:47

            Т.е. он пишет на SSD постоянно? Я почему-то думал, что только читает.


            1. ovr4uk
              16.11.2026 09:47

              C:\Users\USER\.strata\data\chats.ssd-backup - сюда гигабайтами создает и удаляет маленькие временные файлы, сделал ссылку на RAM диск этой папки, теперь все ок.


              1. MaxAkaAltmer
                16.11.2026 09:47

                Не знаю - проверил, у меня таких проблем нет, как у автора выше. Может потому что я просто использую модель внешними инструментами и не использую чат страты.


                1. ovr4uk
                  16.11.2026 09:47

                  Возможно, но у меня эта проблема была, автор который выше обозначил проблему, issue по ней создал на гитхабе (https://github.com/Niko1221/Strata/issues/5744), для себя временно решил как написал выше. Сейчас все супер.


                1. Volutar
                  16.11.2026 09:47

                  Я тоже, как обнаружил эту «проблему», и не смог её решить (понять куда он пишет), просто перестал использовать его, и перешел на Goose.

                  Пишет эти объемы не сам движок страты, а его харнесс.


          1. Drayden
            16.11.2026 09:47

            Расскажите, пожалста, новичку - где этот ресурс ссд глянуть? Балуюсь со Стратой, но теперь стало страшно.


            1. ovr4uk
              16.11.2026 09:47

              к примеру CrystalDiskInfo

              win^r resmon - тут можно посмотреть кто куда, что пишет


      1. netricks
        16.11.2026 09:47

        Если наша цель слезть с клода, то правильное действие - спросить клода, какая скорость будет у strata на нашем железе


        1. Tirarex Автор
          16.11.2026 09:47

          Он пока плохо шарит. Мне до запуска страты обещал 5-15 токенов/сек аргументируя медленной памятью гпу. А в итоге ситуация значительно лучше.


          1. netricks
            16.11.2026 09:47

            Странненько. Они обычно довольно точны в расчётах


            1. alexzzzz
              16.11.2026 09:47

              Говорят, что работа займет несколько дней, справляются за 15 минут)


        1. LiliJulie
          16.11.2026 09:47

          Есть что-то комичное в том, чтобы попросить Клода помочь настроить замену самому себе, а он специально занизит прогноз в пять раз, чтобы ты не отменял подписку :)


        1. ovr4uk
          16.11.2026 09:47

          результат на 40% выше чем предсказал клод


      1. LiliJulie
        16.11.2026 09:47

        Нативные 256к там и так есть по спекам, а расширение до 512к через RoPE для работы с репозиторием вполне терпимо, если не требовать идеального поиска иголки в стоге сена на самом краю окна


        1. tplogin
          16.11.2026 09:47

          У меня 1 млн. 16 бит и все отлично. Точнее, 850 тыс, дальше уже сжимать начинает.


    1. RTFM13
      16.11.2026 09:47

      пришлось настравливать квена чтобы он этот нейрослоп непонятно зачем набитый картинками упаковал до 1й страницы. но и он не нашел параметров страты в статье. у меня такая же конфигурация но цифры радикально отличаются. статья - нейромусор.


    1. varnar217
      16.11.2026 09:47

      спасибо , сделал и получил 125 милиардов нейронов и 120 к токенов (на RTX 5080 и 64 гигабайтах оперативки и AMD Ryzen 7 8700F 8-Core Processor). Но пришлось повозится с драйверами .


    1. sorosgpt
      16.11.2026 09:47

      >кто хочет слезть с иглы клода

      я б удалял за такие статьи. потом всякие умалишенные реально пытаются кодить и пушить в приличные места высеры 30b огрызков.

      максимум что я пробовл он-прем это ornith-1.5:397b (и qwen3-coder 380шоли) - всё это фуфло, ни о какой замене клавы и речи нет. Если клава это opus с xhigh а не хайку

      если снять лапшу с ушей, то даже kimi 3.1 pro клаудная - не замена клаве, а лишь более-менее рабочая подделочка.


      1. Tirarex Автор
        16.11.2026 09:47

        Проблема в том что однозначного ответа на сколько она хуже - нет.

        Да квен хуже клода по ощущениям, но 3.8fn огромен и в тех же бенчмарках сравним с 4.6 опус, в реальных задачах работает действительно хорошо, а дальше рандом.

        Но в моей работе, клод конечно лучше и проще решает проблемы, но домашний квен все еще на 80% хорош, и на 100% не требует подписок, квн, и не вызывает тряски что сегодня он есть а завтра сервис с доступом забанят, и клода не будет.


      1. dmchmk
        16.11.2026 09:47

        максимум что я пробовл он-прем это ornith-1.5:397b (и qwen3-coder 380шоли)

        :)


      1. MountainGoat
        16.11.2026 09:47

        Так вот кто у нас пытается программы целиком из одного предложения получать.


      1. asdadn
        16.11.2026 09:47

        и qwen3-coder 380шоли

        Сначала "Вы говорите, что LLM тупые? Так у вас модели не те, нужны только новейшие и самые дорогие", а потом "Локалки тупые, я попробовал замшелое дерьмо мамонта годовой давности и оно не тянет". Маркетологи облачных LLMок хорошо надрессировали паству.


  1. Ka463
    16.11.2026 09:47

    Но я в работе огромной разницы не заметил, а огромное контекстное окно использую часто. От компактования больше проблем чем от косяков модели с большим контекстом (в моей работе).

    Значит OpenCode шляпа, если у него проблема с компакцией, возьмите другой харнес


    1. LiliJulie
      16.11.2026 09:47

      OpenCode как раз один из самых вменяемых опенсорсных клиентов сейчас, просто у него по умолчанию довольно агрессивные триггеры компакции, которые на локальных моделях с мелким окном срабатывают слишком рано


      1. Ka463
        16.11.2026 09:47

        Ну и какая разница когда срабатывает суммаризация в агенте ? вопрос не в том что сработало, а насколько дольше агент может продолжать адекватно вести проект,
        То-есть в первую очередь важна организация памяти в агенте, а количество циклов саммари по моему вообще не важно если агент держит проект над которым работает.


    1. Mintavrus
      16.11.2026 09:47

      Как раз таки у OpenCode очень вменяемый компактор. Но по опыту работы лучше делать handoff ручками...


  1. Syzd
    16.11.2026 09:47

    Не понял: локальная qwen 3.8 разобралась, как написать игру, используя карты из NFS Underground? С++ код? Можете показать?


    1. Tirarex Автор
      16.11.2026 09:47

      Это лишь загрузчик карт, что бы поездить на своей машине, или например экспортировать карту в другие игры как мод. Мне в целом было интересно насколько сильна маленькая локальная модель на фоне огромных работ по реверс инженерингу которые делает клод.

      Моделька подключена к опенкоду, ей для удобства установлен REA (https://github.com/morluto/rea) и включен поиск по сети/выполнение команд итд.

      Дальше сделал проект, в него закинул NFS, а так же создал проект в юнити дабы смотреть там карту. Промт был простой "Ты в папке с Nfs underground 1 и Unity проектом. Работа простая - написать скрипт который импортирует карту (меши) + текстуры из NFS в unity." Далее в режиме планирования договорились что меши нужно как .asset нативный для юнити, текстуры dds не надо конвертировать а берем as is и копируем в юнити, шейдеры делаем как в нфс, те unlit + vertex color. Весь разбор занял примерно 12 часов.

      Из интересного - он нашел Asset dumper - утилиту для нфс которая может экспортировать модели, после чего использовал результаты ее работы как референс для теста своего кода импорта. Несмотря на то что я просил его не писать dds импортер, он все же написал его так как было проще распознавать прозрачные текстуры. Еще забавно было что некоторые модели были перевернуты и под землей. Я ненароком подумал что это баг, но на самом деле все работает как надо, это были отражения, для отражений в nfsu нет какой то умной системы которая дублировала геометрию на лету, нет. Для этого прямо в геометрию карты запечены дубликаты вывесок, фонарей итд. Та же ситуация со всякими преградами с мигающими стрелками и стартовыми линиями. Все они вручную расставлены для каждой трассы.

      В итоге оно работает. Код залил: https://github.com/Tirarex/NFSUG2Unity

      А так оно выглядит в Unity.


      1. sorosgpt
        16.11.2026 09:47

        >Из интересного - он нашел Asset dumper - утилиту для нфс которая может экспортировать модели, 

        у меня таким 12 летний сын мается. эта задача что нолик справится.

        а кодит он-премный квен говно, даже простейшие проги


        1. Tirarex Автор
          16.11.2026 09:47

          Ваш сын в 12 лет провел реверс инженеринг игрового движка, проанализировал бинарные данные геометрии и ее расстановки, а потом написал свой софт для импорта/конвертации?


          1. Okeu
            16.11.2026 09:47

            и это он еще про Боромира не сказал :)


          1. rapidstream
            16.11.2026 09:47

            "— А вот соседу моему девяносто, а он говорит, что каждую ночь по три раза может!
            Доктор улыбается и отвечает:
            — Ну так и вы говорите!"


  1. ToxaBes
    16.11.2026 09:47

    Qwen3.8-Flash-Next не является заменой Клоду. Замена Клоду начинается от уровня Deepseek v4.1 Flash ctx 512K.

    Qwen3.8-Flash-Next хорош в 1..5-шаговых задачах. Если задача более сложная, требует десятка шагов и занимает несколько часов (то в чем хорош Клод), то уже нужен Deepseek.


    1. MrYuiryMr
      16.11.2026 09:47

      Ну не знаю, у меня по 100 вызовов тулов делает на контексте 256к и очень редко стопорится.


      1. ToxaBes
        16.11.2026 09:47

        Я не про количество вызовов тулов а про количество подзадач. 100 вызовов тулов может быть в одной подзадаче.


    1. MrYuiryMr
      16.11.2026 09:47

      Думаю тут не про замену Клода имеется ввиду, а про 80-90% задач обычно решаемых пользователем в Клоде теперь можно решать локально.


      1. ToxaBes
        16.11.2026 09:47

        Заголовок статьи как бы намекает. А решать обычные задачи локально можно уже года полтора как и без Strata.


    1. Ka463
      16.11.2026 09:47

      А разве количество шагов не определяется качеством харнеса и поставленной задачей ?
      Так то я думал что сейчас важно то что на выходе, качество сделанного, а не общее количество автономных шагов которое сделала модель.


      1. ToxaBes
        16.11.2026 09:47

        >А разве количество шагов не определяется качеством харнеса и поставленной задачей ?

        Количество шагов определяет тем как модель поняла скил планирования к конкретной задаче, а не харнесом. На текущий момент ни одна существующая LLM не может решать сложные задачи без разбивания на подзадачи (не касаемся decision models), не важно, локальная или от Антропиков.

        Харнес это просто техническая возможность для модели делать эти субтаски, гораздо важнее то как модель может провести выполнение через эту цепочку подзадач. Конечный результат напрямую зависит от того насколько качественно модель разбила на подзадачи и прошла по ним не потеряв важных деталей.


        1. Ka463
          16.11.2026 09:47

          Харнес это просто техническая возможность для модели делать эти субтаски, гораздо важнее то как модель может провести выполнение через эту цепочку подзадач. Конечный результат напрямую зависит от того насколько качественно модель разбила на подзадачи и прошла по ним не потеряв важных деталей.

          Все верно, харнес обеспечивает механизм для модели который дает возможность разбить задачу на таски, качество работы с инструментами,(понятный ответ что бы модель не запуталась) и так же он отвечает насколько хорошо модель работает с памятью, а это напрямую зависит за потерю важных деталей, и длительность автономных шагов.
          А вот качество на выходе по моему зависит уже от самой модели, насколько хорошо она понимает что происходит и куда двигаться дальше.


          1. ToxaBes
            16.11.2026 09:47

            А вот качество на выходе по моему зависит уже от самой модели, насколько хорошо она понимает что происходит и куда двигаться дальше.

            Так я об этом и пишу. Вы сначала спорите, а затем подтверждаете мои тезисы.

            Qwen3.8-Flash-Next не дает достаточного качества на выходе после определенного количеств автономных шагов, поэтому говорить о замене ею Клода рановато. А вот Deepseek v4.1 уже дает такую возможность. Именно об этом я и писал выше.