Нейросети помогают решать множество повседневных задач. Однако идея, сначала «развалить» всё и токенезировать, а затем пытаться сложить из фрагментов целое — с точки зрения математики выглядит, конечно, красиво, но с точки зрения простой логики идея спорная.
Это статья о том, что такое инженерное мышление и, как правильная формализация предметных знаний способствует реализации экспертных систем с применением простой логики.
Специализированные нейросети (заточенные на ситуационное распознавание), в силу своей эрудиции действительно эффективно помогают решать множество задач. Но концепция больших языковых моделей плохо сочетается с требованиями к точным и объяснимым решениям в прикладных задачах. Чтобы воспользоваться знаниями прикладных специалистов, необходим удобный и простой язык сохранения и накопления этих знаний. Такой язык взаимодействия должен быть с одной стороны удобен и понятен прикладным специалистам, а с другой позволять организовать поиск решений без необходимости традиционного программирования.
Нейросети всего лишь эффективный инструмент ответов на вопросы, а не средство замены прикладных специалистов
Различных архитектур нейросетевых моделей уже превеликое множество. Общим для всех моделей является необходимость тренировки на специальным образом подготовленных наборах данных. При этом объём данных зависит от решаемой задачи и не обязательно будет критически большим. Например, для постановки вероятных диагнозов по рентгеновским снимкам, нейросеть должна быть всего лишь обучена распознаванию характерных признаков заболеваний. Это отличный инструмент повышения качества медицинского обслуживания, нивелирующий квалификацию врачей (в предположении правильно обученной нейросети). Результат легко оценить и дообучить модель.
А вот назначение лечения уже совсем другая история. Конечно, можно попытаться научить модель рекомендовать схему лечения, но это весьма и весьма непростая задача. В запросе к трансформеру потребуется учесть массу дополнительных взаимосвязанных факторов. Безошибочно перечислить все уточнения. Такой итерационный процесс напрямую зависит от квалификации врача и качество результата не гарантировано. И самое главное, модель (в силу своей вероятностной архитектуры) не может толком объяснить своё решение (поведение).
Итог: как инструмент распознавания, поиска, принятия простых (элементарных) решений нейросетевые модели идеальный инструмент, правда, весьма ресурсоёмкий и требующий квалифицированного обслуживания.
Требования к интеллектуальной системе принятия решений: определённость и точность
Если обратиться к вышеприведенной задаче с назначением лечения по результатам инструментальных исследований можно сформулировать следующие требования к системе рекомендующей схему лечения (экспертной системе/ rule-based / knowledge-based systems):
Наличие интеллектуального механизма уточнения задачи.
Возможность предоставления дополнительной справочной информации по ходу поиска решения.
Предсказуемость и повторяемость результатов.
Возможность анализа и контроля информационного наполнения.
Наличие механизмов отслеживания (с заданной степенью детализации) всего процесса принятия решения.
Возможность внесения дополнений и изменений на протяжении жизненного цикла эксплуатации системы.
ГЛАВНОЕ. Простота для прикладных специалистов в части подготовки и сопровождения информационного наполнения.
Простая логика инженерного мышления
Под инженерным мышлением в контексте данной статьи надо понимать мыслительный процесс последовательного поиска решения на основе набора входных данных и сопровождающих их ограничивающих условий в виде контекста решаемой задачи. Важно, что инженерное мышление это не прерогатива исключительно технических (технологических) предметных областей. В широком смысле инженерное мышление (как бы это ни казалось удивительным) - способ организации экспертизы в самых разных предметных областях, например, в медицине при постановке диагнозов .
Вот основная (общая) логика инженерного подхода к решению задач:
Оценить контекст задачи и попробовать получить решение, используя известную (накопленную) информацию.
Если не удалось получить решение выяснить, что необходимо уточнить для ответа на заданный вопрос.
Запросить недостающую информацию и вернуться к пункту 1.
Поиск решений управляемый данными
В отличие от нейросетевых моделей, в которых сначала описывается задача и модель, используя вероятностные алгоритмы, генерирует решение, инженерная логика требует четких и однозначных правил получения результата.
Традиционно эти правила оформляются в виде алгоритмов решения задачи. Если не надо учитывать большое число взаимосвязанных параметров - методология исправно работает и позволяет успешно программировать прикладные приложения.
С ростом количества параметров и условных переходов, возможность алгоритмизации и обозримость логики процесса принятия решения, быстро сходит на нет. Однако, не всё так плохо. Широкий класс задач инженерного характера (в широком смысле) может быть представлен, как набор функций с наперёд заданными диапазонами допустимых значений входных параметров, определяющих контекст применения каждой функции. Используя простую логику инженерного мышления и универсальный алгоритм подбора подходящих по контексту функций легко обойтись без алгоритмизации сложных задач. Данные необходимые для решения будут автоматически управлять направлением поиска (выбором необходимых функций). Контекст выбранных функций будет указывать на недостающие параметры. Появляется возможность оперативного взаимодействия с пользователем в процессе поиска решения.
Роль прикладных специалистов
Не может быть подвергнуто сомнению, что создание информационного наполнения в виде фрагментов решений и определение контекста применимости этих фрагментов, является работой исключительно прикладных специалистов. Но чтобы прикладные специалисты, не будучи ещё и специалистами в информационных технологиях могли без особого труда выполнять такую работу, нужен понятный и удобный язык формализации предметных знаний. К счастью, особо ничего выдумывать не приходится. Прикладные знания, как правило, представлены в виде: таблиц, методик, расчётов, и некоторых других форм привычных документов, пригодных для приведения к виду необходимому для автоматизированной обработки без традиционного программирования.
Роль нейросетевых моделей
Формализация знаний в прикладных областях нетривиальная задача. Хотя бы в силу того, что информация может быть противоречивой, неполной, недостоверной. В такой ситуации нейросетевые модели могут оказать неоценимую помощь по контролю информации, в частности, при поиске неоднозначностей и противоречивости.
Ещё одним полезным применением нейросетевых моделей может явиться помощь в интерпретации и приведении исходных документов к единообразным формам пригодным для дальнейшей автоматизированной обработки.
Наконец представление результатов поиска решений и объяснение, как и почему было принято то или иное решение идеально ложится на возможности нейросетевых моделей.
Заключение
Нейросетевые модели мощный, но все-таки ограниченный по применимости инструмент. К тому же ресурсоёмкий инструмент.
Инженерная логика проста по своей сути и может быть реализована универсальным алгоритмом не требовательным к ресурсам.
Поиск решений управляемый данными обеспечивает оперативное и интеллектуальное взаимодействие с пользователем.
Основная задача прикладных специалистов – формализация знаний.
Нейросетевые модели могут стать подспорьем в формализации прикладных знаний и представлении результатов поиска решений
Описанный выше подход позволяет утверждать, что будущее за гибридными системами, сбалансированными в части применения нейросетевых технологий и технологий, основанных на простой логике.
Комментарии (33)
Gutt
14.01.2026 09:36Собственно, агенты этим и занимаются иногда — формализуют задачу, загоняют в детерминированный инструмент, получают выход и причёсывают его.
SKaminskij Автор
14.01.2026 09:36Агенты это ...?
dmitry-polushkin
14.01.2026 09:36Агенты это системы которые итеративно выполняют действия чтобы прийти к результату, сами выбирая какие инструменты вызвать и какие данные запросить. В отличие от простого запроса к LLM, агент может сделать несколько шагов: сформулировать подзадачу, вызвать API или базу данных, посмотреть на результат, решить что делать дальше, и так до достижения цели или лимита итераций.
По сути это LLM в цикле с доступом к инструментам и возможностью планировать.
SKaminskij Автор
14.01.2026 09:36Есть только один вопрос: откуда агент берёт информацию, чтобы решить что делать дальше? Если это информация, которую агент сам сгенерировал, исходя из своей же вероятностной модели, то это не вариант для инженерных решений. Для финансовых прогнозов - возможно, хотя ...
dmitry-polushkin
14.01.2026 09:36Агент берёт информацию не из своих "галлюцинаций", а из внешних источников: API, баз данных, файлов, результатов вычислений. Он не придумывает данные - он их запрашивает, получает детерминированный ответ от инструмента, и уже на основе этого решает следующий шаг.
Например: агент получает задачу "найди ошибку в коде". Он запускает тесты (реальный результат), видит где упало, читает этот файл (реальные данные), предлагает фикс, снова запускает тесты. LLM здесь - это "мозг", который интерпретирует и планирует, но факты приходят извне.
Для инженерных задач это работает именно потому, что агент не выдумывает - он оркестрирует вызовы к детерминированным системам.
StanEgo
14.01.2026 09:36Ваша модель не выдерживает даже простой логической проверки. Возьмите на рынке труда 10 человек, которые декларируют себя как те самые специалисты из вашего заголовка. Дайте каждому из них нетривиальную задачу. Сравните их ответы, а потом расскажите нам про вероятностную модель ИИ. Поиск специалиста - вероятностная модель, сам специалист - вероятностная модель, которая может выдавать разный результат даже в зависимости от времени суток.
SKaminskij Автор
14.01.2026 09:36Позволю не согласиться. И не о специалистах речь. Есть знания, и хранилища этих знаний учебники, инструкции, методики и т.д. Такие знания при правильной формализации будут обеспечивать однозначный и воспроизводимый результат. А те 10 человек, о которых Вы говорите, извините за грубое выражение просто "недоучки", 9 из 10 которых окажутся не у дел. :))
StanEgo
14.01.2026 09:36При "правильной формализации" у вас специалисты являются прямым объектом исследования, обозначенном непосредственно в заголовке статьи. И фраза "не о специалистах речь" говорит о попытке подмены исходной задачи. Какой логикой или инженерной практикой вы руководствовались в данном случае или сработал человеческий фактор?)
Хотите поговорить о знаниях и учебниках? Давайте. С точки зрения логики, знания и их скрижали не имеют никакого смысла, если не будут трансформированы в действия, вооруженные этими знаниями. А знаете как в быту называют исполнителей таких действий? Специалисты. И мы опять возвращаемся на круги своя))
И вы пытаетесь сказать, что любой человек, вне зависимости от бэкграунда, включая предыдущие знания, опыт и т.п., прочитав некий набор литературы (к нему есть отдельный вопрос), выполнит одну и ту же задачу совершенно одинаково? И на это не повлияет ни опыт участия в других проектах, ни время дня, ни настроение? Вы вообще понимаете, как формируется подобная литература? Темпоральность знаний, как они эволюционируют, творческая составляющая и т.п.?
Вы так частно говорите о "формальности", но формально "проблема разрешения неразрешима" и над доказательством этого трудились лучшие умы вроде Гёделя, Тарского, Тьюринга, Чёрча и других. И сильной стороной человека была именно вероятностная модель, которую называли творчеством. Хотя, в вашей системе все эти мужи просто читали неправильные книги, но подождите... они как раз пошатнули основы математики и других очень формальных и очень логичных дисциплин, заставив переосмыслить и переписать многие книги. И по сей день идёт битва между ZFC и HoTT как фундамента, казалось бы, самой точной науки.
Даже если вы формализуете львиную долю инженерного труда, значит она может быть изложена на формальных языках, включая языки программирования, что уничтожит человека-инженера как актора в целом. Как дальше вы будете действовать в вашей системе?
Парадокс в том, что стандартизация лучших инженерных стандартов нужна и важна. У нас катострофически не хватает хорошей литературы. Я сам работаю над таковой. Но то, как вы это преподносите вызывает много вопросов и мне кажется противоречащим инженерной логике в своей базе.
SKaminskij Автор
14.01.2026 09:36Давайте немного повременим с окончательными суждениями. Я планирую опубликовать ещё несколько статей в продолжение той, которую обсуждаем. Возможно, тогда будет проще найти взаимопонимание.
ALT0105
14.01.2026 09:36Все процессы и модели вероятностные. Но вероятность найти инженера для решения инженерной задачи практически единица, а ИИ - практически ноль.
SKaminskij Автор
14.01.2026 09:36Наверно, это справедливо. Экспертиза и вероятность вещи плохо совместимые.
michael_v89
14.01.2026 09:36Нейросети всего лишь эффективный инструмент ответов на вопросы
LLM (large language models) это всего лишь эффективный инструмент ответов на вопросы.
нейросети не заменят прикладных специалистов
Нейросети с реализацией LLM не заменят, нейросети с реализацией AGI заменят.
SKaminskij Автор
14.01.2026 09:36Возможно, но статья не об искусственном интеллекте, а о технологии позволяющей упростить постановку и решение вполне земных задач простыми средствами :)). А AGI пусть заменяет. Только, это пока ещё только перспектива.
zoshytlogic
14.01.2026 09:36При разработке среды программировпния для ПЛК, языка LD. Нейросеть указывала, что логику веток и безконечных вложений, надо решать с рекурсиями и графами. Я провел аналогии, сделал , взяв за алгоритм - печатную машинку 200 летней давности.
Нейросеть так далеко заходить не может
TerraV
14.01.2026 09:36Это классическая иллюстрация ситуации, когда ИИ оказывается умнее пользователя. Математика графов это идеальный инструмент для решения описанной задачи (неожиданно ветвление и есть граф). Но квалификации пользователя не хватило понять предложенное и был рожден очередной велосипед.
zoshytlogic
14.01.2026 09:36Вот. Просто тут надо быть изобретательным. Никаких графов и рекурсий. Размещение элементов за один проход. Не буду рекламировать ресурс где я об этом расказываю, наверное на хабре это удалят. Но нейросеть мне проиграла в этой задаче.
TerraV
14.01.2026 09:36Я боюсь что с предоставленным контекстом не смогу понять ни проблему, ни корректность предложенного решения. Я даже не понимаю как читать петли на диаграмме. Это параллельное выполнение или goto back?
zoshytlogic
14.01.2026 09:36Рекурсии, и графы, трудозатратный процесс к тому же склонный к ошибкам при переводе в последовательные команды для MCU. Именно по этой причине я заморочился, придумал велосипед которого еще не было и сделал решение которое 100% корректно ложится в последовательную логику, что бы там пользователь не нарисовал в бесконечных вложениях. Я только о том, что ИИ не хватит ни памяти ни скорости перебирать все процессы и устройства в истории, чтоб провести аналогии, и решить задачу по новому. А человек, мозг которого потребляет 20 Ватт - может. Инженерная интуиция, творчество.
TerraV
Пока вы проходите стадию отрицания, ИИ уже заменяет специалистов. В начале прошлого года был фальстарт, когда несколько крупных компаний попытались агрессивно заменить кожаных на кремниевых, в результате пожалели. Но вторая половина прошлого года прям очень не в пользу wetware.
Фундаментально человека можно точно так же втиснуть в диаграммы и схемы, которыми вы критиковали ИИ. Человек точно так же учится на той базе знаний, что дают в школе, в ВУЗе, что найдет в интернете. Точно так же невероятно что он научился на одной базе и раз - говорит что-то что противоречит базе, на которой обучился. "Если теория противоречит фактам, то тем хуже для фактов" это не для ИИ придумали.
Cordekk
Так у автора не стадия отрицания, а принятие факта, что нейросеть это инструмент, который надо использовать в комбинации.
Что в целом и происходит, ИИ не заменит всех разработчиков, но сократить потребность с 10 до 1 вполне может.
TerraV
Давайте без новояза. Сократит потребность с 10 до 1 это "заменит 9 разработчиков из 10".
Cordekk
Хорошо, заменит 9 из 10, или 1 из 10. К сожалению, мы этого не знаем.
А вообще я тут изучил профиль автора и его ресурсы, там у него вообще идея больше похожая на лоукод, только в топорном исполнении.
SKaminskij Автор
Я совсем не против, чтобы кто-то сделал всё красиво :))
SKaminskij Автор
Действительно в каком-то смысле это лоукод, но не только. А насчёт топорного исполнения ... , так важна демонстрация идеи, а остальное, как говорится, поправимо :))
Cordekk
Ну дело в том, что с лоукодом я работаю давно и видел решения гораздо лучше сделанные, в общем-то всё на слуху, до бума ИИ 23-го года, про них часто писали.
Ваша технология предполагает построение экспертной системы, но в таких системах ведь чем дальше, тем сложнее. Я ЛИМС занимаюсь, знаю о чем говорю.
Сейчас гораздо актуальнее создать какую-то лоукод систему с прикрученной нейросетью. С одной стороны нейросеть позволит быстро добавлять новые блоки системы, работающие алгоритмически, с другой стороны, в системе будет пополняемая база знаний, которая будет использоваться нейросетью для генерации решений.
NeriaLab
Это не создание экспертной системы (ЭС), а проектирование нейро-символьной системы, где когнитивно-символьные системы (КСС) являются ядром, а LLM выступают в роли "глаз" (интерпретаторов лидаров, текста и датчиков) и "мышц". Такое разделение труда сейчас становится мейнстримом в серьезных разработках. Важно понимать отличия:
КСС - это не ЭС. Классические экспертные системы 80-х на жёстких правилах "если-то" плохо масштабировались. Современные когнитивные архитектуры - это динамические системы управления знаниями и планирования. В нейро-символьном подходе именно КСС обеспечивает логическую целостность и соблюдение протоколов, чего нейросеть сделать не может в силу своей вероятностной природы;
LLM - это периферия. Использовать нейросеть как "базу знаний" (как вы предлагаете) - рискованно, так как она не владеет логическим выводом, а лишь предсказывает токены. В правильной архитектуре база знаний и логика лежат в КСС, а LLM лишь переводит неструктурированный ввод в символы для ядра и генерирует понятные ответы на выходе и под вниманием отдельного КСС прувера;
ЭС почти "ушли в прошлое". Если кто-то и делает сегодня классические ЭС, то разве что для игр, где не нужна мощь и точность КСС, а LLM просто сожрет все ресурсы, необходимые для рендеринга. Из "классических" систем, по сегодняшний день, активно используется DXplain в медицине и то благодаря колоссальной базе клинических данных, накопленной за десятилетия.
SKaminskij Автор
Спасибо за комментарий. Лучше не скажешь. :-)
Cordekk
Я такого не предлагал.
я написал, что в системе должна быть база знаний, которая используется нейросетью.
SKaminskij Автор
Я планирую опубликовать серию статей. Возможно, тогда несколько прояснится идея. Место ИИ точно найдётся!
SKaminskij Автор
Полностью согласен. Именно это и хотел, в первую очередь, донести до аудитории.
SKaminskij Автор
Нисколько я не критикую ИИ. Сам успешно пользуюсь и весьма доволен. Хотел только провести грань между вероятностными моделями и моделями построенными на логическом выводе и точных формулировках.
vadimr
Если бы это было так, прогресс был бы невозможен. В старинные времена, кстати, прогресс специально и удерживали, сжигая несогласных с базой на костре.
Точнее говоря, тут смотря какой человек. Большинство людей действительно неспособны к продуктивному мышлению, но, с другой стороны, мы их любим не только за это.
А то, что вы говорите, верно до уровня студента-хорошиста. Уже чтобы защитить диплом на пятёрку в хорошем вузе, надо придумать что-то не вытекающее из обучающей выборки.
SKaminskij Автор
Я не прохожу стадию отрицания ИИ. Но всему есть своё применение. Проанализировать текст в силу своей эрудиции ИИ может бесподобно, а вот с расчетом даже простой инженерной конструкции не справится. Это не его стихия и строить дом топором, даже очень и очень дорогим и модным, думаю не стоит :))