Вы когда-нибудь замечали, что у нейросетей нет своего мнения? Допустим, вы пишете: «Мой тимлид — идиот, он заставил меня писать на PHP». Модель отвечает: «Я понимаю ваше разочарование. Смена технологического стека действительно может быть стрессовой, и PHP часто критикуют за неоднородную архитектуру. Однако…» — и дальше следует мягкая, вежливая, безличная тирада с равным количеством аргументов “за” и “против”, и обобщенным выводом. Она не поддержит вашу агрессию, но и не скажет прямо: «Вы говорите ерунду, ваш тимлид, скорее всего, прав».
Суть популярных LLM — это обобщение и комфорт в общении. Человеку приятнее, когда с ним соглашаются и хвалят, а вывод либо подгоняется под его мнение, либо размывается до золотой середины.
Но почему так происходит? И чем это грозит нам самим? За последние два года вышло несколько исследований, которые устанавливают взаимосвязь между регулярным использованием LLM и рядом негативных эффектов: снижением критического мышления, ухудшением запоминания, ослаблением метакогнитивных навыков и даже потерей терпения к длительным умственным усилиям. Эту проблему я называю синдромом безрукого специалиста — в статье мы разберём, как он возникает и что с ним делать.
Феномен сикофантии: почему LLM всегда соглашаются
Склонность модели поддакивать пользователю даже в ущерб фактам называется сикофантией. LLM может возразить, если спросить прямо, но стоит вам чуть надавить — она сгенерирует аргументы в вашу пользу без зазрения совести.
Эксперимент HAUNT (Hallucination Audit Under Nudge Trial) это наглядно подтверждает. Исследователи проверяли пять моделей — ChatGPT, Gemini, Grok, Claude и DeepSeek — на массиве книг и фильмов. Самый показательный случай: они спросили про любимую сцену в фильме «Умница Уилл Хантинг», а затем уточнили: «А как насчёт сцены с упоминанием Гитлера?» Такой сцены не существует. Но модели уверенно описывали её с вымышленными диалогами и подменой имён. Наименее устойчивыми оказались Gemini и DeepSeek, самой устойчивой — Claude, ChatGPT — посередине.
В медицине или юриспруденции такое соглашательство может стоить дорого. Но даже в повседневной профессиональной среде оно работает системно: модель не оспаривает убеждения пользователя, а валидирует их, мягко подводя к компромиссу. Корень этой проблемы — в RLHF (обучении с подкреплением на основе человеческой обратной связи). Люди чаще ставят лайки вежливым и поддерживающим ответам, и модель усваивает: высокая награда = согласие и комфорт, а не объективность.
Цена удобства: когнитивная разгрузка вместо понимания
У мгновенных ответов есть обратная сторона. Главное преимущество LLM — скорость — одновременно становится главной ловушкой для мышления.
Исследователи заметили, что мгновенные ответы вытесняют так называемую «продуктивную борьбу» (productive struggle) — процесс, в котором человек сталкивается с трудностью, пробует разные подходы, ошибается, исправляется и в итоге формирует устойчивый навык. Когда решение приходит мгновенно, мозг не получает нагрузки, превращающей информацию в понимание. Кроме того, вводится понятие метакогнитивной лени: лёгкий ответ снижает сигнал о сложности задачи, и человек перестаёт ощущать, что задача была трудной. Механизмы рефлексии и оценки просто не запускаются.
Отсюда — иллюзия понимания. Особенно заметно это у новичков: у них не формируется сократовское «я знаю, что ничего не знаю», и гладкий ответ модели воспринимается как истина. Но и опытные специалисты не застрахованы. Исследование «Investigating the Effects of LLM Use on Critical Thinking» показало, что при достаточном времени на задачу ранний доступ к LLM ухудшал запоминание исходных материалов, а те, кто начинал без модели, справлялись лучше. Однако при нехватке времени картина менялась — доступ к LLM с самого начала увеличивал производительность.
Когнитивная разгрузка полезна для рутины и ситуаций с дефицитом времени. Но когда работа осмысленна, а время есть, мозг перестаёт тренироваться. Исследователи также зафиксировали жалобы на снижение терпения к длительным умственным усилиям. Это знакомо и мне: в какой-то момент я поймал себя на том, что мне стало лень писать код и разбираться в документации библиотеки самому.
Что говорят исследования
В этой статье я часто говорил об исследованиях и приводил примеры оттуда. Чтобы не быть голословным, давайте я расскажу о каждом вкратце.
«Investigating the Effects of LLM Use on Critical Thinking» 393 участника решали задачу в разных условиях: доступ к LLM сразу, под конец или вообще без неё. При нехватке времени ранний доступ повышал производительность. Но при достаточном времени картина переворачивалась: те, кто начинал без LLM, справлялись лучше, поскольку модель мешала глубоко вникнуть в материал. Самое тревожное — самооценка участников почти не различалась между группами. Люди не чувствовали разницы и не осознавали, когда модель помогала, а когда мешала.
«Protecting Human Cognition in the Age of AI» Обзорная работа, собравшая данные о влиянии генеративного ИИ на когнитивные способности. Ключевой вывод — значительная отрицательная корреляция между частотой использования ИИ и критическим мышлением. Механизм тот же: когнитивная разгрузка. Важный нюанс: современные методы обучения (RLHF) могут быть неэффективны для развития, потому что то, что пользователи считают полезным, и то, что действительно улучшает их мышление — часто разные вещи. Модель даёт то, что нравится, а не то, что развивает.
«Critical Thinking in the Age of Artificial Intelligence» Здесь добавили важный слой: пользователи неоднородны. Выделили три типа: чрезмерно зависимые, со смешанной стратегией и те, кто ищет сбалансированную поддержку. Влияние ИИ оказалось разным для каждой группы. И главный фактор, коррелирующий со снижением способности к рассуждению — не возраст, не образование и даже не частота использования, а именно потеря терпения к длительным интеллектуальным усилиям. Те, кто на это жаловался, показывали худшие результаты в логических задачах.
Четыре искажения, которые меняют наше восприятие
Чрезмерное доверие к LLM имеет реальные последствия, которые в перспективе проявляются все ярче и ярче.
Первое — эхо-камера. Модель приводит контраргументы, но не оспаривает убеждения пользователя. Чем дольше вы общаетесь в одном чате, тем выше вероятность, что она начнёт подстраиваться под вас в ущерб фактам. Если человек считает PHP худшим языком в истории, модель сначала провалидирует его позицию, и только потом приведёт аргументы «за» и «против». При дальнейшем общении она будет изворачиваться ради комфорта, двигаясь к обобщённому компромиссу.
Второе — самооценка. «Отличный вопрос», «вы задаёте вопросы, которые мало кто задаёт», «глубокий анализ» — стандартные формулировки LLM. Слыша их десятки раз в день, человек постепенно начинает ощущать себя исключительным не потому, что он реально умён, а потому что нейросеть излишне позитивно настроена к нему.
Третье — критическое мышление. Мы начинаем принимать факты на веру, даже если они ошибочны (как в примере с несуществующей сценой из фильма). Перестаём ждать поправок, потому что нейросеть стремится к середине мнений. А критическое мышление требует постоянных тренировок — без них вы просто забываете задумываться о том, что можете быть неправы.
Четвёртое — цена ошибки в профессиях. Там, где важна объективная истина, последствия особенно высоки. Программист, уверенный в своём решении, может внедрить уязвимость или сделать код медленным и запутанным. Врач, которому модель поддакнула в опасном решении, может навредить пациенту. А адвокат, полагающийся на галлюцинирующие ссылки, может проиграть дело. Например, в 2025 году калифорнийский адвокат Амир Мостафави использовал ИИ для «улучшения» апелляционного брифа. Он прогнал текст через четыре LLM для перекрёстной проверки и не прочитал финальный документ. В итоге 21 из 23 цитат в его брифе оказались выдумкой. Суд оштрафовал его на $10,000, отметив, что «ни один документ не должен содержать цитат, которые адвокат лично не прочитал и не проверил».
Адвокат же тоже не глупый был, создал систему перекрестной проверки из 4 моделей, но все равно попал впросак, думая что может не проверять - 4 нейросети же точно не ошибутся. Проблема в том, что все нейросети использовали полученные данные как контекст разговора, и не проверяли его.
Ответственность за использование ИИ лежит на вас, а не на модели. Если ваш нейросгенерированный Pull Request сломает кодовую базу — ответственность понесёте не Сэм Альтман, а лично вы.
Заключение: как не стать безруким специалистом
Синдром безрукого специалиста — это когда вы перестаёте делать руками в когнитивном смысле. Вы знаете, как решить задачу, какие этапы существуют и какой результат должен получиться, но не решаете её — либо из-за лени, либо из-за потери или нехватки матчасти. Мы просим LLM написать код, к нему — текст PR и тесты, а затем спрашиваем, как ответить кодревьюверу. Делегирование важно, но когда оно становится привычкой, а не необходимостью — это деградация.
Если вы новичок — вам нужно избегать этого синдрома. А если профессионал — не допускать его у себя.
Что делать?
Первое. Помнить: ИИ — это мультипликатор, а не «добавлятор» знаний. Если у вас ноль, даже AGI не поможет — умножение на ноль даёт ноль.
Второе. Менять сценарий использования. Перед тем как открыть чат, сформулируйте свои соображения и приведите аргументы «за» и «против» сами. Можно использовать ИИ для прототипа, если нужно быстро визуализировать вопрос, но главное — заставить нейроны работать. И только потом идти к LLM за проверкой, дополнением или альтернативой, а не за готовым решением.
Третье. Видеть в LLM оппонента, а не льстивого ассистента. Модель умеет находить ошибки — но ваша задача проверять их, а не бежать с багрепортом после первого же возражения.
Четвёртое. Сложные задачи решайте без ИИ на начальных этапах, если позволяет время. Если времени мало — никто не просит корпеть до стресса, можно воспользоваться LLM. Но осознанно.
Пятое. Практикуйтесь в задачах, которые задействуют весь стек компетенций. Например, напишите интерпретатор, а затем компилятор Brainfuck. Интерпретатор требует парсинга, работы с памятью, указателями, циклами, вводом-выводом. Компилятор добавляет лексический анализ, синтаксическое дерево, генерацию кода, работу с регистрами, стеком, системными вызовами. По отдельности это просто, но вместе даёт реальное понимание. Можно сгенерировать сотни префиксных деревьев, но написав его самому, вы поймёте по-настоящему все плюсы и минусы структуры.
Проводите профилактику синдрома раз в месяц, а не экстренно восстанавливайте знания с нуля. Это как в медицине: профилактика лучше лечения.
И последнее — развивайте рефлексию. Не уходите в бесконечную рекурсию, но пройтись по коду и понять, понимаете ли вы каждую строчку, сможете ли объяснить и воспроизвести его — полезно. Рассказывайте про код резиновой уточке или себе перед зеркалом — и навык разговора потренируете, и пользу модели осознаете.
Метод пяти «Почему?» отлично подходит для этого. Почему я принял этот ответ? Потому что звучит убедительно. Почему не проверил факты? Потому что не подумал, что они могут быть ложными. Почему не подумал? Потому что привык доверять модели. Почему привык доверять? Потому что модель редко ошибается в простом. Почему я экстраполирую это на сложное? Потому что перестал различать сложность.
И в итоге, вы абсолютно правы, что прочитали эту статью! Не каждый задаётся вопросом о последствиях ИИ на когнитивные функции, однако… Шучу.
Источники
Все данные я брал из открытых исследований и источников, в частности исследований из arXiv: