И начал снова учиться жить своим умом. О моём личном осознании через четыре полки из Леруа и ситуации с деградацией в мире.

Нейросети стали для нас прекрасным инструментом наравне со смартфоном и интернетом. Причём инструмент этот можно использовать на своё усмотрение и в меру собственных желаний, и когнитивных способностей. Хочешь развлекайся и залипай в XXX, хочешь делись собственным опытом и знаниями и развивай этот мир, хочешь обслуживай систему через создание и поддержку софта/ресурсов, короче выбор действий не особо ограничен.

Нейронки тоже используют по-разному: кому-то ChatGPT заменяет понимающего партнёра, кто-то говнокодит, иной делегирует рутину, а кто-то за секунду делает подбор данных для серьезного научного исследования.

Но есть и обратная сторона, о которой задумываешься, когда уже подсел на LLM-иглу.

Моя история об осознании глобальной проблемы работы с AI.

Четыре полки

Я заметил, что полностью положился на нейронки не в процессе работы или в изучении своих областей. На откровение меня наткнули полки из Леруа, которые нужно было просто присобачить к стене в квартире у знакомой.

Пару лет назад мой мозг решал такую задачу предварительным размышлением, и в крайнем случае листом А4 с тупо заточеным карандашом. Перед началом работы нужно понять в какой последовательности сверлить, как вбивать дюбеля чтобы не допустить сдвигов кронштейнов = уклона полки, и чтоб вообще всё было удобно и с минимумом пыли.

И первым делом я полез в нейронку, чтобы она объяснила мне как оптимальнее поступить. Я залез в сеть, и случилось то, что случается постоянно – интернет не работал (по очередной, привычной и всем понятной нам причине).

Здесь стоит отметить, что покупку самих полок и расчет габаритов/нужных саморезов я тоже проводил через ChatGPT за пару дней до мероприятия.

“И тут, без интернета, я осознал, что каждое своё действие я уже давно обсуждаю с AI. Не только сбор информации и решение рутины, а буквально всё.

Инструкции по уходу за домашними животными, обслуживанием машины или поход в магазин. Не осталось такой новой задачи (даже бытовой), на которую я бы не получал оптимальный путь решения с пошаговым её выполнением.

Оставалось делать всё самому.
И прежде чем начать, сперва пришлось преодолеть ступор отсутствия инструкции, а затем немного больно поскрипеть мозгами, чтобы найти собственное решение. Алгоритм верного кронштейновкручивания был найден примерно за 10-15 минут, и дело пошло.

Первая полка вкрутилась не без проблем, а я всё больше и больше понимал, что окружил себя нейронками на все случаи жизни. Изначально я ходил в них для быстрого и структурированного сбора информации. Как выяснило опытное исследование, с этим прекрасно справляется Gemini, ChatGPT или Claude проводит великолепную выжимку и простые расчёты, а Grok можно использовать для нетипичных и простых задачек. Ну и Алиса отлично справляется как кухонный таймер (если не отвалится сеть). Но после изучения самих возможностей ИИ, я пошёл вглубь и судя по всему переусердствовал.

Вторая полка привела меня к выводу, что на AI возлагается не сколько выдача релевантного и структурированного ответа, сколько ответственность за действия, причём во всех смыслах. Задача с полками – посильная для самостоятельного решения, и в целом несложная. Но даже в таких вещах я шел за решением к ИИ.

Если говорить утрированно, работу нейронов мозга человека можно сравнить с путём электронов по проводнику – ток двигается по пути наименьшего сопротивления. Человеческий вид назвал этот принцип с одной стороны ленью, а с другой оптимизацией, на которой построена вся мировая инфраструктура от логистики до горячей воды в вашем кране или 100-мегабитного интернета.

Нейросеть позволяет сразу находить путь наименьшего сопротивления, минуя мыслительные процессы.

Vы делегируем сам процесс размышлений и получаем готовую инструкцию – просто добавь воды, где думать вообще не нужно.

Если же у нас инструкция составленная кем-то, мы не можем говорить, что вся ответственность лежит на нас, поскольку мы доверяемся кому-то более опытному (в нашем случае получается более умному). А избавиться даже от части ответственности – вещь для человека более чем желанная, но в то же время довольно рискованная.

И там, где нет процесса “подумать” мозг наш начинает работать не совсем правильно.
Но об этом чуть подробнее поговорим ниже.

На третьей полке новых откровений не поступило, но уже был понятный отлаженный полочный процесс, плюс знание того, что бур всё-таки нужно немного остужать водой.

И под конец четвертой полки стало ясно, что нужно провести исследование и разобраться в теме куда глобальнее, чем мой личный опыт сверления и закручивания. И в этот раз я решил полностью обойтись без помощи ИИ: по классике, с гуглом, листом бумаги и сёрчем, чтобы мозг вспомнил что такое работать по старинке. 

Что в мире

Мне стала интересна ситуация в целом: кто ещё задумался об отупении от нейронок: тогда я полез в самую масштабную яму с чужими кейсами: на Reddit.

В Reddit можно найти всё, кроме того, что всплывает на форчане, но на такие откровения я пока не готов с аудиторией Хабра. Так вот, на Reddit по первому же запросу нашлось колоссальное количество похожих на мою историй: нащупалась тенденция.

На сабредите r/Productivity зацепил вопрос, опубликованный пол года назад:

Не слишком ли мы зависимы от AI в решении простейших задач?

Пост выглядел как отчаянное признание человека который понял, что способность начать думать самостоятельно выключаться. Его обеспокоенность поддержали: многие пользователи считают, что злоупотребление ИИ может погубить критическое и творческое мышление.

Здесь скриншот в оригинале текста 

Возьмем эшелон поинтереснее: сабреддит r/Professors.

Там откопался совершенно свежий и длинный тред, где сообщество преподавателей обсуждали, как AI меняет академический подход обучения. И мне приметился один комментарий:

“It leads to a sort of intellectual dissociation… you stop using your brain because AI offers to do everything for you.”

Автор – профессор гуманитарных наук.
Он описывает, как студенты перестают пытаться читать тексты: они прогоняют их через ChatGPT, получают резюме и считают, что поняли материал.

Скриншот того самого комментария

Дословный перевод:

“Я специалист по написанию текстов, который провел лето, тщательно тестируя GPT-5. В нашем учебном заведении все в порядке, а в отделе - нет.  Потратив много часов на эксперименты, я был в основном впечатлен тем, что он может делать, но осознавал его идиотские циклы, когда он не может следовать базовым инструкциям, и пришел к выводу, что потенциальный вред (для написания) перевешивает пользу от глубокого обучения тому, как им пользоваться. Я занимаюсь обучением грамоте в области искусственного интеллекта, но не собираюсь полностью раскрывать их, если только на меня не окажут давление со стороны отдела (этого не произойдет) или администратора (это может произойти).  Меня больше всего беспокоит когнитивная разгрузка и избегающее поведение при чтении и письме — то, что приводит к тому, что они используют это для обобщения чего-то, что не нужно обобщать, или для создания чего-то, что можно так же легко записать.  Я думаю об этом как о зависимости, которая приводит к своего рода интеллектуальной диссоциации от того, что они читают и пишут. Это усугубляет сомнительные результаты. Самая большая проблема в том, что это предлагает делать все за вас, заставляя вас переступать границы академической честности, пока вы даже не перестанете использовать свой мозг. А студенты, даже если они и умеют подсказывать, не обладают навыками оценки результатов."

Последняя строчка не переведена, так как к нашей теме не относится ?

И историй подобных сотни, люди (вне зависимости от сферы деятельности) замечают как всё чаще делегируют мыслительную функцию на AI.

Но делать вывод только из личного серча пары историй будет неправильным, поэтому я полез дальше:

Даже к текущему времени существуют исследования и эксперименты с обозначенной проблемой. Например научная статья исследователя из Швейцарии под названием “AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking”, или эксперимент 666.

Он взял выборку из 666 человек, деленную на три группы людей с разным уровнем образования и разнообразием профессий:

• 17–25 (молодые);

• 26–45 (средний возрас);

• 46+ (старшие).

И дали им большой опросник, цель которого была выяснить, как различаются показатели критического мышления при разном уровне использования AI. Ну и выяснили, что молодая группа (17–25) чаще всех пользуется AI, а их показатели критического мышления оказались самыми низкими, из-за так называемого оффладинга.

Оффлоадинг – осознанный или автоматический преренос части своих мыслительных функций во внешнюю среду: устройство, инструмент, другого человека или ИИ.

Как и писал выше в примере с электронами, мозг всегда стремится экономить энергию.

Если появляется возможность не держать в голове, не просчитывать, не запоминать, и не анализировать он с радостью принимает эту оптимизацию.

Низкое критическое мышление у молодого поколения, как вы понимаете, не самый хороший знак. И если раньше на человека и его решения ощутимо влияла пропаганда, то сейчас на её место легко поставить AI-инструменты.

Но я нашел ещё более тревожное исследование: Understanding Teen Overreliance on AI Companion Chatbots Through Self-Reported Reddit Narratives.

Исследование не строилось на опросах или искусственно созданных ситуациях. Учёные решили посмотреть на естественное поведение подростков – как они сами рассказывают о своих отношениях с AI-компаньонами в публичных пространствах. Для этого они собрали 318 постов и веток обсуждений подростков 13–17 лет на разных платформах: Reddit, Discord-сообществах и специализированных форумах, посвящённых чат-ботам-компаньонам. Все тексты были предварительно очищены от персональных данных и полностью анонимизированы (по сути то же, что делал я, но более глобально и системно).

Дальше исследователи применили тематический анализ: вручную раскодировали каждый пост, выделяя эмоциональные и когнитивные маркеры. Их интересовали такие признаки, как тревога, зависимость, делегирование принятия решений, поиск эмоциональной поддержки, попытка заменить живое общение общением с ИИ. После кодирования все метки объединили в крупные смысловые категории. Среди них оказались темы «ИИ как эмоциональный регулятор», «делегирование решений», «страх остаться без ответа», «замещение реальных отношений» и «утрата автономности».

Затем учёные посмотрели, как эти темы связаны между собой. Например, если подросток описывал что часто просит ИИ решить за него, что делать в сложной ситуации, почти всегда рядом в тексте появлялись упоминания тревожности или страха ошибиться без внешнего «умного» мнения. Это помогло увидеть не просто набор историй, а повторяющуюся структуру поведения.

Общий вывод оказался жёстким: подростки используют ИИ не как инструмент, а как внешний источник мышления и эмоций, и без него испытывают полноценный и часто затяжной стресс.

Ещё прошло слишком мало времени с начала массовой популяризации ИИ для серьезных научых исследований и экспериментов, но предварительный вывод подтверждается: ИИ не только удобный инструмент, но и способ долгосрочного отупения. Если, конечно, не подставить одно но.

Как это работает и в чём наша проблема.

Благодаря цифровизации и генерации бесконечного контента мы уже получили побочки в виде клипового мышления и дешевой дофаминовой иглы: это проблемы глобальные, влияющие на ход мышления и работы психики текущих и последующих поколений.

К текущим проблемам добавляется ещё одна, возможно ещё более глобальная – нейросетевая, и она комплексная.

Во-первых мы перестаём думать, а равно деградируем – полагаю аргументов в этот счёт уже достаточно.

Во-вторых полагаясь на ИИ мы передаем ему ответственность за собственные решения, хотя по факту это иллюзия. Критическое мышление отвечает за способность самостоятельно сопоставлять и перерабатывать информацию, а нейросеть делает это за нас. Правильным будет как минимум не принимать на веру информацию от первого промпта, а вести дискуссию и даже процесс вопрос-ответ вести как умственную деятельность.

В-третьих накладывается эффект цифровой амнезии – феномен появился задолго до бума нейросетей, но тот провоцирует её развитие еще сильнее. Если не знаете, что это, суть очень простая: когда мозг понимает что нужная информация в безлимитном доступе, он не старается её запомнить. А если же инфа доступна ограниченное время, наша память подключает ресурсы для запоминания (описание реального эксперимента).

Доступность и скорость получения данных – преимущество. Однако недостаток – обесценивание и неиспользование рабочих функций мозга.
То же самое случилось при массовом внедрении поисковиков, благодаря которым миллионы люди смогли полноценно самообразовываться. Но там же многие пользователи принимали любую информацию по первой ссылке за истинно-верную, даже если речь шла о пользе тушеных поганок.
Происходит это и по сей день, и может происходить в эпохе ИИ.

Проблема усугубляется ещё и тем, что мозг не замечает, как постепенно меняется архитектура самого мышления. Раньше между вопросом и ответом лежал путь: поиск источников, фильтрация, сомнение, сравнение фактов, построение собственной позиции. Сегодня этот путь сжат до пары секунд, а иногда до одного клика, и когнитивная цепочка превращается в короткое замыкание. Нам кажется, что мы способны «знать ещё больше», хотя на деле мы просто быстрее получаем готовый результат. Ослабляется та самая внутренняя мускулатура, которая и делает мышление мышлением, а не потреблением данных. 

Парадокс в том, что мы находимся на переломном этапе: ещё помним эпоху, когда информация требовала усилий, но уже живём в эпохе, когда усилия больше не требуются. Психика при этом не умеет переключаться мгновенно. Она адаптируется через откат: сначала мы теряем навыки, которые больше не тренируются, потом — даже способность понимать, что именно утрачиваем. В этом и состоит главная угроза: не в ИИ как инструменте, а в незаметной трансформации человека, который этим инструментом пользуется. 

При этом важно понимать: интеллект машин не равен человеческому. Он может воспроизводить структуру рассуждений, но не проживать сам процесс. Он не знает, что такое сомнение, контекст, внутренняя логика убеждений. Он лишь отражает паттерны, которые поймал в данных. И если мы передаём ему ответственность, мы одновременно отдаём и право на ошибку — то самое право, из которого и рождается способность мыслить. Чтобы нейросеть не стала основным фильтром реальности, человек должен оставаться в цикле принятия решений, иначе весь процесс превращается в автоматическую ленту рекомендаций.

Есть ещё один аспект: чрезмерная лёгкость получения информации обесценивает не только знания, но и опыт. Раньше любая сложная задача – будь то поиск данных, спор, практическое действие  проходила через собственные усилия, и эти усилия создавали глубину понимания. Сейчас многие начинают воспринимать знания как что-то вроде атмосферного явления: просто нажал кнопку и дождь информации пошёл. Но если знание ничего не стоило, оно ничего и не стоит для психики. И отсюда растёт новая форма поверхностности: мы будто всё знаем, но ничего не умеем воспроизвести самостоятельно.

Сами создатели LLM видят тенденцию и ищут как разобраться с проблемой.
OpenAI пробует решать эту проблему в ChatGPT через режим обучения, где он не дает готовых решений, но подталкивает к нему пользователя через подсказки и наводящие вопросы/намёки + необходимый теоретический базис.

Эта попытка вернуть человека в процесс шаг правильный. Но она не отменяет главного: ответственность остаётся на нас. Мы сами должны удерживать границу между удобством и деградацией, между делегированием и отказом от самостоятельности. ИИ может быть гениальным помощником, но плохим хозяином. И если мы не устанавливаем рамки, рамки устанавливает сама технология – по логике максимальной эффективности, а не человеческого развития. Именно поэтому вопрос «как использовать ИИ» важнее, чем вопрос «что ИИ умеет».

А рамки его разумного использования устанавливать только нам самим.

Что делать, если уже в теме?

Отказываться от ИИ будет также глупо, как отказаться от иных благ цивилизации, вроде обуви или 4G в смартфоне. Безусловно существуют отшельники и люди не хотящие сталкиваться с общим прогрессом, и вполне выживающие там, где бы уже пропали мы с вами, но такой вариант не подойдет 99.99% читателям данной статьи.

Но использовать ИИ без самоконтроля и понимания сути инструмента тоже весьма разрушительно. И я пораскинул собственными мозгами:

Важно понимать, что нельзя перекладывать всю работу на AI. Это инструмент, и продукт нашей деятельности его гибрид. Говоря проще нельзя воспринимать его как всемогущего Джина, даже если в вашем случае это так, иначе сперва ваш мозг, а потом и вы сами превратитесь в NPC из Валли.

Я бы назвал этот процесс контролируемым даунгрейдом: как если мы едем из комфортной городской квартиры на не особо обустроенную дачу в деревню. Воду нужно натаскать, или накачать, печку растопить, а туалет даже не в помещении, а отдельным алтарём в дальнем углу участка.

Для печки нужно наколоть дрова, для бани тоже натаскать воды – в квартире это делается в разы быстрее и удобнее. Если убрать дачный вайб, останется та самая оптимизация и улучшение уже существующих процессов, или как мы привыкли это называть – прогресс.

Но отдохнуть от прогресса в ручном режиме идея неплохая.

Вам важно пробовать жить без интернета и решать отдельные задачи без его помощи. Не обязательно сутки подряд или целую неделю, как любят экспериментировать отдельные блогеры – вы не делаете контент, ваша жизнь уже завязана на инфраструктуре, в том числе сетевой. 

Если вы любите свою работу, ищите задачи которые можно сделать самому, пускай потратив немного больше времени.
Если работу проклинаете (что встречается объективно чаще), но делать её всё равно нужно: применяйте нейроаскетизм вне вашей работы.

Безусловно, мы адаптируемся и к миру, где вообще не нужно ничего думать, а нейроинтерфейс справится с этим в 100 раз лучше нашего, и примет решение ещё до формулировки запроса.

Но захотим ли мы в таком мире жить – вопрос совсем другой.
И ответ на него, также как и методы противодействия, задавать только лично нам самим.

И к слову: я веду блог о технологичных компаниях, которые привносят в мир инновации, и успешно реализуют себя на бирже, на pre-IPO и IPO-стадиях и рассказываю где их можно купить.

С вами был Александр Столыпин.
Старайтесь думать своей головой и пейте витамины группы B.

Увидимся в будущем! :)