Дисклеймер №1: написано без внешних нейросетей. Только с помощью той, что в черепной коробке.
Дисклеймер №2: написано без оглядки на хрупкую человеческую гордость. И с пониманием, что ко мне все ниже изложенное относится в той же мере, что и к любому другому человеку.
Захотелось порассуждать вслух (впечать?) над мыслями из статьи. Я не буду нападать на представленную там математическую модель, потому что гуманитарий и нифига в них не понимаю (будете кидать тапками - кидай сразу оба - пару хоть продать можно). Но у меня вызвали недоумение исходные тезисы и вопросы автора и сама постановка проблемы.
А теперь вопрос: кто в этой связке принимает решения?
Современный мир (слава цивилизации) выстроен так, что ценность большинства решений в жизни обывателя падает с каждой эпохой. Попробую сравнить на схожих жизненных сценариях раньше vs сейчас, чтобы было понятно, о чем я.
Раньше: построить хижину из говна и палок или из камня? (Привет трем поросятам). Построил из говна и палок, холодная зима, ветер, снег, обрушение, you died. Сейчас: ламинат, кварцвинил или керамогранит? Да какая нафиг разница? Не понравилось - переделал.
Раньше: сварить похлебку из подозрительно выглядящего зерна или устроить сеанс интервального голодания? Жрать охота - сварил. Спорынья, заражение, лихорадка, you died. Сейчас: какую шаву заказать в доставке - с курицей или говядиной? Да какая нафиг разница? Не понравилось - заказал другую.
Раньше: завербоваться вон к тем грозным ребятам в кольчугах и шлемах, пойти на заработки на рудник или продолжить пахать землю? Пошел на рудник, отправили долбить новый штрек, завалило, you died. Сейчас: пойти работать кредитным брокером в банк или продавцом автомобилей в дилерский центр? Да какая разница? Не понравилось - ушел одним днем.
Кажется, становится понятно, к чему я веду: ценность решения раньше сильно больше, чем ценность решения сейчас. А дальше лично для меня кажется довольно очевидным, что чем ниже ценность решения, тем меньше ресурсов стоит на его принятие выделять. Вплоть до классического примера, когда можно посчитать в деньгах: если час моего времени стоит 10000 рублей, то тратить полчаса на выбор между чайником за 500 и 5000 для меня невыгодно вне зависимости от того, какой чайник я в итоге выберу.
Есть еще другая сторона вопроса, тоже связанная с цивилизацией и масштабом относительно нее отдельного обывателя и его решений. Коротко выражается старым анекдотом про мудрого раввина. Т.е. сидит наш воображаемый обыватель, чего-то там самостоятельно без всяких нейросетей решает, планирует, нарабатывает свои когнитивные способности… И тут вжух! Иранский конфликт, эскалация, третья мировая, fallout. Или куда более банальные изменения рынка труда, ставка ЦБ, цены на недвижимость, пенсионный возраст. Все совпадения с реальностью случайны, разумеется.
Я плавно подвожу к мысли, что “меньше думать” нас подталкивают совсем не нейросети. А последовательный цивилизационный прогресс, одновременно с двух сторон обесценивающий решения обывателя. А когда решения обесценены, так уж принципиально, чем именно мы минимизируем ресурсы на их принятие: броском монетки или передачей вопроса в супер-пупер-рассуждающую модель, вмещающую в себя весь цивилизационный контекст?
Делегирование вычислений. Это то, для чего ИИ действительно создан. Данный список включает в себя поиск информации, перебор вариантов, поиск оптимизации, расчеты, генерация черновиков.” “Делегирование суждения. А вот это уже другое. Это когда вы передаете ИИ финальный выбор между вариантами, постановку цели, оценку последствий, формирование убеждения
Следующий вопрос, который у меня возник при прочтении - где грань между вычислением и суждением, о делегировании которого автор так переживает? Писать “Корова” или “Карова” - это вычисление или суждение? А писать “Иди лесом, козлом любленное чудило” или “Уважаемый клиент, вынуждены сообщить вам…” - это вычисление или суждение? И тут я снова упоминаю цивилизационный прогресс. На этот раз в части организации труда. Которая для линейного персонала год за годом с помощью регламентов, гайдлайнов и прочей отладки рабочих процессов переводит все большее число действий человека из суждений в вычисления.
И вот на этом моменте мне стало непонятно: типа когда думать не надо, надо смотреть в регламент - это ок, это высвобождение ресурса у сотрудника, все хлопают в ладоши. Когда думать не надо, надо смотреть, что там вернула нейронка - это резко не ок, это отупление, ужас-ужас, гроб-гроб-кладбище. А может мне кто-то в комментариях внятно объяснить разницу?
Делегировать суждение можно только то, что имеет низкую сложность (рутина, знакомые ситуации) или же низкую ответственность (ошибка не имеет серьезных последствий)
Поздравляю автора. 99% жизни современного обывателя имеет низкую сложность. Рутина и знакомые ситуации - основа обывателя образца 2026: утром в метро на работу, вечером в метро с работы - знакомо? Если вы за рулем - каждый день другой дорогой добираетесь? И я больше чем уверен, что перед тем как лечь спать вы не переставляете кровать на новое место. Перед тем, как чистить зубы - не перевешиваете на 30 см правее стакан для зубных щеток. И так далее, мысль думаю понятна…
Про ответственность мы говорили чуть ранее. Пользуясь критериями автора (ошибка не имеет серьезных последствий) - 99% решений обывателя в жизни имеют низкую ответственность. Что на выходе? А на выходе следующее: согласно критериям автора обыватель может делегировать нейроночке практически полный объем своих суждений. Кажется кто-то сам себя на ноль помножил…
Но это все, как говорится, претензии к формулировкам и вспомогательным тезисам. А теперь нападу на главный тезис автора
Агентность - это не ресурс, который можно “сохранить”. Это самоподдерживающийся процесс. Вы либо используете ее и поддерживаете, либо не используете и теряете. Третьего не дано.
В примерах выше на мой взгляд четко видно, что та самая агентность в жизни человека становится все менее и менее востребованной не то что для выживания, но и для вполне себе счастливой жизни. Логично было бы предположить, что ее уровень в популяции уже давно должен был скатиться до критического и человечество должно было уже 33 раза вымереть, подобно динозаврам. Но я смотрю вокруг и вместо вымирания вижу что-то совсем другое.
Я размышлял над этим вопросом в разрезе конкретных знаний и навыков. Когда-то (не так давно на самом деле) навык разведения огня был необходим человеку, чтобы не умереть от холода. Утрачен ли сейчас этот навык? И да, и нет. Он точно перестал быть массовым. И я сходу возьмусь назвать немалое количество людей, которые с “живым” огнем в реальной жизни ни разу не сталкивались. И при этом от холода не умирают. Почему? Да потому что развитие цивилизации разрушило однозначную связь между “живым” огнем под боком у обывателя и теплом. Сейчас огнем занимаются какие-то специально обученные люди на ТЭЦ, а тепло в квартире у обывателя от радиаторов. Делегирование состоялось - значит неиспользуемый навык должен быть утерян? Что-то я сомневаюсь… как будто если дать современному горожанину дрова и коробок спичек/зажигалку - огонь он скорее всего разведет, даже если не учить специально.
Я думал об этом в разрезе глобального когнитивного развития всего человечества. И тоже ничего подобного не наблюдается: распространение математического софта не убило прогресс в математике (поправьте, если ошибаюсь). Распространение софта инженерного, где, на мой взгляд гуманитария-обывателя, делегированы не только расчеты, но и суждения (согласно классификации автора) отнюдь не убило инженерный прогресс, скорее даже наоборот. В чем причина? В том, что (пока?) рост количества потенциально мыслящих людей перекрывает падение их “качества”? Или все-таки в том, что делегируя часть суждений, человек мыслящий освободил ресурсы для другой части?
И наконец мы подходим к самому главному:
Если вы перестаете использовать когнитивный аппарат мышления на полную, нейронные сети, отвечающие за сложное суждение, начинают сокращаться. Это называется синаптический прунинг - механизм, с помощью которого мозг избавляется от неиспользуемых связей
Спартанцы ответили на ультиматум одним словом: “Если.” А кто вам сказал, что человек перестанет использовать когнитивный аппарат на полную? Может быть он как раз начнет это делать? Потому что сейчас огромная доля когнитивных ресурсов каждым человеком расходуется на повторные решения уже многократно решенных задач. И никакое классическое обучение эту проблему до конца не решает - человечество уже накопило знаний заведомо больше, чем отдельный человек может в период своей когнитивной жизни познать. Возможно мы увидим строго противоположный эффект, где люди, понимая, что все существующие знания доступны в 2 клика и 1 запрос, начнут думать как раз над тем, где готовых ответов нет?
Ну и вишенкой на торте:
Любое ненулевое делегирование суждения (даже 5%) приводит к полному коллапсу агентности. Это по сути точка невозврата для вида
Что-то подсказывает, что 5% суждений человек делегировал еще несколько тысячелетий назад. Примерно с появлением в когнитивном процессе человечества такого понятия, как аксиома. И дальше этот процесс только усугублялся, а в 20 веке (см выше про организацию труда) принял невиданный размах. Исходя из выкладок автора, в таком случае человечество уже должно было полностью утратить агентность. А теперь смотрим вокруг: утратило?
Морали не будет. Но если мне аргументированно накидают в панамку — буду благодарен. Уж всяко полезнее (в том числе для когнитивных способностей), чем цунами нейрослопа и шквал копроративного контента через себя пропускать. Всем большое спасибо за внимание. Ссылки на ТГ‑канал не будет, живите с этим.
Комментарии (16)
Wosk1947
07.04.2026 05:05Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие. Вот чтобы взяли камеру, человека, и засняли весь этот кейс от и до с последующим дебрифингом пациента, потому что я себе даже вообразить не могу такое. ЛЛМки несут полную ахинею, и чтобы это увидеть, не знаю как другим, но мне видно на автомате - просто читаешь выданный текст, и слова перестают семантически биться друг с другом, для этого даже "думать" не надо. А если начать думать, то сразу появляется масса вопросов и корнеркейсов, которые если задавать, то ЛЛМ очень быстро скатывается в неразрешимые противоречия и галлюцинации. Ну то есть я не представляю, как такому инструменту можно хоть что-то делегировать кроме написания простого кода, и то потом все равно придется руками выправлять.
bkar
07.04.2026 05:05“Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие.”
Написание дипломных работ. Проверка дипломных работ.
Найм. Наверное, на Хабре за последние месяцы ни не было без статьи, затрагивающих то, что это стало битвой ИИ с обеих сторон.
AlekseyPraskovin Автор
07.04.2026 05:05Я бы хотел увидеть хоть один реальный пример, в котором суждение делегируется ИИ, и из его суждения потом предпринимается какое-то действие
Современные HR системы на этапе найма? :) Впрочем, как тут уже подметили - кандидаты тоже не отстают
Wosk1947
07.04.2026 05:05Так современный найм - это поиск по ключевым словам. Там нет никаких суждений, да они и невозможны на столько скудном наборе информации. Любые выводы о человеке по резюме - это случайная болтология, что у человека, что у машины. Я же говорю про кейсы, где возможно настоящее мышление, где вощможно совершать дедуктивные/индуктивные умощаключения.
AlekseyPraskovin Автор
07.04.2026 05:05Так современный найм - это поиск по ключевым словам. Там нет никаких суждений, да они и невозможны на столько скудном наборе информации. Любые выводы о человеке по резюме - это случайная болтология
Ну не могу полностью с вами согласиться. Суждения там вполне возможны, когда ключевые слова в резюме связываются с вашим личным опытом как нанимающего, например. Т.е. "2015-2017: Рога и копыта, проект Немезида" в резюме вызывает суждение вида: Хм, с 15 по 17 год Немезида была единственным успешным проектом рогов и копыт и в проектную команду попадали только самые сильные сотрудники... И т.д.
Я же говорю про кейсы, где возможно настоящее мышление, где вощможно совершать дедуктивные/индуктивные умощаключения
Ну то есть про что-то, что в жизни обывателя встречается 1,5 раза :)
pg_expecto
07.04.2026 05:055 копеек и потраченный комментарий в сутки от себя.
А теперь вопрос: кто в этой связке принимает решения?
На самом деле очень простой ответ на очень простой вопрос.
Ответ - решение всегда принимает человек. По простой причине - только человек способен реализовать принятое решение и нести за него ответственность.
В случае агентов которым дали права root на продуктивном ландшафте - ответственность не на агенте , а не администраторе который принял такое решение.
Чуть подробнее по поводу связки ИИ+человек и принятие решения, нужно разделять какую информацию для принятия решения дает ИИ и откуда эта информация берется:
Вариант-1: сочинение на вольную тему
Когда я прошу нейросеть , что то типа "подготовь рецензию на статью, сформулируй гипотезу о XXX , что ты думаешь о ZZZ" - все, что мне нужно на выходе - логически связный и полноценный текст. Никаких действий на основе этого текста не планируется , откуда берет информацию и как нейросеть связывает слова в логичный связный текст с четко выраженной структурой идеей и обоснованиями - мне в общем то не интересно. Это просто текст. Просто экономия личного времени на сбор информации, редактуру и оформление. Поэтому в данной связке нет того кто принимает решения, есть тот кто готовит информацию и ее использует. То, то ИИ-веганов бесит связный логично построенные гладкий текст - лично меня вообще не волнует. Как совершенно не волнует - как изготовлена тарелка с которой я ем суп - вручную или на конвейере - тарелка выполняет свою функцию за приемлемую для меня цену и не собираюсь переплачивать за маркетинговую разводку "hand made" и прочее.
Вариант-2 : экспертиза и анализ
Когда я прошу нейросеть проанализировать данные экспериментов, ситуация кардинально меняется. Данные подготовлены мной с помощью моего инструмента полностью под моим контролем. Промпт для нейросети имеет вид инструкции для выполнения конкретных действий и конкретного анализа , без галлюцинаций и недетерминированности ответов. Если информации для вывода нет - нейросеть не придумывает а уточняет - "для проведения анализа по XXX не хватает данных YYY". И поэтому в данном случае уже не просто связный текст а результат семантического анализа и поиска скрытых корреляций. И самое главное : ВСЕ абсолютно ВСЕ выводы и рекомендации принимаются к действию только после экспериментального подтверждения. Поэтому в данной связке - решение принимает и несет за него ответственность - инженер.
Возможно мы увидим строго противоположный эффект, где люди, понимая, что все существующие знания доступны в 2 клика и 1 запрос, начнут думать как раз над тем, где готовых ответов нет?
Да, в самую точку .
Никакая нейросеть не даст ответа на вопрос который раньше никто не обсуждал.
fire64
07.04.2026 05:05А таких уникальных вопросов много? Которые нигде и никто никогда не задавал?
Ведь по большей части интернет хранит в себе все знания человечества. Понятно, что там и мусора созданного человеком полно, но так же все художественные произведения, научные работы, философские трактаты, данные о всех экспонатах во всех музеях мира и т.д. т.е. информация о всем материальном и духовном, что когда-либо было создано человечеством.
А нейросети на этих знаниях и обучались.
Можно сказать, что они хранят в себе все знания человечества.
Понятно, что не в прямом виде, а в виде векторов, но тем не менее.
AlekseyPraskovin Автор
07.04.2026 05:05А таких уникальных вопросов много? Которые нигде и никто никогда не задавал?
Гипотетически их околобесконечное количество, если мы принимаем гипотезу об околобесконечной вселенной.
ElvenSailor
07.04.2026 05:05Собственно, проблема как раз в том, что в интернете полно ошибочных, недостоверных, кривых, неполных данных, откровенного вранья и троллинга. Зачасутую, отличить это от правды не может и человек, а уж нейронка-то и подавно. И это раз за разом проявляется. На выходе - логически связный и полноценный текст, содержащий одну или более фактических ошибок.
bkar
07.04.2026 05:05“Что-то подсказывает, что 5% суждений человек делегировал еще несколько тысячелетий назад”
У нандертальцев мозг был более, чем на 5%, крупнее нашего. Внешний интеллект, которому делегировали, - собачий. У нас деградировали чутьё и способность чутко спать (хм… может и не случайно однокоренные понятия).
Vladeber
07.04.2026 05:05Я вижу, что на данный момент ИИ поисковики/GPT - это удобный, дешёвый и универсальный(относительно) способ для решения задач поиска, быстрого анализа, написания текстов, быстрого накидывания вариантов, в общем, работы с текстом и информацией. И то, для многих вещей требуется грамотно и вдумчиво написанное ТЗ (промт), что, имхо, иногда проще (быстрее) гуглу довериться. На этом пока всё.
Прикладные нейросетки типа машинного зрения или написания кода, генерации картинок, работы с доками в CRM/ERP и т.д. - это всё ещё частные случаи с достаточно "ограниченным" функционалом, в том плане, что он не может дать нормально решения на нетипичные и уникальные запросы.
И самое главное: ИИ может дать ответ только на ваш запрос. Но дать цель/задание, начать действие и принять решения – это, пока что, на себя берёт только человек. Пока у ИИ нет "рук" и возможности "хоть как-то" принимать решения - я сомневаюсь, что может начаться некий новый коллапс агентности / деградация вида. Опять же, не могу упомянуть, что для сложных задач требуется написать качественное ТЗ, написание которого требует напрягать извилины, что не даст деградировать тем, кто думает.
Поэтому, я считаю, люди склонные к конформизму, слепо верующие авторитетному мнению, с отсутствием критического мышления и без ИИ не будут принимать обдуманные решения и будут продолжать соглашаться с любым уверенно сказанным утверждением (а иногда не уверенно, но зато по телевизору же!). А те, кто развивает критическое мышление, периодически проводят фактчекинг, да и в целом, развиваются как личность – им точно не грозит никакой кризис агентности.
А вот когда ИИ станет действительно «универсальным солдатом», обретёт реальные «руки», и получит целевое направление, в рамках которого сможет принимать свои решения, будет меньше (или НЕ) завесить от скорости интернета, тогда уже будет… интересно))
HumanBearPig
Сова натянута на глобус.
Жизнь стала безопаснее, но ваши судьбоносные решения (выбор профессии, места жительства и т.д.) всё ещё влияют на продолжение рода.
Зачем доверять на аутсорс решения, влияющие на вашу жизнь, даже незначительные? А вот рабочие процессы можно доверять, убедившись в их адекватности.
Живём для удовольствия, и каждое решение это выбор между болями и удовольствиями, а работа - обязанность, пускай агенты пашут.
AlekseyPraskovin Автор
Ну так-то в 21 веке размножаются все, включая кривых, косых, жителей столиц и райцентров и даже капитаны дальнего плавания... Так что с продолжением рода с точки зрения возможностей все гораздо лучше, чем в "старые (не)добрые" времена. С точки зрения желания вопрос стоит немного иначе, но вы же не об этом, если я верно понял
HumanBearPig
Кривые графика рождаемости опровергают ваши слова.
Дети становятся всё более длинной инвестицией, а скорее даже инвестицией перестают быть. Раньше с 5 лет - в поле работать, сейчас учёба только до 22-25, а потом помоги купить корзиночке жильё. Объём затрат на содержание ребёнка и поддержку жены в довольном состоянии (в особенности с появление хвастограмма) стал сильно выше.
AlekseyPraskovin Автор
Никоим образом. Кривая графика рождаемости - это сочетание возможности размножаться и желания это делать, на что явно указал выше)
Отличная иллюстрация. Довольное состояние - это как раз про желание. Его таки да, определенно стало меньше.
А вот возможностей стало больше. Едва ли не на порядок. Потому что возможности - это про кривую детской смертности, про горизонт фертильного возраста (привет ВРТ) и т.д.