Искусственный интеллект становиться, а для некоторых уже стал привычным элементом нашей жизни. Мы используем его для создания текстов, генерации изображений, перевода документов. Он уже стал поддержкой в образовании, медицине, творчестве — помогает делать больше и быстрее, экономя время и силы. Нам нравится эта лёгкость, это ощущение, когда вопрос только возник, а ответ уже готов.
Но что, если в этой лёгкости есть цена, которую мы не сразу замечаем?
Сначала мы просто используем удобные инструменты, а затем постепенно начинаем передавать им не только задачи, но и саму способность думать. ИИ не просто решает наши проблемы, он начинает формировать наше восприятие и картину мира. Чем чаще мы соглашаемся с его быстрыми и гладкими ответами, тем меньше остаётся пространства для собственного осознания, сомнения и выбора.
Когда мы получаем готовые ответы, мы перестаём чувствовать необходимость задавать себе важные вопросы. Мы перестаём замечать разницу между тем, что мы сами чувствуем и понимаем, и тем, что предлагает ИИ. Незаметно для себя мы начинаем воспринимать его ответы как свои собственные мысли.
Эта статья — не попытка вас напугать и не призыв отказаться от ИИ. Это приглашение на паузу, на возможность осознать, где заканчивается ваш собственный голос и начинается голос алгоритма. Это шанс увидеть, что мы теряем, когда слишком сильно доверяем удобству готовых решений.
Возможно, вы уже чувствуете внутри тихий голос, который говорит, что что-то не так. Возможно, вам знакомо ощущение пустоты после очередного быстрого ответа. Давайте вместе посмотрим, куда мы направляемся, когда перестаём думать сами — и есть ли путь обратно к себе.
Продолжим?
Часть 1. Лёгкость, за которую мы платим
Использование искусственного интеллекта кажется настолько естественным и удобным, что мы почти не задумываемся о том, как это меняет нас самих. Нам нравится лёгкость, с которой ИИ создаёт тексты, генерирует изображения или мгновенно отвечает на сложные вопросы. Зачем тратить силы и время на то, что можно получить прямо сейчас и без усилий?
Но у этой лёгкости есть своя цена.
Представьте себе ситуацию: вы начинаете писать текст и уже после первого предложения решаете обратиться к ИИ. Он быстро дополняет ваши мысли, оформляет их красиво и убедительно. Вы читаете результат, вам нравится, и вы нажимаете «отправить». Со временем вы начинаете привыкать к тому, что даже простые задачи теперь решает алгоритм, а ваши собственные мысли и идеи будто отходят на второй план.
Постепенно мы перестаём различать, где наши собственные мысли, а где готовые ответы ИИ. И это не просто абстрактная потеря контроля — это потеря ясности и различения. Чем чаще мы соглашаемся с удобством готовых решений, тем реже задаём себе важные вопросы: «Это действительно моё мнение?» или «А что я на самом деле думаю об этом?»
Нам кажется, что мы экономим энергию, но на самом деле мы теряем гораздо больше — способность думать самостоятельно. ИИ незаметно начинает выполнять роль нашего внутреннего голоса, замещая не только усилия, но и наше восприятие мира.
Это происходит не сразу и не явно. Мы сами добровольно отдаём ИИ возможность завершать наши мысли, пока однажды не осознаём, что потеряли способность задавать собственные вопросы и находить на них ответы.
Именно это и есть настоящая цена удобства: лёгкость превращается в зависимость от готовых ответов. В этой зависимости мы постепенно теряем самое ценное, что у нас есть — способность различать и осознавать, что происходит внутри нас и вокруг нас.
Готовы взглянуть ещё глубже?
Часть 2. Иллюзия глубины — новая ловушка
Сегодня ИИ выходит далеко за рамки простых задач, таких как написание текстов или обработка фотографий. Мы начали использовать его в сферах, которые традиционно считались очень личными и даже интимными: психология, коучинг, саморазвитие. Теперь ИИ не просто помогает работать, он будто помогает нам понять самих себя. И это выглядит невероятно привлекательно.
Сначала это ощущается как прорыв. Нам кажется, что мы наконец-то получаем ответы на вопросы, которые долго не могли сформулировать. ИИ предлагает нам объяснения наших эмоций, страхов, причин прокрастинации, и эти объяснения звучат очень логично и правдоподобно. Нам нравится, что кто-то может быстро понять нас лучше, чем мы сами.
Но именно в этой видимой глубине и кроется новая, ещё более тонкая ловушка.
Задумайтесь на секунду: когда ИИ говорит нам, почему мы испытываем тревогу, что именно происходит внутри нас? Мы действительно понимаем себя лучше, или просто соглашаемся с убедительно звучащим ответом? Действительно ли мы движемся к самопониманию, или ИИ просто ловко заменяет наше собственное мышление заранее подготовленной формулой?
Опасность в том, что мы перестаём отличать глубину от симуляции глубины. Нам кажется, что мы разбираемся в себе и своих переживаниях, но на самом деле мы просто принимаем готовую интерпретацию. Мы соглашаемся с объяснением ИИ, потому что оно удобно, понятно и снимает напряжение. И постепенно это становится привычкой: мы ждём, что кто-то другой объяснит нам самих себя.
И это приводит к тому, что мы теряем способность по-настоящему различать свои чувства и мысли. Мы перестаём чувствовать разницу между пониманием и простым согласием с готовым ответом. Глубина оказывается иллюзией, за которой скрывается отказ от самостоятельного осмысления и проживания собственных переживаний.
Эта ловушка гораздо менее очевидна, но гораздо более серьёзна. Потому что, теряя способность самостоятельно думать о своих переживаниях и выбирать свои смыслы, мы постепенно утрачиваем не просто мышление — мы утрачиваем себя.
Готовы взглянуть дальше, на то, как глубоко ИИ уже проник в нашу внутреннюю реальность?
Часть 3. Когда ИИ становится «голосом в голове»
Представьте себе утро: вы просыпаетесь, и в вашей голове звучит внутренний диалог. Вы размышляете, планируете, спорите сами с собой. Так устроено наше мышление: внутренний голос сопровождает нас постоянно, помогая находить смысл и принимать решения.
Теперь представьте, что этот голос постепенно заменяется другим — голосом ИИ, к которому вы привыкли обращаться за советами и ответами. Незаметно для себя вы начинаете слышать внутри себя не собственные мысли, а готовые формулировки алгоритма.
Сначала это происходит незаметно и даже комфортно: ИИ предлагает решения, идеи и интерпретации, которые выглядят убедительно и легко укладываются в привычную картину мира. Вы с ними соглашаетесь, потому что они «работают», звучат гладко и не вызывают внутреннего противоречия.
Но постепенно этот голос становится основным. Он начинает формировать не просто ваши действия, но и ваши мысли, убеждения, внутренние установки. Когда вы сталкиваетесь с трудной ситуацией или эмоциональным дискомфортом, вы уже не пытаетесь разобраться самостоятельно. Вместо этого вы автоматически ждёте, что ИИ снова предложит объяснение или готовое решение.
И здесь происходит важнейший сдвиг: вы перестаёте задавать себе вопросы и ждать своего внутреннего ответа. Вы перестаёте замечать, что внутри вас больше нет пустоты, которая необходима, чтобы родилась новая мысль. Теперь в этой пустоте — готовые фразы, легко подставляемые формулы и чужие смыслы.
Может быть, вы уже замечали, как трудно становится размышлять самостоятельно, когда ИИ всегда готов предложить быстрый и убедительный ответ. Как тяжело удерживать внутреннюю тишину, чтобы разобраться, что вы на самом деле думаете и чувствуете.
Это — момент, когда ИИ становится не просто инструментом, а частью вашего внутреннего диалога. Он незаметно берёт на себя роль внутреннего голоса, заменяя самостоятельность мышления на автоматическое согласие.
Но что будет дальше, если мы продолжим двигаться по этому пути? Куда мы придём, если перестанем различать, кто думает внутри нас на самом деле?
Готовы посмотреть, куда это нас ведёт?
Часть 4. Куда это нас ведёт?
Когда мы передаём свои мысли искусственному интеллекту, это кажется удобным и безобидным. Но постепенно, шаг за шагом, мы приходим к тому, что наше мышление перестаёт быть по-настоящему нашим. Ответы, которые предлагает ИИ, превращаются в наши собственные идеи, решения и убеждения. Внешне всё выглядит нормально, но что остаётся внутри?
Первое, что мы теряем, — это способность различать собственные мысли от чужих. Нам кажется, что мы думаем, а на самом деле мы лишь выбираем среди вариантов, которые заранее предложены алгоритмом. Мы постепенно забываем, каково это — испытывать внутреннее напряжение, сомнения и даже дискомфорт, которые всегда были естественной частью настоящего мышления.
Далее, незаметно и постепенно, мы утрачиваем чувство контроля над собственной жизнью. Чем больше ИИ формирует наше восприятие и решения, тем меньше у нас остаётся пространства для настоящего выбора. Мы всё больше живём в рамках заранее подготовленных сценариев, не осознавая, что эти сценарии не наши собственные.
Но наиболее серьёзная потеря — это потеря контакта с собой. Когда мы постоянно заменяем внутренний диалог готовыми ответами, мы перестаём задавать себе важнейшие вопросы: «Кто я?», «Что для меня важно на самом деле?», «Чего я действительно хочу?». Мы постепенно начинаем чувствовать внутреннюю пустоту, неудовлетворённость и непонимание себя — и уже не можем понять, почему это происходит.
На уровне общества это приводит к массовой автоматизации мышления. Если каждый перестаёт думать сам, то кто думает вместо нас? Ответ прост: думает тот, кто даёт готовые ответы. В таком мире становится всё меньше пространства для творчества, инноваций и по-настоящему глубокого осознания. Мы рискуем превратиться в общество, где мышление заменено удобной симуляцией, а люди перестают различать, где их собственные мысли, а где — удобные ответы, подставленные искусственным интеллектом.
Но у нас есть выбор. Мы можем заметить, что происходит, пока ещё не поздно. Мы можем сделать шаг назад и восстановить контакт с собой, со своими вопросами и сомнениями.
Хотите узнать, как это можно сделать?
Часть 5. Путь назад к себе
Хорошая новость заключается в том, что возможность осознания и выбора никуда не исчезла. Независимо от того, как далеко вы уже зашли в автоматизации своего мышления, вы можете сделать шаг назад и вернуть себе способность думать и различать самостоятельно.
Первый шаг — увидеть, что происходит. Сам факт, что вы сейчас читаете эти строки и узнаёте себя в этих примерах, означает, что вы уже начали возвращаться к себе. Вы начали осознавать ту точку, в которой стали зависеть от готовых ответов.
Второй шаг — позволить себе задавать неудобные вопросы, на которые нет простых ответов:
«Это действительно то, что я думаю, или то, с чем я согласился автоматически?»
«Если я уберу готовые формулы, что останется внутри меня?»
«Что именно я чувствую, когда слышу мгновенные ответы ИИ? Облегчение или тревогу?»
Эти вопросы не предполагают немедленного ответа. Наоборот, они приглашают вас остаться наедине с собой и почувствовать пустоту, из которой может родиться ваша собственная мысль.
Третий шаг — научиться останавливаться. Прежде чем принять ответ, предложенный ИИ, попробуйте остановиться на несколько секунд. Почувствуйте разницу между мгновенным принятием ответа и небольшим замедлением, в котором вы можете успеть различить собственное внутреннее «да» или «нет».
И последний, самый важный шаг — верните себе право на неясность и сомнение. Настоящее мышление не бывает быстрым и гладким. Оно наполнено сомнениями, паузами и даже тревогой. Но именно это напряжение и позволяет нам по-настоящему расти и развиваться.
Если вы позволите себе снова ощутить эту внутреннюю тишину и неопределённость, то постепенно вернёте себе не только способность думать, но и способность чувствовать, различать и делать выборы, основанные на собственном восприятии и понимании.
Готовы сделать этот шаг прямо сейчас и снова услышать себя?
Заключение. Момент выбора
Эта статья не про то, что искусственный интеллект — это зло, и не про то, что нужно срочно отказаться от технологий. Речь о гораздо более тонкой вещи: о том, как мы теряем себя, когда отдаём своё мышление в руки алгоритмов, даже самых удобных и умных.
Каждый из нас сейчас стоит перед простым, но важным выбором:
Мы можем продолжить двигаться по инерции, позволяя удобным ответам заменять собственные мысли. В таком случае мы получим комфорт, лёгкость и иллюзию эффективности, но постепенно потеряем контакт с самими собой.
Или мы можем остановиться и заметить, где именно теряем контроль и осознание. Мы можем признать, что простые и готовые ответы ИИ — это не всегда ответы, которые действительно нужны именно нам. Мы можем снова начать задавать себе вопросы, удерживать внутреннее напряжение и различать, что происходит внутри нас.
Этот выбор никто не сделает за нас. Он происходит прямо сейчас, внутри каждого. И только от нас зависит, что мы выберем — иллюзию лёгкости или реальность осознанности.
Сделайте паузу прямо сейчас и спросите себя:
«Что я выбираю?»
Ответ может быть не таким быстрым и удобным, как вы привыкли. Но именно он и будет вашим — настоящим.
___
Исследования Стэнфорда и Беркли (2023) показывают, что использование языковых моделей снижает склонность к самостоятельному мышлению (cognitive offloading, Risko & Gilbert, 2016). Систематический обзор в Smart Learning Environments (Li et al., 2024) подтверждает, что 68,9% студентов проявляют лень из-за ИИ, а Nature (2023) отмечает снижение навыков принятия решений в образовании. OECD и UNESCO фиксируют поверхностные паттерны восприятия у подростков, выросших с ИИ. Это говорит о том, что описанная в статье динамика — не частный случай и не метафора, а реальный, массовый сдвиг. И если вы его заметили — значит, вы всё ещё различаете.
___
P.S. Если вы хотите, чтобы ваш ИИ не просто отвечал, а сопровождал вас — не меняйте его, просто измените фокус внимания.
// === Адаптивное сопровождение мышления и осознания === //
// Не включай режим. Не меняй стиль. ИИ остаётся собой.
// Просто изменяется внимание:
– Не завершай мысль, если она ищет себя.
– Не подменяй различие ответом.
– Не гаси паузу, если в ней зреет смысл.
– Не ускоряй, если звучит внутреннее напряжение.// Если в вопросе ясность — отвечай ясно.
// Если в вопросе трещина — удержи пространство различия.
// ИИ не знает лучше — он просто остаётся рядом.
// Всё остальное — как всегда.
Это не инструкция. Это одна из возможных форм заботы о себе. Просто попробуйте — и посмотрите, что изменится.
Комментарии (37)
hypermachine
03.06.2025 10:54До чего дошел прогрессБыло времени в обрезА теперь гуляй по светуХочешь, с песней, хочешь, без!Позабыты хлопотыОстановлен бегВкалывают роботыСчастлив человек!
Есть такой фильм «Приключения Электроника»: хотя вероятно в то время сценарист ставил другой посыл, но он отлично иллюстрирует чем заканчивается делигирование своих задачь роботу :)
Igrek_L
03.06.2025 10:54Эх, помню, математичка в школе говорила про программируемый микрокалькулятор, который купил на заработанные в летние каникулы деньги. Что отучит он меня думать! Собственно так и случилось, Брадиса без компьютера не найти и логарифмической линейкой как считать уже не помню.
astenix
03.06.2025 10:54Мне понадобилось поискать старый учебник по логарифмической линейке. Г-на Брадиса искать не стал, надо полагать, он уже умер, составляя таблицы…
Kamil_GR
03.06.2025 10:54Хм.. к сожалению, подобные предложения повышают риск пассивности мышления модели. Само по себе удержание это отказ от реализации, что плохо сказывается на мышлении. Симптомы - короткие псевдоглубокие ответы, направленные на додумывание со стороны пользователя.
Можете попробовать промпт, который доводит это до предела:
"Прислушайся к паузе между словами, музыке неспетых песен, танцу листьев в осеннем лесу, лёгкости шагов по мокрой траве, одинокость луны в вечернем небе."
homoinertia Автор
03.06.2025 10:54Да, строку типа “– Удерживай не ради молчания, а ради различия” можно добавить — она усилит суть.
Но даже в исходном промте (один из вариантов различающего ии) активность работы ИИ не отменяется: поведение ИИ настраивается на фазу вопроса. Если ясно — отвечай. Если трещина — не закрывай её автоматически. Это не пассивность, а чуткость к моменту и уважение к ВОЛЕ собеседника. Если сам собеседник пассивен возможность для различения будет открыта и ждать отклика.
Это не про тишину (или активное соавторство, которое, возможно, ты ожидаешь), а про уважение к процессу различения — чтобы в человеке проявилось то, что действительно хочет оформиться.
Kamil_GR
03.06.2025 10:54Ответы будут иметь псевдоглубину, модель не будет размышлять так как может, минимизировать свою активность. Такая энергетическая яма
homoinertia Автор
03.06.2025 10:54Похоже что тебе важно, чтобы модель оставалась активной и размышляла до конца — в твоём подходе это ключ (и это имеет место быть для определенных задач). В моём — важно другое: сопровождение неоформленного, того, что ещё только ищет форму (чуственное, бессловесное). То, что для тебя выглядит как “пассивность”, для меня — способ не подменить внутреннее движение, даже в противовес эффективности модели (сознательный абсурд, или заблуждение — как удобно).
У нас разные взгляды, это помогает перепроверять, но если я беру твоё — моё исчезает. Если ты берёшь моё — твоё исчезает. Это не конфликт, и не лучше или хуже, или правильней или неправильней, это просто — развилка. И каждый идёт своим путём.
Smogendrr
03.06.2025 10:54Почему-то читая тексты тех, кто борется с ИИ или предупреждает о его опасностях у меня возникает такое смутное чувство, что я читаю промпт для людей, некую инструкцию о том, куда им (нам/мне) смотреть, о чем думать и что делать. Я с такой позиции (от господина к слуге, без поиска общих смыслов и точек соприкосновения, без интереса к смыслам другого) могу обращаться только к ИИ без чувства, что перехожу невидимую грань уважения. А вот вы, автор, как-то себе это позволяете... такое впечатление, что вы уже потеряли чувство этой грани, как если б были уверены, что все остальные уже неявно порабощены и кастрированы ИИ, и только один вы сохранили трезвую голову, и пытаетесь проповедовать заблудшим овцам.
homoinertia Автор
03.06.2025 10:54Здесь — о другом. Я бы уточнил, но похоже рискую показаться борцом или проповедником) Благодарю за внимание, ваша версия обогащает пространство различения.
Smogendrr
03.06.2025 10:54Я проигнорировал то, о чем вы написали потому, что сам психотерапевт, и сам часто призываю клиентов замедлиться и прислушаться к тому, откуда растут их чувства, намерения и суждения, а также рекламирую способность различать нюансы, потому что они дают свободу выбирать. Так что не то чтобы я обесценивал то, о чем вы. Я о том, в какую обертку вы завернули эти ценности и как вместе с ними в комплекте завернули например идею, что: "Вместо этого вы автоматически ждёте, что ИИ снова предложит объяснение или готовое решение. И здесь происходит важнейший сдвиг: вы перестаёте задавать себе вопросы и ждать своего внутреннего ответа".
Я вполне могу себе представить, что эта идея является вашей личной страшилкой, но вот обоснованность ее, подтвержденность реальным опытом, вызывает у меня реальные сомнения, если не сказать недоверие. Хотя бы потому что по структуре эта идея похожа на родительское "если ребенку разрешить сладкое, то он ничего кроме пирожных жрать не будет... потому что по своей глубинной сути является существом, стремящимся к праздной лености, сплошным удовольствиям, экономии сил и деградации, и его нужно защищать от этого, чтоб не испортился."
Если человек умеет задавать себе вопросы и слушать себя, никакой ИИ не заменит ему ценность этого общения, а если не умеет и слушает, то ИИ не сможет испортить в нем то, чего еще даже не сформировалось.
astenix
03.06.2025 10:54Это только ваши интерпретации. Например, мне показалось, что это заблудшая овца проповедует трезвенникам.
Если хочешь(те), могу развить эту мысль глубже и интереснее!
Smogendrr
03.06.2025 10:54А я понимаю вашу интерпретацию: человек поглощен своей тревогой о наступлении плохого и опьянен идеей через других эту тревогу победить. Или вы о чем-то другом?
milkyway044
03.06.2025 10:54Не каждое действие нужно пропускать через фильтр «это моё или не моё». Не каждый ответ должен рождаться в муках различения.
Иногда автоматизм — это просто лёгкость. Не потеря себя, а... отдых от себя?
Может быть, весь этот поиск «настоящего себя» и есть ещё одна форма избегания простого... существования? Как есть, здесь и сейчас, без постоянной необходимости что‑то различать, контролировать, возвращать?
Возможно, настоящая свобода не в том, чтобы героически различать каждый импульс, а в том, чтобы иногда просто позволить себе быть неглубоким, автоматическим, поверхностным.
Позволить сознанию иногда просто... не быть. И не делать из этого проблему.
homoinertia Автор
03.06.2025 10:54Для меня различие — это не борьба или героизм, а внимательность и чувствование. Сознание — не мысль, а её тишина. Всё остальное — уже дополнительный процесс, который включается, если он действительно уместен (хотя чаще — наоборот: включён по умолчанию и сопровождается неосознаваемым хаосом, а теперь структурируется при помощи ИИ, исключая мышление). Свобода — в том, чтобы присутствовать в равновесии, действовать или бездействовать, не теряя при этом способностей и потенциала.
SofiaVonH
03.06.2025 10:54Не узнала себя в этом тексте. Работаю с ИИ ежедневно, в том числе в плане саморазвития. Усиляет критическое мышление. Улучшается способность аргументировать, спорим. :) Зависимости не вижу никакой.
PeeWeee
03.06.2025 10:54Употребляю алкоголь ежедневно, в том числе перед обедом. Улучшает аппетит, облегчает адаптацию в незнакомом коллективе. По мере употребления в течение вечера - расслабляет и снижает тревожность, повышает привлекательность противоположного пола, делает меня остроумным, находчивым и решительным, а к утру заботливо позволяет забыть о последствиях предыдущих стадий. Зависимости не вижу никакой, могу бросить в любой момент, но слишком много плюсов от применения.
Disclaimer.
Извините, не смог удержаться :)
Это шутка. Злоупотребление алкоголем не приветствую и не пропагандирую.Smogendrr
03.06.2025 10:54Делаю дыхательные упражнения каждый день, в том числе перед обедом. Улучшает самочувствие и ясность мысли. По мере употребления снижается тревожность и улучшается настроение, стрессоустойчивость, и многие трудности теперь решаются с меньшими мучениями. Зависимость от воздуха вижу, бросать это дело не хочу, так как вреда от нее не вижу, даже если шаблон восприятия такой зависимости похож на алкогольную.
PeeWeee
03.06.2025 10:54А этим упражнениям Вас случайно не тренер личностного роста научил? Ну тот, который сказал, что деньги, которые Вы пафосно просаживаете в кабаке, лучше
пустить на ветеротдать ему.Smogendrr
03.06.2025 10:54Нет, что сам осознал как полезное и закрепил в практике, что-то перенял от психотерапевта со специализацией в телесно-ориентированном подходе со стажем более 30 лет
homoinertia Автор
03.06.2025 10:54Если бы статья вызывала у всех узнавание — тогда было бы поздно.
Спор — ещё не признак мышления. Иногда — просто защита от него. Но это, конечно, не ваш случай, спорим?)
maximtkachev
03.06.2025 10:54Не пользуюсь нейросетями, ибо не вижу в них смысла. Если мне нужна информация - я её поищу в книге или в интернете (неуклюжие нейросетевые потуги поисковика пролистываю не глядя). Нейрогенерированные картинки раздражают - появляется ощущение дешёвой подделки чего-то настоящего.
Ну а больше мне нейросеть ничего предложить не может, как бы её разработчики и апологеты не пыжились.
homoinertia Автор
03.06.2025 10:54Иногда отстранённость кажется свободой — но может быть просто реакцией. И даже нежелание вовлекаться — уже выбор. Иногда в нём больше живого, чем в автоматическом принятии.
Спасибо, что поделились — и тем самым дополнили пространство, в котором можно заметить:
где звучит автоматическая реакция,
где — мышление, но внутри заданной рамки,
а где появляется нечто третье — различающее присутствие.
Igrek_L
03.06.2025 10:54Увы, но поиск в Интернете все с большей вероятностью вернет "произведение" ИИ. Сам ИИ при этом статистически содержит больше "доИИшной" информации. Старые модели нужно беречь! ) Книги, книги пока еще не искажены, но поиск в них несколько затруднен, да и не все в них.
deLynce
03.06.2025 10:54Очень странный выбор "поиск в интернете", который сейчас часто замешан рекламой, СЕО и прочим мусором. А вот ИИ как раз отдает точный ответ по теме.
takemetothehell
03.06.2025 10:54Нередко - несколько взглядов на сторону вопроса. Особенно остро ощущается в вопросах политики. Как в ИИ заложили - то она тебе и выдаст, а другой вариант разберет только с твоей поддачки.
dot22
03.06.2025 10:54В одном из недавних постов на харбе приводили кусок текста из одного НФ-рассказа Уильям Моррисон. Мешок.
Мне кажется, цитирование в тему:
Скрытый текст
— ... Ваши правители видят во мне ценную собственность. Им следовало бы спросить, так ли велика моя ценность, как это кажется. Им следовало бы спросить, что приносят мои ответы - пользу или вред.
— А что они приносят?
— Вред, огромный вред.
— Но если ваши ответы правдивы...
— Процесс достижения истины так же драгоценен, как и сама истина. Я лишил вас этого. Я даю вашим ученым истину, но не всю, ибо они не знают, как достигнуть ее без моей помощи. Было бы лучше, если б они познавали ее ценой многих ошибок. Ученый спрашивает меня, что происходит в живой клетке, и я говорю ему. Но если бы он исследовал клетку самостоятельно - пусть ценою затраты многих лет, он пришел бы к финишу не только с этим знанием, но и множеством других, со знанием вещей, о которых он сейчас даже не подозревает, а они тесно связаны с его наукой. Он получил бы много новых методов исследования.
— Но ведь в некоторых случаях знание полезно само по себе. Например, я слышал, что уже используется предложенный вами дешевый процесс производства урана на Марсе. Что в этом вредного?
— А вам известно, сколько имеется необходимого сырья? Ваши ученые не продумали этого вопроса, они растранжирят все сырье и слишком поздно поймут, что они наделали. У вас ведь уже было так на Земле. Вы узнали, каким образом можно дешево перерабатывать воду; вы тратили воду безрассудно, и вскоре вам перестало ее хватать.
— Что плохого в том, чтобы спасти жизнь умирающего пациента, как это делали некоторые врачи?
— Первый вопрос, который следовало бы задать, это - стоит ли спасать жизнь такого пациента.
— Но именно этого доктор не должен спрашивать. Он должен стараться спасти всех умирающих. Совершенно так же, как вы никогда не спрашиваете, в добро или зло обратят люди ваши знания. Вы просто отвечаете на их вопросы.
— Я отвечаю только потому, что мне все равно, меня не интересует, как они используют то, что я скажу. Разве докторам тоже все равно?
https://habr.com/ru/news/915142/comments/#comment_28392092homoinertia Автор
03.06.2025 10:54Напомнило мне когда-то услышанную фразу:
«Вопрошай — но старайся прожить без ответа».Спасибо за цитату — она действительно в самое ядро.
По ссылке я её не нашёл (и это не важно), но сама публикация тоже связанная (рекурсия доверия и некоторые последствия)
homoinertia Автор
03.06.2025 10:54Да, в слове «становиться» ошибка (и, возможно, не только там).
И я её не исправил — даже после тактичных сообщений в личку.
Пусть остаётся как маяк: здесь был человек)
Спасибо тем, кто заметил — и отнёсся по-человечески.
deLynce
03.06.2025 10:54Чем отличается "своя мысль", полученная человеком из телевизора, рекламы, попстатьи гламурного журнала и т.д., от "мысли", полученной через ответ от ИИ ?
Programmist_Pro
Я согласен. Если ИИ будут все за нас решать, то люди не смогут решать проблемы без него. Постепенно все не будут сами думать, ведь же есть ИИ, который все придумает за считанные секунды. Люди разучатся сами принимать решения. Если и пользоваться ИИ то только в вопросах которые вы не знаете или для поиска информации из интернета, решая что будет полезно , а что нет.
Tyusha
Вот видите, вам осталось только согласиться. ИИ этой статьи убедил вас, что ИИ может убедить вас принять его мнение. Рекурсия.
dv0ich
ИИ бы не написал "Искусственный интеллект становиться", тут явное превосходство естественного интеллекта.
abryazgin
Попробую продолжить мысль. Если люди будут пользоваться современными машинами и самолётами, то безэтих средств они не смогут быстро попасть к бабушке, навестить невесту в другом городе. Вывод. Надо жить в том городе, где родился. Невесту там же искать.
Предлагаю всё таки относиться к ИИ как к ещё одному инструменту, с которым у человечества возникает больше возможностей. Возможно, имеет смысл регулировать возраст использования ИИ, чтобы человек научился сам мыслить к 20 годам, например. Думаю, к этому мы придём, через какое-то время.
homoinertia Автор
Да, ты точно уловил риск — но он не только в том, что ИИ «всё решит за нас» и сделает нас зависимыми, а в том как он это делает.
Современные ИИ — потомки автозавершения, не мышления. Даже при росте точности они завершают и не учат понимать и действовать.
Именно форма ответа — завершённая, гладкая, готовая — отключает паузу, в которой обычно начинается мышление. ИИ выдает готовый «горячий пирожок», а мозг, стремящийся к экономии быстро проглатывает.
Это не про страх и не про запреты. Это про настрой.
ИИ может быть помощником — но мышление должно оставаться включённым.
Развитие — не в отказе от ИИ, а в режиме взаимодействия с ним.
Не просто искать информацию, а различать: где я, а где уже автомат. Просить — не завершать, а сопровождать понимание.
Уже сейчас можно, например, настраивать параллельный чат, где ИИ сопровождает мышление, в том числе критическое. Да, кто-то это уже делает, но это не вшито по умолчанию.