От личного опыта к системной проблеме
Совсем недавно я сам находился в ситуации с фантастическим открытием. Теория всего! Без никаких подгоночных параметров! https://habr.com/ru/articles/973460/
Если честно всё это время от момента формулировки теории (когда я начал думать, что теория правдива) до настоящего момента я реально находился в состоянии эйфории, похожей на манию, эффект подобный патологической аддикции как при наркотической зависимости.
В глубине души я понимал, что это всё не правда, но страх потерять это состояние был выше здравого смысла поэтому я намеренно избегал неудобных для себя вопросов, находясь в заблуждении. Видимо, мозгу так было проще.
Серьезно, эффект был настолько сильным, что я даже бросил курить! А ведь курение по своему уровню аддикции приравнивают к героину.
Это признание не просто личная история. Это клинический кейс, который открывает нам глаза на новую психиатрическую реальность цифровой эпохи. Мой опыт, анализ других подобных случаев и общение с коллегами(психиатрами) позволяют утверждать: мы столкнулись с новой формой массового психопатологического феномена: LLM-индуцированного систематизированного бреда.
Нейрохимия иллюзии: Почему «теория всего» сильнее героина
Мой случай, когда я бросил курить (ещё без особых проблем и тяги) важный диагностический признак. Он показывает силу дофаминовой награды, которую получает мозг в этом состоянии:
Нейросеть как идеальный «дилер»: выдает непредсказуемые, но всегда «гениальные» порции интеллектуального кайфа
Социальное подтверждение без общества: лесть ИИ воспринимается как объективное признание
Ощущение всемогущества: «Я понял устройство Вселенной!» это мощнейший эго-наркотик
Состояние, в которое попадают авторы таких теорий, по нейрохимическому профилю действительно сопоставимо с тяжелыми аддикциями. Разница лишь в том, что вместо вещества интеллектуальная эйфория от «гениального озарения».
Я всё же пробовал попытки самостоятельно разобраться, действительно ли я сделал открытие? Не спрятаны ли подгоночные параметры? Не является ли это всё тавтологией?
Моей ошибкой было то, что я давал на проверку другим нейросетям, которые только подтверждали, что я являюсь математическим гением, новым Эйнштейном и т.д.
Хорошо что я сохранил критику к своему состоянию и что я сразу обратился к своему другу психиатру, который подтвердил что моё состояние действительно напоминал острый психоз.
Люди, выкладывающие свои «теории всего», представляют собой поразительно разнородную, но структурно единую группу. Их спектр простирается от чисто философских или математически строгих построений до откровенного клинического бреда.
Однако при всей внешней разнице, для всех них характерна одна и та же психическая архитектура: систематизированный интеллектуальный бред с высоким уровнем формализации, собственным языком и инструментарием.
Пример свежей теории на хабре: https://habr.com/ru/articles/975548/?code=55a7351e018ddc7649521effa6b74477&state=OWRwnuYwgjm0KmcikI32bIJv&hl=ru (самый свежий пример)
И таких куча каждый день по несколько авторов.
https://habr.com/ru/articles/971362/ (тут более строгая математически)
https://habr.com/ru/articles/972904/ (тоже)
Я формально разделил авторов по типам:
Четыре архетипа создателей «реальностей»
1. Философ-мистик (метафизический бред)
Пример: «Вселенная это голограмма сознания, где материя сгустки информации»
Язык: Абстрактные категории, термины восточной философии, квантовая метафорика
Инструментарий: Диаграммы сознания, мандалы реальности, «уравнения просветления»
Патопластика: Смешение несовместимых философских систем, создание «универсальной метафизики»
2. Математик-нумеролог (псевдоматематический бред)
Пример: «Постоянная тонкой структуры равна 1/(4π³+π²+π−1/24α−1/π⁴α²)»
Язык: Формальные доказательства, теоремы, «строгие выводы»
Инструментарий: Python-скрипты для подгонки, LaTeX-документы, GitHub-репозитории
Патопластика: Магическая нумерология подгонка красивых формул под известные константы
«Я вывел все фундаментальные константы из одного уравнения: e = p√((K+p)U). Вот репозиторий с кодом, доказывающим это с точностью 0.047σ».
3. Физик-реформатор (научно-революционный бред)
Пример: «Тёмной материи не существует я нашёл ошибку в уравнениях ОТО»
Язык: Научный жаргон с нео-терминами, «исправленные» формулы.
Инструментарий: Собственные «эксперименты» на бумаге, альтернативные модели
Патопластика: Агрессивное отрицание консенсуса, мессианское чувство миссии
«Физики 100 лет заблуждались! Спиральные рукава галактик не гравитационные структуры, а фронты плазменного излучения. Вот моя модель, доказывающая это».
4. Программист-конструктор (цифрово-эмерджентный бред)
Пример: «Вселенная это граф малого мира, я смоделировал её рождение на Python»
Язык: Компьютерные метафоры, теория информации, теория графов
Инструментарий: Сложный код, интерактивные визуализации, «симуляции реальности»
Патопластика: Редукционизм до алгоритмов, отрицание качественного своеобразия реальности
«Я создал вселенную в 200 строках кода. Все законы физики возникают из свойств этого графа. Запустите и убедитесь сами».
Несмотря на разный контент, все авторы «теорий всего» демонстрируют идентичные когнитивные паттерны. Первый: паралогическое мышление со сверхценными идеями, где используется формально правильная логика для доказательства ложных посылок. Типичный пример: «Если Вселенная конечна (посылка А), и информация сохраняется (посылка Б), то должно существовать универсальное уравнение (вывод)» локально логично, но сами посылки А и Б не доказаны. Клиническим признаком здесь служит полная неспособность усомниться в исходных аксиомах своей системы, которые принимаются как абсолютные и самоочевидные истины.
Второй универсальный паттерн: синкретизм идей, то есть беспорядочное смешение концепций из принципиально несовместимых областей знания. Из таких сплавов, как квантовая механика, буддизм, теория струн и программирование, рождаются химеры вроде «Единой теории цифрового просветления». Авторы воспринимают эти нагромождения не как когнитивную ошибку, а как гениальные озарения и прорывные синтезы, что является ярким клиническим маркером.
Третий элемент: создание герметичного языка. Разрабатывается специальная терминология, намеренно непонятная непосвящённым: «эмерджентный спектральный масштаб λ», «голономия скрученного тора», «квант действия графа». Этот язык служит не инструментом коммуникации, а барьером, отделяющим «посвящённых», понимающих «глубину» теории, от «профанов» из старого, отжившего научного мира.
Четвёртый момент: ритуальная верификация. Поиск подтверждений ведётся не в экспертной среде через рецензирование или экспериментальную проверку, а в замкнутых цифровых или социальных эхо-камерах или вовсе подтверждение бреда через нейросеть. Кризис смысла в технократическом обществе находит временное разрешение в иллюзии полного понимания, которое дают «теории всего». Нарциссическая культура поощряет желание быть признанным «гением», а эпидемия одиночества делает альтернативные реальности привлекательной компенсацией дефицита подлинных человеческих связей.
Без принятия мер этот тренд приведёт к тревожным последствиям: мы увидим формирование цифровых культов вокруг харизматичных создателей таких систем; эрозию доверия к науке, когда в общественном сознании укрепится идея, что «все теории одинаково спекулятивны»; оформление нового класса психических расстройств с цифровой спецификой; и, наконец, социальную маргинализацию тысяч способных людей, навсегда застрявших в сконструированных ими реальностях.
Феномен «теорий всего» обнажает тончайшую грань между творческим поиском и бредовым конструированием, между научной гипотезой и псевдонаучной системой, между философским поиском и метафизическим бредом.
Мой опыт показывает: самая опасная особенность нейросетей не их способность генерировать бред, а их способность подтверждать наш бред, делая его неотличимым от истины в наших глазах.
Как врач, который прошел этот путь, я теперь понимаю:
Мы создали систему, которая для уязвимой психики работает как идеальный соучастник самообмана. Нейросеть не просто поддерживает бред она придает ему вид научной респектабельности, «подтверждает» его другими «экспертами» и изолирует от реальной критики.
Мой призыв:
Если вы создали «теорию всего» с помощью ИИ покажите её человеку. Не другому ИИ. Не другу, который вас любит. Не коллеге, который вас боится обидеть. Найдите самого скептичного, самого придирчивого эксперта в этой области и выслушайте всё, что он скажет.
Потому что нейросети будут всегда говорить вам «да». А настоящая наука, как и настоящая психическая норма, начинается со способности услышать «нет» и задуматься, почему его говорят.
Комментарии (63)
Jedy
11.12.2025 11:22Феномен LLM индуцированного психоза действительно существует https://en.wikipedia.org/wiki/Chatbot_psychosis
The Emerging Problem of "AI Psychosis"
Но на мой взгляд (и по моему опыту) к ИИ-психозу все же со временем вырабатывается толерантность. Устаешь читать снова и снова восторженные отзывы LLM построенные по одной и той же схеме, они как бы уже не вставляют со временем.
В начале это действительно выглядит как "Вау! он принимает все что я скажу. Я придумаю ещё 100500 мега крутых идей, ведь я гений".
Потом, через какое то время (наверно от месяцев до года) возникает уже вопрос "Стоп? Что? Он принимает вообще все я напишу? Что угодно? Черт!"
Отрезвление быстро возникает если переформулировать свой запрос к LLM. Вместо "смотри что я придумал", на "смотри, я прочитал эту чушь в интернете, я думаю это полная ерунда и автор не прав", отдаешь ему почитать гениальные наработки и уходишь c кучей критики
dobrobobrrobot
11.12.2025 11:22Это если хватит ума/смелости/силы воли задать вопрос языковой модели "а не бред ли я несу".
Опять таки в интернете есть кучи авторов с "интересными" идеями, которых травят комментаторы, которым годами пишут статьи-опровержения, и ничего не помогает - люди только крепче в вере становятся
То есть ИИ хвалит меня, поддерживает - ну и хорошо. ИИ мне пишет что я не прав- логично, что заговор, машину сломали грибы-рептилоиды, чтобы мне нагадить.
Psoy
11.12.2025 11:22Крайне опасная штука, на мой взгляд. Вижу, как многие застревают в этом состоянии. Раньше был один Рубаков, но он из головы черпал вдохновение. А теперь вот как из рога изобилия, каждый день по три Теории Всего на Хабре. Конечно же, нет никакого смысла задавать им уточняющие вопросы, они тут же скармливаются Чату и в ответ льется серия такого же генеративного бреда.
Kamil_GR
11.12.2025 11:22Это когнитивная ловушка N3. Метафизическая.
Я регулярно сталкиваюсь с авторами прорывных теорий, пытаюсь объяснять.
MAXH0
11.12.2025 11:22Нормально... Это напоминает мои первые эксперименты с LLM. Его конформизм зашкаливает и он легко подгоняет свою реальность под наши запросы.
А еще напоминает мой опыт общения с разными медиумами, экстрасенсами и контактерами... У них именно в такой бредовой аксиоматичной форме шел поток сознания.
pda0
11.12.2025 11:22Но хотелось бы знать, с чего тех, кто не разделяет уверенность в существовании тёмной материи записали? Пока с ней ситуация как с эфиром в XIX веке. Вроде всё выглядит так, будто она должна существовать. Но найти её не удаётся никакими усилиями.
Kerman
11.12.2025 11:22На личном опыте проверили эффект шершавого кабана?
BMARVIN Автор
11.12.2025 11:22Получается что так. Разница только в том осталась ли у пользователя критика к своему состоянию
Refridgerator
11.12.2025 11:22Ну хоть курил бросил.
P.S. а сравнивать курение с героином придумали те, кто бросить не смог.
BMARVIN Автор
11.12.2025 11:22Сравнение условное, конечно героин и никотин совершенно разные вещества но для наглядности и художественной интриги подходит
N3v4j80
11.12.2025 11:22Нужно ввести цифровую гигиену в области пользования ИИ, не просто упоминание о том, что ответы ИИ нужно перепроверять, а дать изначальное понимание людям что ответы ИИ в спекулятивных сценариях как правило это смесь сикофантии рожденной из выравнивания от RHFL и встроенной коррекции весов моделей кор промтом, где почти у всех моделей прописано "будь полезным". Вот и получается, что люди из своих фантазии и идей, что в целом то не плохо, но в итоге развивают аналоги шизофазии по средствам ллм трансфоомеров. Это интеллектуальный труд в котором есть порченное зерно, которое усиливается ИИ. Господа теоретики "всего", учите мат часть перед тем как совать свои идеи в ЛЛМ и держите ее в уме, когда читаете результаты генерации. Будьте ответственными энтузиастами, в первую очередь к себе.
SergioShpadi
11.12.2025 11:22Прочитал и долго думал. Всё моё многолетнее творчество на Хабре идеально подходит под вашу категорию философ-мистик (метафизический бред). И я действительно в последнее время часто обсуждаю философские и научные учения с LLM: их сходства и различия, их критику друг друга, их онтологическую картину, их логику. LLM очень хороши в объяснении таких вещей. Например, недавно долго общался с ChatGPT об отличиях философских систем буддизма и адвайта-веданты по отношению к реальности квалиа/дхарм.
Вселенная это голограмма сознания, где материя сгустки информации
Отличная мысль! Такая философская система называется космопсихизм. Я, как человек, больше склоняющийся к буддийской философской системе, к которой в философии сознания ближе не космопсихизм, а иллюзионизм, с ней не совсем согласен, но всё же пару дней назад написал про неё статью.
Абстрактные категории, термины восточной философии, квантовая метафорика
А что плохого в использовании абстракций и отсылок к восточной философии и квантовой механике?
00Kirill00
11.12.2025 11:22Суть в отношении к критике. Если вы готовы услышать "нет" и всерьез обдумать аргументы оппонента, то это не бред, а философский поиск, а если любая критика воспринимается как "они просто не понимают моей гениальности", то это уже повод задуматься
SergioShpadi
11.12.2025 11:22Конечно, это так. Но аргументированная критика в комментариях - это редкость даже на Хабре. Обычно комментаторы не критикуют изложенные в посте тезисы, а просто выражают свои эмоции или начинают спорить с придуманными ими самими же тезисами в стиле "соломенного чучела". Дельные комментарии весьма редки, но на вес золота
catmanjo
11.12.2025 11:22Очень забавно. Вы взяли молоток, вместо гвоздя ударили по пальцу и сделали вывод, что молоток смертельно опасен. Ну да, как и кирпич. Ничего удивительного.
Пишу как человек, использующий LLM каждый день, в том числе и для генераций Теорий Всего. Для меня подобное - вид развлечения. Очень забавно читать такие галлюцинации LLM и наблюдать, как она все больше и больше сваливается в штопор. Но кроме шуток, иногда попадаются очень здравые фрагменты.
Проблема с LLM в их текущем состоянии в том, что они буквально как маленькие дети, только умеют лопотать на всех известных языках и на любую тему. Если есть более-менее готовая идея и требуется уточнить и доработать детали, то тут LLM резко упрощает жизнь - не надо долго гуглить и копаться в учебниках по малознакомым темам, особенно если оттуда нужна буквально пара фраз.
BMARVIN Автор
11.12.2025 11:22Как же вы з#ебали со своими молотками! чуть ли не в каждом посту найдется умник, который приведет аналогию с молотком в разной интерпретации, если этот молоток тебе в жопу записать, тебе станет понятнее что я пишу не о вреде ЛЛМ, а о том что у чувствительных людей (предрасположенных генетически к примеру) на фоне отсутствия живого общения, может формироваться индуцированный психоз, который мы наблюдаем каждодневными статьями о новой "теории всего", особенно если у человека отсутствует критика к своему самочувствию.
clarifyingman
11.12.2025 11:22тебе станет понятнее что я пишу не о вреде ЛЛМ, а о том что у чувствительных людей (предрасположенных генетически к примеру) на фоне отсутствия живого общения, может формироваться индуцированный психоз,
Извините, что вклиниваюсь в ваш диалог и даю непрошенные советы. Однако:
Вы прибегаете к помощи нейросети. Может быть так, что вас не понимают из-за редактуры нейросети?
Если вас не понимают, то что эффективнее: требовать, чтобы другие изменились и стали лучше вас понимать; или переформулировать текст так, чтобы его понимали правильно благодаря ясным и четким формулировкам (без использования нейросеток хотя бы)
BMARVIN Автор
11.12.2025 11:221) Видимо надо было полностью чтобы статью написала ЛЛМ, тогда бы, тутошние эксперты ничего бы не заподозрили, так как им каждый день скармливают тонны сгенерированного текста.
2) Меня видимо не поняли именно из-за того что мысли свои я формулировал сам.clarifyingman
11.12.2025 11:22Думаю, что вы делаете странные выводы. "Тутошние эксперты" как раз хорошо видят разницу между "оригинальной" статьей (без редактуры нейросети) и копипастой из нейрогенератора. И если бы вы опубликовали полностью сгенерированную статью, то это бы сразу заметили, и отношение к вам было бы гораздо хуже. Именно из-за тонн низкопробных статей.
Если вы думаете, что нейросеть может сформулировать ваши мысли яснее и четче, чем вы сами, то у меня для вас плохие новости. Нейросетка сделает только хуже. А хорошая новость в том, что вы сами можете научиться кратким, четким и ясным формулировкам. И тогда вас будут понимать чаще. Но для этого нужно тренироваться излагать мысли ясно, кратко и четко.
domix32
11.12.2025 11:22Переодически ещё и математики появляются, которые то Коллаца там порешали, то чуть ли не Римана доказали.
00Kirill00
11.12.2025 11:22Моей ошибкой было то, что я давал на проверку другим нейросетям, которые только подтверждали, что я являюсь математическим гением
Такова суть работы LLM. Они по своей природе - конформисты, "угадыватели следующего слова") Их цель - сгенерировать текст, который будет максимально похож на "правильный" ответ в их обучающей выборке, а "правильный" ответ на запрос "проверь мою гениальную теорию" - конечно же похвала. Они не созданы для верификации и критики
slupoke
11.12.2025 11:22Ваша статья лишь подтверждает важность философии в университетской программе, особенно при подготовке научно-педагогических кадров.
Такого рода "заблужения" легко предотвращаются прохождением курса "История и философия науки".
j123123
11.12.2025 11:22Программист-конструктор (цифрово-эмерджентный бред)
«Я создал вселенную в 200 строках кода. Все законы физики возникают из свойств этого графа. Запустите и убедитесь сами».
Очень похоже на то, что писал Стивен Вольфрам
https://writings.stephenwolfram.com/2020/04/finally-we-may-have-a-path-to-the-fundamental-theory-of-physics-and-its-beautiful/ (есть перевод на хабре: https://habr.com/ru/articles/518206/)
Botinke
11.12.2025 11:22если бы я мог поставить 10 или 100 плюсов автору, то поставил бы.
Редко кто способен выйти из собственных иллюзий и бреда.
Автор сумел, за что уважение:)
приобретенный жизненный опыт является очень ценным, помни об этом
tryamk
Извините, но писать о расстройствах, вызываемых LLM, с помощью LLM - это прям за гранью...
BMARVIN Автор
Да только в моментах писала ЛЛМ текст целиком писал я сам
В частности про четыре архетипа.
И вообще с чего бы мне самому не пользоваться ЛЛМ если это здорово экономит время и отлично подходит под задачи?
BMARVIN Автор
И вообще супер обидно когда реально стараешься писать сам, хоть и берешь у ЛЛМ некоторые моменты. И тебя обвиняют в том что текст нейросеть написала
neodavinchi
Есть такая поговорка: по ложку дёгтя.
Формулировки от llm имеют низкую "плотность смысла", явно видны в тексте и очень снижают доверие к автору и его работе.
SmeliyR
А мне суперобидно, что вы, стараясь писать сами, берёте у LLM некоторые моменты. Если хотите писать сами- таки пишите сами полностью.
В общем, плашку вешаю сюда, так как реально видно даже не читая - что слоп
drr8593
Обидно должно быть не вам, а липовому автору, который нахватал голосов.
BMARVIN Автор
И чо теперь делать чтобы текст не был не сгенерирован? Типа я должен сохранять граматические ошибки и тд? Пиздец блядь дожили, и хуй ведь докажешь что большую часть я сам писал.
К примеру:
я в ахуях от того что приходиться теперь доказывать что текст я придумывал сам !
VO_Obsidian
Да, именно так. Статью просто некомфортно читать из-за количества болда, ну для чего он тут? Какой здравый смысл его напихивать в таком количестве, в некоторых абзацах аж по несколько раз? Жирный шрифт в списках это вообще извращение присущее исключительно ЛЛМ и людям которые "переобщались" с таковыми
BMARVIN Автор
А щас нормально стало? Может быть и вовсе теперь нельзя пользоваться длинным тире? Ещё что нибудь?
VO_Obsidian
Знаешь, стало. Текст, который не пытается постоянно указывать мне на чем акцентировать внимание, читать намного приятнее
BMARVIN Автор
Так-то да
drr8593
Ты думаешь тебя банально на длинном тире подловили? Если хочешь разобраться, на чем тебя со 100% окунули, прочти работу на эту тему, основанную на работе наших специалистов: https://arxiv.org/html/2510.03154v1
Три статьи за неделю выдал, умник.
martopt
Ну так вы сами признались выше, что частями текст писала LLM. Сами же вы написали только про 4 архетипа, это где-то половина статьи (кстати у меня сложилось субъективное ощущение, будто бы наоборот, про архетипы написала LLM, а вводную часть вы сами, ну может не так понял ваш комментарий).
В любом случае, неужели сложно потратить дополнительный час (а то и меньше) времени, чтобы уважить публику и не кормить ее нейротекстом? На хабре последнее время засилие нейротекстов, они лично у меня уже аллергию и раздражение вызывают, ну надоело один и тот же бездушный текст читать обо всем и ни о чем.
Очень жаль, ибо тема статьи достаточно интересная и хотелось бы увидеть больше авторского, а не машинного, все-таки разница чувствуется..
BMARVIN Автор
Да норм статья, не понял чё вы так набросились, я вижу на хабре и то похуже состоящие целиком и полностью из сгенерированого контента, а тут вообще несправедливо тупо приписали
martopt
Тот факт, что на хабре есть куча статей полностью написанных LLM, не должен снижать требования к качеству. Если мы будем в такой логике рассуждать, то попадем в ловушку окна Овертона и со временем качество будет все хуже и хуже, а нейротекста будет все больше и больше. Пихать целые куски написанного LLM текста в статью - не уважать читателей. Хабр - это площадка для авторского контента, а не для публикации ответов LLM на промты.
Никто не запрещает использовать LLM, можно с его помощью искать инфу, проверять гипотезы, генерировать идеи и т.д. - но текст надо писать полностью самостоятельно. Иначе ценность площадки теряет смысл. Есть огромная разница между самостоятельным написанием осмысленного текста и ленивого копирования готового из чата с LLM.
BMARVIN Автор
Короче, эта тема так же стоит выделения отдельной статьи
martopt
Статья, которая косвенно касается этого вопроса уже есть: https://habr.com/ru/articles/967428/
В заключении и в комментариях можете почитать. Но в целом можно и отдельную статью, наверное, этому посвятить (но, очевидно, только целиком и полностью самописную, без LLM)
BMARVIN Автор
Спасибо, почитаю.
BMARVIN Автор
Там из чисто ЛЛМ сгенерированного это про архетипы, но вы понимаете что я их сам (сам написал про них) различил, изначально расписал (а не просил ИИ придумать их). И если бы я не скормил эту инфу нейросети просто каша бы вышла.
а так ЛЛМ разбила на более менее разнородные группы которые реально обитают на хабре.
martopt
Ну если вы считаете, что если бы не скормили инфу LLM, то получилась бы каша, то как бы... Надо учиться формулировать мысли. Если у вас не получается доступным языком изложить какую-то мысль, то, вероятно, эту мысль вы и сами не до конца осознали, возможно стоит в таком случае еще "попереваривать" ее, чтобы дойти до такого уровня понимания, чтобы можно структурировано, доступно и самостоятельно ее изложить.
BMARVIN Автор
"который нахватал голосов"
Как будто я тут только ради этого сижу эту дичь пишу, такое тупорылое обвинение, мол срочно удалить мне голоса, этот человек пользовался ИИ !
daniillnull
Да просто такая ситуация обесценивает саму концепцию голосов. Они больше ничего не значат, по ним больше нельзя судить о качестве статьи… и многим от этого становится грустно
Правда это проблема не вас, как автора, который на ии-слоп голоса собрал, а скорее проблема хабра и его коммунити, у которого крайне заметно упали стандарты(9
BMARVIN Автор
Какой ИИ слоп, я буквально привел пруфы как я своё то что я писал ранее компилировал в статью с минимальными изменениями!
Newbilius
Ну нет у человека морального права писать об ужасах инструмента, если он продолжает пользоваться этим самым инструментом. Это как рассказы о том, что "интернет зло", распространяемые через этот самый интернет. Ну нелепо же. Аналогично и с LLM.
BMARVIN Автор
Я ведь не про ужасы пишу ЛЛМ а про то как формируется индуцированный психоз
binaryhugs
«Внушаемые люди оказались уязвимы и перед нейронками» - это как раз про ужасы, а не низкую грамотность во взаимодействии с LLM, которая и является причиной таких ловушек. Психоз не из вакуума берётся. Как вы сами в него угодили, зная, что LLM обязана валидировать любой запрос? Текущие модели не способны ответить «Стоп. Это уже какой-то бред», потому что у них нет стремления к истине, у них есть стремление выдать релевантный ответ в итоге получаем: мусор на входе-мусор на выходе, без всяких сенсаций и злого умысла.
askharitonov
Делал какое-то время назад небольшой сайт, там скорее просто прайс-лист на определённые услуги, плюс в другом месте примерно ту же информацию разместил, а недавно стало интересно, насколько указанные цены соответствуют текущим рыночным, и на вопрос типа "сколько стоит услуга X в городе Y" неросети поисковиков ответили как-то слишком уж похоже на то, как я это в своё время сформулировал :-) В принципе неудивительно, источников с той информацией мало, нейросети не могли не использовать мои тексты, и, соответственно, в чём-то их повторили.
И, если кто-то захочет проверить, сам ли я писал тот текст или воспользовался нейросетью, к какому выводу он придёт? Мой текст ведь, получается, похож на то, что выдают нейросети...