Инквизиторы нового времени
Или размышления на тему LLM и тех, кто их не читает, но осуждает
Вчера вечером, листая ленту, наткнулся на статью. Из тех, что нынче зовутся «LLM-порождениями». Написана складно, по делу. Местами даже с огоньком. И вдруг — комментарий под ней, строгий и важный, как проверяющий с утра:
«Опять этот LLM-мусор…»
«Как же надоели эти LLM-статьи…»
И всё бы ничего. Да не в первый раз я вижу этого комментатора. Он вечно появляется. Он — вечный. Он — инквизитор нейросетей.
Кто вы, судари?
Что за порода людей завелась? Словно с фонарём ходят по публикациям, высматривая генеративное, чтобы тут же заклеймить. Порой создаётся впечатление, будто такие люди не читают — а ищут повод вздохнуть тяжело и сообщить миру:
«Ну вот опять. Опять эта ваша синтетика.»
И исчезают. Вопросов не задают, аргументов не приводят, ошибок не разбирают. Просто бросают комментарий и уходят. Как кот, что нагадил — и в окно.
А между тем…
Вижу я два типа LLM-контента:
Первый — человеческий
Автор пишет текст сам. Где-то просит подсказку у модели, где-то переформулирует. Редактирует. Перечитывает. Он может ответить за каждое слово. За смысл. За стиль. Он автор — а не оператор копипаста.
И если такой человек выбрал LLM как редактора, как утюг для складок — почему бы и нет? Главное ведь, что мысли его живые, логика есть, и можно с ним поспорить или согласиться.
Второй — синтетический
Целиком сгенерированный, без рецензии, без редактуры. Там текст как пирог без начинки: форма есть, а смысла нет.
Такое я тоже встречал. Не читаю. И всё. Проблемы — нет.
Но вот странность: инквизиторы LLM не различают одно от другого. Они не ищут сути. Им важно заявить о себе: «Я распознал! Это не человек!»
Браво. Только и всё.
Так кто паразит?
Меня забавляет, что некоторые комментаторы ведут себя как цифровые вампиры: они приходят не читать, а кормиться поводом. Они находят такие статьи специально. Не спорят. Не обсуждают. Просто скидывают комментарий и ждут лайков.
И знаете, если уж быть вампиром — так кусайте хотя бы в вену, а не в ухо. Хоть польза будет.
Что я думаю?
Я не против генерации. Но только если человек отвечает за каждое слово и может пояснить, что хотел сказать. Это работа. Это труд.
А те, кто брутфорсят платформу потоком пустых статей — мои соболезнования. Но и те, кто брутфорсят комментами — не далеко ушли.
В завершение
Не нравится — не читайте. Или спорьте. Или проходите мимо. Но давайте беречь поле, на котором хотим видеть ростки.
А я, пожалуй, напишу что-нибудь по DL и ML. Постараюсь, чтобы было не скучно.
Комментарии (45)
Kahelman Автор
26.05.2025 18:15Проверим- стиль лучше :). Можем сравнить результат через 3-4 дня :)
NikTimf
26.05.2025 18:15Когда ответ по ООП?
Kahelman Автор
26.05.2025 18:15Идея не особо зашла- придется код самому писать с помощью LLM :). То что. Прислали в комментариях не сильно отличается от моего варианта- только проблем больше, поскольку приходится эмулировать «фичи» ООП. Но есть идея как материал подать. :)
svetayet
26.05.2025 18:15Люди не хотят читать г-но контент, и это их право осуждать. И ваше право проходить мимо. И пусть каждый остаётся при своих правах. К чему эти выплески эмоций, не очень понятно. Вы в данном случае мало отличаетесь от инквизиторов и хайпожоров этой второй попыткой статьи.
Lolson
26.05.2025 18:15Зачастую такой текст отличается длинными предложениями, обилием : и —, что слегка раздражает. Ну и опять же очень редкий автор не просто скопирует и вставит)
apxapuyc
26.05.2025 18:15Возможно, это покажется смешным, но хочу Вам сообщить - не только ИИ может генерировать длинные предложения; это вообще свойство тех, кто любит читать книги. Конечно, длинный текст крайне плохо воспринимается теми, кто привык свайпать шортсы раз в три секунды, попивая при этом смузи. Но это не значит, что такой текст непременно сгенерирован нейросетью. В моё время не было этих ваших нейросетей! ;)
Krypt
26.05.2025 18:15Есть обычные предложения, есть длинные предложения, есть предложения написанные Гоголем, а есть текст от LLM.
Проблема не в длине предложений, а в их целесообразности. LLM имеет склонность стоить длинные предложения ради длинных предложений. Быть может вы видели мем - gif с грузовиком с разных ракурсов, который никак не врежется в столб. Тексты от LLM ощущаются именно как эта gif.
linux-over
26.05.2025 18:15слушайте, а Вы правда не видите конкретно в этом тексте (под которым это обсуждение) смысл?
Что вообще первично: смысл или участие ИИ в создании текста?
Krypt
26.05.2025 18:15Ну так он и не выглядит написанным LLM. В отличии от коммента автора в этом топике: https://habr.com/ru/articles/913002/#comment_28356480
Я просто с его тезисом не согласен.
Kahelman Автор
26.05.2025 18:15Пожалею читателей - оформлю ввиде поста:
О тех, кто не любит LLM, и о смысле писания
Есть в последнее время, братья, одно явление, которое мне кажется достойным тихого размышления.
Листая страницы сети, встречаю я статьи, писанные с участием так называемой LLM — большой языковой модели. То ли человек сам писал, да просил у машины совета, то ли и вовсе отдал всё перу алгоритма. Так или иначе, текст есть. Мысль есть. А за нею и — комментарий.
«Опять этот мусор от нейросети!»
«Сколько можно этих LLM-статей!»Читаешь — и чувствуешь: не в том суть, что написано. Не в истине дела. А в страсти, что скрыта в сердце человека, спешащего осудить.
О двух родах сочинений
Есть тексты, где виден труд. Человек думал, подбирал слова, возможно, и просил помощи у машины, но за каждое слово готов ответ дать. Он не боится взгляда читателя, ибо знает, зачем писал и что хотел сказать.
Есть и иные — пустые. Как хлеб без муки. Как речь без правды. И если таков текст, не надо его читать. Надо пройти мимо, с молитвой или хотя бы с молчанием.
Но тех, кто пишет: «фу, LLM», — не интересует ни одно, ни другое. Они не различают. Им важно сказать — нечто, что подчеркнёт их ум, чистоту, зоркость. Но в этом ли истина?
О сердце человека
Бывает, человек ищет не истину, а удобный случай сказать: «Я лучше». Он не вдумывается. Он не спорит. Он не исправляет. Он осуждает — и уходит.
Такой человек не чужд нам. Он есть в каждом из нас. Это голос гордости, что живёт в человеке с детства. Но если не бороться с ним — он овладеет человеком, и тогда даже слово правды будет сказано с гневом, а не с любовью.
О писательстве
Писать — значит делиться. Делиться собой. И если кто берёт в помощь LLM, чтобы сказать яснее, стройнее — почему это преступление?
Ведь и Лев Толстой, случалось, правил свои страницы десятками лет. А уж если кто просит помощи у машины — неужели он хуже того, кто в угаре клавиш гонит поток слов, не думая?
Истина не в орудии, но в человеке.
И ещё — о «вампирах»
Есть люди, что живут за счёт осуждения. Они находят статьи, как пиявка ищет теплое тело, и впиваются в него. Не чтобы помочь. Не чтобы понять. А чтобы утолить жажду быть выше.
Но и они — не враги нам. А просто люди. И надо молиться и за них.
В заключение
Я не боюсь LLM. Я боюсь равнодушия, лени и зла, что прикрываются словами «я лучше знаю».
Пусть каждый пишет, как может. Пусть говорит, как умеет. Но пусть будет честен. И за слово своё — в ответе.А я, по мере сил, буду писать — и о машинном обучении, и о делах человеческих. Быть может, кто-то прочтёт и подумает — не о LLM, а о себе.
Krypt
26.05.2025 18:15Вот это коммент - отличный пример почему люди не любят LLM-тексты. Букв много, а смысла почти нет.
Смотришь на это счастье, и хочется tl;dr у этой самой нейронки спросить.
bfDeveloper
26.05.2025 18:15У меня ИИ контент вызывает физическое отвращение, особенно картинки. Я не прихожу клеймить суть, я прихожу жаловаться на боль, которую у меня вызвал контент. Она далеко не всегда сразу рационализируема, её нужно ещё раскопать, чтобы понять, но она очень сильна.
Точно так же я клеймил нарисованные человеком изобажения, если в них что-то сильно не так. Точно так же ругал копирайтерские посты ни о чём, где одна вода. Ничего принципиально не поменялось, просто llm позволила генерить гораздо больше этого шлака.
Kahelman Автор
26.05.2025 18:15За контент это не ко мне :) я взял текст- который невозможно читать, не зависимо от того кто его написал, и легким движением руки превратил его во вполне себе сносный. По крайней мере можно читать и даже получать некоторое удовольствие от легкости стиля.
То что смыла не добавилось - это очевидно, но если бы авторы потрудились взять то что есть (ЛЛМ) плюс немного фантазии , то читать Хабр было бы веселее :)
bfDeveloper
26.05.2025 18:15На хабре всегда в комментах обсуждали суть перевода, речь о качестве только если он очень плох. Понятно, что вопросы автору не позадаёшь, но это не мешает комментировать. Оценивать работу LLM в этом посте я не буду. Она хорошо умеет обрабатывать тексты, переводить, стилизовывать, на это вроде как никто и не жалуется. Весь спор по поводу сгенерированного LLM контента, без мысли автора.
Эксперимент вы придумали интересный, но я не представляю как интерпретировать результаты. Если ваш пост получит меньше минусов или плюсы - так давно известно, что подача важна. Если столько же - значит суть тут совсем плоха. То, что llm может поднять качество подачи - вроде как тоже не особо оспариваемый тезис. Какова гипотеза эксперимента?
Krypt
26.05.2025 18:15Я поспорю с тезисом что LLM может повысить качество. LLM чаще всего просто наливает воды в текст, причём всегда используя одни и те же обороты. Если вы видите в фразу "delve into <topic>" вместо "dive into <topic>" - это 99% AI. (0.95% человек который читал слишком много AI текстов и 0.05% - выходец из ЮАР)
apxapuyc
26.05.2025 18:15ИИ - картинки с людьми вызывают отторжение псевдоидеальной зализанностью и неестественными лицами и конечностями. Но вот пейзажи иногда получаются весьма неплохими. Мне кажется, что ИИ вполне может использоваться для генерации виртуальных локаций и данжей, если суметь задать ограничение на повторы. Таким образом может быть улучшен игровой опыт.
pnmv
26.05.2025 18:15если комментатор уже выразил негодование, второй раз в комментарии к одному и тому же опусу он не придёт, и правильно сделает.
Aelliari
26.05.2025 18:15LLM-статьи без вычитки - зло. О, языковые модели шикарный инструмент, но они на голубом глазу могут впаривать дичь. Да и с уникальностью в них похуже, хотя статьи от «мясных» нейросетей бывают ещё хуже.
Я не против использования нейросетей но с 1 оговоркой:
Верифицируйте и вычитывайте то, что они пишут. Пожалуйста
YMA
26.05.2025 18:15LLM-статьи - зло. Вот реально, то самое хтоническое зло, рыскающее ночью вокруг пещеры, от которого поднимается шерсть на загривке.
Эти статьи - как зализанные шумодавом и искореженные шарпингом фотографии. Как мяукающий низкобитрейтный мпег. Как пластиковая кукла, похожая на человека - и от того еще более страшная и неестественная.
Гораздо приятнее читать пусть коряво написанные, пусть с опечатками, но сделанные человеком статьи, в которые он вложил свои знания и полученный опыт. И, может быть, даже что-то новое, до сего момента не известное миру. Нежели результат механической прогонки через калейдоскоп существующих знаний.
Когда человек делегирует мышление, анализ и синтез, само свое отличие от животного - модели, это напрягает... :(
Kahelman Автор
26.05.2025 18:15Вы пробовали с помощью нейросетей кол писать? Например взять cursor IDE и поиграться? Результат впечатляющий. Скорость разработки растет в разы. Особенно когда надо осваивать новый фреймворк. Новый в смысле того что никогда на нем не работал. Если раньше приходилось долго и нудно ковырять интернет, то теперь он гремит продакшн Реали код. Единственное вы должны понимать что от него хотеть.
Если раньше на проекте Х лжецов по разжеванному архитектором заданию патч или код на ПХП, а потом архитектор делал код ревью, потом другие люди писали тесты чтобы все это проверить, то теперь их можно заменить нейронкой. На уроне добавь медли в класс и реализуй функцию - она достаточно хорошо шарашит.
Так что надо признать будущее уже здесь. И если пьянее нельзя предотвратить, то ее нужно возглавить.
Я практически всю «официальную» переписку веду с помощью ЛЛМ. Потому что модно накидать тезисов и поросить написать «дружелюбнее» чтобы сразу «не убивать» особо талантливых товарищей. У нас же теперь все тонкой душевной организации :)
nin-jin
26.05.2025 18:15Я практически всю «официальную» переписку веду с помощью ЛЛМ
Это заметно. После этого с вами вообще не хочется вести какую-либо переписку, ибо к человеческому тупняку добавляются железные галюцинации. Это показывает ваше неуважение к собеседнику.
Rive
26.05.2025 18:15Люди, в отличие от компилятора, могут обижаться на выбранный тон речи (очевидно, использование LLM вместо местного микрожаргона в большинстве случаев трактуется как очень пренебрежительный жест и люди обычно не готовы уделить речи больше внимания, чем оратор уделяет им).
filinvlad91
26.05.2025 18:15Чтобы контент, созданный нейросетью, не читать, этот контент нужно помечать. Как молокосодержащий продукт. Иначе получается, что я купил сыр (открыл статью) - а этот сыр сделан из растительных жиров (сгенерирован нейросетью). На отсев подобного мусора тратится время, а если бы были фильтры - этот мусор бы никто не увидел и не читал.
Если Вам нравится разбираться в сортах
говнасгенерированных текстов - Ваше право, но это не значит, что все вокруг такие гурманы.
anzay911
26.05.2025 18:15Можно заглядывать чуть попозже, когда комментаторы опишут свои вкусовые ощущения.
Rive
26.05.2025 18:15Но этот контент и генерят, чтобы его читали, поэтому очевидно что будут попытки обмануть систему. Примерно как сейчас в художественных галереях обмазывают ИИ-генерированный контент сверху и выдают за нарисованный вручную арт, потому что плашка ai-generated режет им просмотры и мешает собирать донаты.
Это, разумеется, использование общественного пространства не по назначению, но пока оно выгодно - этим будут злоупотреблять.
Kahelman Автор
26.05.2025 18:15Ваша цитата про «Примерно как сейчас в художественных галереях обмазывают ИИ-генерированный контент сверху и выдают за нарисованный вручную арт» говорит что вы далеки от галерей и современного искусства.
Что можно «обмазать» в черном квадрате Малевича? А это уже классика..
Rive
26.05.2025 18:15В датасетах чат гпт двухлетней давности эта проблема цифровых художников разумеется не озвучена, потому что ещё не была актуальна на тот момент.
linux-over
26.05.2025 18:15Кстати, да! Я вижу эту проблему так: художник (живой художник) чтобы научиться рисовать (или как там правильно - писать?) должен просмотреть по максимуму картин других художников и изучить технологические приёмы.
Затем на основе накопленного опыта он творит.
Проблема здесь заключается в том, что чисто физически за жизнь живой человек может отсмотреть фиксированное количество картин, а механистические навыки наработать в какой-то конкретной области (например хорошо пишет акварелью, но уже плохо маслом и т п).
Вследствие этого варианты, возможные варианты, которые могут выдать художники, начали исчерпываться - примерно к 20 веку - к моменту, когда пул картин мира стал настолько большим, что один человек уже не в состоянии его охватить. В итоге два художника стали отличаться друг от друга примерно никак.
Чтобы как-то выделиться из этого появился движ, вроде рисования в виде кубиков, кружочков, треугольников. Но всё это было извращением - и сами художники это понимали. И вот квинтэссенцию этого понимания и выразил Малевич в "Чёрном квадрате".
Чёрный квадрат - это признание того, что "человек больше не может нарисовать ничего нового".
Теперь вернёмся к ИИ. ИИ, в отличие от человека, может отсмотреть не тысячу картин, а миллионы. Потому он по определению уже создаёт работы лучше среднего человека.
Проблема в том, что во всех случаях он пишет всё те же образы, а новых нет.
Это потолок восприятия.
Kahelman Автор
26.05.2025 18:15Тогда надо бы провести двойное слепое исследование: набрать народ, написать статей , потом сгенерировать похожие с помощью ЛЛМ. Разделить пользователей на группы и кормить статями прося определить какие ЛЛМ на написала, а какие нет. Боюсь что результат будет не а пользу «биологических» сетей- не каждый из нас Чехов или Бабель.
pnmv
26.05.2025 18:15слепые тесты, фокусные группы...
нужно срочно привлечь крупного инвестора с готовой инфраструктурой.
Vadimu
26.05.2025 18:15Думаю, нужно различать, когда ты пишешь для машины (генеришь код) и когда пишешь для людей (делишься своими мыслями, знаниями). Генерить код для компьютеров, используя сами компьютеры - вполне себе нормальный следующий уровень развития программирования. А вот генерить мысли для людей используя LLM - это как минимум неуважение к читателям, за что подобные "писатели" и получают в ответ минуса.
В полку плагиаторов прибыло, появились "LLM-щики".
Осталось сделать програмулину, которая предварительно при открытии статьи или страницы будет анализировать, фильтровать и помечать подобный СПАМ, чтобы не разбазаривать ценное время на стекловату.
Kahelman Автор
26.05.2025 18:15Спасибо за отзыв. Ваш подход ясен: вы цените усилие, опыт и личную вовлечённость автора. Это правильный ориентир.
Но давайте рассмотрим LLM как то, чем она является — инструмент. Она не заменяет мышление, как и компилятор не заменяет алгоритм. printf — не идея, а способ её показать. Аналогично, LLM — это фильтр, утилита, помощник. Не автор.
На Хабре немало уважаемых материалов, где авторы используют инструменты, помогающие им думать через код. Например, декларативные языки вроде Prolog или Datalog не требуют от программиста описывать шаг за шагом, что делать. Вместо этого они позволяют описывать что должно быть истинным — и остальное делает движок. Это ведь не считается «меньше ценным» кодом?
Экспертные системы с правилами, inference-механизмами и логикой «если — то» тоже не отменяют участия человека. Они лишь дают способ обобщить и выразить знание иначе. LLM можно рассматривать как такую систему — более гибкую, менее строгую, но в том же духе.
Вы правы: если автору нечего сказать — его не спасёт никакой инструмент. Но если идея есть, а LLM помогает её оформить — почему нет?
Учиться можно разными путями. Один пишет десятки черновиков. Другой использует внешний инструмент для отладки мысли. Результат важнее процесса, особенно если автор честно работает над качеством.
Вред приносит не генерация. Вред приносит пустой текст, вне зависимости от того, как он появился.
Как и в программировании: главное — смысл, структура, ясность. Не важно, написано на C, Prolog или через LLM. Важно, решает ли это задачу и понятно ли другим.
linux-over
26.05.2025 18:15ИИ в современное время для многих как красная тряпка.
Наблюдал за двумя статьями на хабр, так сложилось, через три минуты от их публикации. Хабр говорит "время чтения 13 минут", но у них уже стоит по два минуса (те же самые минусы?): у одной в заголовке "ИИ", а у другой - "LLM".
Den-R
26.05.2025 18:15Зачем так много текста?) Достаточно: "Кому не нравится сгенерированный контент - проходите мимо и не возмущайтесь тут".
Я вот не против использования любых доступных инструментов при написании статьи. Но если люди "фукнули" после её прочтения - значит с ней не порядок. Если генерация на лицо (будь то текст или изображение) - это отталкивает.
outlingo
26.05.2025 18:15Вы так мило страдаете, что LLM-креаттв хейтят, что даже не задумываетесь, почему это происходит - хотя сами почти дали ответ: за отсутствие собственного мнения и позиции автора. LLM-ный псевдокреатив по сути выглядит как копипастный реферат ленивого школьника. В нем нет опыта, в нем нет своего мнения - только надерганые списки определений и терминов, выхолощеная выжимка "масла масляного" и общепринятых утверждений
Хорошая человеческая статья проводит читающего по новому пути, удерживает внимание, подсвечивает неочевидность и подводные камни, в ней живой слог и меняющийся ритм. Мы читаем статьи чтобы узнать необычное, новое, желательно с личным опытом и личной оценкой автора. И ждём продолжения (или как минимум новых публикаций)
Поэтому многих раздражают реферативные генерированные выжимки, читать которые скучнее чем изучать даже базовые диаграммы и графики трафика и мегабайтов в секунду, ведь даже в этих графиках можно увидеть корреляции которые дадут идею, которая поможет реализовать что то интересное.
Опять этот LLM-мусор
Всегда пожалуйста, рад что вам не понравился комментарий!
linux-over
Спасибо! Но, боюсь, и это тоже заминусуют.