Здравствуй Хабр.
Полтора миллиарда лет назад, когда я учился в начальной школе, нам задали домашнее задание: написать сочинение в свободной форме, про наступающую весну. Я воспринял задание с воодушевлением. С детства люблю свободные формы. Решил написать сочинение в стихах. Написал, и, довольный собой, сдал на проверку. На следующий день, учительница меня резко отчитывала и стыдила перед всем классом за то, что я сдал сочинение, которое написал НЕ САМ. Она просто не могла поверить, что ребенок мог написать такое самостоятельно. Знаете, я далеко не Есенин, и то было довольно наивное произведение, вполне детского уровня. Но я старался. Вложил душу. И мне было до ужаса обидно. А еще я понял, что взрослые - только на вид взрослые, а на деле - ни черта не понимают.
На днях, подобная несправедливость случилась со мной снова.
Что случилось?
На одной популярной платформе коллективных блогов, я опубликовал свою статью, на очень важную для меня, профессиональную тему. Конкретные детали я опущу, для сути моего рассказа это не очень важно. Важно то, что я - старался. Выделял тезисы, оформлял примеры кода, перечитывал, исправлял, старался сделать материал доступнее, прекрасно понимая, что сейчас вообще трудно кого-то заинтересовать длинным текстом. Самое важное я специально вынес в самое начало, чтобы не мучать аудиторию длинными предисловиями. Нажал на заветную кнопку "Опубликовать"...
И получил цунами негатива. В первом же комментарии мою статью назвали нейро-слопом и далее на меня посыпались обвинения и даже оскорбления. Мне кажется, я нормально отношусь к конструктивной критике и вполне допускаю, что мои мысли кому-то могут казаться спорными и даже вся, затронутая мной тема - совершенно неинтересной. Я всегда стараюсь быть дружелюбным, если мне специально не хамить.
Но НИКТО не спорил со мной по теме, никто не оспаривал тезисы, никто не приводил контраргументы. Мне методично доказывали, что моя статья - высер нейросети, а я - мошенник, который решил задешево попиариться. Мне приводили в пример "явные признаки", такие как выделение ключевых слов жирным шрифтом (!!!), однострочные комментарии в примерах кода (???), и прочее подобное. Мою статью "прогоняли" через всякие "детекторы", которые, якобы, показывали высокую вероятность того, что текст был сгенерирован. На мои возражения и попытки объяснить, что нейросети не очень-то могут в оригинальные смыслы - всем было плевать.
Все кончилось тем, что я удалил публикацию и ушел в оффлайн - рефлексировать.
Самое забавное, что почти все эти, вмененные мне "признаки нейросети" я расставлял по тексту в последние мгновения перед публикацией, желая добавить акценты и упростить чтение. А мои критики, скорее всего, сами просили ИИ подготовить для них списки "подозрительных моментов".
Важно добавить также то, что я говорю и думаю на трех языках, и, да, часто прибегаю к помощи нейросетей для переводов, ведь оригинал - всегда на каком-то одном языке. Но я всегда проверяю качество и точность перевода и вношу исправления вручную, если мне что-то не нравится.
С недавних пор, я даже иллюстрации к своим статьям решил делать полностью вручную, так как сам устал от всей этой нано-бананы, захлестнувшей нас со всех сторон. Буквально, открываю Inkscape и рисую что-нибудь простенькое (я люблю рисовать но часто нет времени на сложные картинки).
Вот такой-вот авторский подход.
Что делать?
Среди всего спектра опасностей, грозящих нам от развития ИИ, (вроде прямой конкуренции на рынке интеллектуального труда), стоило бы, на данном примере, выделить еще одну: существенное сокращение "окна внимания" у аудитории, необходимого для продвижение новых идей и концепций. Я прекрасно понимаю, что ситуация, в которую я попал - возникла не на пустом месте. Нас заваливают контентом, нас DDoSсят. Мы (кожанные мешки), естественно, вырабатываем фильтры, которые все чаще будут ложно-позитивно срабатывать. Это может привести к кризису инноваций. Ну и как с этим бороться?
Делать ошибки в тексте специально?
Записывать процесс создания контента на видео?
Задействовать блокчейн?
Использовать матерные слова?
Что делать, чтобы лекарство не стало хуже болезни?
А может я и правда - нейросеть, и даже не знаю об этом? Ведь лучшим способом обучить AGI было бы моделирование реальной человеческой жизни, со всеми этими историями из средней школы...
ЗЫ: в комментариях уже отметились те, кому и этот мой текст кажется сгенерированным. Ребята, ну камон, я на Хабре с 2010-го, можно посмотреть мои старые публикации из до-нейросетевой эпохи, и сравнить стиль изложения. Газлайтинг какой-то, ей богу.
ЗЗЫ: Поскольку этот вопрос все чаще всплывает в комментариях, то уточню, что материал, о котором идет речь, эта статья - https://habr.com/ru/articles/975474/, только опубликованная на английском языке, на англоязычном ресурсе, с незначительными отличиями
achekalin
Простите, но я вот даже этот пост читаю - а кажется, что его ИИ писал. Ну, или помогал писать. Или человек помогал ИИ (согласен, что сейчас не разберешь, кто помог кому).
Остается только писать самому, и писать от души - душу машина не имитирует, по крайней мере, пока что!
i360u Автор
Моя жена мне тоже самое сказала. Однако, все это полностью написано исключительно и полностью - моими собственными пальцами. От души. Как видите - не помогает.
MAXH0
Успокойтесь. Вы нейросеть. Смиритесь с этим. Просто нейросеть на биологическом носителе.
i360u Автор
С чего вы взяли, что я не спокоен? Вот только смиряться со всем этим я не намерен. Я хоть и нейросеть, но гордая мясная.
Mr_FatCat
Всем нам место на parrilla
MAXH0
Я про то, что души нет. (Кто не согласен, спор Остапа с ксендзами не будем устраивать, ладно?) Это продукт клерикальной пропаганды. От неё писать нельзя. Вы - нейросеть, со своими шаблонами. Сознание — это продукт мозга. Нет мозга — нет сознания. Душа как отдельная сущность не нужна для объяснения...
Ниже уже говорилось, что возможно, Вы нахватались шаблонов, читая тексты от электронных нейросетей. Для того чтобы формировать свой стиль читайте книги, а не Интернет.
i360u Автор
Боже, что вы несете, мне уже далеко за 40, я из того поколения, которое перечитало все, что можно было и нельзя задолго до нейросетевого бума. Это не я формирую свой стиль на основе того, что пишут нейросети, это они обучаются на том, что когда-то писал, условно говоря, я.
pingo
а, вот в чем дело, вы обучалась на одном датасете
i360u Автор
Бинго.
vdasus
Мне за 50, но уже где-то после 25 понял что совершенно неважно что обо мне думают другие. Вот вообще неважно. Я делаю то, что считаю правильным, интересным, полезным, забавным для меня. Если найдутся люди которые со мной согласны - отлично. Так находятся те с кем мне тоже интересно. Если нет - ну и ... бывает. Людей много... Я бы не обращал внимания на неконструктивную критику от слова вообще
pg_expecto
Все верно , правильно, как говориться классика - подписываюсь под каждым словом.
Но , есть один мааааленький ньюанс - одно дело когда критика просто ради критики и высказывания мнения и совсем другое когда начинается цензура толпы. Т.е. масса считает и существует инструмент для реализации своего коллективного мнения - он не такой как мы, и поэтому он будет ограничен в своем праве на высказывание своей точки зрения.
В общем то - вообще не проблема , интернет огромные, площадок полно. Но ситуация совсем не так безобидна как кажется на первый взгляд.
Хотя опять таки , во всем есть положительные моменты - вот слили мне карму до минуса - теперь не буду тратить время на публикацию промежуточных результатов экспериментов. Раз в неделю - итоговые результаты, кому интересно - будут на дзене читать, а цифры просмотров например на Пикабу и Хабре одинаковые и нейросетями и поисковиками статьи индексируются одинаково. И всем хорошо и я не трачу время зря и критики лишнего не возбуждается ;-)
i360u Автор
Критику, к сожалению, нельзя игнорировать, когда речь идет о всяком DevRel или о продвижении OpenSource. Работа с возражениями - это часть и без того сложной работы.
vdasus
там ключевое слово "неконструктивную", это важно
i360u Автор
Вот только у каждого свои представления о конструктивности. Некоторые неконструктивной считают вообще любую критику )
pg_expecto
не будем далеко ходить за примерами, статья 0 комментариев , причины минусов:
1) Личная неприязнь к автору или компании: 50%
2) Не согласен с изложенным: 25%
3) Текст похож на сгенерированный: 25%
Очень своеобразная критика, может считаться конструктивной?
Пример вообще стандартный, это норма.
Если в современных условиях такая критика считается конструктивной, что ж очень жаль. Видимо я очень сильно отстал от жизни.
chesser76
Бред, мясо само по себе не может существовать и тем боле жить. Видимо вы очень молодая душа, 3-5 "годиков" и очень многого не понимаете в устройстве мира.
swame
Не надо так уж разбрасываться комплиментами
novoselov
Было недавно исследование на эту тему. Все больше человеческие тексты начинают приобретать форму нейросетевых, происходит контаменация (заражения и загрязнения) смыслов и языка. И чем более человек вторичен, тем сильнее это проявляется. Вторичен не значит глуп, это наблюдается и в научных текстах, это скорее психологический фактор: насколько человек подвержден стороннему влиянию, следует общепринятым правилам, прилежен/послушен/ведом. Таких можно было распознать и раньше, когда при попадании в новую среду и коллектив они быстро подстраивались под местный лексикон, сливаясь с толпой.
Причем этот паттерн "привыкания и заимствования" был заранее предсказуем, а для картинок и видео все еще хуже. Постоянно "потребляя" сгенерированные картинки и видео вы заражаете свой мозг неверным представлением о физической реальности (AI не знает ничего про физику света/теней, биологию и физиогномику). Раньше подобное делали мультфильмы, но там люди старались создавать "приятные" образы, повторяя собственные внутренние настройки, поэтому они с одной стороны воспринимались органично, с другой существовали в мозгу как отдельный мир.
i360u Автор
В целом соглашусь, вот только в описанном мной кейсе не было заимствований и вторичности. Стилистически - может быть, но только не по смыслу, так как, по сути, описывалась новая технология и оригинальная идея.
novoselov
Речь не про вторичность текста, а про вторичность личности: копирование чужих привычек, оборотов слов, поведения. Оригинальность идеи тут не имеет значения.
i360u Автор
Вторичность личности - охренительный термин. Это вообще как? Нет, может я, конечно, и не уникальная снежинка, но, хотелось бы верить, точно не среднестатистическая вторичная посредственность.
Есть устойчивые языковые конструкции, использование которых, так или иначе, присуще вообще всем всем. Так просто работает человеческий язык, вообще любой. И так он эволюционирует. Семантическое ядро тут может быть чем-то средним по больнице для культурного среза и профессиональной среды. Но это все, опять же будет в рамках того-же среза и среды, что не дает нам повода говорить о "заражении" как о каком-то патологическом процессе. Плюс, личность сформированная в до-нейро-сетевую эпоху, в меньшей степени могла бы быть подвержена такому "заражению". Короче, порассуждать на эту тему может было бы и интересно, но это точно не этот конкретный описываемый случай.
novoselov
Предсказуемая реакция :) Но вы опять приплетаете негативные черты, типа "посредственность". Различия лежат в другой плоскости, это скорее гиперадаптация (можете воспринимать это как перетренированную нейросеть). И тут опять же никакой разницы в какую эпоху человек вырос, такие люди адаптируются в моменте, а не ретроспективно. В психологии это обычно принято называть "конформностью", когда человек склонен подстраиваться под мнение и поведение других, даже в ущерб собственному суждению. Еще это называют "диффузная идентичность", когда отсутствует сформированное "Я", а роли и установки заимствуются у окружающих, правда этот термин звучит еще непонятнее.
Но это все узкие понятия, я говорю о более общем случае. Когда каждая снежинка считает себя уникальной, но по факту все сливаются в один снежный ком. На этом кстати строятся все субкультуры, где каждому найдется место в толпе. Такая модель поведения очень удобна: правила придуманы за тебя, принятие решений делегировано, ответственность лежит на других, а ты комфортно защищен своей группой (без шуток, но для выживания это вполне эффективная стратегия). Так и рождается отсутствие субъектности, когда личностная (внутренняя) автономия заменяется привычными паттернами поведения и человек неосознанно занимается ретрансляцией чужого мнения, принимая его за свое. Причем это "свое" мнение человек будет отстаивать до конца с пеной у рта, так как потеряв его у него ничего не останется взамен. В этом случае самая большая угроза это зеркало.
Заметьте, даже в ситуации когда я говорил не про вас лично ваше первичная реакция не саморефлексия, а отрицание и пассивная агрессия ;)