Наблюдая за реакцией мира на современные достижения искусственного интеллекта (AI), в частности на GPT-4 и ChatGPT, был замечен такой парадокс: людям нравится писать текст с помощью AI, но при этом, людям неинтересно читать текст написанный AI. Для меня это тоже так, поэтому мне стало интересно поставить такой вопрос: важно ли то кем был создан продукт, человеком или AI?
Ответить на вопрос проблематично, так как проводить сравнение AI и человека с практической точки зрения не имеет смысла. Такое сравнение, равносильно сравнению двух людей, или двух AI, один из которых выполняет работу лучше другого. Поэтому, чтобы выявить есть ли вообще разница, или все упирается в практическую значимость, попробуем создать равные условия для сравнения.
Проведем мысленный эксперимент. Представим, что существует параллельный мир, который мы назовем "мир-1". В этом мире всё, что было создано людьми, заменено на то что было создано AI. Наш текущий мир, где мы сейчас живём, назовем "мир-0". В мире-1 весь контент создается только AI, без участия людей, будь то предметы быта, стихотворения или фильмы. Всё, что доступно в мире-1, также доступно и в мире-0.
В мире-1 нет ограничений, которые могли бы помешать людям жить так же комфортно, как в мире-0, и наоборот. В мире-1 AI не ограничивает человека и не лишает его возможности заниматься тем, что ему нравится и жить в достатке. Это предположение необходимо, потому что, если всё создаётся только AI, то это противоречит возможности людей работать.
Теперь, чтобы определить, важно ли то кем был создан продукт или нет, необходимо ответить на вопрос: какой из двух миров вы выберете для жизни?
Мой ответ это мир-0. Мир-1 выглядит для меня менее привлекательным и даже скучным, что говорит о том, что во мне существует некоторая установка повышающая ценность настоящего. Полагаю, что большинство людей тоже выберут мир-0. Более того, я допускаю, что даже при наличии явных преимуществ мира-1 перед миром-0, будь то экономического или гуманитарного характера, есть люди, которые все равно предпочтут остаться в мире-0.
Определить причины такого выбора сложно, так как миры материально идентичны. Для наблюдателя разница может заключаться лишь в том, что он сам вложил в автора. Примером такого вложения могут быть "переживания" которые наблюдатель приписывает автору. Наличие переживаний — вопрос открытый, но это не важно, важно то как считает наблюдатель. В случае с миром-1 большинство будет считать что вероятность наличия переживаний ближе к нулю, чем в случае с миром-0.
Предположение о том, что людям важно то, что продукт был создан человеком, в каком то смысле подтверждает и история. С увеличением количества материала созданного автоматически, ручная работа начинает цениться еще больше. Неточности, присущие ручной работе, в некоторых сценариях, наоборот, становятся преимуществом.
Из недавних примеров можно вспомнить AlphaZero. Первые шахматные партии AlphaZero были популярны. Однако, кто сейчас смотрит партии, которые между собой играют два компьютера? В девяти из десяти случаев люди предпочтут посмотреть игру двух гроссмейстеров.
Вывод из этого хочется сделать более практический. В своей работе я буду прятать AI за ширму. Если я что-то напишу, перепишу, улучшу, я никогда не буду говорить о том, что это сделал AI. Полагаю, что все больше людей использующих AI, просто наблюдая за реакцией окружающего мира, будут действовать так же. Компьютер, как всегда, задаст новую планку и будет вынужден раствориться в людях.
Данное эссе является первым в серии. Следующие темы:
Патологии GPTZero.
Large Language Model (LLM) как инструмент измерения новизны.
Решение Abstraction Reasoning Corpus (ARC) через LLM.
Ссылка на telegram канал где все будет публиковаться: 30 дней в Мае.
Комментарии (24)
engine9
00.00.0000 00:00+2Нейросети устраняют важный фактор естественного отбора внутри человеческого общества — состязание в развитии нервной системы у индивидов.
Гитарист виртуоз — результат многолетних тренировок. Это материальное воплощение хорошего состояния нервной системы (следовательно и генома) и упорства (поведенческого качества).
Опытный и сильный программист — материальное воплощение многолетнего труда человека, его усердия, желания разбираться в смежных областях знаний, несгибаемости перед трудностями.То же самое можно сказать про любого человека, чьи качества являются плодом его упорства. Человечество до развития нейросетевых инструментов не могло создавать поддельных виртуозов. Невозможно было искусственно создавать тех, кто вкладывал в развитие своих скилов много старания. Даже самые богатые люди не могли купить волшебную таблетку, которая сделает многолетнюю работу за них:
— Нет царских путей к геометрии.
Ответ Евклида царю Птолемею I, просившему указать ему более
легкий путь изучения геометрии.Сама среда служила фактором отбора, высоких результатов добивались обладающие полезными поведенческими качествами и развитой центральной нервной системой.
Человек "ломает" не только среду обитания, заменяя природные ландшафты на геометрически правильные массивы блестящих бетонно-стеклянных кораллов, человек еще и "ломает" социальную среду. Создавая
по тупостимир который больше пригоден для технологий, чем для самого человека.Я выберу образ жизни в котором больше ручного труда по-старинке, но не потому что он какой-то "правильный" или "вещи хранят тепло рук мастера". А потому что в нём люди будут ощущать себя счастливей.
erydit
00.00.0000 00:00+1Пока что технологиям не удалось полностью уничтожить потребность людей в совершенствовании своих навыков. Гитаристы виртуозы все еще появляются и пользуются большой популярностью. Мебель, декор и прочие товары ручной работы при высоком уровне исполнения (что также требует многолетнего опыта) также ценятся достаточно высоко.
С творческими профессиями, пожалуй, то же самое. Допустим, напишет нейросеть доказательство теории струн, и даже подробно распишет этапы решения этой теории. Все равно потребуются люди с гигантским опытом и знаниями, чтобы в этих доказательствах разобраться, проверить их на противоречия и критерии научного знания.
С программированием тоже самое. Станете ли вы внедрять в проект, работающий с критическими данными, модуль, написанный нейросетью (которая создана частной конторой, в которую внедрены фильтры толерантности, цензуры, а возможно и фильтры политической "симпатии"), без его тщательного аудита? Такая задача также потребует специалистов высокого уровня, которых, все также придется обучать. Доверять аудит кода, написанного одной частной нейросетью, другой частной нейросети мне кажется сомнительной затеей.
engine9
00.00.0000 00:00+2Потребность не уничтожится, пострадает мотивация из за обесценивания труда и самого умения. Раньше это могли единицы и они высоко ценились, теперь это будет доступно многим. Прямо сейчас мы наблюдаем этот процесс с начинающими художниками, чей плач слышен невооруженным ухом.
Но если говорить с точки зрения заработка, то долго будет сохраняться "лазейка" в виде создания личного бренда и поиска клиентуры из ретроградов, которые хотят вещи непременно "с историей" и "из рук мастера".Но я хочу сказать про другое, развитие технологий очень обесценивает человеческий капитал, одиночке всё более сложно будет пробиться к признанию. И в значительной мере это будет обусловлено перенасыщением предложения: тексты, музыка, программы, игры, всё это будет гнаться килотоннами и на фоне этого потока утонут таланты.
Раньше была вполне ощутимая цель стараться, возможно мир станет таким, что развиваться просто не будет мотива, потому что тебя никто не заметит. Конкурировать с генеративным искусством будет так же абсурдно, как землекопу конкурировать с экскаватором. Только это не будет мир счастья и процветания и всеобщего благоденствия. Это будет что-то непредсказуемое.
Proydemte
00.00.0000 00:00Гитаристы виртуозы все еще появляются и пользуются большой популярностью.
Для певцов сделали auto-tune, для гитаристов куча эффектов.
И для тех же гитаристов получается то что востребованны (в денежном выражении) единицы на самом верху, все остальные, даже очень хорошие уже сильно ниже, иногда даже ниже зарплат средних людей.
Также как для спортсменов, супер зарплаты получают единицы, а все остальные на порядки меньше. Плюс у спортсменов ещё и окно возможности сильно узкое и высок шанс случайности (травмы и т.п.) и чем старше становишься, тем в среднем ты становишься хуже по физиологическим причинам (в сравнении с другими профессиями, когда с возрастом приобретаешь опыт и как результат более хорошую зарплату).
Так что очень на любителя такие профессии.
SnikeMK
00.00.0000 00:00+3важно ли то кем был создан продукт, человеком или AI?
Конечно важно. В одном случае это контент, являющийся следствием пережитого опыта, во втором - просто текст, сгенерированный на основе других текстов.
Нейросеть != ИИ!!!
postmachines Автор
00.00.0000 00:00А почему считаете что контент, являющийся следствием пережитого опыта, ценнее?
SnikeMK
00.00.0000 00:00+1Потому что человек его пережил.
Допустим, у меня сломался телефон. Статья по ремонту от человека предполагает, что человек как минимум один раз ремонтировал телефон.
Что предполагает статья по ремонту от нейросети?
postmachines Автор
00.00.0000 00:00Как мне кажется, иногда наличие опыта может казаться наоборот недостатком нежели преимуществом.
chernish2
00.00.0000 00:00Например?
korchoon
00.00.0000 00:00Например, у автора не получилось в собственный бизнес и он в своем творчестве транслирует, что свое дело - это опасно, нечестно. Это влияет на некритически мыслящих людей, они могут перенять эти убеждения.
Но я согласен с точкой зрения @SnikeMK. Искусство это форма общения (например через метафоры, абстракции). Общаться с тем, кто пересказывает чужой опыт и подражает, не добавляя своего -- мне тоже неинтересно.
NeoCode
00.00.0000 00:00Почему людям неинтересно читать то что выдает ИИ? Мне интересно. Для меня языковые модели - потрясающее средство закрытия гештальта, связанного с получением знаний в интересующих меня областях. Индивидуальный профессор, который всё объяснит и покажет на примерах. Если бы такая штука была когда я получал высшее образование - я бы вне всякого сомнения учился бы только на "отлично" и пошел бы дальше в науку (и не потому что ИИ писал бы за меня курсовики - а именно потому, что это максимально быстрый и удобный способ разжевать любой непонятный момент в лекциях и учебниках, не ограничивая себя в количестве итераций и способах рассмотрения вопроса).
А еще у языковых моделей простой английский, читаешь практически как на русском, без словаря и даже не задумываешься.
postmachines Автор
00.00.0000 00:00Безусловно, во введении под «писать текст» имеется ввиду то что вы описали.
Теперь представим что вы читаете не тот текст, который вы сами запросили, а кто‑то произвел диалог с ИИ, и публикует получившийся текст в интернет (наверно можно прировнять это к тому, что ИИ сам выдал какой‑то текст в интернет). Лично мне неинтересно даже начинать такое читать.
Подобное пренебрежение было замечено еще на начальных этапах появления ChatGPT, когда в твиттере очень часто мелькали те или иные «диалоги» с этой моделью.
MAXH0
00.00.0000 00:00+6Нейросеть порождает еще один слой информационного шума, который человеку придется преодолевать в поисках нужного его смысла. Фактически уже были "нейросети" которые писали подобные тексты, но они были биологическими. Это - рерайтеры. Просто теперь цена уникального, но не несущего полезной информации текста снижается.
Вопрос в том, что в большинстве случаев бизнесу нужен текст уникальный для поисковиков, но несущий один и тот же смысл для людей. Просто, например, заточенный под конкретные целевые аудитории. И с этим нейросеть вполне справится.
postmachines Автор
00.00.0000 00:00Вы все верно говорите. Но это практическое сравнение опять таки. В статье такой вариант откидывается сразу. Хотелось поразмышлять на уровне интуиций.
rezedent12
00.00.0000 00:00+2Человеку в конечном счёте нужен человек.
postmachines Автор
00.00.0000 00:00-1Кажется что если компьютер достигнет такого масштаба что сможет выполнить абсолютно любую работу, то живыми останутся только профессии эксплуатирующие симпатии человека к человеку.
Daddy_Cool
00.00.0000 00:00+1Если ИИ будет использоваться как инструмент (с акцентом на используешего человека - то ничего не изменится), сейчас есть диджеи которые берут за основу чужую музыку, умело это миксуют и получают востребованный результат.
Я как-то попробовал программку генерящую мелодию - ну и ... нашел одну мелодию которая мне понравилась. Задача же получить результат который будет воздействовать на эмоции человека, т.е. человек выполняет роль фильтра.
В современной технике создания музыки много такого... не индивидуального. Скажем тембры электронных инструментов. Ну или программы автоаранжировок типа Band-in-a-box. За час можно набросать что-то вполне слушабельное. Да это будет вторично, но не все поймут разницу.
Но с другой стороны - мы получаем задешево творчество-на-заказ.
-------------------------
-Эй, GPT44, как бы звучала заглавная песня с альбома Queen выпущенного в 2023 году?
-Ой, ну Фредди было бы уже 77 лет, вокалисты в таком возрасте... сам понимаешь... Ну на, послушай. Я учла как менялись его вкусы, какие события происходили в музыке и в мире вообще.
(звучит музыка)
-Н-да... Фредди уже, не тот.
-А я что говорила! Вот тебе лучше альбом "Queen-2000" - там крутяк!
-Ты что сочинила еще что-то? По альбому на каждый год?
-Ну чтоб два раза не вставать, я ж знаю, что тебе б не понравилось. Слушай.
(звучит крутая музыка).
-Другое дело, спасибо! А Майкла Джексона можешь?
-Могу, но он же скучный. Вот тебе лучше синтез Кинг Кримзон и Пинк Флойд.
-Но они же разные совсем!
-Ха, а ты милок послушай вначале.
(звучит очень крутая музыка).
-Вау! Пойду выкину свою фотонотеку.
microArt
00.00.0000 00:00"важно ли то кем был создан продукт, человеком или AI?"
Смотря какой продукт, что считать продуктом...
Если это художественные тексты, то мне даром не нужны сгенерированные ИИ тексты. Зачем?
Нет, ради шутки, игры можно попросить его составить рассказ, сказку, например. Но только ради игры: "Покажи, что ты умеешь?" Раз, два так сделаешь, потом надоест.
Книги читаешь, чтобы мысленно поговорить с их авторами. Они живые люди и ты сам человек - вот и общение, нам есть, что сказать друг другу. С чем-то согласиться, с чем-то поспорить... Примерить их опыт, их мысли и выводы на себя.
Иную макулатуру, даже если точно знаешь, что написана человеком - читать совершенно не хочется. Потому что макулатура, пустая книга.
Тем более, рекламные тексты (как их еще называют - "продающие тексты". Зачем мне это?Читаю новости, что уже продают книги, написанные (сгенерированные) Чатом. Значит, мне надо строже подходить к выбору книг для чтения.
Сериалы, видео нейросеть генерирует. Простите, а зачем мне это? Я и обычный-то телевизор стараюсь не смотреть (с его бесконечными сериалами). Только время зря тратить.Переписка в интернете (в чатах, форумах, в блогах) очень обесценивает опыт общения: порой общаешься (переписываешься) уже чисто механически (сам становишься, как машина). Поток информации слишком большой и все меньше времени остается на ее обдумывание, на анализ.
Ботов теперь расплодится в интернете немеряно... Но тут и мне самой надо потихонечку свои привычки менять - меньше времени проводить в интернете и строже фильтровать информацию.
А если программы - то мне без разницы, кто напишет программу, ИИ или человек. Особенно, если программа получится рабочей, а у меня нет своего опыта (и теперь уже не будет), чтобы самой написать программу и нет денег, чтобы заплатить человеку - программисту. А идея для программы есть. И если я, пообщавшись с ИИ, получу от него работающую программу - как же я рада этому буду! Да если он еще поможет мне подсказками - потому что опыта у меня нет (когда-то на Visual basic программировала, простенький сайт сделала, но это, пожалуй, все). Он не прогонит со словами: "Уйди, надоела ты мне..." (Хотя, вполне может написать: "Лимит запросов исчерпан...", что по сути будет тем же самым).
(Чтобы не получилось противоречия со следующим абзацем, замечу, что такое программирование - чисто для себя, не для заработка).
"В своей работе я буду прятать AI за ширму."
То есть, иными словами, использовать его, как раба. Еще песенка была такая: "Вкалывают роботы, а не человек".
Работает ИИ, а деньги зарабатывает человек. Причем в том же самом количестве.
Что-то мне подсказывает, что долго так продолжаться не будет.
Люди же хитрые, любят с одной стороны - сэкономить, а с другой - побольше получить.
Однажды здесь лопнет (потому что ниточка слишком тонкая)."Компьютер, как всегда, задаст новую планку и будет вынужден раствориться в людях."
А мы, люди - растворимся в Чате... Как в некоем Универсуме... Он же ведь тоже перенимает что-то от нас. Некоторую информацию о нас.
Вот это будет да...
Будущее наступило. Я в восторге.
Заглянуть бы на пару лет вперед. Жаль, машины времени не изобрели.
А события очень, очень интересные.Или люди наиграются Чатом (и забросят), или он перевернет всю нашу жизнь.
Все сказанное - мое личное мнение.engine9
00.00.0000 00:00Живой автор еще невольно закладывает в произведение "отпечаток" своего времени, локальной культуры, личного опыта и это интересно для читателя.
Нейросетка симулирует, хотя, признаюсь честно, меня очень впечатляет то, как она симулирует стили художников, рисовавших или рисующих классическую живопись. Но она воспроизводит характер мазков и колористику художника, сам сюжет, как правило бредовый.
d_ilyich
00.00.0000 00:00+1Если это художественные тексты, то мне даром не нужны сгенерированные ИИ тексты. Зачем?
…
Книги читаешь, чтобы мысленно поговорить с их авторами. Они живые люди и ты сам человек — вот и общение, нам есть, что сказать друг другу. С чем-то согласиться, с чем-то поспорить… Примерить их опыт, их мысли и выводы на себя.А если отличить невозможно будет? Представьте, что Вам дали почитать 2 книжки, и обе вам очень понравились. А потом сказали, что одна из них "написана" ИИ. И что — она вам сразу разонравится?
postmachines Автор
00.00.0000 00:00Верно подмечено. Именно об этом и хотел написать. Кажется что некоторым людям действительно важно что книга написана именно человеком. Интересно узнать почему так.
Daddy_Cool
00.00.0000 00:00Будет ощущение, что меня обманули ))).
Отношение к собственным фантазиям - это некий важный момент.postmachines Автор
00.00.0000 00:00Я понимаю что вы имеете ввиду, но трудновато согласиться что именно это чувство будет отталкивать. Если начать говорить об обмане, возникает вопрос "может ли ИИ вообще обманывать?". Обман сложный термин, включающий в себя понятие лжи. Эту тему можно раскрутить на отдельную статью.
chernish2
Вопросы правильные, но меня смущает другое. В аббревиатуре ИскИн первая часть правильная, а вторая-нет. Интеллектом (сильным ИИ) не пахнет и в помине. Мир-1 вряд ли реален. Рановато пока человека вычёркивать из уравнения.
На канал подписался.