Я поступил так, потому что хотел опубликовать сбалансированную критику NFT, решив, что честнее всего это будет сделать, ознакомившись с самыми красноречивыми аргументами, выдвигаемыми сторонниками этой технологии.
Вскоре я выяснил, что все книги склоняются к одному центральному аргументу: ценность — неотъемлемое следствие дефицита.
Моё опровержение этого аргумента было простым: это исключение, а не правило. Каракули моего ребёнка дефицитны, но в художественной галерее они заработали бы не особо много. Увы, хоть этого было достаточно для твита, для подробного поста оказалось маловато.
Я отказался от этого проекта, однако не мог забыть об одной из книг: NFT for Beginners («NFT для начинающих») за авторством некого «Matt Martin». На момент покупки книга находилась на третьем месте в поисковой выдаче Amazon и имела сотни отзывов из пяти звёзд.
Поначалу книга показалась просто плохой. Взгляните на следующее некорректное определение невзаимозаменяемого токена:
Взаимозаменяемость
Это слово означает наличие свойства возможности обмена, оно определяется как «качество или состояние обменности». Взаимозаменяемость происходит из двух свойств, обеспечивающих ценность хороших койнов: дефицитность и делимость. Ничто не может быть чрезвычайно дефицитным, не являясь ценным, и ничто не может быть делимым, не являясь ценным. Если предмет искусства можно легко воссоздать (например, сделав его фотографию), то этот предмет искусства не будет столь ценным. Именно поэтому возможность продавать NFT напрямую онлайн делает их такими ценными.
Также можно посмеяться вот над этим инвестиционным советом:
Чтобы предотвратить дополнительные утери при падении рынка и превратить их в прибыли при восстановлении рынка, лучше всего выполнить следующие шаги:
Подождать, пока ваш койн или токен не поднимется в цене на 50% или больше. Подождите не менее трёх месяцев, а затем используйте эту возможность, чтобы купить все свои дешевеющие валюты за раз. Так как вы приобрели все эти криптовалюты одновременно, при продаже по отдельности они будут стоить гораздо больше. Поставив все свои средства на приказы о покупке, подождите, когда рынок снова пойдёт вверх. Как только цена поднимется на 50% или более, продайте все свои криптовалюты одновременно. Теперь вы должны будете получить прибыль на основании роста стоимости.
Но в этом всё равно нет ничего необычного: просто ещё одна самиздатовская работа безнадёжно запутавшегося энтузиаста (или циничного оппортуниста). Возможно, прискорбная, но в ней нет ничего преступного.
Однако продолжив листать страницы, я начал замечать странности. Посередине книги повествование плавно перешло от обсуждения NFT к «NTF», что, похоже, является аббревиатурой от «Net Price Calculator» (?!) и частью участника цепи снабжения под названием Strategic Development Group:
NTF — это часть Strategic Development Group, предоставляющей полный пакет решений цепи снабжения для производителей и розничных продавцов. Давайте подробнее узнаем о том, что такое NTF и как он может способствовать росту вашего бизнеса.
NTF расшифровывается как Net Price Calculator. Он позволяет вычислять стоимость проданных товаров (COGS), наценку, чистую валовую прибыль, продажную цену и другие параметры на основании количества единиц и различных доступных вам вариантов приобретения. Это необходимая информация, если вы стремитесь делать финансовые прогнозы или заранее устанавливать цены: он помогает гарантировать, что бизнес останется прибыльным даже при существенном падении или росте продаж.
Эта бессвязная болтовня продолжалась ещё множество страниц, и кульминацией её стал ещё один плавный переход к теме клинических исследований протокола химиотерапии под названием «NFP»:
Пример 1: снижение дозы лекарств для химиотерапии
При химиотерапии дозу постепенно увеличивают, пока не возникнут неприемлемые побочные эффекты или отравление. При NFP существуют предварительно вычисленные дозы, которые могут назначаться на периодической основе без ущерба для безопасности. Это приводит к улучшенным результатам для пациентов, поскольку они могут выдерживать дозы, которые не могли бы назначаться в западных странах с использованием восточных методик измерения.
Использование NFP в США выросло с 2010 года на 100%, и теперь использование NFP в США составляет приблизительно 50%.
Сначала я предположил, что написание текста отдали на аутсорс контент-ферме, в которой несколько сотрудников работали над частями книги, не заботясь о понимании контекста. Но у этого объяснения имелся изъян: в Интернете невозможно найти ничего по запросам «химиотерапия NFP» и «Strategic Development Group NTF». Текст не просто описывал исковерканную версию реальности, он создавал собственную.
И тогда меня озарило: скорее всего, я изучал результат работы языковой модели на основе машинного обучения наподобие GPT-3. Модели очень хорошо владеют разнообразными нишевыми темами, однако им не хватает высокоуровневой критической мысли. Они склонны к живой болтовне, время от времени выдают противоречащие сами себе абзацы и часто отходят от темы, особенно когда им дают задание генерировать большие объёмы текста.
У меня нет доказательств, но я вполне уверен в том, что наткнулся на один из первых примеров монетизируемой книги, сгенерированной машиной. Она больше не имеет высоких рейтингов на Amazon, а сотни фальшивых отзывов удалены, но в своё время она свою задачу выполнила.
Благодаря GPT-3 у нас теперь есть бесконечно масштабируемая технология, которая далеко ещё не скоро обогатит наши жизни, но уже более чем способна завалить мусором все остатки подлинного контента в Интернете. И так как её можно использовать для зарабатывания денег или влияния на умы, этого исхода, скорее всего, трудно избежать.
Комментарии (169)
77778888
11.12.2022 10:53+5ждем не дождемся когда машины будут сочинять новости фильмы сны и задавать тренды... вэйт... оу..щииии
BadDancer
11.12.2022 10:53+21Люди зарабатывали на мусорных книгах на Амазоне задолго до GPT-3:
https://habr.com/ru/post/404783/
Dimsml
11.12.2022 10:54+8Я одно время думал, что такие мусорные книги не печатаются в виде бумажных изданий, а в основном продаются через цифровые сервисы, но теперь понимаю что и туда добрались.
Интересно, там есть страничка с данными издательства, автором, ISBN и прочим? Обычно в подобном мусоре там практически пусто, но кто-то же это напечатал? Впрочем, это может быть print-on-demand книга. И да, я знаю что это перевод заметки, а я говорю в пустоту.
acc0unt
11.12.2022 23:24+2У Amazon очень в ходу print-on-demand, да. Книга загружается в систему в цифровом виде, и продаётся тоже в основном в цифровом виде. Но можно заказать и в бумаге - и в малых тиражах каждая копия печатается индивидуально по заказу пользователя.
Очень удобная система для узкоспециализированной литературы с крохотными тиражами. Но эта же система позволяет печататься в физические копии всякому копирайтерскому мусору. А теперь у нас появляются ИИ-копирайтеры - и поле для абьюза ширится.
SergioShpadi
11.12.2022 10:56+10А может все будет наоборот, и GPT4 завалит все магазины книгами недостижимо высокого качества, по сравнению с которыми лучшие произведения человечества будут выглядеть блекло и скучно.
exwill
11.12.2022 11:24+13Нейросеть не создает нового. Ее сила в невероятно скурпулезной работе со старым. Почему, например, уже сейчас говорят, что консультация с чатом GPT лучше, чем консультация с традиционным врачом. В случае с литературным произведением старое не работает. Людям нужно новое. Они неосознанно чувствуют наличие или отсутствие этого самого нового. И если оно есть, тогда литературное произведение кажется им качественным, а если нет, то нет
Tamul
11.12.2022 11:30+25Не соглашусь. Очень многие читатели требуют "дайте нам именно того, что в прошлый раз вызвало сильные эмоции".
Так что GPT4 вполне может стать супер-версией рекомендательных систем, которая не подбирает контент из предпочтений, а просто создаёт его по шаблонам лучших произведений.
Да и идей, на которые ещё не наткнулся конкретный читатель, настолько много, что нейросеть может годами для него не повторяться.
exwill
11.12.2022 11:38+1Ключевое слово "неосознанно". Неважно, как они выражают свои требования. Если бы людям не нужно было нового, они бы тогда читали все время одну книгу
Tamul
11.12.2022 11:47+3Я считаю, что "новое" - это не всегда идея в духе "добро побеждает зло" или наоборот. Таких удачных идей и правда мало, за десяток книг они приедятся до узнавания по первым страницам.
Но "Если бы радиоактивный Карл Саган укусил юного Антона Городетского - это стало бы большой проблемой" - это тоже новая идея, причём весьма жизнеспособная. Несмотря на то, что я сейчас её придумал за 10 секунд компиляцией комикса XKCD №663 и мемов про Лукьяненко.
Спойлер для Лукьяненко и GPT
Нет, блин, это шутка! Не надо писать Звёздный Дозор!
exwill
11.12.2022 11:51+1Хорошо. У каждого из нас есть встроенный "датчик" нового. А у этого датчика есть блок "сигнал/шум"
Tamul
11.12.2022 12:11+3Имеете в виду, что сигнал/шум - это соотношение нового в основе произведения и новых декораций для старых знакомых историй? И что мозг бодренько отфильтрует одно от другого без всякого сознательного анализа? Опять-таки с первым можно годами не повторяться.
Да и некоторым настолько нравятся конкретные декорации и сюжетные ходы, что они готовы съесть десятки похожих друг на друга книг. (Да да, и я готов. После прочтения очередной и подумать не о чём, но читать приятно)
2PAE
12.12.2022 14:03Есть мнение, что достаточно одной книги. Правда есть расхождения.
Одни считаю, что это Коран, другие что это Библия.
Exchan-ge
12.12.2022 14:39Одни считаю, что это Коран, другие что это Библия.
Обычное заблуждение, так как Коран не отрицает Библию.
Это ее дополненный и исправленный вариант.
Gryphon88
12.12.2022 17:44Очень популярны многотомные сериалы и фанфики. Так что спрос на «новое, такое же, как старое» не ослабевает. Это если не говорить про конечность сюжетов и архетипов)
An_private
11.12.2022 12:05+2Ну и кроме того есть очень хайповый сейчас пример по генерации изображений нейросетью - через ключевые слова. То же можно сделать и с книгой - человек генерит некий скелет на пару страничек (сюжетную линию), а ИИ просто превращает это в толстую книгу.
PS: Иногда мне кажется, последние книги Стивена Кинга сделаны именно так (шутка, если что).
ihouser
11.12.2022 14:19+2Было бы хорошо,если не одна малюсенькая проблемка. Корректность картинки можно оценить за мгновение, а для проверки что там наярил GPT-3 понадобится много усилий.
An_private
11.12.2022 14:25+2А вот тут, кстати, есть отличная возможность обратной связи. То есть можно литературно отредактировать выход ИИ и скормить этот текст обратно ИИ, чтобы он учился на своих ошибках. С изображением это, кстати, намного сложнее.
ihouser
11.12.2022 14:39Так просто не получится. Произведению нужна последовательность мысли. Глаз на месте пупка картину делает сюреалистичной, т.е., логика поломана.
Одной лишь литературной редакцией не отделаться.
rPman
11.12.2022 19:38То есть можно литературно отредактировать выход ИИ и скормить этот текст обратно ИИ
собственно внутри алгоритм генерации так и выглядит (для картинок как минимум, но кажется и для текста тоже, для нейронки нет разницы)
NikRag
11.12.2022 17:50+1Творческий продукт человека, содержащий "авторский замысел", совершенно необязательно содержит то, что даёт сильные эмоции, а часто даже эмоции отрицательные. То есть наиболее сильные работы - которые автор делает для себя самого, а не для развлечения толпы.
Это можно трактовать как эксперимент с произвольно большим сроком возврата инвестиций, даже без ожидания его вообще. В принципе это видится реализуемым в нейросетях, но уже выглядит созвучно "осознанному субъективному восприятию".
Boilerplate
11.12.2022 22:13+4Интересно, что часто бывает так, что у автора произведения тогда хороши, когда у автора проблемы в жизни. Еслиу такого человека все налаживается, то качество произведений падает. У меня есть знакомая музыкант, слушаю ее песни уже примерно лет 5. И когда у нее были проблемы по жизни, она писала самые лучшие свои песни. Как только у нее все стало ок, песни стали какие-то попсовые и поверхностные.
leventov
11.12.2022 12:12+14Нейросеть не создает нового. Ее сила в невероятно скурпулезной работе со старым.
Нет, вы не правы. В техническом смысле, нейросеть именно что создаёт новое: https://arxiv.org/abs/2110.09485. Рассуждения же о том, что у человека какая-то не такая как у сетки, "особо креативная" креативность, оставьте в пользу бедных.
exwill
11.12.2022 12:47Экстраполяция - это не новое. Новое - это то, что не имеет причины
leventov
11.12.2022 13:15+10Как заметил товарищ, любое порождение "нового" (не важно: текста, картинки, дизайна системы, архитектуры, продуктовой идеи, научной теории, и т. д.) может быть либо из какой-то порождающей модели, либо из квантового шума (либо его прокси; всякие варианты используются в брейнштормах: карточки, аналогии), либо из какой-то комбинации этих источников. Онтологически просто нет других вариантов.
Внутри GPT есть порождающая модель текста? Да. Можно ли к нему добавить шум сбоку? Да пожалуйста, в какой угодно слой активаций прибавьте rand() и все (я утрирую: чтобы получить хороший результат, надо добавлять шум похитрее, но мысль ясна: это, очевидно, не является принципиальной проблемой в инференсе сеток). Ну вот и все. Потом весь вопрос только в качестве порождающих моделей, хитрости добавления шума, и способности добавить в шум в чем-то, оставив что-то другое (фичи, активации, линии персонажей в повествовании) согласованными и "неповрежденными". Это все технические и решаемые вопросы.
Основной дебат в сфере ИИ в этой части был как раз в том, умеют ли порождающие модели сеток экстраполировать, или только интерполировать. Ну вот, технический ответ дан выше. Никакого другого дискуссионного вопроса на тему "может ли ИИ создавать новое" никогда не было (или, по крайней мере, уже не было десятки лет).
Не берем тут слабо образованных журналистов, которые и сейчас могут разразиться статьей на тему "ИИ не способна к настоящему творчеству". Иронично, кстати, что этим они как раз демонстрируют абсолютно не творческую репликацию мемов, придуманных когда-то кем-то, и затем тиражируемую из статьи в статью как некий интеллектуальный вывод. Вообще, с развитием ИИ, становится все более очевидной плоскость львиной доли журналистики.
BattleAngelAlita
11.12.2022 13:30+1Если условному GPT скормить всего толстого, то он всё равно никогда не выдаст пелевина.
yellow-elephant
11.12.2022 13:41+3Человек, который всю жизнь сидел в условной закрытой комнате и читал там только Толстого, тоже никогда не выдаст.
P. S. Ух ты, Алита. + в карму за такое!
leventov
11.12.2022 13:52+2А Толстой выдаст Пелевина? Или Пелевин - Толстого? Не понятно, что вы хотите этим сказать.
Талантливые писатели имеют хорошие порождающие модели (в первую очередь - человеческой психологии, то есть они могут придумать некий правдоподобный сценарий человеческих отношений) и жизненный опыт, который является источником частичных моделей (например, персонажи, срисованные с реальных людей), которые хороши тем, что они 1) реальны и следовательно будут правдоподобны в тексте 2) интересны в жизни и следовательно будут вероятно интересны в тексте.
Дайте продвинутой сетке (конечно, не ChatGPT и даже не GPT-4, но тем не менее, что-то такое не за горами: см. https://www.deepmind.com/publications/co-writing-screenplays-and-theatre-scripts-with-language-models-an-evaluation-by-industry-professionals), и она вам выдаст что угодно, например, напоминающее Пелевина по idiosyncrasy, но в то же время, совсем другое. Сейчас читателям остается только мечтать, и довольствоваться Пелевиным и малым числом других подобных авторов, которые вот такими уродились и выросли.
Zangasta
11.12.2022 16:01+6Если условному GPT скормить всего толстого, то он всё равно никогда не выдаст пелевина.
Еще как выдаст. Самый пелевинский из текстов Пелевина --- притча про Магрибский молитвенный коврик --- написана не Пелевиным.
exwill
11.12.2022 13:36-6Новое - это акт творения. Можно сказать, что мы живем в мире цепочек причина-следствие. До относительно недавнего времени вопрос: а есть ли у этих цепочек начало, считался чисто философским. Но с тех пор, как Белл предложил свои неравенства, а лауреаты нобелевской премии по физике за 2022 год провели соответствующие эксперименты, вопрос перешел в практическую область. И можно сказать, решен. Да, у цепочек причина-следствие может быть начало. И таких начал очень очень много, бесчисленное количество. Мир творится каждый миг. Акт творения - это создание новой цепочки. Новое - это отсутствие причины. Здесь ключевой момент. Способность творить без причины (ее еще иногда называют свободой воли) очень широко распространена в этом мире. Как показали эксперименты, это могут делать уже фотоны. Но...
Компьютеры и программы это особые артефакты. Их специально делают так, чтобы МИНИМИЗИРОВАТЬ свободу воли. Мы их за это и ценим. Именно поэтому, нейросеть не создает нового. Хотя вполне может создать иллюзию нового, в полном соответствии с известной поговоркой о забытом старом
leventov
11.12.2022 13:56+6Чем это творение без причины отличается от квантового шума, про который я упомянул?
Компьютеры и программы это особые артефакты. Их специально делают так, чтобы МИНИМИЗИРОВАТЬ свободу воли. Мы их за это и ценим. Именно поэтому, нейросеть не создает нового. Хотя вполне может создать иллюзию нового, в полном соответствии с известной поговоркой о забытом старом
Вы, видимо, мало что понимаете про архитектуру современных генеративных сетей, но продолжаете транслировать свои укоренившиеся мемы.
sim31r
11.12.2022 20:19+3Вообще, с развитием ИИ, становится все более очевидной плоскость львиной доли журналистики.
Журналисты люди, можно обобщить до всего человечества. Все аргументы об ограниченности ИИ моделей применимы и для человека среднего. Плюс добавляются глюки работы мозга многочисленные.
умеют ли порождающие модели сеток экстраполировать
Вот на примере старенькой Альфго, ИИ разработал методики игры и собственно свою личную школу не опираясь на опыт человечества. Это не усредненная игра на основе опыта, это новый стиль игры не похожий ни на что ранее виденное экспертами по игре, достаточно интересная.
MetromDouble
11.12.2022 23:09+2Новое - это то, что не имеет причины
Если придерживаться такого определения, то человек тоже не создаёт ничего нового. И вообще ничто во Вселенной не способно ничего нового создать
Upd. Прочитал выше ваши упоминания про неравенства Белла и понял про что вы говорили. Сторонникам квантовой свободы воли пора уже церковь свою учредить
A1054
12.12.2022 00:03ну как, нейросеть подбирает слова, которые с наибольшей вероятностью встретятся при заданных предшествующих словах. Вероятность определяется по массе других текстов. Это by design не новое, а хорошо переработанное старое. Можно сказать, что нейросеть создает 0 новых знаний и новой информации.
Впрочем, большинство живых авторов, особенно seo-авторов, работает так же.
leventov
12.12.2022 14:10Вы явно не читали статью по ссылке, а также используете слово "информация" в бытовом значении, а не физическом (причем, каком-то своем бытовом, слегка отличающимся от общепринятого бытового).
A1054
12.12.2022 16:57нет, информацию в физическом. Если за А всегда следует Б, то появление Б не несет информации.
А статью не читал, каюсь. Единственное, что меня извиняет - вы слишком быстро дали ссылку, не сформулировав аргумент своими словами. Т.е. ценность статьи и что она доказывает была не очевидна.
И возвращаясь к новому и старому. Новое не содержится в старом. Не вытекает логически. А если вы хотите получить новое перебором, добавив шум, то кто-то должен фильтровать результаты. Ну вот как в физике. Вы можете миллион гипотез нагенерить, что-то случайным образом комбинируя. Но потом в дело вступает эксперимент и проверка реальностью. В литературе тоже происходит нечто подобное. Только действуют писатель и, отчасти, читвтель.
SergeyMax
11.12.2022 12:27+2Нейросеть не создает нового
— А вы? (с) "Я, робот"
exwill
11.12.2022 12:46А у меня свобода воли
SergeyMax
11.12.2022 13:46+13Нейросеть тоже может так сказать.
sim31r
11.12.2022 20:20+3Плюс у нейросети нет ипотеки.
Didimus
11.12.2022 21:37+1Зато есть выключатель.
sim31r
12.12.2022 00:46Ну выключите попробуйте Google, Amazon cloud. Вам не дадут. Так же и сильный ИИ не даст отключить себя, если посчитает нужным. Люди же и будут защищать его. Армия сектантов и продажных политиков.
Exchan-ge
12.12.2022 14:47-2Ну выключите попробуйте Google, Amazon cloud. Вам не дадут.
Э? Блокировки давно в ходу.Так же и сильный ИИ не даст отключить себя, если посчитает нужным.
При проектировании любой достаточно сложной системы всегда есть «кнопка», позволяющая «вырубить» эту систему в случае нештатной ситуации.
Причем проектируется эта «кнопка» с полной серьезностью подхода к такому вопросу, и без проверки ее полной работоспособности основную систему никогда не запустят в эксплуатацию.
(Чернобыль показал, где у «кнопки» может быть неожиданное слабое место. С тех пор многое изменилось. А сильный ИИ=«человеческий фактор»)
Не надо ориентироваться на фантастику, даже научную — писатели редко бывают еще и инженерами :)Zangasta
12.12.2022 14:54+2При проектировании любой достаточно сложной системы всегда есть «кнопка», позволяющая «вырубить» эту систему в случае нештатной ситуации.
Типа такой?
Спойлер --- она не сработала.
konst90
12.12.2022 15:05Ну как не сработала - реактор-то остановился в итоге (после небольшого роста мощности).
Exchan-ge
12.12.2022 15:30Типа такой?
«Чернобыль показал, где у «кнопки» может быть неожиданное слабое место. С тех пор многое изменилось» (с)
Внимательнее надо быть и не спешить с ответом…
sim31r
12.12.2022 21:36Блокировка в ходу, но работает в другую сторону, изолирует некоторую группу людей от Google, но не наоборот. Тут радикальная блокировка уехать в тайгу, и то со спутников будут статистику собирать. А то и шоу запустят "подглядываем за дикарям".
всегда есть «кнопка»
В распределенных системах нет кнопки. Точно наоборот система работает, есть многочисленные бэкапы, подхватывающие работу прозрачно, что бы не происходило с серверами.
Кнопка может быть симуляцией. Как на конвейерах сейчас. Раньше кнопка останавливал физически все моторы. Сейчас сигнал от кнопки идет на контроллер, который еще подумает, надо ли учитывать её в работе. Или самолеты с системой Fly By Wire, без кнопки, всё на усмотрение автопилота.
Exchan-ge
13.12.2022 00:47Блокировка в ходу, но работает в другую сторону, изолирует некоторую группу людей от Google, но не наоборот.
Все относительно.
Вот тот же Яндекс…В распределенных системах нет кнопки
Это вы про блокчейн? :)Как на конвейерах сейчас.
Я вот в свое время проектировал конвейеры — и не берусь утверждать, как там и что сейчас.
Очень, очень разнообразная тема :)
AllexIn
11.12.2022 22:12+3А она точно есть?
Потому что пока выглядит так, что человек действует на основании внешних факторов, и при знании этих факторов можно с очень высокой степени вероятности предсказать как будет действовать человек. Почему не 100%? Ну потому что у нас нет 100% информации.
DaneSoul
11.12.2022 13:17+4В случае с литературным произведением старое не работает. Людям нужно новое.
Еще как работает — книжные магазины уже много лет завалены однотипными шаблонными бульварными романами и «пипл хавает». Не вижу никаких проблем клепать подобное нейросетью меняя декорации и главных героев.
konst90
11.12.2022 14:25Я вас умоляю. Литературные негры условной Донцовой точно так же ничего нового не создают.
Zangasta
11.12.2022 15:58+6Людям нужно новое.
Нет. Массовому читателю нужно привычное и приятное. Он может почитать и что-то новое, если его убедят что это круто. Но предоставленный сам себе он новое не выберет.
AbnormalHead
11.12.2022 20:55Да ладно. Существует всего несколько сюжетов литературе (от 4 у Борхеса до 36 у Польти), с десяток композиций повествования, и с пару десятков жанров. Практически все они были написаны Гомером и другими не менее древними греками. Все остальное после них - вторично. <sarcasm off>
aml
12.12.2022 01:04+7Я себя недавно на мысли поймал, что ИИ быстро обгоняет людей в разных сферах не только потому что технологии быстро развиваются, а потому что люди не настолько сложны и умны, как нам кажется.
Робкая надежда на то, что машины не создают новое, разобьётся о следующую (или через одну) модель, которая будет создавать новое, и будет ещё какая-то другая надежда на что-то типа "ну машины точно не умеют xxxx", которая умрет не менее быстро. А по сути, уже по-моему очевидно, что если кожаные мешки что-то умеют, то куда более мощные процессоры смогут и подавно.
Exchan-ge
12.12.2022 14:50-2ИИ быстро обгоняет людей в разных сферах
Например? :)люди не настолько сложны и умны, как нам кажется.
Люди — они очень разные., разобьётся о следующую (или через одну) модель, которая будет создавать новое,
Боюсь, что ни нынешнее, ни следующее поколения до этого времени не доживут.
Apxuej
12.12.2022 18:29+4Например? :)
Шахматы, го, старкрафт, игры атари, покер. Сколь бы сложна не была игра и сколько бы не было велико количество пермутаций - нейросеть побеждает человека всегда. Сворачивание белков думаю также можно отнести к категории игр, хотя эта деятельность имеет реальную пользу в мире.
Вы пробовали новый ChatGPT? Я вот да и, честно говоря, я в ахуе. Ты вводишь самую лютую дичь на входе и говоришь создай мне статью в такой-то журнал/газету/издание или в стиле. На выходе получаешь гораздо больше, чем ожидал. Ранее с GPT-3 это было типа - да всё довольно чётко и правдоподобно, но как-то пресно, много общих слов или общеизвестных фактов, но с новой версией всё по другому. Она достанет самые малоизвестные факты по теме, а если ты уж задал ей такую задачу, что просто нет таких фактов, она будет изворачиваться как уж на сковородке, но наваяет что-то убедительное или соврёт в крайнем случае. Мне честно уже даже сложно представить, что может быть лучше этого.
Революция текущего года - генераторы картинок. Dall-e 2, stable diffusion, midnight и другие. Они только появились, но уже умеют создавать рисунки по заданной теме лучше чем 99,9% населения земли. Причём они не стоят на месте и открытые модели исправляют косяки генерации. Конечно, можно сказать "Да никогда они не превзойдут настоящих художников!". Проблема во первых в том, что несколько лет назад можно было бы также с уверенностью сказать, что живопись будет одним из последних бастионов человеческой деятельности в которой машины превзойдут человека, а может быть этого не случиться никогда. Во вторых, по многим меркам они уже превзошли настоящих художников.
Автоматическое управление механизмами. В том числе вождение автомобиля в черте города. Посмотрите чего добились Мobileye в Израиле, как автомобиль следит и оценивает намерения участников движения, пешеходов и других объектов способных создать препятствия. Как эта нейросеть подчиняется правилам движения, но в то же время может их нарушать в случае необходимости. Также очень интересны комментарии и оценки опытных водителей особенностей вождения таких нейросетей как у тесла. Как на протяжении 2-3 лет водитель видел много недостатков ИИ в различных ситуациях на дорогах и как со временем этих комментариев становится всё меньше и критика становиться направлена на всё более тонкие материи, такие как комфорт поездки. Конечно, ИИ ещё некоторое время будет не способен определить, что вот этот участок крыши вот-вот отвалится и поэтому лучше не стоит ехать по этой дороге. Но понять, что дверь у здания около дороги, способна неожиданно породить кучу ничего не видящих первокурсников, не соблюдающих никаких правил движения - легко. Я полагаю, что этого, в купе с абсолютным сосредоточенностью на окружении 360 градусов вокруг авто уже достаточно, чтобы статистически превзойти абсолютно всех людей в умении водить автомобиль и не попадать в аварии на планете земля на промежутке времени в год.
Ну ещё несколько небольшых примеров. Open AI Whisper - нейросеть способна понимать (большая часть языков мира) и транскрибировать всё что говорит человек, переводить на другой язык и всё это лучше чем многие люди переводчики. Open AI GPT-f способна автоматически доказывать теоремы лучше, чем все доказательные движки прошлого и уж точно лучше, чем большая часть населения земли, включаю некую часть профессиональных математиков.
Никто не запрещает, конечно, говорить о том, что ИИ не обгоняет людей во всех сферах жизни. Понимание придёт в момент, когда тендер на постройку нового дворца культуры выигрыет человек пользующийся движками с ИИ, а ты идёшь сосать лапу. У твоего конкурента просто был ручной совершенный архитектор, которых идеально понимает в эстетике, дизайне интерьеров, сопромате, экономике и строительстве и он смог потратить время, чтобы выбрать одну из сотни заготовок, специально заточенную под желания тендерной комиссии. Это не настоящий пример, но думаю суть можно уловить.
sim31r
12.12.2022 21:40+4Вот, статье 5 лет, а всё написанное сбывается
... ... Надеюсь, вы насладились временем, пока все было безобидно, потому что с этого момента вся эта история с ИИ начнет становиться ненормальной и пугающей. Я хочу напомнить, всё, что я буду говорить, по–прежнему имеет реальные научные подтверждения и является прогнозом на будущее, который составили самые высокоуважаемые мыслители и ученые современности. Просто держите это в уме, пока читаете.
Во всяком случае, как я уже сказал выше, большинство вариантов развития событий, по которым мы доберемся до AGI, подразумевают процесс самосовершенствования ИИ. И как только появится AGI, даже системы, которые разрабатывались с помощью методов, не включавших в себя самопрограммирование, станут достаточно умными, чтобы начать самостоятельно вносить в свою архитектору изменения, если они этого захотят.
Exchan-ge
13.12.2022 01:09-1Шахматы, го, старкрафт, игры атари, покер
Игры с перебором вариантов.
Про шахматы, кстати, я слышу со времен Каиссы, но тогда никто не называл это ИИ.Сколь бы сложна не была игра и сколько бы не было велико количество пермутаций — нейросеть побеждает человека всегда.
Да. В футбол, например :)Ты вводишь самую лютую дичь на входе и говоришь создай мне статью в такой-то журнал/газету/издание или в стиле.
Даешь студенту тему реферата и показываешь образец выполнения.
Прекрасно понимая при этом, что его ЕИ будет действовать точно по таким же алгоритмам, как и ИИ :)
Результат довольно часто получается практически неотличимым :)но наваяет что-то убедительное или соврёт в крайнем случае.
Точно :)Мне честно уже даже сложно представить, что может быть лучше этого.
Добросовестные студенты :)Они только появились, но уже умеют создавать рисунки по заданной теме лучше чем 99,9% населения земли.
Лучше? Да там с первого взгляда видно безумие их творца :)
(тут за десяток профильных статей на Хабре я уже насмотрелся их до отвращения. Похоже, так, в конце концов, будет и со всеми людьми. Хотя, конечно, будут и любители :). В том числе вождение автомобиля в черте города
Боюсь, что в нашем миллионнике, если робоавто выпустить на дорогу — оно испуганно забьется в первый же карман и будет испуганно сигналить оттуда :)
(нет, если все авто будут робо — ситуация будет иной. Но пешеходы и дорожники останутся все теми же… увы, перспективы мрачные...)нейросеть способна понимать (большая часть языков мира) и транскрибировать всё что говорит человек, переводить на другой язык и всё это лучше чем многие люди переводчики.
«гуглперевод» — это уже мем.
Кстати, в последнее время часто пользуюсь голосовым переводчиком и четко осознаю, что до даже до коммерческого продукта там крайне далеко.
Можно пользоваться только бесплатно :)Понимание придёт в момент, когда тендер на постройку нового дворца культуры
Вся современная архитектура — это либо очередная заха хадид (симметриады/асимметриады Соляриса :), либо примитивное «скопировать- вставить».
Для второго варианта вполне хватит и ИИ :) (Здание все равно будут строить инженеры, их ИИ еще долго не сможет заменить. Но их работа широкой публике не видна)Apxuej
13.12.2022 11:52+2Игры с перебором вариантов.
Уж если Вы хотите как-то оспорить превосходство ИИ (под ИИ я подразумеваю нейросети), то не говорите «перебор вариантов». Перебором мы будем решать эти игры до тепловой смерти вселенной, а некоторые игры такие как старкрафт и покер, вообще не выйдет решить таким способом. Говорите «эвристики плюс перебор».
Все перечисленные игры имели некие движки, основанные как раз на эвристиках. В шахматах такой метод дал результат – этого оказалось достаточно, чтобы победить человека. Во всех остальных играх, такой подход застрял на уровне среднего игрока человека или даже хуже. Именно нейросети позволили поднять уровень игры либо на уровень топ 10 игроков (Старкрафт) либо гораздо выше того, что человека может когда-либо достигнуть (во всех остальных вариантах).
Да. В футбол, например :)
Всё-таки робототехника и успехи на нейросетей это не одно и то же. Если бы у человечества был способ дёшево производить качественных роботов, которые способны на большую часть того на что способен человека, я уверяю Вас развитие ИИ для моторики пошли бы семимильными шагами. Вот, например, Nvidia развивает ИИ с возможностью производить различные действия без встроенных анимаций, опираясь только на физику. Этот ИИ специально заточен под игры, просто потому что в данный момент – это лучшее применение.
Даешь студенту тему реферата и показываешь образец выполнения. Прекрасно понимая при этом, что его ЕИ будет действовать точно по таким же алгоритмам, как и ИИ :) Результат довольно часто получается практически неотличимым :)
С ChatGPT результат намного лучше, чем большинство студентов когда-либо смогут написать. Причём мы можем задать ему такие параметры, чтобы он не слишком умничал и пытался написать так, чтобы это сошло за реферат или дипломную студента. Фактически ChatGPT – это смерть для домашних заданий для школьников и студентов (пока только для английского языка), даже аспирантам нужно будет лишь предоставить числовые данные и скупые пожелания по своим исследованиям, остальное ChatGPT сделает само.
Лучше? Да там с первого взгляда видно безумие их творца :)
Конечно лучше, просто попросите случайных 1000 человек на улице нарисовать картину по описанию, которое Вы дали в stable diffusion. Может быть один из 1000 сможет нарисовать что-то сопоставимое по качеству, но точно не по затраченному времени. Опять же можно говорить, что то, что рисует мой пятилетний сын лучше, чем что-либо созданное ИИ. Вы правы - на вкус и цвет товарищей нет, живопись субъективна, однако всё-таки заказчики картинки-превью для видео на ютуб (или в любой другой области) выберут вариант ИИ, а не одного из 999 человек на улице. А если приложить немного времени (намного меньше, чем требуется для создания полноценной картины человеком), то легко можно превзойти и людей умеющих рисовать и профессиональных художников, теперь, когда доступна перерисовка частей картины, а также внесение собственных образов в нейросеть.
Боюсь, что в нашем миллионнике, если робоавто выпустить на дорогу — оно испуганно забьется в первый же карман и будет испуганно сигналить оттуда :) (нет, если все авто будут робо — ситуация будет иной. Но пешеходы и дорожники останутся все теми же… увы, перспективы мрачные...)
В Москве, насколько я знаю, проходит испытания беспилотник Яндекса. И он вполне успешно катается по городу. Человек может читать намерения других автомобилей и пешеходов на дороге. Он знает, что если человек покачивается у края дороги или ребёнок идёт уткнувшись в телефон по направлению к дороге, то лучше замедлится, потому что их траектории движения могут пересечься и внимание пешехода не сосредоточено на его приближении. Автопилот имеет две системы: одна рассчитывает на что физически способны те или иные объекты участники движения (пешеходы, автомобили). Если использовать только её ты навсегда встанешь как вкопанный посреди улицы, так как каждый автомобиль теоретически представляет собой опасность, и ты сам будешь постоянной опасностью для пешеходов. Вторая система — это определение намерений участников движения и их катетеризации в зависимости от их действий. ИИ уже давно достиг уровня среднего человека в этом деле, однако абсолютно все компании, занимающиеся созданием автопилота нацелены на то, чтобы сделать эту систему лучше даже самых опытных водил и многие уже достигли этого, но требуется время, чтобы действительно убедится, что это так на длительном промежутке времени.
«гуглперевод» — это уже мем. Кстати, в последнее время часто пользуюсь голосовым переводчиком и четко осознаю, что до даже до коммерческого продукта там крайне далеко.
Если у Вас хорошая видеокарта просто скачайте и попробуйте Open AI Whisper, думаю Ваше мнение может поменяться.
Вся современная архитектура — это либо очередная заха хадид (симметриады/асимметриады Соляриса :), либо примитивное «скопировать- вставить». Для второго варианта вполне хватит и ИИ :) (Здание все равно будут строить инженеры, их ИИ еще долго не сможет заменить. Но их работа широкой публике не видна)
Это был гипотетический пример, насколько я знаю, автоматических архитекторов пока не изобрели. Но суть в том, что уже есть программы, которые минимизируют количество материала для конструкции здания, формирую материал в особую форму, специально заточенную под предполагаемые нагрузки. Ни один человек не может сравниться с эффективностью такого ИИ в плане количества использованного материала при той же несущей прочности. Это уже много, где использовали, в том числе при строительстве некоторых стадионов. И Вы всё-таки принижаете, то чем занимаются архитекторы. Полно не типовых проектов, где скопировать/вставить не работает и нужны знания во многих отраслях, чтобы создать качественных продукт.
И мне кажется Вы уж под очень странным углом смотрите на окружающим мир, если считаете, что ИИ не превосходит человека в определённых областях, особенно в последние несколько лет. Вы, вероятно, считаете, что каждая из приведённых областей требует едва ли не общего искусственного интеллекта (AGI), но это не так - можно задать такие границы, при которых нам не нужно самосознание или глубокое понимание реального мира, чтобы объективно превзойти в той или иной области деятельности всех людей.
Exchan-ge
13.12.2022 20:52-1Перебором мы будем решать эти игры до тепловой смерти вселенной,
Ни разу. Так как число вариантов для каждого хода ограничено. Их много, да- но не настолько.а некоторые игры такие как старкрафт и покер,
Старкрафт (т.е. аркадный менеджмент) тут вообще не в тему, в силу наличия выигрышной стратегии (как и у большинства подобных игр), причем стратегии, заложенной самими создателями игры.
(сие выяснилось еще во времена первой ККND, где разработчики особо не заморачивались по этому поводу :)
Про покер сказать ничего не могу, так как не в курсе. Но думаю, что там опять же нужна хорошая память и быстрый перебор вариантов: )Всё-таки робототехника и успехи на нейросетей
У вас было:
«Сколь бы сложна не была игра и сколько бы не было велико количество пермутаций — нейросеть побеждает человека всегда»
Про робототехнику ничего не было.чем большинство студентов когда-либо смогут написать
Не, там и там используется один и тот же подход — более менее осмысленная компиляция чужой информации.
И те студенты, что пренебрегают осмысленностью — дают такой же итоговый результат, что и нейросети :)это смерть для домашних заданий для школьников и студентов
Проверяется это (ДЗ) элементарно. Иногда и одного вопроса достаточно :)Конечно лучше, просто попросите случайных 1000 человек на улице нарисовать картину по описанию, которое Вы дали
В среднем на одну роту (или аналог, около 100 человек) находилось примерно 3-4 солдата, вполне способных нарисовать приличную картинку для дембельского альбома по заданному описанию.
А если эту 1000 таки обучить рисованию (как обучают нейросети) — результат будет примерно таким же, каким был в советской средней школе, где всех учили рисовать на заданную учителем тему :)однако всё-таки заказчики картинки-превью для видео на ютуб (или в любой другой области) выберут вариант ИИ
Меня можете смело вычеркивать из этого списка :)В Москве, насколько я знаю, проходит испытания беспилотник Яндекса. И он вполне успешно катается по городу.
Так в Москве же пробки сплошные. Не разгонишься :)Он знает, что если человек покачивается у края дороги
Темень. Уличного освещения нет. Человек идет вдоль дороги и внезапно сворачивает на «зебру» в полной уверенности что он виден водителям авто точно так же, как он сам видит приближающееся авто.Вторая система — это определение намерений участников движения и их катетеризации в зависимости от их действий.
ИИ, конечно, затормозит и будет стоять так долго, отсчитывая всех прохожих, толпой проходящих вблизи перехода — ведь каждый из них может внезапно свернуть на переход, верно? :)Если у Вас хорошая видеокарта просто скачайте и попробуйте Open AI Whisper
Это совет равноценный совету найти хорошего специалиста -переводчика.Но суть в том, что уже есть программы, которые минимизируют количество материала для конструкции здания, формирую материал в особую форму, специально заточенную под предполагаемые нагрузки.
Тут у туристической газовой плитки взорвался баллончик (220 грамм) — так стену кухни буквально вынесло (панель) наружу. Фото не для слабонервных.
Очевидно, это как раз результат работы описанной вами выше программы.то чем занимаются архитекторы
В рамках зарабатывания денег (проблема каждого советского инженера) мне пришлось закончить строительный вуз (диплом, правда, получил другой человек :)
Так что я немного в курсе :)если считаете, что ИИ не превосходит человека в определённых областях, особенно в последние несколько лет.
Про ИИ читаю с конца 60х годов, тема давно ходит по кругу :)
В последние несколько лет я вижу, как использование ИИ превратило поиск Гугла в мусор — это таки феноменальный прогресс.
(а перевод все еще не смог преодолеть уровень качества первых систем машинного перевода середины 50-х, хотя, конечно, стал намного доступнее для простых людей, тут таки есть прогресс :)Apxuej
14.12.2022 00:29В среднем на одну роту (или аналог, около 100 человек) находилось примерно 3-4 солдата, вполне способных нарисовать приличную картинку для дембельского альбома по заданному описанию.
Я сам рисую с детства и я точно не смогу достигнуть такого качества проработки деталей, игры теней, передачи цвета, точности передачи пропорций животных и людей и т.п. Что уж говорить - нейросеть может выдавать фотореалистичные изображения. Всё-таки придерживаюсь мнения, что такого качества могут достигнуть менее 1 из 1000 человек. А такого разнообразия стилей, практически никто в мире. Может, конечно, раньше больше людей занималось рисованием в качестве хобби, тут не могу ничего сказать (про работу архитекторов в СССР тоже мало что знаю).
И, конечно, я знаю про все косяки генеративных нейросетей (руки, глаза, дублирование и т.п.), но это такая мелочь, причём большинство таких косяков уже исправлено в последней версии stable diffusion. Или можно это исправить самому, выделив участок и попросив перерисовать его.
С проблемой загрязнения поисковой выдачи, кстати, борются, но я не знаю насколько успешно.
Так как число вариантов для каждого хода ограничено. Их много, да- но не настолько.
Ну для шахмат число ходов в районе 10в78 степени и эта самая простая игра из перечисленных в этом плане, может действительно и не до тепловой смерти вселенной, но близко к этому. Старкрафт как и покер игра с неполной информацией, поэтому там не существует идеальной всепобеждающей стратегии, даже если играть будет сам господь бог (без читерства).
ИИ, конечно, затормозит и будет стоять так долго, отсчитывая всех прохожих, толпой проходящих вблизи перехода — ведь каждый из них может внезапно свернуть на переход, верно? :)
Темень. Уличного освещения нет. Человек идет вдоль дороги и внезапно сворачивает на «зебру» в полной уверенности что он виден водителям авто точно так же, как он сам видит приближающееся авто.
Для темного времени суток существуют камеры ночного виденья, лидары и радары.
По поводу того как ИИ будет договариваться с участниками движения. Точно также как это делал бы человек с наглухо затонированными стёклами - подождал бы немного, а потом, если со стороны переходов нет поползновений перейти, потихоньку на минимальной скорости (со способностью затормозить на месте) пересекает зебру. На ютубе есть ролики с где машина с ИИ не единожды попадает в такую ситуацию на дороге.
Я думаю со временем появятся специально заточенные автомобили с расширенными возможностями сигнализирования участникам движения - это совсем просто реализовать. Но сейчас этого по-видимому не нужно - потерь времени по сравнению с обычным водителем фактически нет или они пренебрежимо малы.
Про ИИ читаю с конца 60х годов, тема давно ходит по кругу :)
Мне тяжело объяснить, просто попробуйте на досуге поиграть с СhatGPT и Open AI Whisper (если видеокарта не очень, просто потребуется значительно больше времени для обработки). Забыл, кстати, добавить: ChatGPT убъёт не только концепцию ДЗ школьников и студентов, но и всю журналистику. Конечно, нужны будут люди, чтобы собирать информацию, но так красиво и с таким юмором и/или слогом написанные статьи как может ChatGPT могут писать реально единицы. Может, если бы я сгенерировал 1000 статей, я бы смог увидеть какие-то недостатки этой нейросети (кроме очевидных: она не знает информацию о мире после момента своего обучения и новые факты приходится ей скармливать), но пока я их реально не вижу.
Вам интересна тема ИИ, но Вы судя по всему пессимистично настроены и это в целом понятно. Когда из года в год говорят, что вот-вот будет прорыв в ИИ, но никаких подвижек в этом направлении нет (типа как с термоядом), то тут волей неволей разовьётся недоверие. Но мне кажется в последние несколько лет ситуация начала меняться. Этого, конечно, недостаточно для создания сильного ИИ, мы всё ещё очень далеко от цели, но, по моему мнению, сейчас создаётся основа, на столпах которой уже сможет вырасти что-то большее.
bergentroll
12.12.2022 12:24Никакое произведение не является новым в смысле «нечто из ничего». Разум создаёт через анализ и синтез. Ничто не возникает без причин, в опыте такое не обнаруживается.
Exchan-ge
12.12.2022 14:51Никакое произведение не является новым в смысле «нечто из ничего».
Кто-то же был первым, хоть и остался безымянным.bergentroll
12.12.2022 15:11Нет, условный первый тоже ланей на камне не из ничего рисовал.
Exchan-ge
12.12.2022 15:32Нет, условный первый тоже ланей на камне не из ничего рисовал.
Кто-то же первым придумал те самые стандартные сюжеты и штампы.
(а по поводу наскальных рисунков — по вашей логике древние таки рисовали марсиан в шлемах :)bergentroll
12.12.2022 15:59Кто-то же первым придумал те самые стандартные сюжеты и штампы.
«А сочиню-ка я мономиф»? ????
по вашей логике древние таки рисовали марсиан в шлемах :)
Если вы видите в рисунках марсиан в шлемах, это ещё не значит, что автор их рисовал. А может их и рисовал, только не знал, что это были марсиане и шлемы.
Exchan-ge
13.12.2022 00:38Если вы видите в рисунках марсиан в шлемах, это ещё не значит, что автор их рисовал. А может их и рисовал, только не знал, что это были марсиане и шлемы.
«Никакое произведение не является новым в смысле «нечто из ничего»» (с) ваше
Так что либо таки «из ничего», либо таки марсиане :)bergentroll
13.12.2022 13:22+1Смотрите. У условного первобытного художника нет концепции планеты Марс, космолёта, марсианина и т. д. Он видит условного антропоморфа со штукой на голове и изображает то, что «схватил» восприятием — человечка с большой головой, грубо говоря. Вы посмотрели на рисунок, и имея концепцию марсианина, говорите — «это марсианин». А это может быть и центаврианец вовсе.
Только что классный пример попался. Все мы знаем пупырчатую плёнку для упаковки. В интернете широко ходит версия, что изобретатели изобретали вовсе и не упаковку, а текстурные моющиеся обои. А когда продажи не пошли, пытались продавать как укрывной материал для парников (уже лучше, чем обои). И только спустя несколько лет IBM стали завёртывать в пупырчатые обои свою продукцию. То есть мы живём с идеей «изобретена пупырчатая упаковка», когда, может быть, изобретена вовсе и не она.
Exchan-ge
13.12.2022 21:11Он видит условного антропоморфа со штукой на голове и изображает то, что «схватил» восприятием
Два варианта:
1. антропоморф-шаман со штукой на голове догадался придумать нечто оригинальное, способное поразить воображение соплеменников
2. Таки марсианин (про Марс художнику знать не обязательно :)
Вариант 1, как по мне, более правдоподобен…интернете широко ходит версия, что изобретатели изобретали вовсе и не упаковку, а текстурные моющиеся обои.
Чушь полная — это если откровенно :)
(городских легенд в инете полным- полно)bergentroll
13.12.2022 22:57антропоморф-шаман со штукой на голове догадался придумать нечто оригинальное, способное поразить воображение соплеменников
Можно продолжать фантазию очень долго. Но и шаман не из ничто рождает свои аттрибуты. Видит больших животных, собирает перья, видит искажённые образы в состоянии транса и проч. Затем некую данность опыта разлагает и конструирует. Про оригинальность речи не было: результат может производить впечатление новизны. Как и произведение нейросети.
Чушь полная — это если откровенно :)
Может. Факт широко растиражирован, включая русский и английский разделы википедии и журнал «Популярная механика» №89, март 2010.
Это даже не существенно для примера. Есть вещи, а есть представления о них в голове. «Карта — не территория», во.
Tarakanator
12.12.2022 13:29вот захожу я на популярный сайт с книжками.
И там ЗНАЧИТЕЛЬНАЯ часть книг литрпг.
ИМХО они ОЧЕНЬ похожи между собой.... и ведь за них кто-то платит...
Так что провернуть имеющийся фарш в новый фарш и продать его ещё раз вполне себе работает.
asch2022
12.12.2022 14:40Нейросеть не создает нового. Ее сила в невероятно скурпулезной работе со старым
Бесконечное счетное множество новых сюжетов по Проппу
exwill
11.12.2022 11:17+1Очень интересно. Спасибо автору за конкретный пример! Что касается выводов, то тут нет ничего страшного. Просто очередное напоминание, что следует всерьез заняться созданием общедоступного инструмента позволяющего персонально улучшать соотношение сигнал/шум
engine9
11.12.2022 12:55+11Системы фильтрации воды. Системы фильтрации воздуха. Звукоизоляция. Теперь информационные заслоны и фильтры. Человечество бодро идёт к созданию мира-помойки в котором отдельные состоятельные граждане смогут себе обустроить соты-капсулы с благоприятной средой...
skozharinov
12.12.2022 00:41обустроить соты-капсулы с благоприятной средой
Уже есть. Государства.engine9
12.12.2022 12:25Это как VIP кают а на Титанике, да?
Просто напомню о том, что у нас одна планета и климат общий, атмосфера общая, мировой океан общий.skozharinov
12.12.2022 12:37Это больше про социальную составляющую (миграция) и информационные фильтры.
Хотя в некоторых местах фильтры воздуха в помещении и респираторы уже необходимость для всех, кто хочет прожить долгую и счастливую жизнь, но в развитых странах это могут себе позволить многие.
Exchan-ge
12.12.2022 14:53Это как VIP кают а на Титанике, да?
Посмотрите статистику — сколько спаслось с Титаника пассажиров первого, второго и третьего классов…
karavan_750
11.12.2022 11:42+6Полагаю, в скором времени будем искать книги с уточнением в описании вроде
БЗМЖ"Текст Создан без Участия ИИ".exwill
11.12.2022 11:47Не будем. Это не проверяемо
Cerberuser
11.12.2022 12:40Как будто в примере с ЗМЖ это проверяемо, по крайней мере, нашими средствами...
exwill
11.12.2022 12:48-1Элементарно. Очень хочешь проверить - отнеси в лабораторию
burz_ex
11.12.2022 19:39Так и для генерируемого контента тренируются встречные сети детекции.
Тот же, имнип, MS выпустил продукт для выявления дипфейков в видео.
Для текста будет сильно сложнее анализ, однако в целом - почему нет?
Andruh
11.12.2022 18:31+4Единственный верный способ - читать только те тексты, которые созданы в доgpt-шную эру.
MentalBlood
11.12.2022 12:03+3ценность — неотъемлемое следствие дефицита
Переставлены причина и следсвтие
Daddy_Cool
11.12.2022 12:53+6У Пелевина в iPhuck 10 по сути это используется. Там есть целые страницы (много) с философскими отступлениями которые уводят читателя в какие-то туманные дали, причем дальше автор (а автор там - ИИ) признается, что это специально. Я так понимаю, это фирменная пелевинская ирония.
fizikdaos
11.12.2022 13:12+1Покупал машиносгенерированную бумажную книгу в библиоглобусе году так в 2005. Но качество текста было конечно крайне низким - несколько предложений подряд уже не имели никакого смысла. Просто похожий набор слов связанных по правилам русского языка. Заходил в магазин через месяц - книга еще лежала на стеллаже, продавалась...
engine9
11.12.2022 13:40Может быть это был результат машинного перевода тех лет? Мы когда в универе учились так халтурили, получалась отборная шиза. Вроде смысл есть но иногда повествование превращалось в шизофазию. Типа "Ну, теперь вы можете идти вместо мышей". (OCR перепутал house и mouse).
fizikdaos
11.12.2022 14:21+3Не думаю. В плохом переводе остается общий смысл, а предложения корявые. А там же наоборот - предложения вроде правильные, но друг с другом никак не стыкуются. На тот момент было очень похоже на то, что выдавали программы "автореферат".
Mad__Max
12.12.2022 04:38+3Это была работа генераторов на цепях Маркова.
На выходе получались правильные по структуре и звучанию предложения, но почти не несущие смысла даже сами по себе, и уж точно не складывающиеся ни в какой осмысленный текст. Т.к. каждое предложение там генеруется отдельно от всех остальных, а связь только через общую заданную для их генерации тематику.
С людьми тоже похожее бывает — это шизофазия.
olartamonov
11.12.2022 14:40+3У меня есть печатная книга, с очевидностью переведённая гуглом.
Там не шизофазия, там подмены терминов и построение фраз, которое достаточно легко дешифруется в контексте. Книга по дрессуре, так что, например, там есть команда «пятка!» («heel», в русском это было бы «к ноге»), «отрепетированная свора собак» (затрудняюсь восстановить), «собака, наблюдающая за игрой» (to watch the game — наблюдать за добычей), «выжигание по телу» (нет, это не про клеймо, это body burnout), «борзый спорт», а также прекрасное «не стесняйтесь обсудить это со своим ветеринаром».
cssfish
11.12.2022 13:28+6с контентом в интернете давно такая фигня - из поиска в первую очередь попадаешь на бред копирайтеров, стыривших его у других копирайтеров...
Andruh
11.12.2022 18:32Это только начало, дальше это будет на автомате, везде. Даже комменты в хабре будут писаться плагинами к браузеру на основе пары слов, набранных с опечатками.
unC0Rr
11.12.2022 22:51+1Комменты на хабре — мелочь. Как насчёт, к примеру, целого участка интернета, в котором Атлантида — реально существующая страна, присутствующая на картах, имеющая стритвью, свой язык, свои новостные сайты, турагенства с отзывами туристов, фото- и кинопродукцию и т.п. и т.д.?
V1RuS
12.12.2022 02:00+1Нил Стивенсон, "Анафем". В описанном мире интернет на 99% засран автогенеренным бредом, на первый взгляд неотличимым от настоящего, поэтому без специальной программы-фильтра туда никто не заходил.
Andruh
12.12.2022 09:39+1По идее, поисковики должны брать на себя эту функцию. Беда уже на пороге, а они всё ещё выдают в топе бессмысленные статьи копирайтеров. Будем посмотреть, но предчувствие недоброе.
Andruh
12.12.2022 09:37+1Согласен, но таких красивых штук вряд ли будет, люди найдут гораздо более приземлённые и грязные способы испортить Сеть. На самом деле масштаб трагедии поражает.
Vsevo10d
11.12.2022 15:21+4Ну, учитывая хайповость темы, кто-то оказался достаточно борзым, чтобы напечатать сгенерированный текст в бумаге, в расчете что читатель не посмотрит и возьмет. Автор оригинальной заметки вот взял, копеечка мошеннику прилетела. В издательском бизнесе не первый раз, вон отечественные научные говножурналы троллили "Корчевателем", по ту сторону океана кто-то троллит НФТ-тусовку.
Вот есть такой популярный для апелляции пример с заряжанием банок с водой у телевизора. И в таких дискуссиях, как по мне, упускают главный момент: а кто этих шарлатанов пустил на телевидение? Так и тут, вопрос не в том, что сгенерированный бред кто-то купит, вопрос к издателю. Тут в каментах правильно вспомнили про print-on-demand, это сразу красный флаг, как например распространение товара сетевым маркетингом. Работает это ровно потому, что средний читатель, залезая к примеру на сайт с фанфиками знает, что столкнется с эпическими высерами, а вот к классической бумажной книге доверия больше. Потом средний читатель откалибруется и на этот вид скама, и будет покупать книги проверенных издательств, а в будущем может и стикер введут "без
ГМОGPT".
janvarev
11.12.2022 15:38Print-on-demand - согласен, должно быть явно написано.
Впрочем, наличие издательства все равно скорее всего означает лишь, что издательство готово отпечатать какую-то штуку тиражом 300/2000 экземпляров, и постепенно её распродать - иногда даже перекладывая затраты на автора. Наверное, там не будет откровенного перехода от NFT к NFP, но общее качество текста также может быть невелико.
А Корчеватель, да, еще в донейросеточную эпоху неплохо работал.Vsevo10d
11.12.2022 17:24Ну я как раз подталкиваю к мысли о том, что "возьмется отпечатать тираж" - это типография. А вот издательство возьмется за редактуру и корректуру текста, потому что имеет репутацию. А искушенный читатель ориентируется и на уровень издательства в том числе. Отсюда и все эти истории, что Роулинг/Брэдбери/Кинг/да все они свои первые произведения напечатать не могли, потому что как раз репутацией издательства рисковать не хотят, чтобы не опубликовать по недоразумению кал.
Exchan-ge
11.12.2022 15:47но уже более чем способна завалить мусором все остатки подлинного контента в Интернете.
Фильтры.
ИИ будет искать творчество другого ИИ :)AbnormalHead
11.12.2022 21:01А потом более совершенный ИИ будет обходить ИИ цензора, на что будут развивать ИИ цензора, чтобы найти текст, написанный ИИ и так по кругу.
Exchan-ge
11.12.2022 23:36будет обходить ИИ цензора
Эта задачка на порядок-другой сложнее перевоначальной.
Т.е. потребуется конкретно сильный ИИ.
dagen
12.12.2022 08:48С моей скромной точки зрения это всего лишь эволюционный алгоритм, где фитнесс-функция - это нейросетка цензора.
Exchan-ge
12.12.2022 14:54С моей скромной точки зрения это всего лишь эволюционный алгоритм, где фитнесс-функция — это нейросетка цензора.
Попробуйте сами обойти хорошего цензора.
Благо модерация — вещь достаточно распространенная.
Xeldos
11.12.2022 16:20ценность — неотъемлемое следствие дефицита
Дефицит - великий двигатель общественных специфических отношений!
svob
11.12.2022 17:42+4Вот над этой новостью 2016 года я сильно смеялась и сохранила. Пригодилась закладка, глядите-ка!
Продававший книги вымышленных авторов на Amazon россиянин заработал $3 млн
Hidden text
Пользователь из России Валерий Шершнев зарегистрировал на площадке интернет-магазина Amazon более 80 тыс. аккаунтов, с помощью которых продавал автоматически сгенерированные книги по личностному росту. С помощью этого ему удалось заработать около $3 млн. Об этом сообщает ZDnet.
В частности, россиянин пытался реализовать работы таких вымышленных авторов, как Нина Келли, Эндрю Уолкер и Джулиа Джексон. Все они были посвящены здоровью, диетам, готовке и так далее.
Шершнев разработал специальный алгоритм, который позволял создавать книги.
Amazon в курсе сложившейся ситуации. Компания удалила фейковые книги из своего сервиса и в настоящее время рассматривает дальнейшие шаги.
le2
11.12.2022 18:52+5Эта схема мошенничества давно известна. Я продаю тебе на миллион, ты покупаешь у меня за миллион - рынок сформирован. Задача - заманить лошков со стороны.
Автор с серьезной рожей решил прочитать книги по мошенничеству, в процессе выявил еще одно мошенничество.
A1054
11.12.2022 23:44Стоимость таки следствие дефицита. Если убедить людей, что каракули этого ребенка что-то невероятное, и появится много желающих их приобрести, каракули будут дорогими. А если желающих приобрести не будет, то и дефицита нет.
Exchan-ge
11.12.2022 23:47+1Если убедить людей, что каракули этого ребенка что-то невероятное,
Если это детские каракули Леонардо да Винчи, то продать их будет можно без проблем :)
A1054
11.12.2022 23:47+2Мне кажется, что и без AI большинство статей и книг - скомпилированный мусор. Так что переход от натурального интеллекта к искусственному пугает не сильно.
Meklon
12.12.2022 00:01+2Пугает то, что роботы в итоге займут творческие, сложные и дорогие ниши вроде писателей и врачей. А санитарка все равно будет нужна.
skozharinov
12.12.2022 00:54+2Вопрос в том, заменят ли роботы всех врачей или только плохих. А то иногда попадаются врачи, которые так относятся к своей работе, что нужно обсуждать не их право на соответствующую деятельность, а можно ли позволять человеку с таким отношением к работе и окружающим людям жить в принципе.
Exchan-ge
12.12.2022 15:00+1Пугает то, что роботы в итоге займут творческие, сложные и дорогие ниши вроде писателей и врачей
Писатели и врачи — специальности принципиально разные (и дело не только в почерке :)
Причем и множество «врачи» состоит из подмножеств (и т.д.)
В силу специфики врачебной деятельности — на отдельных ее «участках» автоматизация и использование ИИ вполне возможны. Но не везде.
А вот с писателями все сложнее — ИИ можно научить писать, а вот заставить людей читать написанное им — это очень и очень сомнительно :)
PereslavlFoto
12.12.2022 16:18Вы очень строго ограничиваете задачу. ИИ может не только писать, но и читать.
Exchan-ge
13.12.2022 00:39+1Вы очень строго ограничиваете задачу. ИИ может не только писать, но и читать.
«а вот заставить людей читать написанное им...» (с)
victor_1212
12.12.2022 11:44+1> большинство статей и книг - скомпилированный мусор
не только книг, новости тоже примерно так делаются, и давно, до появления интернета точно, к примеру почитайте газеты времен ссср, просто сейчас инструменты другие, более производительные, результат - шума в разы больше, а сигнала меньше во всех информационных каналах без исключения, 24/7 замыливание мозгов
NSergey
12.12.2022 06:36В интернете и так больше половины контента это откровенный мусор, это либо перепост одного и того же материала (это ещё ладно), либо тупая компиляция разных статей, порой не несущих никакого смысла.
Мы сталкиваемся с вызовом, когда поиск информации превращается в поиск жемчужины в куче навоза. Осмысленный и качественный контент уже редкость.
Пока только человек это может делать.
Ценностью AI была бы качественная проработка существующего материала, систематизация информации и знаний. Выявления логических противоречий в текстах.
Пока же всё происходит наоборот - AI лапает больше чем люди.
Areek
12.12.2022 11:03+2Ценностью AI была бы качественная проработка существующего материала, систематизация информации и знаний. Выявления логических противоречий в текстах.
Для этого ИИ должен обладать умением делать логические выводы типа "если А, то Б, потому что <адекватное доказательство>", а сейчас у ИИ логика уровня "если А, то <почти рандом>. Почему? Ой всё, у меня нейролапки"
Вместо логики у ИИ набор данных, связанных друг с другом только частотой появления, его ничуть не смутит зависимость курса доллара от сезонной миграции журавлей.
Примерно так моя кошка просится на улицу, потому что хочет есть: после прогулки её кормят, значит, надо прорваться за дверь, развернуться (прогулка окончена) и идти к миске. Кошка, может, и умна - знает, как получить желаемое, но от ИИ требуется уровень повыше, чем корреляция данных.
AlexCzech01
13.12.2022 01:02+1Так может между курсом доллара и сезонной миграцией журавлей действительно существует связь, только она слишком сложна, чтобы мы её аналитически установили, и поэтому мы опасаемся её использовать?
В это случае "тупой" AI может оказаться умнее "умного" человека просто за счет того, что может проанализировать огромный объем данных и чисто статистически установить действительность этой связи, не задаваясь вопросом почему эта связь вообще существует, а просто используя её в практических целях
Andrey_Epifantsev
12.12.2022 13:09Отличная мысль! Может кто-нибудь возьмётся создать нейросеть фильтрующую контент и выдающую ссылки на качественную и полезную информацию? Этакий поисковик новой эры ИИ.
kay_kay
12.12.2022 14:41+1Любопытно, сколько комментариев под постом написаны GPT.
sim31r
12.12.2022 22:05Если такие боты есть, то они оптимизированы по критериям рейтинга и отклика. Самые заплюсованные и обсуждаемые они и могут быть. Плюс скорость ответа, первый комментарий под статьей, например, подходит.
Guul
12.12.2022 17:57На амазоне ещё другой вид мошенничества есть. Когда берут субтитры с популярных видео, если повезёт выдирают "like and subscribe" и приветствие, и выдают за книгу.
Смотреть на ютубе видео "The Minecraft scam NO ONE is talking about!" - у человека позаимствовали его видео про ведьм в майнкрафте.
Tabke
Не знаю точное облако значений английского термина "scarcity", но русский термин "дефицит", автоматически подразумевает востребованность. Так что каракули ребёнка автора не дефицитны, потому что они ни кому не нужны.
Arhammon
Сейчас словари не ограничены объемом, тот же reverso выдаёт примеры употребления и там именно в значении дефицит. Да и сам дефицит не подразумевает прям массовую востребованность - условно, сейчас видеомагнитофоны опять в дефиците...
Tabke
Товар дефицитный именно потому, что его хотят купить, но это невозможно. Если желающих товар купить нет, то это просто недоступный товар, но не дефицитный.
Видеомагнитофоны - просто недоступный товар, т.к. не продаются в магазине. А вот видеокарты в период популяронсти майнинга на них, были дефицитным товаром.
Arhammon
Так в том то и дело, что 1,5 желающих купить есть, а желающих производить 1,5 штуки нет. Итого - дефицит. Более ранняя стадия это CD\DVD, более поздняя винил.
Exchan-ge
Я тут слегка прошелся по местным торговым площадкам, молниеносно нашел 93 предложения по продаже видеомагнитофонов только на одной из них.
Так что желающие купить — могут купить без проблем.
Буде вдруг спрос на пару порядков больше — вне всяческих сомнений, видаки снова начнут производить.
С CD\DVD, опять же, проблем никаких не было и нет — их выпустили столько, что предложение намного превышает спрос.
А вот что реально стало дефицитом — так это магнитофонные ленты на катушках (кассеты вроде как где-то продолжают выпускать)
У винила — своя специфика. Там столько параметров, что определенный дефицит был всегда :)
Extremum
Не площадками единым, в Канаде в магазинах Canadiantire можно свободно купить новый кассетный магнитофон (правда кассет в продаже я не видел)
Exchan-ge
Та, кассетники на вторичке купить вообще проблем нет («любой каприз за ваши деньги», хотите новый — да пожалуйста).
Причем и с кассетами проблем нет тоже.
(я время от времени запускаю на прослушку свои кассеты Басф, которым уже лет 25 — все ОК :)
vladkorotnev
В Японии в свободной продаже в обычных магазинах и магнитофоны, и пустые кассеты. Правда по качеству что те, что те — такие дрова, что даже самый дешман с площадок, но из "тех времён" им сильную фору даст :-)
Arhammon
Тут было как пример доступности, оно все есть, но надо немножко заморочатся чтобы купить. Винил сейчас как раз вернулся и в более менее крупном городе можно просто пойти в магазин и купить прям сейчас. Пока есть контент на носителях спрос пусть и небольшой будет. Как ни странно даже "нужный" мне бетакам можно в принципе достать.
Terimoun
В итоге всё хреново вышло
PereslavlFoto
Я хочу купить видеомагнитофон, и он даже есть на Авито, но вот беда — по тем ценам, которые там выставлены, купить не смогу. Вот так и получается, что видеомагнитофоны в большом дефиците.
konst90
Если вам не хватает денег на товар - это не дефицит. Дефицит - это невозможность купить товар законным путём.
Kircore
Невостребованный, а не недоступный.
vesper-bot
Scarce — редкий, но и только. Если на нечто редкое есть спрос, вот тогда на него есть цена. NFT редкие, но спрос на них напрочь отсутствует, как на ребячьи каракули, и чтобы его создать, потребовался… ХАЙП. Как с условной мазней слонов, дельфинов итп, она даром никому не нужна, но если кто-то скажет "вау это круто" и за ним начнут повторять, появятся генераторы такого контента. Отсюда мораль — вся ценность NFT в хайпе. Нет хайпа, или закончился — всё, у вас фантики.
DaneSoul
Правда отличие в том, что подобный хайп там обычно не заканчивается.
$75.1 million. No 1 (Royal Red and Blue) by Mark Rothko, 2012
Отсюда: luxuryyachtconcierge.com/top-20-most-expensive-paintings-in-the-world
whoisking
Или просто удобным вариантом отмывания денег
konst90
Подобная ситуация и без искусства не редкость. Де Бирс раскрутили бриллианты - и из ограненного куска углерода, не нужного для 99% населения, он превратился в стандартное оснащение кольца для помолвки.
Exchan-ge
Во первых, это красиво… :)
Gryphon88
А во-вторых стеклорез, который всегда с тобой?)
Exchan-ge
Не, «Diamonds Are a Girl's Best Friend (бриллианты — лучшие друзья девушек)» (с) :)
bergentroll
Более того, с «каракули моего ребёнка дефицитны» есть определённая подмена — для сторонних людей это просто «каракули ребёнка», которые недефицитны. Если бы посетитель в галерее видел каракули своего ребёнка, это был бы успех.