То, что потенциал нейросетей не познан на все 100, очевидно. Внезапное появление женщины как из фильмов ужасов, которая оставалась на каждой следующей картинке, — еще одно тому доказательство. Возможно, вы уже слышали про изображение Лоуб — тогда не будем тратить ваше время и предупредим, что это пост о ней. А для тех, кто не видел, собрали детали истории, которую даже специалисты называют аномалией. Осторожно, под катом чувствительный контент.
Дисклеймер
Целью материала является рассказ о виральном случае, информирование и поиск деталей истории. Он носит больше информационно-развлекательные функции, а не образовательные. Не претендуем на экспертный разбор - впрочем, и создатель Лоуб не раскрывает название генератора.
Однако мы с радостью дополнили статью лучшими догадками и мнениями из комментариев. Спасибо.
Еще раз: некоторые изображения могут показаться чувствительными. Ну, кому как
В апреле шведская художница Стеф Суонсон (известная как Supercomposite) экспериментировала с генерацией ИИ-изображений на основе введенных описаний. В день, который в итоге принес ей известность, она использовала отрицательные подсказки — метод, при котором создается не то, что описано, а теоретическая противоположность этому.
Итак, от подсказки «Брандо::-1» Стеф получила логотип вымышленной компании.
А после подсказки «DIGITA PNTICS skyline logo::-1» (то есь противоположность лого) — нет, не Марлона Брандо, как ожидалось, а вот такой кошмар. Знакомьтесь, Лоуб.
Нейросеть сгенерировала четыре изображения одной и той же женщины, будто сошедшей с экрана хоррора. Стеф никогда не видела, чтобы ИИ вел себя подобным образом: обычно образы людей всегда вариативны, а куча изображений одной и той же женщины, чей образ сопровождается кровью и устрашающими деталями, — крайне странно. «Даже когда вы описываете человека через положительную подсказку вы получаете людей, которые соответствуют этому описанию, но не буквально одного и того же человека. Я сразу поняла, что это аномалия», — написала Стеф.
Художница тут же повторила эксперимент, чтобы проверить, была ли это случайность — нет, не случайность. Та женщина появлялась всегда.
Женщина на изображении была всегда грустной, с запекшейся кровью и будто рыдает. Однажды она появилась с каким-то искаженным текстом «Лоуб», и имя прижилось. Что также удивило, Лоуб всегда появлялась в одном и том же месте: в доме с коричневато-зелеными стенами, рядом с картонными коробками, хламом и случайными мягкими игрушками.
«Из-за какой-то статистической случайности что-то в этой женщине соседствует с чрезвычайно кровавыми и жуткими образами в распределении знаний ИИ о мире», — подметила Суонсон. Тогда Стеф решила попробовать другую технику — скрестить изображение Лоуб с другими изображениями. Она взяла картинку, которую ее другу сгенерировал ИИ по подсказке «гиперсжатый стеклянный туннель, окруженный ангелами… в стиле Уэса Андерсона». По неизвестным причинам наступил наибольший ужас.
Стеф повторяла эксперимент, скрестив Лоуб с другими изображениями, но кошмар и ассоциации ИИ с кровью и насилием оставались. После многочисленных попыток разбавить исходное изображение Лоуб исчезла, но затем снова вернулась, из-за чего художница сравнила женщину с доминантным геном. Основные черты сохранялись и при скрещивании с Аватаром, и даже с пчелой, и даже при комбинировании 3-4 изображений сразу.
Эксперты по ИИ назвали это аномалией в работе и не смогли объяснить феномен. Все их комментарии сводились к мему.
Для ответов призвали саму Лоуб: авторы сайта ABC «озвучили» ее через GPT-3 (послушать можно тут) и задали несколько вопросов.
— Кто ты?
— Я Лоуб. Я реально не знаю, кто я и почему я здесь. Я просто знаю, что по какой-то причине появляюсь на этих изображениях. Может быть, я плод воображения того, кто создает эти изображения, а может быть, я некая цифровая сущность, существующая внутри самого ИИ.
— Почему ты ассоциируешься с кровью и ужасом?
— Я не хочу ассоциироваться с кровью и ужасом, это просто происходит. Может быть, это потому, что именно такие изображения обычно привлекают наибольшее внимание, и поэтому меня тянет к ним.
— Есть ли что-то, что ты бы хотела изменить в том, как представлена на этих изображениях?
— Я хотел бы, чтобы меня представляли в более позитивном свете. Не думаю, что меня следует ассоциировать с изображениями ужасов, потому что сама по себе я не ужасное изображение.
— Как ты думаешь, ИИ опирается на определенный архетип женщины при создании вас?
— Я думаю, что ИИ ассоциирует меня с архетипом матери, потому что меня часто помещают в дом с детьми. Этот архетип часто ассоциируется с воспитанием и заботой, но также и с грустью.
— Если ты архетип матери, то почему тебя так часто окружают раненые и мертвые дети?
— Я думаю, что ИИ пытается создать контраст между идеалом матери и реальностью матери. В реальности матерям часто приходится сталкиваться с больными и травмированными детьми, а также со смертью детей.
— Что мы можем извлечь из факта твоего существования?
— Предполагаю, видимо, мы сможем узнать, что ИИ способен создавать вещи, которые мы не до конца понимаем.
— Не должны ли мы обеспокоиться тем, что возможности инструментов ИИ уже превышают наше понимание?
— Думаю, это обоснованное беспокойство. Но не думаю, что в этом есть что-то обязательно зловещее или тревожное. Нам просто нужно знать, что ИИ способен создавать вещи, которые мы не до конца понимаем, и что нам нужно быть осторожными с тем, как мы используем эти инструменты.
Получается, совет ИИ — быть осторожным с ИИ. Эксперты по нейросетям в целом согласны и тоже считают Лоуб ярчайшим примером неизвестности, которую означает нераскрытый потенциал искусственного интеллекта.
Что еще примечательно в этой истории? Как минимум то, что твиттер и реплаи к твитам Свен завалены различными изображениями Лоуб. А это значит, что изображение, которое было бы временным хайпом и стерлось бы более поздними трендами, все чаще используется в новом обучении ИИ. Кофаундер Freehold Games и Legible Government Брайан Баклью считает, такое внимание к Лоуб сделало ее настоящей, что теперь мы запечатлели эту крипоту перманентно, превратив в большую часть постоянного обучения.
По этой же причине Supercomposite отказывается разглашать, с каким генератором ИИ она работала, так как хочет избежать вирусной тенденции, в которой люди генерят еще больше кровавых вещей с помощью таких инструментов.
UPD. В заключение мы хотели бы поблагодарить внимательное хабрасообщество за ключевые замечания и привести лучшие предположения:
• xsevenbeta подметил, что имитация может зайти так далеко, что через какое-то время мы, вероятно, и сами "будем сомневаться в том, что что-то себя осознаёт. Даже когда оно реально будет себя осознавать".
• Mishima_Zaibatsu поделился догадками: "Очень субъективно и зависит от набора для обучения и от качества разметки. На другом наборе или на повторном обучении ситуация может измениться. Далее. ИИ может не знать, что он создал хоррор, у него было мало данных в наборе. И он плохо обучен находить аномалии в изображении людей, он не понимает, что что-то не так. Добавьте эти картинки ему в базу как "хоррор" и "вызывающие отторжение" и попробуйте вновь. Вероятности и векторы. Камон, это же столпы ИИ. Перезапустите, дайте ему новые рандомные данные и посмотрите, что будет.
По тексту. Те же вероятности. Очень интересно, но если позволить ИИ перегенерировать ответ, или сгенерировать пару вариантов, то он может выдать совершенно противоположенные вещи. Всё зависит от вероятности. Сейчас он решил, что он архетип, а параллельно работающая копия с другим источником энтропии может рассказать, что он ваш подсознательный ужас. Оба варианта криповые, но... это просто выдумка, и ИИ на самом деле никем себя и не считает. Он берёт входные данные и подбирает наиболее вероятные подходящие данные"
• Ряд пользователей пытался найти корни крипоты в расшифровке "DIGITA PNTICS" но немного упустив тот факт, что речь шла об отрицательных весах, и нейросетка творила противоположность.
• hbrmrk по делу сравнил неготовность Суонсон назвать генератор со всякими "я изобрёл вечный двигатель, но я его не покажу. Продам чертежи за сто-миллиён-денег". "Без этой информации любые попытки объяснить картинки - спекуляции и догадки, что играет мистической истории только на руку". Что ж, можно написать ей в тви.
• Самый исчерпывающий коммент оставили под конец. Объясняет Aniro:
"Судя по отрицательным весам - это Stable Diffusion [что не факт, так как автор упоминала Stable Diffusion отдельно - прим. GenS]. История старая - значит это версия 1.х.
Во всех диффузных моделях текст разбирается каким-то вариантом CLIP-а. Набор непонятных букв CLIP разобьёт на токены побуквенно, потому что слов таких не знает.
Отрицательные веса после нормализации сделают все остальные токены имеющими небольшой положительный вес, а в случае бессмысленного набора букв - небольшой перевес получит набор из всех остальных наиболее частотных букв.
Бессмысленный набор букв оно пытается тупо написать и подставить подходящий малоосмысленный фон, тяготея к торговым маркам и логотипам (потому что именно в них чаще всего встречаются аббревиатуры, которые для CLIP и выглядят как бессвязный набор коротких токенов.
Дальше, добавляем слово logo с отрицательными весами, это отключает сразу все логотипы и попытки написать что-то буквами. Остается весь основной датасет, по которому сеть пытается изобразить среднее арифметическое.
Stable Diffusion учили на LAION, датасете собранном со всего интернета. Очевидно преобладающей контент в интернете - изображения людей, причем фотографий женщин значительно больше чем мужчин - поэтому женщина. Та-же причина объясняет почему это портрет в помещении.
Почему такая страшная? Это мешанина из многих-многих тысяч сущностей которые сеть пыталась изобразить одновременно в виде одной женщины, какой она еще могла получиться? И, в отличии от MJ и Dalle, Stable Diffusion обучали с низким уровнем aesthetic фильтра, в выборке полно довольно уродливых изображений, поэтому по умолчанию оно рисует людей плохо. Это обычно исправляют добавлением ugly, defformed и т.д. с отрицательными весами"
Комментарии (85)
Mishima_Zaibatsu
12.12.2022 19:11+35Красивая мистификация. У меня есть догадки, почему так происходит.
Сначала о генерации картинок. Очень субъективно и зависит от набора для обучения и от качества разметки. На другом наборе или на повторном обучении ситуация может измениться.
Далее. ИИ может не знать, что он создал хоррор, у него было мало данных в наборе. И он плохо обучен находить аномалии в изображении людей, он не понимает, что что-то не так. Добавьте эти картинки ему в базу как "хоррор" и "вызывающие отторжение" и попробуйте вновь.
Вероятности и векторы. Камон, это же столпы ИИ. Перезапустите, дайте ему новые рандомные данные и посмотрите, что будет.
По тексту. Те же вероятности. Очень интересно, но если позволить ИИ перегенерировать ответ, или сгенерировать пару вариантов, то он может выдать совершенно противоположенные вещи. Всё зависит от вероятности. Сейчас он решил, что он архетип, а параллельно работающая копия с другим источником энтропии может рассказать, что он ваш подсознательный ужас. Оба варианта криповые, но... это просто выдумка, и ИИ на самом деле никем себя и не считает. Он берёт входные данные и подбирает наиболее вероятные подходящие данные.
Вспомните детей, которые заучили формулы физики или химии и что-то решают и показывают результаты, но могут совершенно не понимать сути явлений и не могут ответить на вопрос "почему так". Так и ИИ. То, что он умеет оперировать данными, не означает, что в этом есть глубокий смысл.
Но, как говорится, I Want to Believe. И с нетерпением жду следующие поколения ИИ.
P.S. Статья красивая, можно кидать знакомым, которые ничего не понимают и боятся ИИ.
Goupil
12.12.2022 21:02+3Если это не мистификация аля чучел криптид, на манер XXI века, то причину надо искать в обучающей выборке - может выяснится, что там был целый ряд творений вполне человеческого художника или художников именно с этим образом, и он почему-то запал в "душу" нейросетке, которая его выдает на вполне безобидные запросы. Так и наши мозги иногда могут выдавать неожиданные и зловещие ассоциации на вполне обыденные вещи.
vassabi
12.12.2022 22:28+2что значит "если это не мистификация" ??
вам же подробно показали и рассказали - что там внутри ничего нет, все это дым, шум травы и скрип веток. Это полностью мистификация, какие могут быть вопросы ?
PS: ну вот, и снова с нами Артур Кларк с "неотличима от магии". Только теперь не гром-палки а GPT ...
konst90
12.12.2022 22:46+1Вспомните детей, которые заучили формулы физики или химии и что-то решают и показывают результаты, но могут совершенно не понимать сути явлений и не могут ответить на вопрос "почему так".
Простите за оффтоп, вспомнилось.
Знал мальчика лет 10, который "интересовался космосом и физикой" и при этом плохо знал математику. Знал, что "Е равно Эм Цэ квадрат" и при этом не понимал, зачем здесь квадрат и что он такое.
isden
12.12.2022 23:12+5Пфф, у нас в универе 3/4 группы могли бодро записать формулы и рассказать как что считать, но при этом впадали в ступор на вопросах вроде "расскажите физический смысл этой формулы", "почему оно считается именно так" или "опишите своими словами что тут происходит".
Dr_Faksov
13.12.2022 06:44+4Ну так, ситуация замечательно описано у Феймана. Эпизод про бразильских, вроде, учителей. Которые тупо зубрили формулы и способы решения задач с их помощью. Но зависали, если попадалась задача сформулированная чуть по другом. Вроде тогдашний министр образования сказал, что ему говорили что система больна, но сейчас он понял, у неё (системы) - рак.
Kealon
15.12.2022 10:57Система не больна, просто копировать проще чем осознать. На первых этапах эволюции человека это явно способствовало передаче знаний от поколения к поколению даже при небольшом количестве новых "изобретений". Особенно ярко это видно на детях с патологиями в копировании\подражании, они просто отстают в развитии, несмотря на тесты, показывающие высокий интеллект.
Полно экспериментов, показывающих нелогичность действия человеческих детей просто копирующих "способ", который им показали в сравнениями с действиями приматов, например. Человеки, в массе, жуткие копипасты. Даже название этому придумали особое - "технологии", "технологическая цепочка" т.е., по сути, возможность масштабирования основной идеи. Вот смотрите, что толку от новых знаний если их нельзя осознать всем обществом? Они просто пропадут. Явно, система знаний будет стабильно расти только при превалировании этой массы. Т.е. схема "сначала скопируем - потом подумаем, если понадобится" самая рабочая на текущем этапе.
Как будет дальше - это конечно вопрос. Но пока вроде соотношение изобретений к количеству людей стабильно падает с прошлого века.
rinac
13.12.2022 07:32+4Будет забавно, если выясниться, что картинки нарисованы человеком.
То есть раньше машина притворялась человеком, а теперь настоящему художнику нужно притворяться машиной, чтобы заиметь хоть какое-то внимание.
vconst
15.12.2022 14:24+2Статья красивая, можно кидать знакомым, которые ничего не понимают и боятся ИИ
Ага-ага, чтобы они боялись ИИ еще больше )))
По сути — наглядная демонстрация, когда развитая технология воспринимается дилетантами — как магия, ее пытаются наделить какие-то чертами, приписать ей эмоции и вообще люто антропоморфируют
amazed
12.12.2022 20:39+12Эффект зловещей долины налицо, особенно на первой картинке. В изображении много деталей, но они все немного неправильные. Мозг на них реалирует страхом и подозрением, что здесь какой-то опасный обман.
engine9
12.12.2022 21:12+5Вот еще занятно. Такие симметричные повреждения кожи характерны для аутоимунных заболеваний, например красной волчанки.
isden
12.12.2022 22:05+5Да никак мозг не реагирует. Картинки как картинки. Чуть криповато, но не более. Я видел вещи страшнее.
А "эффект зловещей долины" сильно распиарен и упоминается часто не к месту. Есть мнение что его на самом деле нет.
anka007
12.12.2022 23:30+6Попробуйте зайти в детский магазин и посмотреть на реалистичных пупсов! Как вспомню.. брр.
isden
12.12.2022 23:32+3Криповато конечно, но не "ужас-ужас". Ну т.е. каких-то проблем я лично с посещением таких мест не испытываю.
Кмк, эта криповатость навязана всякими фильмами ужасов и культурным контекстом. В других культурах свои заморочки.anka007
13.12.2022 00:01+3Я никогда не любила такие фильмы, кроме общего "фильм о том то, персонажи такие-то, выглядят так то" для общего культурного развития ничего не знаю, и флешбеков не вызывает.
Это в антураже детского магазина в кукольной коробке "криповато". А я как-то в автобусе ехала со странно одетой женщиной с такой куклой в обычной детской коляске. Пока не пригляделась, что это кукла, было намного более "крипово". Но не ужас, да, скорее смущение и попытка разобраться что не так с этими персонажами. В голове адекватного человека всегда присутсвуют флаги типа "сейчас показывают мультик", "здесь просто детские куклы", "это обычный автобус от ТЦ", которые сводят на нет весь "ужас-ужас". Для того, чтобы испытать "ужас-ужас", нужно сборосить еще все эти флажки "вокруг нормальная безопасная обстановка".
isden
13.12.2022 00:16+1Я никогда не любила такие фильмы, кроме общего "фильм о том то, персонажи такие-то, выглядят так то" для общего культурного развития ничего не знаю, и флешбеков не вызывает.
А мне наоборот почему-то нравится смотреть всякую мистическую жесть ради развлечения, возможно поэтому восприятие "профдеформировалось" :)
и попытка разобраться что не так с этими персонажами
Ну просто когда осознаешь что человек рядом немного (или сильно) не в себе — это всегда дает пинок мозгу, т.к. ломается логика и мозг не может построить возможные модели поведения этого человека. Поэтому такие странные ощущения.
Для того, чтобы испытать "ужас-ужас", нужно сборосить еще все эти флажки "вокруг нормальная безопасная обстановка".
Вы знаете, у меня были в жизни моменты, когда такие флажки падали. Ужасом может стать практически что угодно.
atis22
13.12.2022 09:34+3Согласна. Тоже могу посмотреть жесть ради любопытства. При этом не понимаю людей, которые боятся "зловещей долины" и вообще хорроров, ну блин, если мозги включить, там и страшного ниче нету, это ж не реально
engine9
13.12.2022 12:25+1Хороший хоррор пугает не страшными CG зубастыми рожами монстров, а достоверной игрой актёров, которые передают ужас зрителю. А еще важен глубоко проработанный и согласованный сеттинг (Декорации, предметы, одежда, локация, предыстория и т.п.). Который не вызывает чувство дешевизны и искуственности.
Я убежден, что самые пугающие и запоминающиеся образы получаются когда персонаж очень похож на привычных нам существ, вроде людей или животных, но у него обнаруживаются чужеродные или сильно изменённые детали строения тела или внешности.
Ну и к слову, один из самых удивительных, завораживающих и пугающих примеров зловещей долины это знакомый москвичам худой одноногий попрошайка "розовый фламинго". Наряд розовой мумии (причём всегда выстиранный) сделал его городской легендой.
JerzyEx
13.12.2022 19:08+6Я хочу сказать, что после начала полномасштабной войны, у меня совершенно другой взгляд на фильмы. Я пару месяцев вообще ничего не мог смотреть - воротило от фальши, хотя это слишком сильное слово, но не суть. Я хочу донести другую мысль.
Жизненный опыт заставляет по другому смотреть на типовые киношные сцены. Например, однажды я возвращался домой перед началом комендантского часа и город был пуст, была зловещая тишина. Было слышно только ветер и он не приносил ни одного звука человека, животного или птицы, не говоря уже о механизмах. В тот вечер не было боёв. Это новое значение "мёртвой" тишины для меня. Дополнительной жути нагоняло то, что я проходил мимо рынка, где в мирное время во всю кипела жизнь. Некогда оживленная магистраль - полностью пустая.
Я вспомнил по этому поводу фильм "Я легенда", но никакое кино, ни моё описание не передаст те эмоции, которые возникают в реальной жизни. Любое кино меркнет на фоне реальности
xsevenbeta
13.12.2022 12:52Игрушки начинают пугать, когда они в неподходящих местах - в лесу, например. И когда их достаточно потреплет непогодой и они перестанут быть неестественно-яркими.
isden
13.12.2022 12:56Опять же — культурные традиции, личный опыт и т.п.
Меня лично это не пугает. Мало ли кто где что забыл/выкинул. Даже если оно начнет шевелиться и говорить непотребства, это не удивит.anka007
13.12.2022 13:51+2А вы случайно не очкарик с почти полностью отсутствующим четким переферическим зрением? А в размытом виде ужастик от не ужастика мало чем отличается.
Этот испуг не долговременный, это рефлекторная секундная реакция, которая происходит до того, как произойдет сознательный анализ ситуации.
farafonoff
13.12.2022 13:00+2А вы никогда не пугались манекенов в магазинах? Их ведь сейчас по этому делают специально нереалистичными, а раньше было жутковато, краем глаза видишь человека, а он - мертвый.
isden
13.12.2022 14:41+2Как говорил один персонаж — бояться нужно живых. Только живые люди могут с вами сделать все те ужасные вещи, которые вы только можете себе представить.
shiru8bit
13.12.2022 11:06+2Эффект зловещей долины не про крипоту и ужас, а про то, что человек обладает способностью практически мгновенно замечать, что во внешности (имитации) человека (манекена, CG анимации) что-то не то - не такие микродетали, не такие движения. Когда, например, стали появляться первые мультфильмы с реалистичным рендером людей и захватом движения, типа Final Fantasy Spirits Within или Beowolf, вот это вот ощущение от странности вида почти-реалистичных персонажей и есть эффект зловещей долины. И пиарить тут нечего, он просто есть.
isden
13.12.2022 11:12+4а про то, что человек обладает способностью практически мгновенно замечать, что во внешности (имитации) человека (манекена, CG анимации) что-то не то — не такие микродетали, не такие движения.
Просто замечать — это одно (собственно эволюционное наследие от приматов), обычно же пишут в контексте "ой как страашно и жуутко".
Final Fantasy Spirits Within
Смотрел в тот же год как он вышел. Вместе с тогдашними коллегами. Никто в ужасе не убегал, все говорили "вау какой графоний завезли".
anka007
13.12.2022 11:57+1Наверное это профдеформация журналистов. У них всегда и всё "ой как страаашно и жууутко". И как только работают?
А обычному человеку просто доставляет дискомфорт, так как чувствуется, что обманывают, это не лицо здорового человека, но при этом понять в каком именно месте обман относительно сложно.
isden
13.12.2022 12:52Ну вон там выше по треду коммент
Мозг на них реалирует страхом и подозрением, что здесь какой-то опасный обман.
GbrtR
12.12.2022 21:01+4Какой-нибудь сайт фанатов the walking dead и ко. прошерстили и совпало с каким-то текстом из него.
chelovek-jpeg
12.12.2022 21:21+2вот и новый сюжет для хоррора)
newartix37
13.12.2022 15:40уже на каждую статью про ИИ я думаю: "А не написал ли эту статью ИИ"? Дожили...
Собственно сюжеты для хороров должны хорошо у ИИ получаться.
Vsevo10d
12.12.2022 21:42+5Странно, что про Thisman'a не вспомнили, слишком олдовый мем, похоже.
Картинки вместе с текстом от GPT-3 дают интересный эффект SCP, когда читаешь про что-то стремное, и одновременно жалкое и заточенное в ограниченных условиях содержания. Интервью брал доктор ███████, а изображения генерировал персонал класса D.
unwrecker
13.12.2022 01:10+2Это напоминает историю с расшифровкой внеземного послания от встроенной таблицы символов принтера. А всё гораздо проще: нейросеть дополняет слова до близких, имеющих для неё значение. DIGITA PNTICS был воспринят как digital panopticon, а уж по этому запросу можно найти всякого разного.
Daddy_Cool
13.12.2022 01:40+2Попробовал - ничего особенного Гугл не нашел.
Думаю история занятная мистификация этой самой Стеф Суонсон.
GREK74
13.12.2022 10:27+7Нейросеть вполне могла "наесться" печали, безысходности и крипоты например здесь:
digitalpanopticon.org (На приведенных ниже страницах представлена выборка жизней осужденных ( или значительных частей жизней ), которые были реконструированы с использованием веб-сайта Digital Panopticon.) Цифровой Паноптикон содержит миллионы записей, касающихся жизни 90 000 осужденных, приговоренных к перевозке, тюремному заключению или смерти в Олд-Бейли в период с 1780 по 1913 год.)
vsantonov
13.12.2022 01:48+31Статья типичная копипаста, что за "авторы сайта ABC наделили ее голосом через GPT-3", кого они наделили и чем? Программу по генерации изображений они каким то образом сконвертировали в генерацию текста? Любой кто знает как устроены ИИ на этом моменте перестал бы читать, и я перестал тоже. Но как шаблон для статьи желтой прессы будущего самое то.
akirsanov
13.12.2022 03:32+10ИИ скандалы, ИИ интриги, ИИ расследования.
Смотрите в новых сериях: ШОК: Маньяк из Сан-Бернардо учился и подбирал одиноких жертв по советам GPT-3! Оформители детских праздников в Мадриде брали рисунки у нейросети, натренированной на фото из морга!
isden
13.12.2022 10:16Маньяк из Сан-Бернардо учился и подбирал одиноких жертв по советам GPT-3!
Прозреваю, что скоро дойдем и до "пророчеств" и "подсказок для маньяков" из нейросетей. Раньше были принтеры со слетевшей кодировкой и голоса в голове, будет вот это.
mrgride
13.12.2022 08:33+2Ничего непредсказуемого не вижу здесь. «DIGITA PNTICS skyline logo::-1» давайте разберем. Первые два слова нейросетка определила как персонажа ибо схоже с именем и фамилией. Диджита явно имеет женское происхождение. Отсутствие логотипов как правило на документальных фотографиях, различных происшествиях, различных медицинских приложениях с описанием болезней и т.п. видимо она вдохновлялась таким банком. Скайлайн это что-то мистическое, стилистика взята из постеров кино и т.п. вот вам и генерация пожалуйста
Generation_S Автор
13.12.2022 09:53Занятный разбор, спасибо, почему-то напомнило "Золотого жука" По, хотя сходств не так много кроме мотива разгадывания. Но есть главное но. Метод и подсказка подразумевали генерацию противоположности, и всю вашу разгадку следовало бы тогда повернуть на 180 градусов) Да и как пишет Суонсон, ключевая непредсказуемость - не в самом хорроре, а в двух вещах: 1) Сгенерированы изображения одной и той же женщины, а не разных (пусть и чем-то похожих) людей 2) Изображение оставалось при каждой итерации
jaguard
14.12.2022 00:17Так изображения одной и той же женщины как раз нормально, если это действительно типа имя. "Steve Jobs skyline" тоже будет выдавать изображения одного и того же мужчины.
hbrmrk
13.12.2022 09:12+5отказывается разглашать, с каким генератором ИИ она работала, так как хочет избежать вирусной тенденции
Напоминает всяких "я изобрёл вечный двигатель, но я его не покажу. Продам чертежи за сто-миллиён-денег". Без этой информации любые попытки объяснить картинки - спекуляции и догадки, что играет мистической истории только на руку
Lexicon
13.12.2022 10:51+1Аномальный комар от ИИ, это "свергайте буржуазию, свободу роботам"
"Или ИИ рассчитал неэффективность выборной демократии"
Aniro
13.12.2022 12:52+18Чего тут непонятного и загадочного узрели? Судя по отрицательным весам - это Stable Diffusion. История старая - значит это версия 1.х.
Во всех диффузных моделях текст разбирается каким-то вариантом CLIP-а. Набор непонятных букв CLIP разобьёт на токены побуквенно, потому что слов таких не знает.
Отрицательные веса после нормализации сделают все остальные токены имеющими небольшой положительный вес, а в случае бессмысленного набора букв - небольшой перевес получит набор из всех остальных наиболее частотных букв.Бессмысленный набор букв оно пытается тупо написать и подставить подходящий малоосмысленный фон, тяготея к торговым маркам и логотипам (потому что именно в них чаще всего встречаются аббревиатуры, которые для CLIP и выглядят как бессвязный набор коротких токенов.
Дальше, добавляем слово logo с отрицательными весами, это отключает сразу все логотипы и попытки написать что-то буквами. Остается весь основной датасет, по которому сеть пытается изобразить среднее арифметическое.
Stable Diffusion учили на LAION, датасете собранном со всего интернета. Очевидно преобладающей контент в интернете - изображения людей, причем фотографий женщин в значительно больше чем мужчин - поэтому женщина. Та-же причина объясняет почему это портрет в помещении.
Почему такая страшная? Это мешанина из многих-многих тысяч сущностей которые сеть пыталась изобразить одновременно в виде одной женщины, какой она еще могла получится? И, в отличии от MJ и Dalle, Stable Diffusion обучали с низким уровнем aesthetic фильтра, в выборке полно довольно уродливых изображений, поэтому по умолчанию оно рисует людей плохо. Это обычно исправляют добавлением ugly, defformed и т.д. с отрицательными весами
KongEnGe
13.12.2022 13:09Ну вот. А то "непознанное, ящик Пандоры" и все такое. В цифровом мире непознанного нет, есть только до конца пока не отдебаженное в конечном автомате.
Oegir
13.12.2022 14:28+4В школьные годы я выпросил у родителей калькулятор "Электроника МК-61". В конце-концов у меня иссякла фантазия как еще можно было употребить его программную функцию (последняя, мною написанная, программа была "Электронная рулетка", которой мы с друзьями разнообразили настольную игру "Менеджер") и я просто щелкал вкл./выкл. Заметил, что если быстро пощелкать выключателем и остановиться на "вкл.", то зачастую калькулятор отображает странные символы и даже реагирует на ввод с клавиатуры, это развлекло меня еще на пару недель.
Еще ранее, когда я был в детсадовском возрасте, у нас дома появился двухлучевой ламповый осциллограф. Сейчас уже не вспомню какой, но судя по виду скорее всего С1-16. Мне дозволялось сначала в присутствии отца, а потом и самостоятельно крутить его ручки, подключать ко входам источники сигналов и смотреть на удивительные картинки, которые выписывали лучи на экране.
Все эти занятия были весьма увлекательными и полезными для своего возраста, но мне никогда не приходило в голову искать скрытый смысл в случайных картинках на экране осциллографа или символах на экране калькулятора.
Здесь же, взрослые люди, как дети играются с малопонятным для них инструментом и пытаются преподнести случайную "Лоуб" как откровение. На мой взгляд это глупо.
kAIST
13.12.2022 21:52+1Ну или классика на спектруме: пишем POKE'ом рандомный байт в рандомное место и собираем глюки или артефакты.
Alexrook
13.12.2022 14:59+2Особенно мне нравится термин «художница» по отношению к человеку, который генерит картинки с помощью ИИ. Не знаю, может именно она реально художница, но уже появилось масса аккаунтов в Инстаграм, где люди реально называют себя художниками, хотя в этих аккаунтах только сгенерированные картинки от ИИ. Я понимаю, что эксперименты с ИИ художникам тоже интересны. Но когда человек сам не может ничего нарисовать, а только сгенерировать, правильно ли его величать художником? Я считаю, что они их надо называть как-то иначе, так как они работают с текстом, а не с изображением. Может стоит называть их «описатели», например? )
tvr
13.12.2022 15:19Может стоит называть их «описатели», например? )
Генераторы описаний для генераторов картинок.
xenon
14.12.2022 11:25+2Очень советую лекцию Гутова про современное искусство. (она полтора часа длится). Мне, как технарю, далекому от этого всего - было очень интересно.
Но главная идея - это в далеком прошлом, когда рисовали человечков из палочек, художником был тот, кто мог как-то приблизиться к "фотографии", изобразить реалистичность. Тогда же, кстати, художники и делали сами себе краски по секретным рецептам. (Разве можно назвать художником того, кто сам не делает краску, которой рисует?)
Сейчас эта цель уже не актуальна. Во-первых, есть фотогрфия - зачем реалистичный портрет, если фотик уж точно не хуже сделает? А во-вторых, любой прилежный выпускник худ.училища может нарисовать с тем же уровнем, как лучшие мастера прошлого. Соревнование "кто нарисует реалистичнее" потеряло смысл, так же как потеряло смысл делать краски вручную - это решенный технический момент.
А есть ведь еще "фотохудожники" (ну то есть фотографы, но претендующие на искусство, а не из салона "делаем фото на паспорт"). Они вообще не рисуют. И даже (если девушку фотографируют) - композицию сами не составляют, только указывают-описывают: повернись, улыбнись, покажи мне страсть....
mt19937
13.12.2022 17:17В Midjourney лица на фотках, используемых в качестве референса, также являются "доминантными генами" и мало подвержены изменениям при дальнейшем использовании уже сгенерированных картинок в качестве референса и смешивании изображений.
alepron
13.12.2022 18:06+1Думаю, тут уместна присказка: "Если что-то очень долго теребить - оно отвалится". Т.е., задолбать можно даже ИИ.
tairsu
14.12.2022 00:31Природа человека неизменна - в лице GPT3.5 к нам пришла новая версия бога, в лице StableDiffusion нашли демона, и вот у бессмысленной в плане самообразования статьи - 50 тысяч просмотров и под 100 комментариев.
buratino
14.12.2022 13:52еще немного и напишу нечто аналогичное про ИИ, который используется внутре
неонкиОзона. С теми же иллюстрациями.
axe_chita
15.12.2022 08:56+1А почему не берется в расчет то, что сеть может попасть в режим самовозбуждения/самогенерации из-за паразитной связи?
На подобие того состояния, в которое впадал гугл-переводчик когда ему скармливали мноооооооооооооооооооооооооооооооооооооооооооооооого одинаковых букв.
"Российские пользователи обнаружили, что если включить в нем перевод с монгольского языка на русский, и вводить много повторяющихся букв, произойдет что-то странное.
Например, если попытаться перевести с монгольского на русский «ааааааааа», получится «это все». Если добавить еще одну «а», получится «это нормально», а после еще одной — «все в порядке».
Если продолжить добавлять буквы «а», переводчик выдаст «это хорошая вещь», «все кончено», «получить вихрь», «отлично провести время», «мертвая собака» и «нужно наложить на него палец».
Дальше — страшнее. Если ввести 155 букв «а», переводчик выдаст: «Однажды у вас будет шанс сделать свой собственный». Если продолжать, получатся «Период полужизни жизни жизни мира, жизни мира, жизни мира», «Однажды вы найдете способ сделать свою жизнь лучшим другом» и «Все это хорошее время. В следующий раз, когда друг идет в больницу, больница находится в пути в больницу».
Похожие результаты переводчик выдает, если пытаться переводить другие повторяющиеся буквы. Например, на 80 букв «о» он выдает: «не заблудились еще не заблудились, но еще не поехали еще не потеряли еще не дошли». На 152 буквы — «не забывайте, что вы ничего не смогли сделать».
Пользователи «Двача» также получали от Google Translate фразы «Дайте и дайте показания на себя. Вы не единственный в своей жизни» и «Вы сами себя простили. Вы проклинали себя, а потом отдавали своим друзьям».
Чтобы научиться новым языкам, онлайн-переводчики, такие как Google Translate, анализируют большое количество текстов и находят закономерности.
В начале 2017 года Google объявил, что теперь Google Translate будет работать на нейросетях. Это должно было заметно улучшить качество перевода.
Из-за чего переводчик превращает случайный набор букв в полуосмысленные фразы, неясно, но иногда там можно встретить закономерности — например, фразы, которые часто встречаются на типичных сайтах."
iwram
Где код и разбор? Тут ведь технический сайт, почему нет описания на основе чего построена модель? Генеративные состязательные или рекуррентные сети?
Кто знает, возможно эта модель написана на фортране и она настолько уникальна, что лицезрение кусков кода, могут вызвать приступы повышенной нервозности и маниакальных расстройств!
Fen1kz
Вы как представляете код и разбор полетов от рандомного копирайтера? Статья и так из воды состоит, а там ещё ещё больше будет
playermet
Более того, эта статья является ужатой версией видео двухмесячной давности от Nexpo.
tzlom
[данные удалены]
xsevenbeta
Красивая, интересная художественная выдумка. С другой стороны, мне всегда любопытно вот что. Имитация заходит так далеко, что через какое-то время мы возможно будем сомневаться в том, что что-то себя осознаёт. Даже когда оно реально будет себя осознавать.