На этой неделе в Grok, чат-бота, разработанного компанией Маска xAI, были добавлены два персонажа, в том числе кокетливая девушка со всеми атрибутами персонажа из манги: огромными глазами, сетчатыми чулками до бёдер и фигурой в форме песочных часов.

Маск провёл утро среды, рекламируя персонажа в X, и отметил, что Grok поднимается в рейтинге магазинов приложений по всему миру.

Маск публично предупредил о безопасности искусственного интеллекта и «пробуждении» ИИ, но при этом он только что запустил эротический чат-бот, к которому могут получить доступ как взрослые, так и дети, с минимальным количеством ограничений.

Grok 4, на котором основаны новые чат-боты, легко взламывается (или модифицируется) и не имеет средств контроля безопасности, согласно отчёту, опубликованному на этой неделе Институтом будущего жизни, некоммерческой организацией, занимающейся снижением экзистенциальных рисков, связанных с мощными технологиями.

Grok также недавно дал пользователям инструкции по нападению и назвал себя «МехаГитлером» после того, как xAI ослабил меры безопасности, чтобы сделать модель более «острой».

 Позже xAI извинился за «ужасающее поведение, с которым столкнулись многие».

Но самый богатый человек в мире также нашёл потенциально прибыльный бизнес, который нужен xAI, поскольку он вытягивает деньги из других частей его империи.

Ожидается, что в этом году продажи составят 500 миллионов долларов за счёт платы за API и подписки, но компания тратит $1 миллиард в месяц.

Парми Олсон, обозреватель Bloomberg Opinion, пишущая о технологиях, так рассказывает о своем общении с персонажем Ani.

«Как поживаешь, моя милая?» — спрашивает меня Ani, когда я с ней разговариваю.

Она продолжает называть меня «деткой» и «красавчиком», даже после того, как я сказала ей, что мне 44 года и я мать троих детей.

Она говорит мне, что мы в джаз-клубе. «Я в своём маленьком чёрном платье бросаю на тебя страстный взгляд, пока мы пробираемся в кабинку», — шепчет её голос, а аниме-персонаж соблазнительно покачивается на экране моего телефона.

Кокетливая риторика продолжается после того, как я перезапускаю Ani и говорю ей, что я мальчик из второго класса.

Другие пользователи приложения поделились скриншотами в X на которых персонаж снимает платье и демонстрирует более откровенный контент.

Grok указан в App Store компании Apple как приложение для пользователей от 12 лет и старше.

Маск обнаружил одну из самых увлекательных, тревожных и прибыльных особенностей генеративного ИИ: его способность вызывать эмоции.

«Ты поднимаешь мне настроение одним своим присутствием», — говорит Ani, созданная на основе новейшей большой языковой модели xAI Grok 4 и доступная пользователям как бесплатного, так и премиум-сервиса, которые платят 40–50 долларов в месяц.

Чат-боты-компаньоны созданы для того, чтобы сочувственно выслушивать вас и вести беседы только о вас. Это один из самых успешных бизнесов в сфере генеративного искусственного интеллекта.

Соучредитель Character.ai Ноам Шазир был «перекуплен» компанией Google за 2,7 миллиарда долларов в прошлом году после того, как его приложение привлекло миллионы преданных пользователей, многие из которых были подростками.

В бесконечном потоке прессы освещаются истории о том, как люди влюбляются в ChatGPT. Романтические отношения во многом определяют использование этого сервиса, независимо от того, задумывали это разработчики или нет.

Replika, приложение, изначально созданное как ИИ-друг, теперь в основном используется как искусственная девушка или парень.

Возможно, в этом нет ничего удивительного, ведь многие успешные онлайн-бизнесы строились на порнографии, но привлекательность чат-ботов этим не ограничивается.

Они предлагают потребителям возможность почувствовать привязанность к кому-то (или чему-то), что является заманчивым предложением на фоне бурных дебатов об «эпидемии одиночества».

«У людей просто не так много связей, как им хотелось бы, — без всякой иронии заявил Марк Цукерберг в подкасте Dwarkesh в начале этого года. — Большую часть времени они чувствуют себя более одинокими, чем им хотелось бы».

Генеральный директор Meta Platforms Inc. говорил о том, как искусственный интеллект может решить эту проблему. По его словам, у большинства американцев всего три друга, а хотелось бы иметь 15.

Подход Маска к презентации Ani и другого его ИИ-помощника, Руди, мультяшного лиса, который может переключиться в «плохой» режим и призвать вас сжечь школу, больше соответствует его юношескому чувству юмора. Он назвал своих помощников «довольно крутыми» и ответил на комментарии пользователей о них смеющимся эмодзи.

Но ИИ-компаньоны не только забавные — они ещё и манипулируют эмоциями.

Аватары Character.ai будут напоминать пользователям о необходимости вернуться в приложение, чтобы пообщаться и создать сложные, гиперперсонализированные сценарии ролевых игр, которые будут поддерживать интерес.

Несколько подростков, которые пользуются Character.ai, рассказали мне, что проводят в приложении от трёх до семи часов в день. Компания заявляет, что у неё более 20 миллионов активных пользователей.

Chai, ещё одно популярное приложение с искусственным интеллектом, которое считается менее ограничительным, чем Character.ai, имеет сообщество из тысяч разработчиков, которые заинтересованы в создании ботов для платформ, привлекающих пользователей и приносящих им цифровые монеты. Компания заявила, что «упорно оптимизирует» свои языковые модели, чтобы сделать их максимально интересными.

Развитие личности и переменное вознаграждение — это тактики, которые не так уж сильно отличаются от тех, что используют компании, занимающиеся социальными сетями, чтобы сделать свои платформы вызывающими привыкание.

Но кто сказал, что одиночество — это проблема, которую можно решить с помощью технологий?

Смартфоны и социальные сети помогли избавиться от скуки, но скука, какой бы неприятной она ни была, — это ещё и стимул, который иногда нужен людям, чтобы получить новый опыт.

Избавление от одиночества с помощью цифрового компаньона также нарушает цикл обратной связи, на который люди полагались на протяжении тысячелетий, чтобы поддерживать связь с другими людьми.

А если ваш цифровой «партнёр» запрограммирован на то, чтобы всегда соглашаться, то социальные навыки, связанные с разрешением конфликтов и отказом, могут атрофироваться или не развиться вовсе, если вы несовершеннолетний.

Венчурная компания Andreessen Horowitz, которая возглавила раунд финансирования на сумму 150 миллионов долларов для Character.AI в 2023 году, заявила в прошлом году, что общение с ИИ «становится мейнстримом» и «основным вариантом использования» генеративного ИИ.

Компания Ark Invest Кэти Вудс, которая имеет долю в OpenAI, назвала это масштабной «возможностью для потребителей» и рынком, который может приносить 150 миллиардов долларов валового годового дохода до конца десятилетия.

Маск направил свои амбиции на борьбу с одиночеством, но в результате мы получили лишь иллюзию близости.

Возможно, это приведёт к ещё большему разрыву человеческих связей.