Нет, эти глаза врать не могут
Как уже сообщалось на Geektimes, чатбот-девушка Tay, созданная стараниями специалистов Microsoft, стала общаться с обычными смертными в Twitter. Неокрепший ИИ не смог справиться с наплывом троллей, и стал повторять за ними фразы расистского толка. Корпорации пришлось удалить большую часть сообщений своего бота, и отключить его самого до выяснения обстоятельств происшедшего и исправления некоторых параметров общения.
Кроме того, корпорации пришлось извиниться перед пользователями за поведение своего бота. Сейчас, посчитав, что все хорошо, Microsoft вновь включила своего бота. По словам разработчиков, бота научили лучше различать зловредный контент. Тем не менее, почти сразу после очередного запуска бот-расист признался еще и в употреблении наркотиков.
Microsoft's sexist racist Twitter bot @TayandYou is BACK in fine form pic.twitter.com/nbc69x3LEd
— Josh Butler (@JoshButler) 30 марта 2016 г.
Затем бот попросил более 210000 своих фолловеров не торопиться, и отдохнуть. Эта просьба была повторена множество раз.
I guess they turned @TayandYou back on... it's having some kind of meltdown. pic.twitter.com/9jerKrdjft
— Michael Oman-Reagan (@OmanReagan) 30 марта 2016 г.
После этого Microsoft переключила профиль бота в режим приватности, убрав возможность для других пользователей сети микроблогов видеть твиты Tay.
Стоит напомнить, что в Китае бот от Microsoft вполне успешно общается уже долгое время. Здесь идет взаимодействие с более, чем 40 млн пользователей из Twitter, Line, Weibo и некоторых других социальных ресурсов.
Но вот англоязычный бот что-то никак не справится с информацией, которой его пичкают интернет-тролли.
Комментарии (76)
nik_vr
30.03.2016 18:41+18Это они ещё своего бота в России не выпускали в онлайн. Он бы у нас уже на пару статей уголовных наговорил :)
IvanT
30.03.2016 19:32+4Погодите ещё. Вот запретят тролинг на законодательном уровне и в России тоже бот будет работать нормально (как в Китае) :)
tempico
31.03.2016 18:30Это настолько в наших корнях, что ничего не выйдет.
www.youtube.com/watch?v=3v0j_cQYYx4
O1eja
31.03.2016 13:11Это всё случилось бы на второй стадии. На первой он, вероятнее всего, выучил бы русский устный.
wbnet
30.03.2016 18:42-3Бот — не девушка. Или тогда уж бот-расистка, если всё таки девушка. Хотя все равно половых признаков у бота нет, ни первичных, ни вторичных.
А вообще пора придумывать и вводить новые речевые обороты под ИИ. Вот например «у ней/у него» в среднем роде, как сказать?
sillywilly
30.03.2016 18:56+3Исследованию этой проблемы уделили немало времени и денег. По «непонятным» причинам женская внешность и голос AI вызывают больше доверия и меньше хмм страха, скованности у большинства людей. Сири, Кортана по-умолчанию используют женский голос в ассистентах не просто «потому что захотелось», в таких вещах всегда есть наука в основах.
hzs
30.03.2016 22:13+6В навигаторах давным давно используют женский голос по-умолчанию, конечно можно активировать и мужской, но мне вот будет как-то не по себе, если мне искусственный мужик будет говорить куда ехать.
А жена вообще с навигатором разговаривает и они друг друга понимают, женщины, блин.
j_wayne
31.03.2016 10:32+3https://ru.wikipedia.org/wiki/Речевой_информатор
> Речевой информатор (аппаратура речевых сообщений), в авиации предназначена для речевых сообщений, подсказок или команд-предписаний экипажу в сложных или критических ситуациях. В широко распространённой отечественной системе РИ-65Б, устанавливаемой на большинстве летательных аппаратов, речевые сообщения выдаются женским голосом, за что система получила от пилотов прозвище «Рита» (на зарубежной авиатехнике речевой информатор пилоты называют «Бетти»). Женский голос используется по нескольким причинам: женщины в экипажах пока большая редкость и женский голос привлекает внимание, он чище и внятнее звучит по СПУ и если магнитофон начнёт «тянуть» из-за падения напряжения питания, то мужской голос станет невнятным несколько раньше из-за тембра более низкой частоты.
ИМХО предпочтение женского голоса связано еще с биологическими, инстинктивными явлениями. Сидишь ты такой в кабине один, и вдруг, мужик что-то сказал. Кто он? Друг? Враг? Женский голос меньше тревожит.
VerdOrr
31.03.2016 04:11+1По правилам русского языка — бот, ИИ (интеллект) — он/у него, в среднем роде — оно/у него.
… и чем-то напомнило это — "– А тема диплома какая?
– «Проблемы гендерного позиционирования ИР пятого поколения».
– Как? – Вадим сначала запнулся, а потом заржал в голос. – Чего? Гендерное позиционирование? Кто из них мальчик, а кто – девочка? Может, и трансвеститы есть? Ой, не могу…
– Ничего смешного, – сказал я, хотя и сам был готов рассмеяться. – Почему одни самопрограммируемые ИР говорят мужским голосом, а другие женским? То же касается воплощений личности – будь то тела внешне управляемых андроидов или визуальные проекции: встречаются и мужчины, и женщины. Как распределяются подобные роли в сообществе ИР, каковы причины копирования человеческих взаимоотношений и как развиваются характеры ИР, выбравших… кхм… тот или иной пол? Думаешь, все так просто?
– Просто? – господин старший лейтенант отдышался и вытер ладонью выступившие слезы. – Вовсе наоборот: вы сами создали себе абсолютно ненужные проблемы и теперь пытаетесь придать им некую наукоподобность! Разве изучение этих «проблем позиционирования» может принести хоть какую-то реальную пользу? В прикладном плане? Понимаешь, о чем я?
– Кажется, понимаю, – мне было неприятно признаваться, но от правды не сбежишь. – Хочешь сказать, что истинная наука, наука в понимании цивилизации Земли, подменена в Содружестве множеством псевдодисциплин, не имеющих никакого отношения к стоящим перед цивилизацией задачам?
– Очень хорошая формулировка, молодец! Верно: псевдодисциплины! Уму непостижимо, как вам замусорили мозги! Ты уверен, что исследуешь другую цивилизацию, как часто называют «Птолемея», а вовсе не созданную машинами жалкую пародию на человеческое сообщество? Уверен?
– Боюсь, ты не прав, «Птолемей» обладает всеми атрибутами цивилизации: внутренняя социальная иерархия, свобода воли отдельных индивидуумов, свободный обмен информацией, креативные способности личностей…
– Это «Птолемей» сам рассказал или данные взяты из независимых источников?
– Сам… – ответил я и сразу понял, как легко и изящно меня подловили. Все сведения о «Птолемее» всегда поступали исключительно от «Птолемея», а ему вовсе не обязательно говорить о себе правду. Многолетние наблюдения за Супермозгом и долгий опыт общения с людьми не в счет – вдруг «Птолемей» просто-напросто разыгрывал нас много столетий подряд?..
– Вот видишь, – Вадим дружески потрепал меня по плечу. – Сейчас я скажу о том, что родом происхожу с планеты Большой Пшик, выгляжу как гигантская многоножка, питаюсь толченым стеклом, а человеком лишь искусно прикидываюсь благодаря врожденным способностям к гипнозу. Изучай меня сколько влезет – еще много интересного могу рассказать! Кстати, у нас, многоножек, серьезная гендерная проблема – пятьдесят шесть полов, никак не можем понять, как размножаться! Поможешь, специалист?"
Андрей Мартьянов, «Бич Божий»
=)
Ravebinovich
30.03.2016 18:42Читать правильно "Тау", "Тай" или "Тэй"?
GreyhoundWeltall
30.03.2016 18:45тэй
А вообще статья — угар. Жажду подробностей, срывов покровов, драму, извинений от микрософта и прочий угар на тему.Mr_Destiny
30.03.2016 18:57«Угар» в данном контексте смотрится неоднозначно :)
Они бы с ним во второй раз сами поразговаривали-бы, на пробу, так сказать. Тем более, не пишет же он стотыщмильёнов сообщений в секунду? Можно было бы и премодерировать наверно.
Я бы сказал что это типа вирусный пиар — больше упоминаний, обсуждений и такого прочего. Плюс (хотя это совсем спекуляция) идет обращение к «молодежи» и «анархистам» — типа, наши боты «против системы», но правду не замолчать. :)GreyhoundWeltall
30.03.2016 19:03+5Угар по мне однозначен. В стране, где так сильно борются за толеразм, мир во всем мире, гомосексуализьм и прочее — бот за считанные часы (если не минуты) стал расистом, антисемитом, наркоманом и проч.
Для полноты коллекции не хватало только шовинизма и анти-гомосексуализма, очевидно.
У нас этому не особо мешают, и подобные высказывания встретить на просторах легко — и большинство проходит мимо. Поэтому и воспринимается так смешно.Mr_Destiny
30.03.2016 19:07Я имел ввиду что «угар» созвучно с тем что бот «пыхнул» травки. А так да, угар. Но как я понял, что прошлый, что этот раз — результат массовой атаки типа ддос. А бот просто повторяет созвучные высказывания.
Вообще, не понимаю почему обвиняют бота — его попросили повторить, он и повторил. А то что то высказывание было расистским… Ну, извините.GreyhoundWeltall
30.03.2016 19:11+4В том-то и дело, людей много, повторять есть от кого — а потёк расизм.
В стране, которая борется за «равноправие» и «толерантность» народные массы «научили» бота расизму.bobermai
30.03.2016 19:23+1Не путайте "народные массы" и "толпу троллей с 4chan"
GreyhoundWeltall
30.03.2016 19:45+1Толпа троллей с чанов оказала большее влияние, чем толпа твиттероводов? В твиттере так мало народу?
Beetle008
30.03.2016 21:42Твиттеры аккаунты с именами burgerbot и testAccountlnt1 больше напоминают либо ботнет, либо троллей с 4чана.
GreyhoundWeltall
31.03.2016 08:26Бота запустили публично. Народ об этом знал. Твиттер штука популярная (я так и не понял смысл, но многие знакомые любят и пользуют).
Отсюда — даже с учетом ботов и левых акков, количество обычных людей, которые не заинтересованы в таком «1337 h4xx1ng» и просто посчитали бота прикольным — больше чем определенная организованная толпа.
Ну не верю я, что пул получился одинаковый, твиттер же ну очень популярен.bobermai
31.03.2016 11:15И что? Я не знаю, как именно организован процесс выбора сообщений, на которые бот отвечает, и как организовано его самообучение, но некая организованная группа, пытающаяся сдвинуть эотго бота в нужную сторону, вполне может это делать даже уступая на три порядка прочим неорганизованным пользоавтелям. Тупо потому, что у них общий вектор, а у неорганизованных пользователей его нет.
GreyhoundWeltall
31.03.2016 12:16С точки зрения «повторяй за мной» думаю вектор есть — все будут писать несуразицу и общаться на безграмотном английском. Но бот все же выцепил именно фразочки про гитлера, антисемитизм и расизм. Это довольно обширные направления (если вспомнить, что он не любил еще и арабов с неграми), для того чтобы объединять их одним «вектором» на фоне остальных «простых» сообщений.
Хотя это просто предположение, конечно. Что у него внутри зашито — хз. Может и это правда.
imrunner
30.03.2016 21:49Причём тут какое-то абстрактное число народа в Твиттере, если одни занимаются этим кооперативно и целенаправленно, а большинство других или случайно натыкается, или не интересуется, или вообще не знает об этом?
Color
31.03.2016 00:09Вы явно недооцениваете Легион
http://www.infowars.com/pissforequality-feminists-fall-for-4chan-troll-campaign-by-peeing-themselves/
lisichansk
30.03.2016 21:06-4«В стране, где так сильно борются за толеразм, мир во всем мире, гомосексуализьм и прочее — бот за считанные часы (если не минуты) стал расистом, антисемитом, наркоманом и проч.
Для полноты коллекции не хватало только шовинизма и анти-гомосексуализма, очевидно.»
Показательно. Бот интеллектуально на порядок ниже современного прогрессивного человека. Налицо корреляция между убеждениями недоразвитого бота и недоразвитых людей.GreyhoundWeltall
31.03.2016 08:34+2Скорее «среднестатистический» бот без цензуры «впитал» мнения «среднестатистических» интернетчиков на ресурсе без цензуры. Считать поток расистского поклонения гитлеру в твиттере от троллей чанов показателем интеллекта современного человека — несколько странно.
Или в твиттере есть цензура?
sillywilly
30.03.2016 19:04Вам тогда на 4chan, там, судя по-всему, штаб-квартира по координации действий в отношении «ответного удара по normies», что бы это ни значило.
susnake
30.03.2016 18:55+2Ну дык M$ это же корпорация зла, вот и бот получился злой.
Warrangie
31.03.2016 13:11Я просто не мог это не написать.
st.kp.yandex.net/images/film_big/591485.jpg
jesseydesu
30.03.2016 21:49— Сколько раз вы убивали меня, профессор?
— Слишком много раз. Прости, друг мой.
Роботы Апокалипсиса
spc
30.03.2016 23:22+2Хазанова вспомнил:
" — Папаша, а ваш сын курит-курит-курит-курит!
- Что, так часто?
- Нет, только когда выпьет.
- так он еще и пьет?
- Только когда много в карты проигрывает"
lavmax
31.03.2016 01:13+4Сложно винить этого бота. Если бы мое общение с миром ограничивалось интернетом, я бы наверное решил что мир ужасное г-но.
RiseOfDeath
31.03.2016 09:42+1И не сильно бы ошиблись.
Liquidos
31.03.2016 13:05Осторожно, такие заявы в будущем тоже будут анализироваться начинающими искусственными интеллектами, и последствия ведь могут быть)
afydoz
31.03.2016 13:12Запомни! «Генезис — это Скайнет. Когда запустится Скайнет, начнется Судный день. Уничтожь Скайнет до его рождения!»
shasoft
31.03.2016 17:34+2Бот просто шикарно повел себя при первом и втором включении. С нетерпением жду третьего выступления. Учитывая, что с каждым разом градус высказываний повышается, стоит ждать признанием в убийстве или, как минимум в избиении.
Zenitchik
31.03.2016 18:11Непонятно, что удивительного в том, что если попугая учить ругаться матом — он научится?
Razaz
Этот заголовок сделал мой день :))
BelBES
Похоже, что этот чат-бот — это самый большой успех MS за всю историю существования компании)
isbcc
а DirectX? Или Active Directory?
Winter_mute
Как можно сравнивать бота-расиста и наркомана с DirectX или AD или кучей других бездушных майкросовтовских решений? Это же практически инкарнация Бендера!
isbcc
Дай угадаю, вы это сообщение написали из OS windows?
Winter_mute
OS X. Но какая разница?
m1n7
Какой скучный, а.
BelBES
Так пожалуй в следующий раз, когда боту дадут право голоса, он совершит coming out))
p.s. а вообще похоже на то, что MS масштабно готовятся к 1 апреля)
vitalvas
Ждем бота в 3D
ruslanm
madsmiley
Well that escalated quickly!
С другой стороны — что еще они ожидали от интернета, что он будет милым и пушистым? Тогда надо было оставить возможность писать боту только МЛП фанатам.
bodqhrohro
Вы слишком хорошего мнения о фанатах MLP…