Платформа для соревнований FACEIT отчиталась о результатах работы «ИИ-админа» Minerva, который отслеживает токсичных игроков, а также вычисляет оскорбления. Нарушители получают наказание, а ругательные сообщения помечаются как спам.
ИИ-админ версии 0.1 работает при поддержке облачной службы Google Cloud и технологического инкубатора Google Jigsaw. Пока он анализирует только текстовые чаты.
Minerva тестировали несколько месяцев, а полноценно запустили в августе. За это время ИИ-админ проанализировал свыше 200 млн сообщений в чате и признал токсичными 7 млн; выписал 90 000 предупреждений и 20 000 банов за оскорбления и спам.
Первым итогом работы Minerva стало то, что количество токсичных сообщений упало на 20,13%. Число игроков, которые отправляют такие сообщения, снизилось при этом на 8%.
Стоит отметить, что наказания для игроков платформы варьируются, то есть изначально можно получить предупреждение и временное отстранение от матчей, а при определенном числе нарушений попасть в бан. ИИ-админ способен вынести решение в течение нескольких секунд после завершения матча.
Владельцы FACEIT заявили, что они довольны такими результатами и собираются развивать Minerva дальше. Предполагается, что ИИ добавят в «другие системы».
Для пользователей ввели SMS-верификацию учетных записей: каждый аккаунт, который подозревается в том, что он является смурфом или бустером, а также потенциальным мошенником или вообще токсичным, должен подтвердить свой номер телефона, прежде чем играть на FACEIT. За последние два месяца более 250 000 аккаунтов подтвердили свои номера. Из них 50 000 нелегальных аккаунтов были заблокированы. Платформа планирует сделать эту функцию доступной для организаторов, чтобы они могли ограничить доступ к турнирам и хабам для пользователей без подтвержденного номера телефона.
Комментарии (27)
namikiri
29.10.2019 14:30Омерзительно. Почему? Потому что игра это чаще всего способ как-раз таки отдохнуть от постоянного самоконтроля на учёбе/работе/семье. Если эта самая Минерва будет принудительной для всех игр, где установлен FaceIt, а в лобби не будет галочки «отключить модерацию» — это будет ужасно.
igormich88
29.10.2019 14:39Может быть тогда для отдыха играть в однопользовательские игры? Отдыхать от самоконтроля лучше на NPC, а не на живых людях.
namikiri
29.10.2019 14:41-2Я скорее имел ввиду то, что если везде вот таким образом строить розовый мирок, тех, кто хотел позлиться и потоксить, всё это сделает ещё злее и токсичнее, и они пойдут вымещать злобу на тех, кто рядом, а не просто криками в микрофон. Если подобный товарищ хочет интерактива — он будет искать интерактив.
0xf0a00
29.10.2019 16:35-1Так может быть пора к психологу раз проблемы с управлением, а не сублимировать в игры.
AlxDr
29.10.2019 17:23+1Идеально, если есть выбор.
И «розовый мирок», где никакие токсы не задерживаются и можно спокойно и расслабленно гладить котов и пони. И мирок с минимумом правил и ограничений, где можно себя не сдерживать (и другие, понятное дело, тоже не станут).
Проблемы начинаются, когда кто-то приходит в мирок с устоявшимся укладом и пытается его переиначить под себя. Или когда «неправильные мирки» начинают запрещать и изводить глобально.
Keynessian
29.10.2019 17:46+1Определение «токсичности» в разных сообществах может кардинально различаться. В той же Контре:
— полное нубьё боится кэмеров и требуют их бана
— опытные игроки не боятся нубо-кэмпреров и легко их выпиливают.AlxDr
29.10.2019 17:56Из чего следует вывод, что первична прозрачность.
В правилах, как таковых, ничего плохого нет. Если на каком-то сервере есть явный запрет кэмпить, это лишь такая его особенность и всё. Кто-то пойдёт туда специально, кто-то наоборот обойдёт стороной.
Аналогично и с матом. Или с 18+.
Плохо, когда прозрачности нет и не знаешь, за что можно выхватить бан, это сразу развивает злоупотребления со стороны пытающихся играть на алгоритмах. Это, например, сейчас справедливо для Facebook — нет чётких и исчерпывающих критериев допустимого. Ещё хуже, когда заводятся SJW, идущие крестовым походом на «неправильный мёд» в принципе.
igormich88
29.10.2019 18:00Подумав соглашусь с вашим комментарием и с первым комментарием namikiri. Если сделают два режима игры «с матом» и «без мата» будет замечательно. Но проблема по моему в том что у игр с центральным сервером и подбором случайной команды (Overwatch, Dota), разбиение игроков на два «сорта» примерно вдвое увеличит время ожидания.
PS: У игр с независимыми серверами(например Counter-Strike) где правила устанавливает владелец сервера таких проблем обычно нет (можно найти подходящий сервер или поднять свой).AlxDr
29.10.2019 19:00Это вполне логично и справедливо и для независимых серверов (и вообще для всего в жизни) — ведь число игроков в любом случае конечно, чем больше выбор, тем меньше их придётся на отдельный сервер.
С другой стороны, если кому-то этот выбор не принципиален, он всегда может просто присоединяться туда, где игроков больше, осознанно принимая их правила.
Помнится, был у нас в локалке активный КС-сервер, где «нельзя было со щитом бегать». Кто не хотел туда, поднимал свой. Но кто хотел «вот прям щаз», всегда знал, куда можно зайти и сразу в бой. Пусть и без щита :)
tmin10
29.10.2019 15:14+1Ага, на работе был тяжёлый день и тут тебя в онлайн игре кто-то материт, отличный отдых после трудного дня.
zxosa
29.10.2019 15:22+2Ну дак поматери в ответ, проблем-то
Squoworode
29.10.2019 18:21Если бы всё было так просто… Сейчас в тренде шаблон оскорбления «я твою мамку ххх», а не «ты — ххх».
ZaEzzz
29.10.2019 15:49+2Мы любили иногда после работы в пятницу залипуть командой в первый квейк с голосовым чатом. И знаете, мы спокойно матерились — вполне себе хорошая такая эмоциональная разгрузка.
Kwisatz
30.10.2019 09:34Даже более того, если командир отряда/флота/рейда кроет на чем свет стоит, я лично, совсем не против, это работает и помогает. На личности уже дело другое коненчо но тогда можно весело покусацо после рейда/боя/сессии )
ZaEzzz
31.10.2019 21:48Я даже более скажу — часто это добавляет своей аутентичности и способствует более глубокому погружению в процесс игры отвлекая от трудного дня.
mSnus
29.10.2019 16:23+3Авто-бан без службы разбора апелляций… Кажется, с Play Store или страйками в YouTube такое уже проходили недавно.
Ну и типично:
User1:
- Hey you n1gger!
User2: - Don't call me nigger, stop being toxic!
System:
< User2 was banned by auto-ban system, reason: n-word used >mkovalevskyi
29.10.2019 16:57+1И это еще не учитывая всех тех вариантов, когда вышеозначенный н-ворд вполне себе в тему. Бо смутно подозреваю, что среди жителей бронкса\квинса в ньюйорке, парочка игроков таки точно есть. )
Am0ralist
29.10.2019 17:50+1А прикиньте, если забанили негра, который своего знакомого негра так назвал?
Вот где токсичность же!
Уже баянKeynessian
29.10.2019 16:46ИИ-админ заблокировал более 20 тысяч токсичных геймеров на FACEIT
Автоматическая Страж-Птица убила всех людей, оставив ботов?Tufed
29.10.2019 18:15250 000 аккаунтов подтвердили свои номера.
а теперь
90 000 предупреждений и 20 000 банов
+Из них 50 000 нелегальных аккаунтов были заблокированы.
1/3 предупреждений и еще 1/3 в блоке. Отличный результат!
zim32
29.10.2019 18:39Там где это выгодно это свобода слова, а где мешает капиталисту это токсичность. Двойные стандарты как обычно.
- Hey you n1gger!
ideological
Очень часто, токсичные комментарии это несдержанная реакция на грубые читы.
6opoDuJIo
Уж простите, но FaceIt, если говорить о доте, — это сборище дегенератов, которые умудрились схлопотать бан даже в обычном ММ (не-ранговом). 4 из 5 игр заканчивались тем, что одна команда вставала на фонтан минут через 10, или кто-то спецом сливал со старта, ибо он не получил то, чего хотел. Результаты бота — имхо, капля в море.