Борьба с троллями, с одной стороны, похожа на борьбу с преступностью, c другой на шахматную партию с очень хитроумным оппонентом. Кто выигрывает и проигрывает в текущий момент сложно оценить. Видимо выиграет тот кто продержится дольше. :)

В нашей истории все началось десять лет назад, когда хомячки (DIY сайты) стали вполне себе социальными сетями. Тогда мы создавали сайт полностью user friendly, можно было писать все что хочешь, постить картинки и чатиться сколько душе угодно, никаких ограничений. Сайт у нас был шахматный и на нем собиралась аудитория ожидаемо более взрослая и воспитанная, чем где-либо. Это, можно сказать, специфика шахмат, впрочем как и IT отрасли в те времена. Все жили дружно и счастливо.

Первое с чем мы столкнулись — это обилие негативного фидбэка в обратную связь. Если не обращать внимания на эти сообщения, то можно жить спокойно, хотя ежедневные угрозы и оскорбления допекут со временем кого угодно. Тогда нам пришла одна замечательная идея, что негатив в интернете можно победить с помощью психологии.

Форму обратной связи мы сделали такой, что в подчеркнуто вежливом шаблоне пользователь должен был писать свой гнев и поток бранных слов каллиграфическим почерком. Как ни странно, это сработало. Количество негативного фидбэка сошло на нет. Если появлялись сообщения они были достаточно конструктивны, и хейт был максимум: ‘Без уважения…’

Вторая волна троллинга нас накрыла более основательно. Дело коснулось открытых источников информации. Форумы, чаты пестрили разборками и оскорблениями пользователей. Одни жаловались на клонов, другие на прогеров которые играют с помощью ПО.

Всех очень возбуждал Зал Славы (там был список лучших игроков сайта). Нам нечего было терять, поэтому мы закрыли Зал Славы и до сих пор у себя в профиле пользователь видит только 10ку игроков, которые близки к нему по рейтингу. Люди которым было важно быть на первых местах, там и находятся, остальные об этом не знают и спят спокойно.

Кстати, вспомнила что в те времена, у нас была Репутация (аналог Кармы на Хабре). Репутация мало на что влияла, но тролли массово минусовали ее и портили жизнь хорошим людям. Со временем репутация стала артефактом, за который можно проголосовать, но ни на что она не влияет.

К нам на сайт люди приходят немного поиграть в шахматы, но им гораздо интереснее поиграть в “социальщину”. Выяснение отношений, интриги, разборки и тп. Модераторам видеть такую помойку совсем не хотелось. Поэтому мы сделали форум и клубы закрытыми группами. У каждой свой ‘модератор’, который решает кто может состоять в группе, и он же может красить комментарии. В закрытой группе среди своих же клонов с сообщениями, которые никто не прочитает, находиться троллю скучно, его это печалит и ведение подобных групп для него теряет смысл.

Черные списки (куда пользователь может добавить другого чтобы оградить себя от игр с ним и общения), Друзья — были у нас с самого начала. Со временем ввели функцию что личные сообщения по дефолту могут писать только друзья, или все пользователи по настройке. На это решение тоже можно посмотреть с двух сторон, c одной стороны пользователям стало не очень удобно, ведь надо добавляться в друзья, или менять настройки. Взамен они не получают оскорбительные сообщения от кого попало.

Далее пришлось прикрутить автофильтрацию ненормативной лексики, и пополнять словарь жаргоном пользователей, все ради нормального цивилизованного общения между ними. Когда ругательный словарь тролля иссяк, он начал искать новые пути “как достать соседа".

Лишившись простых способов насрать словесно, троллями был придуман способ создания оскорбительных ников с использованием имен неугодных пользователей. От этого пока лекарство не придумано, кроме бана и удаления пользователя за нарушение правил сайта.

До недавнего времени можно было вставлять картинки по ссылке в комментариях и постах, но поскольку у нас нет армии модераторов, а просматривать зловредные картинки мало удовольствия, то и эту функцию пришлось обрезать.

Все текстовые поля которые доступны пользователю — возможность для тролля показать себя во всей красе.

Использование ПО. Одной из болей пользователей шахматного ресурса являются читеры. Лично я не вижу ничего плохого, если с тобой играет программа. Ведь если она сильна, то твой уровень игры повышается. Но большинство не любит проигрывать, и часто проигрыш реально злит человека. Отсюда тоже часто негатив в комментариях к партиям. В условиях нашего сайта решение в том чтобы играть со своими, с теми кому доверяешь. В турниры которые организуют пользователи, судья турнира сам решает кого принять, а кого нет.

На сайте много геймификации: бэйджи, уровни, награды, виртуальные бонусы, друзья, подарки. Пользователи играют, прокачивают своих игроков, создают контент и возвращаются. Да сайт про шахматы, но не совсем. Люди туда приходят отдохнуть и пообщаться.

Пользователи разные, в основном мужчины старшего возраста. Среди них есть инвалиды, которые играют языком или ногой.

Основное правило: не впутываться в личные беседы и не отвечать на вопросы троллей. Тролль втирается в доверие, важно помнить с кем имеешь дело.

Каких только историй нам не писали тролли за это время: от деловых предложений, угроз судебных разбирательств до информации о “секретной работе” спецслужб. В нашем случае вероятнее что одинокому пенсионеру дома скучно, а теперь он всегда при деле. Тролли становятся не страшны когда видишь источник зла, или думаешь что видишь. Тролль, в свою очередь, считает админов своими марионетками и думает что сайт в его власти, да и весь интернет впрочем тоже. Так он реализует свой не раскрытый потенциал и удовлетворяет Эго. Я все-таки не теряю надежду в homo sapiens (человека разумного), который рано или поздно осознает на что потратил свое жизненное время.

Ограждая пользователей от действий троллей, мы все больше и больше автоматизируем цензуру контента. Не могу сказать что так мы представляли интернет когда только начинали.

У нас есть люди которые живут сайтом, и те которые нашли друзей через него, те которые проводят на сайте каждый вечер, и те кто любят шахматы. И таких не один и не два.

К чему это всё. Опыт управления социальной сетью безумно интересный. Очень сильно пересматривается мировоззрение когда оказываешься по ту сторону баррикады. Даже глядя на вкладку Посетители в Яндекс.Метрике до сих пор удивляюсь как далеко закатились технологии. Яндекс теперь действительно знает о пользователях сайта больше чем админ.

Мой следующий проект будет с пользователями. Там будет геймификация. Но пользователи уже не смогут контактировать между собой и делать что-то публично. Вот они домашние хомячки будущего без троллей.