О чем эта история? О том, что нас постоянно должен кто-то оберегать от крайностей в интернет дискуссиях. О том, что делается организаторами дискуссий, чтобы позволить нам хоть как-то приемлемо общаться и как они не справляются с этой задачей. О том, чего нам не хватает при таком общении и что нового можно предложить в области модерирования.

Итак, на сцене под жарким светом софитов – модерация интернет дискуссий, а точнее комментариев.

В чем же проблема, с чем боремся?

Дискуссия на интересующую тебя тему — так это же здорово! Интересный собеседник на другом конце континента – это ли не мечта наших предков! Однако, в онлайн дискуссиях есть ложка дегтя — постоянно кто-то мешает.

С этой проблемой сталкиваются и начинающие блогеры, впервые окунувшиеся в чудный онлайн мир и открывшие всему миру на своем блоге заветный диалог комментирования. С ней же бьются интернет гиганты, вкладывающие в эту задачу ежегодно миллионы долларов и нанимающие сотни тысяч дополнительных модераторов в период всплеска активности пользователей, обсуждающих топовые новости, катастрофы, пандемии и т.д.

Одно время это был явный спам, а самыми большими вредителями были интернет-боты, которые были запрограммированы изображать из себя пользователей, и спамить для выгоды их хозяев по диалогам комментирования. С таким типом помех в дискуссиях организаторы плохо ли, хорошо ли научились бороться. Научились их обескураживать и запутывать. Спасибо сервисам капчи, автоматическим фильтрам, нейросетям и Akismet, что с нами. Что охраняете нас от явного спама.

На автомат – найдется другой автомат.

Но оказалось, что организаторам выдохнуть-таки нельзя. Потому что, защитив обсуждение от массовых рассылок интернет-ботами, его также нужно защитить и от людей, не соблюдающих правила дискутирования онлайн. И тут оказалось, что автоматическими методами здесь обойтись не получится, ибо слабы они.

Потому что, они сейчас находятся еще не в той точке развития. Потому что, они еще очень плохо понимают смысл человеческих диалогов. Потому что, по-прежнему, как и во времена Карела Чапека лучшие умы человечества все еще бьются над задачей создания сильного ИИ, способного действительно понимать нас. А нарушающий правила пользователь, при желании преспокойно обходит фильтры, нейросети, и прочие псевдо-разумные автоматы.

Так что мы имеем сейчас?

В итоге организация дискуссии по-прежнему требует присутствия человека модератора. Да, конечно, программы умнеют и позволяют сократить множество проверок для модератора. Но они и ошибаются и нередко, но метко. И в итоге за человеком модератором по-прежнему остается окончательное решение нарушает тот или иной комментарий правила, выходит ли он за рамки обсуждения, не обманул ли данный комментарий автомат. Ну так и где же нам взять нужное количество модераторов для всех диалогов?

Сейчас владельцы сайтов сталкиваются с ситуацией, что в ряде случаев комментарии лучше вообще отключить.

Действительно это может быть проще и для блогера, который хочет сосредоточиться на написании статей (а может и на чем-то более приятном) и который и не имеет возможности (да и не хочет- зачем ему это надо?) отвлекаться на модерирование обсуждений. Это может быть проще и экономически целесообразнее и для крупных интернет компаний. Как это, например, сделал с марта 2019 года видеохостинг YouTube, который ввел новые правила, после которых, десятки миллионов видео лишились кнопки «Оставить комментарий». А все потому, что рекламодатели не довольны «хищническими» комментариями, зачастую сексуального характера и отказываются рекламироваться в такой ужасной обстановке. Тут, кстати, привет автоматическому модерированию — чем не показатель развития области? Ну не могут они!

А как же сами дискутирующие пользователи? Могут ли они помочь?

Казалось бы да. Ведь большинство пользователей заинтересованы в адекватном проведении дискуссии. В конце концов адекватных людей больше, чем не адекватных и они могли бы как-то участвовать в этом процессе модерации. Как-то оценивать комментарии и друг друга самостоятельно. Очень заманчиво, не правда ли? Вроде и модератор не особо то тогда нужен. Так как и в обычной жизни, когда адекватность дискуссий под нашим контролем и если нам кто-то мешает обсуждению, то сообщество просто исключает его. В некоторых случаях даже кулаками.

В интернете же все не так. Потому что, все равны, потому что, к пользователям нет доверия. По умолчанию. Давать возможность напрямую модерировать чужие комментарии простому пользователю это безумие, интернет харакири для организатора.

И все же попытки передать пользователям хотя бы часть управления дискуссией продолжаются. Уж больно заманчиво.

Вот, например, можно позвать модератора в случае нарушения. Помните? Та самая заветная кнопка “пожаловаться”. Класс! Только вот что-то лениво нашему блогеру, не спешит он особо. Да и вообще может вы ее шутя нажали?

Или, например, если много пользователей указывают на нарушение, тогда, пожалуй, можно и довериться такой коллективной модерации. И автоматически скрыть нарушение. Но и тут есть трудности. А что, если недостаточно пользователей для организации коллективного голосования? И вообще-то как-то есть подозрение, что такое голосование можно накрутить с разных браузеров.

Или можно попробовать выбрать наиболее объективных пользователей и дать им функции модерирования. Как, например, на Хабре. Но тут должно быть большое сообщество. Со своей историей, на основании которой можно выбрать объективных пользователей. А это бывает далеко не всегда.

Итак, если мы стоим на дзен пути привлечения пользователей к адекватному проведению дискуссий, то мы, очевидно, приходим к вопросу:

Как научиться доверять пользователю?

Казалось бы, невозможно просто так взять и довериться оценке неизвестного пользователя. Но ведь можно создать условия, при которой этой оценке можно доверять! И такой успешный опыт в интернете уже есть! Такой метод использует широко известная и изрядно всем поднадоевшая ReCapcha. Точнее, одна из ее первых версий. Та версия, в которой пользователю для авторизации на сайте предлагалось написать несколько слов. Одно из которых было проверочное и известно системе, а другое было неизвестно системе и его требовалось распознать. Сами же пользователи не знали, какое слово известное, а какое нет, и для того, чтобы быстрее авторизоваться, вынуждены были отвечать честно, а не гадать!

В итоге, те пользователи, которые отвечали честно, и правильно вводили проверочное слово, считались объективными, и ReCapcha их пропускала дальше, а также принимала! не известное ей слово как результат.

И это оказалось эффективно! Этим нехитрым методом пользователи ReCapcha только за первые полгода работы успешно распознали около 150 миллионов нераспознанных слов, что эквивалентно 7500 книгам, которые не смогли распознать автоматические методы. Не плохо, правда?

Но можем ли мы применить такой метод в области модерации?

А почему и нет? Ничего не мешает дать пользователю возможность оценить на соответствие правилам ряд из комментариев, среди которых будет один, оценка которого нам не известна, а остальные будут проверочные. И принять оценку неизвестного комментария, если пользователь честен в оценке проверочных комментариев. Причем для оценки неизвестного комментария, таким образом, нам не нужно будет организовывать коллективное голосование, достаточно будет одного пользователя!

А дальше, еще интереснее. Этот, казалось бы, простой метод одиночной объективной оценки при его тиражировании может дать мощный эффект модерирования, так сказать независимую пользовательскую модерацию:

1. С помощью его можно создать целую сеть пользовательской модерации:
   Так неизвестный комментарий пользователя с сайта1 может быть отправлен на проверку пользователю с сайта2. А неизвестный комментарий пользователя с сайта2 может быть оценен пользователем с сайта3. И так далее. При этом скорость проверки комментариев в сети будет возрастать с ростом числа вовлеченных в модерирование пользователей, что существенно будет для малопосещаемых сайтов.
   
2. С его помощью можно организовать пользовательскую пре-модерацию комментариев:
   Так мы предлагаем пользователю принудительно проверить ряд комментариев перед тем, как позволить ему опубликовать свой. А затем введенный им комментарий отправить в свою очередь на проверку. В итоге получаем перекрестную проверку комментариев.
   
3. С его помощью можно организовать пользовательскую пост-модерацию комментариев:
   Так рядом с каждым уже опубликованным комментарием есть кнопка “нарушает?”. И любой заинтересованный пользователь может отправить на перепроверку любой комментарий. Разумеется, только после, того, как предварительно успешно проверит ряд чужих комментариев. В итоге, если чей-то комментарий нарушил его не сложно удалить.
   
4. Его можно использовать как средство повторения правил:
   Конечно, нужно понимать, в нормальном режиме диалога пользователям вообще не хочется что-либо проверять, а хочется комментировать без ограничений. Поэтому эту проверку можно использовать как средство повторения правил. Принудительно предлагать ее, только если пользователь еще не знает правила данного сообщества или пост- или пре-модерацией было выявлено, что он их нарушил предыдущий раз. Нарушил- будь добр повтори правила, одновременно выполнив полезную работу. И в следующий раз вспомни об этом перед тем, как нарушить правила.
   

Как пелось в солдатской сатирической песни:
Чисто вписано в бумаги,
Да забыли про овраги,
А по ним ходить!
И как это будет в жизни?


Для наглядности приведем пример пост- модерации на основе данного метода:

1) Предположим, у нас есть следующая дискуссия. Любой читатель, сталкиваясь с нарушением, в может вызвать проверку нажав кнопку “Нарушает?”



2) Ему будут предложены правила пользовательской модерации и предложено оценить несколько чужих комментариев перед тем, как отослать на модерацию комментарий, выбранный им. Нажав кнопку “Оценить>>” он может приступить к оценке.



3) Ниже приведен пример одной из 4-х оценок (оценок может быть разное число), которые будут ему предложены. Варианты ответа “Да” или “Нет”.



4) Если пользователь объективен и верно оценивает все оценки (в данном примере будет 3 проверочных комментария и один неизвестный, который нужно проверить), то он считается объективным, и ему будет разрешено отправить, выбранный им комментарий, на модерацию.



5) Если он ошибся в проверочных частях, то он считается необъективным, и он не сможет отправить комментарий на модерацию.



Тоже самое можно организовать и для пре-модерации. В целом, на основании данного метода возможна следующая культура комментирования:

• Неавторизованные на сайте пользователи всегда комментируют с пользовательской пре-модерацией.
• Авторизованные пользователи, если не нарушают, могут комментировать без пре-модерации.
• Читатели могут устранять нарушения с помощью пользовательской пост-модерации.
  

Вот так просто мы хотим привлечь пользователей к решению задачи модерирования, если сможем начать им доверять. И таким образом мы можем дать пользователям возможность самим поддерживать культуру общения, особо их при этом не утруждая. И организовать такую среду, при которой комментирующим будет не выгодно нарушать правила дискутирования.


Спасибо! И да начнется критика!