«В споре рождается истина». Фраза старая, но все еще верная. Появление цифровых технологий открыло новые возможности для проведения дискуссий. И породило новую проблему — соблюдения культуры онлайн. В этом посте рассматриваются существующие на данный момент технологии онлайн модерирования, направленные на выявление информации, нарушающей правила проведения дискуссий. Рассматриваются различные преимущества и недостатки этих технологий.

В настоящий момент в модерировании информации можно выделить три основных подхода, представленных на рисунке ниже.

Самым быстрым методом и относительно дешевым подходом считается автоматическое модерирование. К которому можно отнести развитие различного рода спам-фильтров, обучение нейронных сетей для выявления нарушений. Однако автоматические средства испытывают затруднения с пониманием нюансов человеческого общения. В результате это приводит к тому, что автоматические средства испытывают затруднения с выявлением целого ряда не правомерных комментариев, например, не относящимся к теме, бесполезных или оскорбительных, комментариев, связанных с троллингом других пользователей, комментариев разжигающих вражду или ненависть, подстрекающих к чему-либо противоправном и т.д.

Другим не дорогим и эффективным подходом можно считать коллективную модерацию, при которой дискутирующие самостоятельно, коллективно удаляют нарушение или источник нарушения из своей среды. Однако технология коллективного модерирования также сталкивается с определенными трудностями. Например, такая технология подразумевает достаточное количество голосующих пользователей, которых может просто не набраться для организации голосования по конкретному комментарию. Вопросы также вызывает объективность и непредвзятость оценок голосующих по конкретному комментарию пользователей.

Наиболее широко в области модерации используется практика привлечения назначенного модератора. Такая практика является эффективной и позволяет выявлять нарушения очень точно. Однако проблема в использовании такой практики состоит в том, что далеко не все сайты в интернет имеют возможность оплачивать работу назначенного модератора, в связи с чем администраторы многих интернет ресурсов вынуждены самостоятельно выполнять эту трудоемкую работу. Другая проблема связана с тем, что в большинстве случаев, назначенный модератор и администратор не участвуют в дискуссии, что приводит к определенным временным задержкам при модерировании и долговременному наличию на интернет ресурсе нарушающей информации, на которую пользователи никак не могут повлиять.

Также в дополнение к перечисленным подходам был предложен подход пользовательской модерации, который позволяет создать взаимовыгодные условия для рядовых пользователей цифровых платформ, при которых они самостоятельно, без привлечения модератора, могут поддерживать культуру общения онлайн. При этом технология позволяет выполнять модерацию комментариев объективно, без организации коллективного голосования, привлекая к модерации даже всего одного пользователя.

Предложенный подход основывается на следующем:

• В ряде случаев (условия можно почитать здесь ) пользователю, участвующему в дискуссии, может быть предложено выполнить проверку набора комментариев на соответствие правилам дискуссии. Среди предложенных пользователю на проверку комментариев есть проверочные комментарии, оценки которых уже известны, и по которым оценивается объективность пользователя. Также есть проверяемый комментарий, оценка которого еще не известна. При этом пользователь не знает, какой комментарий проверочный, а какой проверяемый.
  
• Если на основе проверочных комментариев выявлено, что пользователь объективный, то оценка проверяемого комментария принимается, а комментарий, добавляемый или выбранный пользователем, в свою очередь, передается на проверку. Если выявлено, что пользователь необъективный, то ему предлагается повторить правила, выполнив оценку заново.
  
• Когда оценка проверяемого комментария принимается и выявлено, что он нарушал правила дискуссии, такой комментарий скрывается, а владелец комментария считается нарушителем. Нарушителю при последующей публикации комментария будет предложено повторить правила дискуссии и пройти процедуру проверки, также оценивая чужие комментарии и выполняя при этом полезную работу по модерированию.
  

Для большей наглядности пользовательской модерации читатели Хабра могут воспользоваться небольшим тестовым примером, в котором реализован данный метод. Пример представляет собой ленту комментариев, в которой есть возможность попробовать пользовательскую модерацию.

Спасибо за внимание!
Если статья показалась вам хоть немного полезной, примите, пожалуйста, участие в нашем опросе. Это поможет понять хотят ли читатели что-то менять в области модерирования.