Реклама фильма BBC рядом с видеороликом националистической группировки «Национальное возрождение Польши»

Каждый день сотни людей в разных уголках США (а может и за границей) включают свои компьютеры и начинают смотреть YouTube. Но они делают это не ради удовольствия, совсем наоборот. Людей тошнит от этой работы, но таковы требования временного работодателя, компании Google — они должны просматривать видеоролики, искать ненавистнические выражения в титрах и речи, помечать видео как «оскорбительное» или «деликатное». Всё ради того, чтобы в такие видеоролики, не дай бог, не попала реклама крупного рекламодателя, которого потом загнобят за финансовую поддержку расистов и тому подобные грехи. С этим столкнулись Walmart, PepsiCo и Verizon, среди прочих.

YouTube и Google недавно оказались в центре скандала из-за деятельности маркетолога Эрика Фейнберга (Eric Feinberg), который поставил целью искоренить зло в интернете — распространение сайтов и видеороликов, которые соответствуют группам ненависти и сообществам, по ключевым словам типа «убить евреев». Фейнберг публиковал ссылки и скриншоты таких сайтов и видеороликов на YouTube, которые успешно зарабатывают, размещая рекламу в том числе известных брендов. Благодаря активисту проблема вышла на уровень национальных медиа, там появилось множество публикаций с примерами, как реклама той или иной фирмы появляется в видеоролике со сквернословием или ненавистническими высказываниями.

В результате YouTube был вынужден ужесточить проверку контента, на котором размещается реклама. Компания Google в официальном блоге пообещала, что наберёт в штат больше людей, которые будут следить за соблюдением правил, чтобы предотвратить появление рекламы на страницах с неподобающим содержанием.

Google сдержала обещание — и наняла множество временных работников («темпов») через ZeroChaos и другие сторонние агентства для найма временного персонала. Они работают на удалёнке и из своих домов просматривают видеоролики на YouTube, помечая и классифицируя агрессивный контент.

Разумеется, даже тысяча «темпов» не сможет просмотреть все видеоролики, которые человечество заливает на YouTube. По последней статистике, туда закачивается 400 часов видео в минуту, это примерно 600 000 часов в сутки. Если предположить, что для оценки видеоролика нужно посмотреть 10% его длительности, то тотальная модерация потребует наличия 7500 сотрудников, работающих сменами по 8 часов ($(600000/10)/8=7500$). На оплату такого количества персонала уйдёт почти миллион долларов в день.

Так что Google рассматривает белковый персонал как временное решение перед интеграцией нормального кремниевой системы ИИ, которая будет качественно классифицировать видеоролики. Фактически, сейчас «темпы» осуществляют обучение нейросети на примерах, показывая ей образцы «оскорбительных» и «деликатных» видеороликов.

Эрик Фейнберг говорил, что за годы исследований «составил базу данных из тысяч слов и фраз, которые связаны с гнусной активностью». Для примера, одно из таких слов — сербское слово «ханва», которое коррелирует с активностью джихадистов. По его мнению, компании Google потребуется очень много времени, чтобы составить такую базу, поэтому лучше купить лицензию у него. Но Google, как видим, пошла своим путём. «Проблема не может быть решена людьми и не должна решаться с помощью людей», — однозначно заявил коммерческий директор Google Филипп Шиндлер (Philipp Schindler) в недавнем интервью Bloomberg.

Сами сотрудники, которые выставляют оценки видеороликам, прекрасно осведомлены, что они тренируют ИИ. В то же время сотрудники уверены, что ИИ не справится с задачей, потому что классификация такого рода контента — очень тонкое дело. Нужны человеческие глаза и человеческий мозг, чтобы точно определить, какой контент является оскорбительным, говорят они. В этой связи вспоминается крылатое определение непристойности от американского судьи I know it when I see it.

Но Google считает иначе, и сейчас при классификации видео они требуют от модераторов максимальной производительности. Приоритеты изменились, теперь производительность имеет приоритет над точностью, в некоторых случаях требуют выставить оценку для часового видео через несколько минут просмотра. Модераторы используют разные способы экономии времени: быстро сканируют титры, прокручивают видео рывками по 10 секунд. Они работают с таймером, который постоянно показывает время, затраченное на задачу, и предполагаемый дедлайн. В результате требуется не просто пометить видео как «не подходящее», у казать конкретную категорию: «Неподходящий язык» (подкатегории: ненормативная лексика, разжигание ненависти), «Жестокость» (подкатегории: терроризм, война и конфликт, смерть и трагедия, другое), «Наркотики», «Секс/обнажёнка» (подкатегории: оскорбительное содержание, нагота, другое). Модератор должен указать и «другой деликатный контент», если показано провокационное сексуально возбуждающее видео или «сенсационный и шокирующий» контент. Некоторый материал просто не вписывается в эти категории, что затрудняет работу модераторов. Особенно трудно судить, когда люди на видео разговаривают на иностранном языке (Google активно набирает модераторов со знанием иностранных языков).

Google также внедряет в поток тестовые задания с заранее известным ответом, чтобы проверять качество работы модераторов.

Модераторы говорят, что они всякого уже насмотрелись: самоубийства и такая жестокость, после просмотра которой требуется передышка на несколько часов, чтобы прийти в себя.

После запуска программы рейтингования контента в 2004 году за тяжёлый труд на «удалёнке» агентство ABE платило модераторам $20 в час. Если нервы выдерживают, можно было работать овертайм. Затем фирму ABE купила WorkForceLogic, а последнюю в 2012 году приобрела ZeroChaos. К настоящему времени условия работы ухудшились: оплату снизили до унизительных $15 в час, а максимальную рабочую неделю ограничили 29 часами. У этих работников Google нет оплачиваемых отпусков, их могут лишить работы в любой момент. И самое печальное, что они с каждым днём приближают своё увольнение, сами же тренируя машину выполнять свою работу.
Поделиться с друзьями
-->

Комментарии (28)


  1. Dageron
    24.04.2017 23:55
    -1

    > условия работы ухудшились: оплату снизили до унизительных $15 в час

    Ухудшились! Хуже некуда стало, совсем совсем унизительно


    1. toteKopf
      25.04.2017 00:07

      Учитывая шок-контент, вполне может оказаться и унизительных. Понимаю, что зп по нашим меркам, вполне неплоха, но наносится вред психологическому здоровью.


      1. Dageron
        25.04.2017 07:37
        +1

        Да и шок-контент по нашим меркам отнюдь не шок-контент, а просто интернет-мемасики, пусть и местами брутальные.


        1. StjarnornasFred
          25.04.2017 10:11
          -1

          Иногда я открываю YouTube и ввожу запрос: «дтп в Китае видео». Ну и смотрю. Если за подобную «работу» мне будут платить 15 долларов в час — я готов трудоустраиваться хоть прямо сегодня! Психика крепкая, отвечаю, я ведь ещё и на Kaotic.com захожу, если хочу посмотреть на летающих синих китов…

          P.S. Никогда не превышайте скорость на мотоцикле. Очень прошу.


          1. dolbnya
            28.04.2017 18:50
            -1

            Иногда я, извините, открываю браузер в режиме инкогнито, вбиваю заветный адрес, достаю салфеточки, а через 15 минут закрываю браузер.
            Но если меня будут заставлять делать это 8 часов в день, 5 дней в неделю, то оно осточертеет и не будет приносить того удовольствия, которое приносило ранее. Даже при оплате $15 в час.
            Ничего не поделаешь, рутина превращает все что угодно в пытку.


        1. xakep2011
          25.04.2017 10:15

          Учитывая насколько сейчас распространён интернет и средства видеозаписи, поверьте, мемасиками там не ограничивается. Жести, настоящей и ни разу не постановочной, на полжизни вперёд хватит за неделю такой "работы". И за $20 не захочется работать


          1. Dageron
            25.04.2017 11:21
            -1

            Правда в том, что за окном жизнь куда эпичнее, чем самая эпичная жесть на youtube…


      1. KuMa1104
        25.04.2017 09:59
        -1

        По поводу вреда психологическому здоровью, он конечно есть, но мне кажется что через какое-то время перестаешь пропускать это через себя и так сильно реагировать.

        Например хирург в БСМП каждый день видит перед своими глазами очень много крови.
        Или врач психиатр который порой работает с очень страшными случаями.

        Вот и получается что для не подготовленного человека это огромный стресс, а для профессионалов просто работа.


        1. Hellsy22
          25.04.2017 19:25

          По поводу вреда психологическому здоровью, он конечно есть

          Миф о «вреде психологическому здоровью» культивируется обществом ради переноса ответственности. Стресс реален, но последствия стресса разнообразны и далеко не всегда ведут к дезадаптации.


        1. zartarn
          25.04.2017 20:36

          Есть проф дефиормации. Вы общались с патологоанатом? А когда он подвыпьет?


    1. Sadler
      25.04.2017 05:33
      -1

      USA minimum wage составляет около $10, так что да, почти минималка.


  1. AlexTest
    25.04.2017 01:50
    +2

    А этот «активист» — тот еще жучара:

    YouTube и Google… оказались в центре скандала из-за деятельности… Эрика Фейнберга ..., который поставил целью искоренить зло в интернете…. Благодаря активисту проблема вышла на уровень найиональных медиа
    По его мнению, компании Google… лучше купить лицензию у него.


  1. ClearAirTurbulence
    25.04.2017 03:38

    Все мы знаем, что бывает, если ИИ тренировать на злобе и насилии…


    1. Nekto_Habr
      25.04.2017 16:36

      ИИ выйдет на улицу с коктейлем молотова и будет насиловать людей?


  1. chapsam
    25.04.2017 09:18
    +1

    белковый персонал

    Эту статью написал искусственный интеллект?


  1. Laney1
    25.04.2017 09:26
    +1

    в переводе на русский язык: гугловское министерство правды открыло управление по борьбе с экстримизмом на youtube


  1. 5oclock
    25.04.2017 09:55

    Google активно набирает модераторов со знанием иностранных языков

    «Со знанием».
    Со знанием скорее всего недостаточно.
    Это должны быть носители. Причём с довольно широким кругозором.


    1. ClearAirTurbulence
      25.04.2017 17:45

      А то им не всё равно. Система модерации контента на youtube отличается той же адекватностью, что и ТП гугла, которая столь же упорота и недоступна, как и ТП paypal. При их размерах — им уже все равно, т.к. доля жалующихся растворяется в океане пользователей, и улучшать ничего не нужно.


  1. green_worm
    25.04.2017 10:51

    Ох ты ж какие нежные… Унизились за $15/ч работать. ))))
    Жесть (особенно для психики) — в детском раковом отделении.
    Поработать по 6 часов в день после основной работы просматривая видосики за 140 килорублей/мес… Где можно устроиться, даже на времянку? ))))


    1. Afinogen
      25.04.2017 15:08

      Очевидно, что на сайте указанном выше. Заодно потом и расскажите как это повлияло на Вашу психику и т.д.


      1. mazahakajay
        25.04.2017 19:07

        Замечательная получилась бы статья. Познавательная, по крайней мере.


  1. serafims
    25.04.2017 16:17

    Вот только что в головах у людей, которые связывают баннер BBC и ролик каких-то упырей?
    А ещечто-то мне подсказывает, что путь немного тупиковый бесконечно обучать машины за счет огромных толп людей, занятых такой вот «работой»…


    1. dolbnya
      28.04.2017 19:13
      -1

      Мозг может связывать эти сигналы подсознательно. Вот вам кажется, что на вас не влияет появление логотипа BBC и насилия одновременно, но потом вы можете намеренно пропускать соответствующий новостной канал, завидев логотип, потому что будете испытывать неприязнь.
      Мне кажется, как-то так работают приобретенные рефлексы, ну или мне в 8-ом классе что-то неверное объяснили.


  1. webkumo
    25.04.2017 17:06

    Сотрудники YouTube ищут ненависть на видео. ИИ наблюдает и учится

    Так вот чего СкайНет взбесился!


  1. Zidian
    25.04.2017 20:41

    Модераторы говорят, что они всякого уже насмотрелись: самоубийства и такая жестокость, после просмотра которой требуется передышка на несколько часов, чтобы прийти в себя.

    Нужно было как толока, на имиджбордах работников искать.


  1. Gryphon88
    26.04.2017 14:17

    Мне одному кажется, что это редкая глупость и полное доминирование буквы над духом?


  1. kissarat
    27.04.2017 15:00

    Сколько стоит политкорректность!


  1. master65
    28.04.2017 20:18

    И причем тут «Последнее королевство»?