Привет, меня зовут Янина. По основной работе я управляю проектами и продуктами, а по вечерам — преподаю разговорный английский на темы продуктовой разработки. Уже полгода я веду небольшой разговорный клуб, где мы с ребятами из IT (PM, PO, разработчики, дизайнеры, аналитики) обсуждаем реальные кейсы продуктовой разработки.

В качестве материалов для аудирования я часто использую подкасты, фильмы и новости. Это мои ключевые источники тем, лексики и инсайтов для созвонов. Я не просто слушаю их сама — я отбираю видео, которые потом превращаются в живые дискуссии и дают практическую пользу.

И сегодня делюсь саммари холливарного фильма о ресурсах для ИИ. Enjoy )

За каждым запросом к ChatGPT стоят миллионы невидимых людей — работающих на низко оплачиваемых рабочих местах из неблагополучных стран. Их труд тщательно скрывается из нарратива про успешность и эффективность ИИ-компаний.

Часть I. Миф об автономии

Когда мы говорим об искусственном интеллекте, мы воображаем системы, которые работают сами по себе — без участия человека. Siri, которая находит ресторан, Google Translate, мгновенно переводящий текст, беспилотный автомобиль, распознающий дорогу.

Но это миф, который тщательно пиарится.

«ИИ — это просто куча работы, куча ресурсов, куча труда, собранного вместе для получения результата. То, что большинство людей этого не знает, — вероятно, скрыто преднамеренно» — Милош Мишелли, социолог, институт VITAM.

Мишелли руководит исследовательской группой по этике алгоритмических систем. По его словам, концепция «автономного ИИ» — нарратив, созданный намеренно: чтобы скрыть от общественности колоссальный человеческий труд, который питает эти системы.

За каждой моделью стоит не просто инженер из Кремниевой долины. За ней — армия невидимых работников, которые размечают изображения, оценивают ответы ботов, фильтруют токсичный контент. Иногда — из тюремных камер.

Финская заключённая «Когда начинаешь работать, получаешь 3 евро. После двух месяцев работы — 4,62 евро в день. Я работаю с вопросами, которые касаются строительной отрасли: определяю, правильные ли ответы. Это не совсем моё, но лучших вариантов работы нет»

Часть II. 150–430 миллионов невидимых

Омар Рани, старший экономист Международной организации труда, фиксирует: число дата-воркеров в мире выросло экспоненциально. По оценке Всемирного банка — от 150 до 430 миллионов человек. Их дневной заработок на платформах вроде Mindrift — около 9 долларов за выполнение 12 задач.

Что конкретно делают эти люди? Арнаб Тас из Калькутты классифицирует изображения: определяет, что на снимке — активный пожар, туман или ясное небо; размечает дороги и пешеходные дорожки для обучения беспилотных автомобилей. Анна из Болгарии маркирует товары на полках супермаркетов. Их имена — не упомянуты в создании никаких продуктов.

«AI не может обойтись без дата-работы. Именно поэтому люди, которые работают с датасетами, незаменимы. Вы должны постоянно кормить модели» — Омар Рани, МОТ

Труд целенаправленно отдаётся на аутсорс в страны Глобального Юга — туда, где слабые общественные институты, высокая безработица и низкие зарплаты.

Что такое Глобальный Юг? Это развивающиеся страны с колониальным прошлым и структурным экономическим неравенством. В контексте индустрии ИИ это прежде всего Кения, Индия, Болгария, Венесуэла, Ливан — страны, куда намеренно выносится самая низкооплачиваемая и психологически опасная работа.

По словам Мишелли, это не случайность, а осознанная стратегия. ИИ-компании нацеливаются на отчаявшихся людей и никогда не платят достаточно, чтобы дать им возможность уйти. Дают достаточно, чтобы выжить сегодня, но не завтра.

Часть III. «Нас приносят в жертву»

Файн Макира из Кении работала контент-модератором в компании, связанной с OpenAI. Через неё и её коллег прокачивался исключительно токсичный контент — по некоторым оценкам, 99,9% материала было откровенно опасным. От словесного насилия до материалов сексуальной эксплуатации детей.

Файн Макира, бывший контент-модератор «У меня начались ночные кошмары — особенно после просмотра убийств или изнасилований, особенно когда жертвами были дети. Я перестала выходить на улицу. Развилась тревожность. Потом депрессия»

Технически это объяснимо: чтобы ИИ научился не имитировать насилие, насилие ему нужно показать и разметить. Кто-то должен это смотреть.

«Они знают, что нам дают. Они знают эффект этого контента на психику. Нас приносят в жертву, потому что мы помогаем создавать эту программу, а по телевизору мы видим, что эта программа принадлежит компании, у которой миллиарды. А мы что с этого имеем?» — Дата-воркер из Кении

Компании активно подавляют любые попытки работников объединиться. Работников заставляют подписывать NDA — с угрозой тюрьмы сроком более 10 лет за разглашение. Профсоюзная деятельность де-факто запрещена. Во время съёмок фильма один из калифорнийских ИИ-гигантов оказал давление на свидетелей, вынудив их молчать и не принимать участие в съемке фильма.

Часть IV. Лонгтермизм как моральное алиби

Почему СPO из Кремниевой долины позволяют себе игнорировать страдания реальных людей? Философ Эмиль Торрес предлагает ответ: идеология лонгтермизма.

Лонгтермизм — взгляд, согласно которому главная задача человечества состоит в создании как можно большей мультигалактической цивилизации в далёком будущем. В эту картину вписываются трансгуманизм и сингулярианизм. Эти течения объединены аббревиатурой TESCREAL. Маск называл лонгтермизм близким к своей личной философии.

«Утопический аспект лонгтермизма позволяет людям морально оправдывать перед собой эксплуатацию людей из неблагополучных стран. Именно поэтому эта идеология так опасна» — Д-р Эмиль Торрес, философ

Логика проста: если страдания людей из неблагополучных стран — «молекула в капле в океане» по сравнению с неисчислимым благом для триллионов людей в далёком будущем, то ими можно пренебречь. Кремниевая долина строит рай — но вход туда открыт не для всех, даже причастных.

Часть V. Невидимая инфраструктура

Помимо человеческих издержек, ИИ пожирает природные ресурсы в промышленных масштабах: медь, золото, кобальт, никель, литий, вольфрам, редкоземельные металлы — всё это извлекается из недр земли для производства чипов и серверов.

Анна Вальдивия из Оксфордского института указывает, что связь между добычей ресурсов и ИИ намеренно замутнена. Образ «облака» в нашем ноутбуке не вызывает ассоциаций с огромным складом серверов, потребляющим тысячи мегаватт и миллиарды литров воды.

«Если бы у вас была информация о том, сколько воды уходит на добычу минералов, производство чипов и охлаждение дата-центров — вы бы задались вопросом: а нужна ли нам эта технология в условиях климатической катастрофы?» — Анна Вальдивия, Oxford Internet Institute (исследовательское подразделение Оксфордского университета).

Послесловие. Кто заплатит следующим?

В начале фильма звучат обещания: ИИ победит рак, остановит климатический кризис, создаст 100 миллиардов «работников, готовых трудиться бесплатно». В конце те же слова звучат совсем иначе.

У технологических компаний достаточно ресурсов, чтобы платить своим работникам нормально. Но они выбирают не платить — потому что уверены, что люди недостаточно информированы, чтобы понять, что происходит.

«Стоит ли почти бесплатный труд этих работников большего блага для человечества — я бы спросил самих работников, что они об этом думают» — Джеймс Малдун, Университет Эссекса.