18 сентября 2017 года по 4-му каналу ТВ Британии прошла новость с заголовком «На Amazon „часто покупают вместе“ ингредиенты для смертельно опасных бомб».



Новость утверждала, что «пользователям, ищущим распространённый химикат, используемый в производстве еды, предлагают ингредиенты, подходящие для производства взрывчатого чёрного пороха» на сайте Amazon, и что «стальные шарики для подшипников, часто используемые в качестве шрапнели», также рекламируются на этой странице в качестве вещей, которые пользователи часто покупают вместе.

«Распространённый химикат» в репортаже 4-го канала – это нитрат калия (калийная селитра), используемый для маринования мяса. Если вы закажете на Amazon полукилограммовый мешок этого вещества, среди предлагаемых дополнительно к покупке товаров вы увидите серу и уголь, два других ингредиента пороха (в отличие от 4-го канала мне не сложно раскрыть секрет этой технологии возрастом 1000 лет).



Подтекст новости ясен: алгоритмы рекомендаций с сайта делают из людей, любящих готовить еду дома, радикалов, способных отказаться от изготовления солонины в пользу производства бомб со шрапнелью. Что ещё страшнее, судя по всему, эти запчасти для бомб в магазине покупает достаточно людей для того, чтобы алгоритм выявил корреляцию и начал давать свои мрачные советы.

Правда, если немного поискать, выясняется, что всё, что раскрыл 4-й канал – это сообщество любителей хобби, самостоятельно, безопасно и легально изготавливающих чёрный порох для использования в фейерверках, моделях ракет, реплик древнего оружия или корчевания пней.

В Британии изготавливать и хранить чёрный порох законно. Есть ограничения на объёмы хранения (100 грамм), но поскольку чёрный порох легко изготовить из дешёвых ингредиентов, тяжело зажечь случайно, и он практически не токсичен, его часто выбирают начинающие любители хобби. Вам понадобится только шаровая мельница (гранулятор) – вращающийся барабан с шариками для подшипников внутри, смешивающий порошки и производящий гранулы одного размера.

Всё это привело к потрясающему утверждению, сделанному 4-м каналом, что вместе с серой и углём алгоритм Amazon предлагает детонаторы, провода и «стальные шарики для подшипников, часто используемые в качестве шрапнели в бомбах».

Стальные шарики для подшипников, рекомендуемые Amazon, очевидно предназначаются для гранулятора. Алгоритм распознаёт тот факт, что людям, покупающим ингредиенты для чёрного пороха, нужно изготовить гранулы. Это не более шокирующее, чем предложение купить в довесок к перцу мельницу для специй.

То, что эти шарики продают для изготовления шрапнели – это фантазия журналиста. Немыслимо, чтобы на Amazon продавалось так много оборудования для создания бомб, чтобы алгоритм начал проводить соответствующие рекомендации.

Далее на канале рассказали, что людям, ищущим «другой общедоступный химикат» предлагают ингредиенты для термитной смеси, состоящей из порошков металлов, которая при поджоге «запускает опасную реакцию, используемую в зажигательных бомбах, а также при резке металла».

В этом случае «общедоступный химикат» – магниевая лента. Если поискать такую ленту на Amazon, сайт предложит вам купить ещё оксид железа (ржавчину) и алюминиевый порошок, а смешав их вместе, вы сможете создать потрясающий фейерверк – термитную реакцию.



Эту реакцию показывают на любом уроке химии в старших классах, как развлечение в награду учащимся, которым пришлось мучиться с изучением реакций окисления-восстановления. Смешайте ржавчину и порошковый алюминий в тигеле, подожгите её магниевой лентой и наблюдайте джет пламени, оставляющий за собой немного расплавленного железа. Смешанные порошки металла тяжело поджечь (для этого и нужна магниевая лента), но когда вы запустили реакцию, горят они яростно.

Основное потребительское использование термитной смеси – лабораторные демонстрации и развлекательная химия. Что важно, термитная смесь не взрывается.

Так что 4-й канал обнаружил тот факт, что любители фейерверков и учителя химии закупаются на Amazon. Но сплетя из этих невинных наблюдений взрывной репортаж о терроризме, они гарантировали, что эта новость привлечёт максимум внимания.

История «Amazon учит, как делать бомбы» предсказуемо расползлась по интернету.



Во всех этих статьях отсутствует чувство меры или реализм. В какой вселенной невинного человека, покупающего мешочек обычной серы, превращают в радикала, изготавливающего импровизированную пороховую бомбу, начинённую шрапнелью, при помощи сервиса рекомендаций?

Уж не считает ли 4-й канал, что инструкции по изготовлению взрывчатки так сложно найти в интернете, что люди опускаются до покупки химикатов наобум, чтобы узнать секреты пороха?

Как сильно Amazon должна заботиться о рекомендациях, даваемых сайтом? К примеру, на странице с предложением о покупке аммиака есть рекомендации для покупки вместе с ним концентрированного отбеливателя. Аммиак с отбеливателем реагируют с выделением смертельного газа, и этих веществ можно купить на Amazon в неограниченном количестве. Значит ли это, что Amazon пытается убедить клиентов травить людей хлорамином?



И, наконец, сколько людей, по мнению 4-го канала, покупает бомбы через интернет? Чтобы рекомендационный алгоритм предлагал купить шрапнель покупателям серы, для этого необходимо, чтобы тысячи или десятки тысяч людей покупали эти предметы одновременно, совмещая их в одной корзине. И где все эти террористы с бомбами из чёрного пороха? И будет ли такой террорист использовать онлайн-магазин, где раскрывается его личность?

Более взвешенный журналист уточнил бы, что чёрный порох, как медленно горящее вещество, не является наилучшим материалом для бомб. Другие комбинации сделать так же легко, а взрываются они куда как сильнее.

Бомба, взорвавшаяся в федеральном здании Оклахомы, допустим, была сделана из смеси сельскохозяйственного удобрения и гоночного топлива. Террористы, недавно организовавшие взрывы в Лондоне, выбрали для самостоятельного изготовления состав под названием TATP, или пероксид ацетона, которое с лёгкостью можно синтезировать из ацетона, доступного промышленного растворителя.

Террористам, реально использующие чёрный порох, проще наковырять его из коммерчески доступных фейерверков – именно так бостонский террорист получил взрывчатку для своего устройства. Эти вещества покупают в онлайне (что очень легко отследить) а затем тщательно гранулируют порох с нуля только безвредные люди, увлекающиеся мушкетами и ракетами – и им теперь грозят дополнительные придирки.

Низкопробность этой истории не помешала ей распространиться на манер сорняка в другие медиа, набираясь по пути дополнительных ошибок. The New York Times опускает заявление по поводу шрапнели, но совершенно неверно описывает термитную смесь, как «два порошка, взрывающиеся после смешивания их в нужных пропорциях и поджигания» (термитная смесь не взрывается).

Vice повторяет необоснованные заявления 4-го канала по поводу «шрапнели», а также подразумевает, что термитная смесь взрывается: «компоненты, используемые для создания термитной смеси, используемой в зажигательных бомбах, объединяли со стальными шариками для подшипников (самодельная шрапнель)».

The Independent вообще запуталась и сообщает, что «если пользователи кликают на ссылке „термитная смесь“, пиротехнической смеси металлических порошков, то сайт показывает им ссылки на два других товара». А ещё они добавили в URL статьи слова «мать Сатаны», вероятно, чтобы повысить рейтинг статьи в поисковиках, связав её с взрывчатым веществом TATP, не имеющим отношения к материалу.

Slate повторяет слова 4-го канала о том, что Amazon склоняет «пользователей к покупке шариков для подшипников, которые можно использовать в качестве шрапнели в самодельных бомбах».

Только скептический канал BBC позаботился о консультации с экспертами, справедливо заметившими, что для оказания влияния на алгоритм рекомендаций было необходимо, чтобы эти товары покупали большое количество людей.

Когда я связался с автором одной из этих статей, чтобы выразить свою озабоченность, мне пояснили, что статью написали утром в режиме дедлайна, и что они к тому времени уже работали над другим, не связанным с этим, материалом. Автор процитировал освещение этого события из других СМИ (включая New York Times), оправдывая перепечатку и отсутствие исправлений заявлений, сделанных в изначальном репортаже 4-го канала.

Реальная история во всей этой неразберихе состоит не в том, что алгоритмы угрожают покупателям на Amazon, а в том, что алгоритмы угрожают журналистике. Заставляя репортёров оптимизировать все истории для повышения кликабельности, не давая им времени проверить или увязать материал с реальной обстановкой, требуя от них участия в гонке за публикацией статей по всем темам, экономика онлайн-СМИ, завязанная на кликбейты, поощряет недобросовестность и драматизм. Особенно часто это проявляется в технологических темах, находящихся вне компетенции журналиста.

У журналистов не остаётся другого выбора, кроме как гнаться за кликами. Google и Facebook создали дуополию на онлайн-рекламу, и единственным мерилом успеха в издательском деле будет, стала ли история вирусной в СМИ. Авторов оценивают по успехам их онлайн-статей, и постоянно заставляют делать их более привлекающими внимание. Материалы по сложным техническим темам отдают молодым фрилансерам, работающим по строгому графику. Исправления, если они вообще делаются, вставляются в статью по-тихому, в стиле «ниндзя-редактирования».

За ошибки никаких наказаний не предусмотрено, зато существует необходимость оформлять истории для максимизации количества просмотров. После того, как историю подхватывают конкурирующие СМИ, избавиться от неё становится невозможно. Само количество повторных освещений истории придаёт ей легитимности. Как гласит старая поговорка, ложь проходит полмира, пока правда только обувается.

Ранее в этом году, когда Guardian опубликовала такую же невежественную, и более вредную, статью про популярный безопасный мессенджер, у группы экспертов по безопасности ушло шесть месяцев на то, чтобы убедить и пристыдить сайт достаточно, чтобы издание поменяло статью. А Guardian – престижное издание, с независимым публичным редактором (отвечающим за журналистскую этику). Не каждую историю будут так тщательно изучать, и не каждая привлечёт такое внимание, как это вышло с журналом Teen Vogue.

Те самые системы машинного обучения, которые 4-й канал пытался обличить, разъедают способность онлайн-журналистики хорошо выполнять свою задачу.

Подобные моралистические паники не только вредят владельцам мушкетов и ракетчикам-моделистам. Они отвлекают и дискредитируют журналистов, мешая им выполнять основную функцию контроля за властью.

Реальная история машинного обучения состоит не в том, как оно поощряет изготовление самодельных бомб, а в том, что его масштабно применяют без должного этического надзора, для использования в бизнес-моделях, основанных только на психологической манипуляции и массовой слежке. Способность манипулировать людьми в крупных масштабах продаётся тому, кто больше заплатит, и отравляет каждый аспект гражданской жизни, включая и демократические выборы, и журнализм.

Совместно с изменением климата это алгоритмическое завоевание общественной сферы – и есть крупнейший инфоповод начала XXI века. Мы отчаянно нуждаемся в журналистах, освещающих этот вопрос. Но чем больше их профессиональное выживание становится зависимым от онлайн-публикаций, тем меньше у них возможностей заниматься подобными репортажами — если они вообще ещё остались.