Прошло всего несколько месяцев после скандала с «фальшивыми новостями», которые распространялись через Facebook и якобы помогли в избрании нового президента-популиста США. В распространении этих новостей обвиняли Facebook и Google News. Мол, они не проверяли источники новостей и выводили самые популярные заголовки на верхние строчки в ленте. Facebook пришлось срочно вносить изменения в алгоритм формирования ленты новостей. Похоже, этот алгоритм настолько сложный, что никто уже не понимает чётко, какие новости он будет выбирать (индивидуально для каждого читателя).
Сейчас Facebook опять обвиняют в «преступной халатности». На этот раз поводом стало поведение американского гражданина, который решил по какой-то причине убить случайного человека на улице. Он снял на телефон, как подходит и стреляет в него, а затем загрузил видео на Facebook. Там оно 2 часа 7 минут было доступно для просмотра всеми желающими. Один из последующих постов с копией видео набрал более 1,6 миллиона просмотров. Facebook подвергся знатной обструкции, а журналисты поднимают вопрос об ответственности крупнейшей в мире социальной сети за то, какую информацию она помогает распространять. Вопрос в том, насколько жестокой и эффективной может быть цензура?
Преступление совершил 37-летний Стив Стивенс (Steve Stephens) из Кливленда. Изначально полиция сообщала, что мужчина вёл трансляцию на Facebook в прямом эфире, но позже уточнила, что запись была сделана предварительно в тот же день, а уже потом загружена на сайт прямых трансляций Facebook Live. Впрочем, суть претензий это не меняет. Комментаторы в СМИ и соцсетях тут же скатились в моральную панику и начали задавать вопрос: какую ответственность несёт Facebook?
Комментаторы обращают внимание, что проблема несанкционированной трансляции экстремального насилия в прямом эфире возникала и раньше. Например, в 1974 году американская телеведущая Кристин Чаббак совершила самоубийство в прямом эфире во время телевизионной трансляции на канале ABC. 15 июля 1974 года она вела криминальную хронику, но на восьмой минуте передачи случилась накладка: анонсированный сюжет о стрельбе в ресторане не смогли показать по техническим причинам. Тогда Кристин произнесла: «Поддерживая проводимую „Каналом 40“ политику демонстрации самой свежей крови и кишок в прямом эфире в полном цвете, вы станете первыми телезрителями, которым будет продемонстрирована попытка суицида в прямом эфире». Сказав это, телеведущая достала револьвер, приставила его к голове и нажала на спусковой крючок. Согласно её сценарию передачи, она должна была совершить самоубийство в конце программы, но из-за технической накладки ведущая решила опередить события.
Разумеется, телеканал никогда не повторял эту запись — и увидеть её в прямом эфире смогло не такое большое количество телезрителей. Уж наверняка меньше, чем эти 1,6 миллиона человек сейчас в социальной сети.
Руководство Facebook cреагировало настолько быстро, насколько смогло. Видеоролик удалили, а затем компания опубликовала официальное заявление: «Это ужасное преступление, и мы не допускаем такого типа контента, — сказано в заявлении. — Мы усиленно работаем, чтобы сохранить на Facebook безопасную среду и поддерживаем контакт с правоохранительными органами в экстренных случаях, когда имеются прямые угрозы физической безопасности».
Возникает вопрос: что ещё можно ожидать от Facebook? Предварительной модерации всех публикуемых видеороликов? Внедрения нейросети с распознаванием стрельбы и изображения пистолета в кадре? Пока что это малореально выкатить в продакшне, такие технологии испытывают на уровне научных экспериментов.
Компания не может волшебным образом запретить людям публиковать видеоролики или запретить совершать преступления. Хотя кое-что можно сделать, конечно. Например, автоматически блокировать попытки повторной загрузки этого видеоролика другими пользователями после того, как удалили оригинал. Это действительно вполне реально.
В данный момент Facebook, как и многие другие сайты, полагаются на краудсорсинг — что кто-то пометит видеоролик как несоответствующий правилам сайта. Он поступит на рассмотрение модераторам — и те заблокируют его. Но эта система по умолчанию предполагает, что кому-то придётся посмотреть на это видео, прежде чем его заблокируют. В этом случае Facebook получил сообщение о видеоролике с убийством через 1 час 45 минут после публикации, а ещё через 23 минуты аккаунт заблокировали.
Уже многократно говорилось, что в условиях открытого информационного общества в Интернете невозможно препятствовать свободному распространению информации — это противоречит самой природе Всемирной сети. Это как попытаться остановить распространение газа, который попал в атмосферу. До того как видеоролик удалили с Facebook — он уже разошёлся сотнями копий по всем уголкам Интернета. Пасту невозможно запихнуть обратно в тюбик, а доступ к бесчисленному количеству копий этих видеороликов невозможно заблокировать. Их нельзя удалить из Интернета, они там останутся навсегда.
Даже если Facebook и прочие внедрят фантастическую систему ИИ для автоматического распознавания и блокирования видео в прямом эфире, эту цензуру всегда можно будет обойти: изменять звук выстрела, маскировать пистолет в кадре и т.д. Здесь ничего не поделаешь, с этим остаётся только смириться, то есть бороться по старинке — наказывать за преступления постфактум, а не пытаться волшебным образом их предотвратить.
С тех пор как Facebook запустил сервис прямых видеотрансляций чуть меньше года назад, его неоднократно использовали для трансляции полицейских перестрелок, изнасилований, пыток, избиений и большого количества самоубийств. Но именно спланированное убийство, кажется, сейчас транслировалось впервые.
Комментарии (60)
Hidralisk
18.04.2017 16:57+5«Это ужасное преступление, и мы не допускаем такого типа контента, — сказано в заявлении.
Я в каждый третий художественный фильм пальцем ткну и там то внутренности выворачивают, то безнопилами режут, насилуют, трупов вокруг тысячи, люди в зомби превращаются и едят друг друга, а тут тип снял убийство и фейсбук в шоке.
ShamanR
18.04.2017 17:00+1Ну, честности ради, в шоке не Фейсбук а его пользователи. Фейсбуку то все-равно, пока его не штрафуют за это.
Ugrum
18.04.2017 17:05+1Я в каждый третий художественный фильм пальцем ткну и там то внутренности выворачивают, то безнопилами режут, насилуют, трупов вокруг тысячи, люди в зомби превращаются и едят друг друга
Это вы ещё новости и ток-шоу на федеральных каналах не смотрели.
AlexTest
18.04.2017 22:42Да действительно — вполне заурядное происшествие на фоне общей статистики убийств. Самое смешное, что благодаря начавшемуся мощному бурлению Стив добился того, чего хотел — славы. Человекам давно уже пора понять — чтобы не стимулировать следующих маньяков/экстремистов/террористов к совершению очередного кровавого трешака для получения своей «минуты славы» в истеричных СМИ — надо просто затыкать такие СМИ и запрещать им прославлять подобных уродов.
jaguarrus
19.04.2017 07:26+1При такой модели поведения ваш каммент должен быть удалён.
Предполагая как это будет работать в реальности — вместе с вами.
Gryphon88
19.04.2017 12:45И тогда по всей Греции поскакали гонцы, кричавшие: «Вы должны забыть безумного Герострата, сжегшего храм Артемиды!» И если любого древнего грека разбудить посреди ночи и спросить «Кого ты должен забыть?, он бы ответил: «Безумного Герострата»
Quanzi
18.04.2017 17:05Как там было, «люди получают ту власть, которой они достойны»? Вот как-то так и выходит.
tmin10
18.04.2017 17:13+5Недалёкое будущее: Facebook внедряет ИИ, которое просматривает вообще весь пользовательский контент, оно самообучается на просмотренном и делает логичный вывод, что люди любят убивать друг друга. А чтобы не было контента, не отвечающего правилам, уничтожает всё человечество.
old_bear
18.04.2017 18:01+3Человечество, как группа (речь безусловно не идёт о присутствующих здесь уважаемых леди и джентльменах), больше всего напоминает весьма банальную обезьяну с гранатой технологий в руке. При это 99% средств идут на увеличение мощности гранаты, а ещё 1% для очистки совести тратится на совершенствование предохранителя к этой гранате. Но почему-то никто не пытается воспитать из обезьяны что-то более разумное.
Так что итог вполне предсказуем, есть только небольшая неопределённость по поводу времени наступления этого белого и пушистого итога.goodbear
18.04.2017 19:08А кто сказал, что обезьяна хочет перестать быть обезьяной? Люди любят побалоболить о высоких целях, на практике подавляющее большинство не согласно поднять попу с дивана, что бы сдвинуть что-то в нужную сторону. Хотя бы себя. А если и сделают вид что двигают, то только для вида, типа часа земли или с плакатами потусоваться часок.
И, если прийти к ним, и предложить тут и там ужаться и ограничиться ради светлого будущего, то просто будешь послан.
P.S.
Да что говорить — сотни лет миллионы людей из кожи вон лезут пытаясь показать как они «in god we trust» на деле нарушая большую часть пунктов из основы своей религии.jaguarrus
19.04.2017 07:33Обязательно надо ужиматься и ограничиваться?
Вы хотите не развить обезьяну, а упаковать её в смирительную рубашку.
Непременно делегировав себе исключительное право упаковывать.
«Вы» здесь употребил в широком смысле.goodbear
19.04.2017 12:18Лично я совершенно точно не собираюсь этого делать. Но, очевидно, что без самоограничений обойтись нельзя. Все цивилизованное общество построено на сомоограничениях, когда каждый гражданин исходя из соображений целесообразности не делает всякую фигню, вроде почи чужого и общественного имущества, расточительного использования ресурсов, теребления нервов сограждан и тому подобного.
Про исключительное право — вообще ваши выдумки, такого в моем посте не было.jaguarrus
19.04.2017 13:21Так самоограничения это не то что кто-то придёт и прикажет — ограничься, я лучше знаю как тебе жить.
И я специально написал что «вы» это не лично к вам относится, а в целом к наносящим добро и причиняющим пользу.goodbear
20.04.2017 10:47Да, но что-бы кто-то начал самоограничиваться, если он этог не делает, то надо что бы кто-то ему об этом сказал. Особенно в массовом масштабе. Сами по себе люди до этого могут поколениями дозревать-дозревать да и не дозреть.
jaguarrus
20.04.2017 14:12Так надо говорить, а не приказывать.
Своим примером, для начала.goodbear
21.04.2017 01:28Что-то не смотрит ни кто… :(
Noeren
21.04.2017 08:45Ну то есть цензура плохо и «Лично я совершенно точно не собираюсь этого делать.», но вообще надо бы цензуру, а то эти обезьяны…
goodbear
21.04.2017 10:28Откуда вы это вычитали?
Noeren
21.04.2017 12:25Из вышенаписанного.
goodbear
21.04.2017 16:46Ну, может, быть, только это были не мои посты.
bano-notit
21.04.2017 21:29У меня такое же впечатление сложилось, что и у Noeren…
Может я что-то не хорошо читаю, но лично для себя я понял, что либо нужно ограничить свободу, и тогда приближаемся к 1984, либо полностью освободить всё, тогда потихоньку приближаемся к анархии и, соответственно, к совершенно другой жизни.
Проблема в том, что 1984 становится всё ближе и ближе, потому что все думают, что нужно себя ограничивать и ограничивать, и тогда может быть будет хорошо. Вот только есть люди, например, я, которые не хотят ограничиваться, а хотят свободы информации, и если есть и те, и другие, то мы так и будем сидеть на том на чём сидим, ибо нужно сильно сильно перевесить эту чашу весов людьми… А люди сейчасашние не хотят об этом думать. Им бы фоточки с лягушками читать, да фотографироваться с фильтрами…
Так что 1984 не близко, как и мечта анархистов… Может к сожалению, а может к счастью, но не в ближайшие 30 лет.goodbear
22.04.2017 20:33+1Вы мои слова понимаете с точностью наоборот.
Я за образование людей, с целью превращения их из обезьян в культурных индивидуумов, способных самих себя ограничить в плане поведения и потребления ресурсов. Путь ограничения доступа к информации — путь в никуда, так как не решит исходной проблемы с идиотскими целями и необузданными желаниями некоторых.
Люди сами должны хотеть быть людьми и жить по-людски. Но я прекрасно понимаю, что это все идеализм и так все равно не будет. В мире коммерцеских интересов, информация — товар, а значит свободной быть не может по определению.
Миром правят деньги. И, мне кажется, что будущее человечества, если все пойдет как идет — будущее корпораций и сект. Так как большинство предоставляет прерогативу думать за себя — другим людям, чем полностью обесценивает демократию.
Eklykti
20.04.2017 20:57Вот ты самоограничился и не стал использовать некий ресурс, показавшийся тебе недостаточным. А исламист — не самоограничился, убил тебя и забрал твой ресурс. И кто после этого прав?
Revertis
18.04.2017 19:32+1К сожалению, эволюционно получилось так, что мозг тратит слишком много энергии, и при этом постоянно старается «сбрасывать частоты», чтобы экономить энергию.
Меня это тоже очень бесит, но напрягать мозг для многих очень непривычно, и они этого не делают.
почему-то никто не пытается воспитать из обезьяны что-то более разумное
Увы, нельзя научить кого-то, кто не хочет быть наученным :-/old_bear
18.04.2017 19:45+1IMHO, работать с детьми — единственный шанс. Но это надо делать весьма самоотверженно и годами.
Хотя всяко реалистичнее, чем пытаться на Марс свалить в надежде что граната не на двух планетах разом рванёт.
engine9
18.04.2017 23:14+1Всецело поддерживаю этого господина. Пока что детей пичкают просто терабайтами сцен насилия из фильмов и игр, попутно всячески стимулируя эгоцентризм и нарциссизм. Как со стороны родителей (будем любить если ты будешь показывать высокие результаты) так и со стороны медиа. Начиная от игр, заканчивая новостями и боевиками.
Только вот не говорите что романтизация образа брутального дерзкого социопата и преступника не провоцирует малолетних долбодятлов на геройства.Noeren
19.04.2017 05:04Только вот не говорите что романтизация образа брутального дерзкого социопата и преступника не провоцирует малолетних долбодятлов на геройства.
Это легко можно проверить, пронаблюдав за скачками «геройств» малолетних долбодятлов после выхода какой-нибудь там очередной GTA, не так ли?
Noeren
19.04.2017 05:19+2Но вообще да, безусловно, надо бы это всё позапрещать. А то мало ли чего там дети могут в этих ваших интернетах и фильмах насмотреться. Наркотиков например или экстремизма. Или, не дай Бог, как люди трахаются!
А для надежности лучше ещё и книги позапрещать! А то начитаются своих Гаррисонов со своими Стальными Крысами и банки грабят по всей стране!
А для надежности лучше и от образования отказаться. А то рассказывают детям всякие страсти-мардасти про то, как люди раньше убивали друг друга, воспитывают понимаишь социопатов и преступников! А на химии и физике что? Учат бомбы же готовить! Физкультура? Тренировки экстремистов! Математика? Так они деньги считать научатся, так потом жалуются на митинги ходят, экономикой недовольные, засланцы проплаченные! Ну а про информатику и говорить не приходится, компуктеры эти вообще от лукавого.
Лучше церквушек подстроить. Чтоб молодёжь духовно крепчала. И скрепы.engine9
19.04.2017 11:16А я и не утверждал подобного, вы прыгаете из одной бессмысленной крайности в другую. Обильно пичкая текст собственными домыслами. Чувствуется серьезный стаж холиварщика.
Noeren
19.04.2017 13:39Чувствуется серьезный стаж холиварщика.
О, ну что вы, не стоит…
А по сабжу, вот эта ваша фраза:
Только вот не говорите что романтизация образа брутального дерзкого социопата и преступника не провоцирует малолетних долбодятлов на геройства.
… ведёт на скользкую вышеописанную дорожку. По факту малолетние долбодятлы всегда геройствуют. Так было и раньше, как вы несомненно знаете. Как говорится, все мы в юношестве революционеры, а в старости консерваторы. Поэтому обвешивать ярлыками культуру современности это не лучший способ работы с детьми и развития критического восприятия.
DracoL1ch
19.04.2017 09:51С детства обожал Doom, Quake. Затем пересел на Serious Sam, GTA и т.д. Никаких девиаций и жестокости не замечаю. Может, дело таки в воспитании и окружении, а не в играх? Не думаю, что классические гопники на улицах хотя бы имели компьютер в детстве. И неважно, что там кого романтизирует — если есть голова на плечах, к которой родители/окружение выдали инструкцию вовремя, проблем возникнуть не должно. Иначе можно даже газеты не читать, особенно до полудня.
engine9
19.04.2017 12:43+1Если вы внимательно прочитаете сообщение, я как раз сделал акцент и на родительском воспитании и на влиянии медиа. А не только на играх.
dimm_ddr
19.04.2017 14:07Я так полагаю, что вам пытаются сказать что игры вы тут вообще зря упомянули, независимо от того на чем был акцент.
Gryphon88
18.04.2017 18:54+1А в чем конкретно обвиняют мордокнигу? Я имею в виду не моральную, а формальную/юридическую сторону.
xkcd на тему
Gryphon88
18.04.2017 22:59+1Почитал првила и соглашения на фейсбуке. Классика: пользователь при регистрации обязуется не размещать материалы со сценами совершения преступлений, администрация оставляет за собой право удалять материалы, не соответствующие нормам фейсбука (называются «нормы сообщества»), плюс стандартный отказ от ответственности за материалы пользователей. Если пользователь увидел материалы, которые содержат сцены насилия и/или указывают, что кто-то находится в опасности, он может сообщить администрации и позвонить 911, ссылаяся на эти материалы. Администрация не оговаривает сроки, которые потребуются на удаление материалов, не соответствующих нормам.
Я не знаю американского законодательства, но вроде фейсбук ни в чем не виноват, а хайп очень похож на «по просьбам трудящихся».
stalinets
18.04.2017 20:30В соцсетях же есть стандартные инструменты — жалоба на пост/контент. Если контент шокирующий, многие нажмут кнопку жалобы. А дальше может или робот удалить, или модератор. Вот и способ борьбы, проблемы не вижу.
Bbl1
19.04.2017 10:48-6Многие благородные борцы с цензурой, рвущие тут жопу за «свободное распространение информации!!! Все всегда всем везде!!!» сильно поменяли бы своё мнение, если б их ребёнок лет 5-7 посмотрел подобный ролик. Минусуйте, «ограничивайте своё право не видеть комментарии, которые вам не нравятся».
msts2017
19.04.2017 10:55+1а с чего вы решили что они поменяли бы?, по сравнению с ужастиками 80х это ни о чем.
ivanovlev
19.04.2017 10:57+2Ребенок 5-7 лет еще не умеет регистрироваться в сложных системах и вообще слабо представляет, что такое соцсети в принципе. Вся его соцсеть — песочница во дворе.
sets
19.04.2017 11:07+3Если ребенок посмотрел что-то, что по мнению его родителей он смотреть не должен, то кроме тех же родителей тут виноватых нет. Ну разве что в школе заставили посмотреть.
Eklykti
19.04.2017 16:56если б их ребёнок лет 5-7 посмотрел подобный ролик
Какой ужас, ребёнок узнал, что в мире есть мудаки! Срочно запретить, пусть будет уверен, что кругом все белые и пушистые и какают бабочками!
Bbl1
20.04.2017 20:51-4Ну покажите ребёнку 5 лет как кому-то бошку режут, пусть узнает, что есть в мире мудаки. Потом получите, ну то такое.
А вы, борцы блядь цензурой, в своей песочнице здесь занимаетесь именно цензурой, как свора шакалов, превратили интересный ресурс в огороженные хуй знает что, где борцы с цензурой цензурируют, да, именно с этой сраной системой рейтинга и кармы — именно цензурируют пользователей. Да как хотите обзовите, кармой, хуярмой — это цензура! И позволяете себе тявкать про цензуру??? Куча молодых долбоебов, которые знают все, от того как обустроить Россию до воспитания ребёнка — занимаетесь ЦЕНЗУРИРОВАНИЕМ! У некоторых юношеский максимализм в каждом сообщении.
И да, я этот, и Ольгинской тролль, и все проплачено, и вообще не прав.
Налетай!
kroketmonster
19.04.2017 11:32-2Блин, там ЧЕЛОВЕК убил ЧЕЛОВЕКА, а их больше волнует цензура фейсбука. Им вот не страшно что завтра такой поехавший Стивен решит пострелять в них, может стоит поднять вопрос о регулировании выдачи лицензий на ношение оружия?
jaguarrus
19.04.2017 11:52+1Убил-бы, но цензуру не прошёл, жертва воскресла бы?
Если б он кирпичём — лицензию на кирпичи ввести?
Шансы что убьют меня или вас — как встратить динозавра на улице, ага.
Чтож теперь на улицу не выходить?
alizar
19.04.2017 12:00+2>поднять вопрос о регулировании выдачи лицензий на ношение оружия?
Это может усугубить ситуацию, потому что люди тогда не смогут защититься от психа с оружием. Например, в России уровень убийств на 100 тыс. населения в два раза выше, чем в США.
GermanRLI
19.04.2017 12:35+1Если бы убийца забил жертву шлангом от пылесоса — надо ограничивать право на ношение шлангов или продажу пылесосов?
Idot
19.04.2017 12:36+3Ну так для моралофагов и цензоров убийство — это ДОЛГОЖДАННЫЙ ПОВОД, которого они так долго ждали. Они все — РАДЫ УБИЙСТВУ, и на убитых им насрать, просто для них это радость от того, что они теперь могут требовать ВВЕСТИ ЦЕНЗУРУ!
dimm_ddr
19.04.2017 14:12Даже если Facebook и прочие внедрят фантастическую систему ИИ для автоматического распознавания и блокирования видео в прямом эфире, эту цензуру всегда можно будет обойти: изменять звук выстрела, маскировать пистолет в кадре и т.д. Здесь ничего не поделаешь, с этим остаётся только смириться, то есть бороться по старинке — наказывать за преступления постфактум, а не пытаться волшебным образом их предотвратить.
То, что цензура контента принципиально может предотвратить преступление вообще до сих пор не доказано вроде бы, нет? Из этого же следует и другой вывод: провал попыток полностью предотвратить появление "плохого" контента никак не говорит о провале идеи предотвращения преступлений вместо их расследования (кстати почему вместо? Лучше вообще совмещать)
alizar
19.04.2017 14:33Тут под «преступлением» имеется в виду публикация видео. Прошу прощения, что неясно выразился.
dimm_ddr
19.04.2017 15:30Да я даже больше не к форме придираюсь, а продолжаю обсуждение в плане того, что у цензуры очевидные недостатки есть, а вот польза для общества — непонятна.
Ну а не очень однозначный абзац это так, между делом зацепилось.
Aversis
19.04.2017 15:36Кто рядом, передайте новым «Геростратам» и подобным типам, что у них не пройдет трюк, как у Герострата.
NoRegrets
21.04.2017 01:01+1А как насчет ответственности общества и каждого его члена, посмотревшего видео? Нельзя было просто не смотреть или, хотя бы, не комментировать, лайкать, дизлайкать, не накручивать просмотры (закрывать видео)? Тогда и желающих распространять такой контент бы не было, какой смысл, если все равно не посмотрят.
Нет же, сначала смотрят кровь и кишки, а потом обвиняют техническое средство, что оно «позволило» это увидеть.
toteKopf
Шта? Это было спланировано по сценарию передачи? Как такое вообще допустили?
tmin10
Она сама спланировала это, судя по всему, конечно-же без одобрения руководства.
toteKopf
Нашел в интернете еще информацию. По данным википедии — речь идет о ее собственном сценарии, который она сама для себя написала. Однако написано, как будто, сценарий был у руководства.
tmin10
Промахнулся, см. ниже.