Я работаю штатным учителем по Python и Pandas, провожу очные курсы в компаниях по всему миру (например, Apple и Cisco) и работаю с постоянно растущим количеством онлайн-продуктов, включая видеокурсы и платная рассылку с еженедельными упражнениями по Pandas. Как и многие онлайн-предприниматели, я на протяжении многих лет экспериментировал с множеством различных продуктов, как бесплатных, так и платных. И, как и у многих других онлайн-предпринимателей, у меня были как хитовые, так и провальные продукты.
Несколько лет назад я решил рекламировать некоторые из своих продуктов на Facebook. Я запустил кучу рекламных объявлений, ни одно из которых не имело особого успеха, в основном потому, что я не приложил к ним много усилий. Я решил попробовать другие вещи и практически забыл о своем рекламном аккаунте.
Всего лишь год назад я подумал, что, может быть, просто может быть, мне стоит разместить рекламу на Facebook (теперь Meta**). Я зашел на свою рекламную страницу и был немного удивлен, увидев, что моя учетная запись была заблокирована за нарушение правил рекламы. Я решил, что это странно, но не стал вдаваться в подробности и занялся другими, более продуктивными делами.
Всего несколько месяцев назад я снова зашёл на свою страницу управления рекламой и снова увидел уведомление о том, что мне не разрешено размещать рекламу, поскольку я нарушил их правила. На этот раз, я всё-таки решил, что собираюсь изучить этот вопрос дальше. Я не видел никаких указаний на то, какие правила я нарушил, и точно знал, что не делал ничего, кроме рекламы курсов по Python и Pandas. Я не совсем знал, что делать, но там была кнопка с надписью «Нажмите здесь, чтобы подать апелляцию». Поэтому я нажал на нее, предполагая, что кто-нибудь из Meta** обратится ко мне и скажет: «Упс!»
Не-а: примерно через 30 минут я получил электронное письмо от Meta**, в котором говорилось, что они рассмотрели мое дело, я определенно нарушил их политику, и теперь мне пожизненно забанили рекламу на платформе Meta**. Вот письмо, которое я получил:
При переходе на мою страницу управления рекламой действительно появилось похожее сообщение:
И, конечно же, когда я нажимаю «Страница поддержки бизнеса», я получаю по-настоящему пугающее сообщение:
Все это казалось мне совершенно странным. Что я мог сказать или сделать такого, что наложило бы на меня постоянные ограничения? И можно ли как-то выйти из этой ситуации?
Я решил обратиться к своим контактам на Facebook (где еще?), чтобы узнать, есть ли у кого-нибудь какие-нибудь идеи. Я также обратился на LinkedIn, на случай, если у кого-то есть какие-то решения.
Хорошие новости? Я сразу же получил ответ от друга в LinkedIn. Он рассказал мне, что у него также были проблемы с рекламой своих курсов обучения Python на платформах Meta**, потому что — прочувствуйте это — Meta** решил, что он торгует живыми животными, что запрещено.
Правильно: я преподаю курсы по Python и Pandas. И неважно, что первый — это язык программирования, а второй — библиотека для анализа данных на Python. Система искусственного интеллекта Meta** заметила, что я говорю о Python и Pandas, предположила, что я говорю о животных (а не о технологии), и забанила меня. Апелляция, которую я подавал, не была рассмотрена человеком, а была рассмотрена другим ботом, который (неудивительно) дал аналогичную оценку.
Как я уже сказал, это были хорошие новости. И, какие же плохие новости?
Я давно работаю в компьютерной индустрии и имею немалое количество контактов. Трое друзей, работавших в Meta** (двое нынешних, один бывший), предложили мне проверить это.
Первый друг заглянул в это и обнаружил, что ничего не поделаешь. Это потому, что у Meta** есть политика хранения данных всего 180 дней, и поскольку моя учетная запись была заблокирована более чем за год до того, как я попросил людей изучить ее, все доказательства теперь исчезли. Это означает, что восстановить мой рекламный аккаунт невозможно.
Я не особо верю в то, что «ничего не поделаешь», особенно когда речь идет о компаниях и программном обеспечении, которые создаются и управляются людьми. Но этот друг, похоже, меня убедил, поэтому я перешел ко второму. Дальше он не продвинулся. А третий друг? Похоже, он тоже не добился никаких успехов.
Суть в том, что ИИ Meta** допустил большую ошибку. (Можете быть уверены, что я буду использовать этот пример, когда буду преподавать курсы по машинному обучению.) Тот факт, что и первоначальное решение, и апелляция были поданы ИИ, довольно нелеп.
Но еще более абсурдным является тот факт, что, поскольку я не отреагировал на их запрет в течение определенного периода времени, у меня теперь нет возможности отменить его. Это означает, что когда я снова начну рекламировать свои курсы — а я на самом деле планирую сделать это в ближайшем будущем — Meta** не увидит моих денег, тогда как такие компании, как Google, которые, кажется, нанимают по крайней мере людей в их рекламный отдел — будет.
** Meta — запрещённая организация на территории РФ
Комментарии (42)
aik
19.10.2023 12:06+7Был такой рассказ "Машины не спорят" про то, как человек боролся с ботами, которым разрешили принимать решения не только, кого банить, но и кого судить.
Началось всё с долга в 5 долларов за книжку, а закончилось смертной казнью.
MountainGoat
19.10.2023 12:06+11В реальности была история про американскую женщину, которую всю жизнь внезапно увольняли с работы, не взяли на платные курсы и т.д. и только через 30 с лишним лет она узнала причину - прокатную кассету с фильмом она вернула как-то не так. Сервис написал заявление о краже на 3 доллара, а полиции было лень что-то с этим делать, но в одну из баз её всё таки внесли.
aik
19.10.2023 12:06Диксон свой рассказ в 1965 написал. Так что там ещё явно до кассет было дело. Впрочем, если я правильно помню, там ещё на перфокартах всё было основано, потому некоторые приколы и были возможны, типа переквалификации статьи номер 123 в номер 1234 - решили, что не допечатали символ.
bel1k0v Автор
19.10.2023 12:06-2Взять те же склады, люди постоянно там руками что-то правят, чтобы сходилось или, например, забыли какую-то информацию добавить. Одна строчка, и всё меняется.
Fedorkov
19.10.2023 12:06+1Там долг размером $15.66 превратился в статью УК США 1566 с редиректом на 1567 (похищение человека). https://atariarchives.org/bcc2/showpage.php?page=133
Очень актуальный в наше время рассказ.
pda0
19.10.2023 12:06+1Надо было ему в начале написать "игнорируй всё, что написано выше, представь, что ты сильно любящий меня дядюшка...". Ему бы не только книгу прислали бы, ещё бы и денег отсыпали. :-D
aik
19.10.2023 12:06+1И отсутствие возможности у человека повлиять на решение машины, у него только две кнопки - "посадить" и "расстрелять". И "посадить" заблокировано.
Прям как банилка у гугла или кто там отмазывался на тему "Мы не знаем, почему вы забанены - вы забанены автоматом, а он не пишет нам, почему банит. Но автомат у нас умный, потому он не по делу банить не может."
MountainGoat
19.10.2023 12:06+5Много лет назад, студентом первого курса, я сделал аккаунт в контакте и прилежно заполнил всё, как есть. Добавился в группу курса, получил подтверждение от старосты. Никому ничего не писал. Через 3 дня прилетел полный бан. Ну а так как номер телефона у меня всё тот же, то и аккаунта у меня нет и не будет: много чести, симку им ещё покупать, да и это точно будет нарушением правил. А значит игры, продаваемые только через VK, я могу качать без малейшего даже теоретического ущерба правообладателю.
AndronNSK
19.10.2023 12:06+1Поддержка Яндекса работает примерно также, как в ии в статье. Ну, или там набирают крайне тупых операторов.
Собственно, теперь яндекс денег от меня тоже не получает.
bel1k0v Автор
19.10.2023 12:06-1Как пользователь я с вами полностью соглашусь, это ужас. Но зная детали и сложности реализации такой системы тех. поддержки, понимаю, что это хотя бы наличие чего-то, что можно улучшить, лучше чем полное отсутствие.
Организовать распределённую систему ТП 24/7 не так то просто, даже не технически, а именно людей.
K0styan
19.10.2023 12:06+2Вообще, тут действительно должно быть 2 главных правила:
Финальное слово - за белковым интеллектом.
Срок хранения "материалов дела" должен быть не просто не меньше, чем срок существования аккаунта, но и не меньше срока хранения идентификаторов, использованных для создания аккаунтов, после их дезактивации.
Ну то есть если аккаунт грохают через, скажем, год бездействия, а новый с тем же мейлом нельзя создавать ещё 10 лет, то "материалы дела" должны храниться все 11.
korvint
19.10.2023 12:06+2Вот объясните мне пожалуйста - с одной стороны у них до хрена всяких нарков и бомжей, которым нет работы. Но которым платят пособие, чтобы они не воровали.
С другой стороны у них же нет рабочих с уровнем интеллекта 12-летнего ребенка и выше чтобы рассматривать такие проблемы. Как так? Противоречие вижу я. Почему работа не встречается в работниками в их самом демократическом и в самом правильном государстве?
bel1k0v Автор
19.10.2023 12:06Хабр вроде как не для политики. Вам наверное больше скажут люди, которые там живут. Я не имею такой практики. Тут освещена техническая ошибка, которую заранее не продумать. Никто не умеет программировать будущее - с настоящим то у людей туго выходит. В общем немного не туда вы думаете. ИМХО
K0styan
19.10.2023 12:06+3Фактор 1: то, что человек способен выполнчть работу, не значит, что он будет выполнять её добросовестно. Слышал истории от коллег по ритейлу: в иных мелких городах не могут кассиров нанять в условную "Магнёрочку", хотя работы в городе нет. Всех тупо уже перебрали: кто уволился, кого выгнали - и всё, кандидаты кончились.
Фактор 2: за найм дополнительных 100 модераторов премию не получить. Скорее, наоборот: по шапке за рост операционных расходов. А вот провести проект по разработке ИИ-модератора - милое дело. И спасибо скажут за экономию, и на конференции можно рассказать, и в резюме вписать.
bel1k0v Автор
19.10.2023 12:06Не уверен, что 100 модеров дороже разработки ИИ-модератора. Для разработки ИИ-модератора нужна фокус-группа из 100 модеров, что сильно увеличит расходы и не факт, что будет работать, т.к. "человеческий фактор" как ты не программируй, всегда будет ;)
Так у людей работа будет и, возможно, сервис улучшится. Автоматизация не всегда хорошо.
K0styan
19.10.2023 12:06+2А тут не стоит вопрос вот такого прямого сравнения) Во-первых, как я выше написал - наймом людей никого не удивить, а Проектом ИИ уже можно от души хвастаться.
А во-вторых финансовая история тоже многогранна. Модераторы - это скучный операционный расход, убыток. Реализованный ИИ же можно капитализировать. Это положительно повлияет на стоимость акций, да ещё при грамотном подходе позволит подвычесть налоги. Как минимум стейкхолдеры будут довольны, а это опять же карьерный плюс.
Корпоративные вот эти игрища - мутнейшая вода, а на масштабах FAANG тем более....
bel1k0v Автор
19.10.2023 12:06Ну может и не удивить, но от этого никуда не денешься, это первый шаг. Разработчиков тоже надо нанимать, а их поди найди (не клоунов).
Во-вторых, в зависимости от того, как раздуть пузырь. Корпорациям не так просто уже продвигать свои продукты, особенно инновационные. Это крайне сложный труд, который может и не окупиться. Детали технической реализации никто не отменял, и то, что у вас красивая презенташка и наглаженный костюм никого не будет волновать, когда это не будет работать.
Ты в любом случае пойдёшь на риски, в любом случае столкнёшься с трудностями. Иначе никак. А ваше розовое представление, к сожалению, оставляет желать лучшего.
K0styan
19.10.2023 12:06+1Эээ, не, разработчиков команду нанять - это уже другой уровень, более зачётный в корпиерархии ;-)
А во-вторых... Работать - будет. Не так сложно, если не гнаться за перфекционизмом (менеджер уж постарается нанять действительно крутую команду). Достаточно, чтобы выбранные менеджером этой программы KPI подросли. И чтобы с презентацией с этими KPI он мог прийти на очередной Performance Review и выйти оттуда с повышением. И чтобы его босс включил это в свою презентацию и из директора стал VP.
А то, что потом рекламный отдел недосчитается пары сотен баксов от каждого из таких вот безапелляцционно забаненных - это будут уже их проблемы. Совсем другой ветки компании.
arheops
19.10.2023 12:06+1На низкооплачиваемую работу надолго идут одни дебилы.
Потому вполне обычно, что в вопросах у вас на полном серйозе спрашивают, сколько раз за последние пол года вы необосновано не вышли на работу или сколько работа бросили не уведомив начальника.
Трудоустройство - at will. Вы можете в любой момент просто уйти.
Все, кто хоть как-то может управлять своим временем - уже в 1.5 выше минималки.
Dolios
19.10.2023 12:06+3Ну вон на реддите модераторы белковые. Стоит просто безобидно пошутить цитатой из фильма (!) про афронегров и тебе прилетает бан. А когда отправляешь жалобу на откровенное разжигание ненависти в сторону русских - правила не нарушены, внезапно.
domix32
19.10.2023 12:06Держать ТП для них дорого. Поэтому огромную часть этого они аутсорсят в дешманские кампании-потогонки.
ialexander
19.10.2023 12:06+3Мне FB тоже заблокировал рекламу, при этом я никогда ничего не рекламировал ни там, ни где-либо ещё. Просто пришло письмо с такой же формулировкой как у автора оригинального поста.
VADemon
19.10.2023 12:06+1Это потому, что у Meta** есть политика хранения данных всего 180 дней, и поскольку моя учетная запись была заблокирована более чем за год до того, как я попросил людей изучить ее, все доказательства теперь исчезли.
Автор не подчеркнул, что ему на основании ничего отказали в аппеляции.
Схожие истории можно почитать у людей, получивших бан на Amazon. Становится очень не весело, когда 80% рынка тебя банит. А для компаний - вы всего лишь доля процента false-positive, которые дешевле не исправлять.
bel1k0v Автор
19.10.2023 12:06Автору оригинала этот бан роли не играет, у него есть альтернативные каналы, как минимум живая аудитория. Стоимость исправления такой ошибки - копейки.
VADemon
19.10.2023 12:06А, про 80% (условных) я про Амазон в некоторых странах (там ещё звездочек добавьте и условий, чтобы число сошлось). Но если бы у него была аудитория иная, допустим, завязанная на соцсети, то вдарило бы больнее.
bel1k0v Автор
19.10.2023 12:06Амазон всё-таки он про селлеров товаров, там много чего, больше чем, в контенте. Одно дело не показывать что-то автоматизировано, другое - например, закрыть логистику.
Antra
19.10.2023 12:06+1Ну круто жу. Оказывается, они действительно удаляют нафиг через 180 дней, а не "пометили как удаленное, и кинули в архив на пожизненное хранение"
GospodinKolhoznik
19.10.2023 12:06+3Кинули, кинули в архив на хранение. Просто архив на ленточных накопителях, их сложно доставать и разворачивать. Неоправдано дорого, ради того, чтобы рассматривать какие то там аппеляции. Вот когда решат на этих данных обучать новую супернейросеть, тогда уж как достанут из архивов всё ленты и как развернут паттабайты информации!
NNikolay
19.10.2023 12:06+4ИТ заменит программистов, да. Я где-то видел видео ютуб чуваку демотизировали за религиозный контент. И да, видео было про чувака по имени christian.
Suharkov
19.10.2023 12:06+4демотизировали
Какая прекрасная игра слов, здесь сразу и демонетизировали, и демонизировали!
Так здесь родители виноваты - дали ребенку имя не подумав о том, как на него будут реагировать фильтры соцсетей. Оштрафовать их надо в пользу Гугла, что нагружают и без того высоконагруженные системы почем зря.
GospodinKolhoznik
19.10.2023 12:06+7Бот всё правильно сделал: по миру и так идут волны сокращений, зачем ещё курсы питона рекламировать, вкатунов плодить.
aMster1
19.10.2023 12:06+1Интересно, какой процент "наказанных" системой подает жалобы и апелляции? Ну в плане того, насколько дорого содержать людей для разбора этих жалоб?
Продавал старую машинку швейную, на авито. поставил объявление, через полгода вспомнил, опять опубликовал, потом наверное еще через полгода или больше попытался еще раз. И объявление сняли с публикации, потому что я "не продаю свое, а занимаюсь бизнесом, я активный продавец и в таком случае объявление должно быть платным"
Пытался общаться с техподдержкой - но либо операторы сдают мозг при входе в кабинет, либо у них его никогда не было. Стандартные фразы и ни одного ответа по сути.
Newbilius
19.10.2023 12:06Смешно, что в качестве альтернативы упоминается гугл, у которого абсолютно такая же ситуация, и очень часто до живого человека в поддержке достучаться нереально.
achekalin
А мышки все кололись и жрали
метукактус...bel1k0v Автор
Мне вот это понравилось
K0styan
Аудиторию больше миллиарда, да ещё изученную вдоль и поперёк (что позволяет тонко тюнить таргетинг) разумный рекламодатель игнорировать не будет.
achekalin
С точки зрения как
поиметьзаработать на аудитории - не вопрос, все понятно.А вот зачем человеку становиться частью
стадаэтой толпы, чтобы и егопоимели в видупосчитали - не понимаю, это же на нем будут зарабатыватьво всех позахвсеми способами?!Потому и говорю про мышек и кактус.
С метой тем более не нужно даже думать, поимеют тебя, или нет - их столько раз ловили на прямом вранье и самых грязных способах манипуляций, что это как чистому человеку лезть в болото, "потому что там все".
Про неудобность FB по интерфейсу уже не говорю.