«Темные паттерны» (dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых происходит игра с нулевой суммой: выигрывает продукт, а проигрывает потребитель. Говоря проще, это непротивоправное склонение пользователя к определенным действиям.


Как правило, в обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю. True story.



Причина, на мой взгляд, следующая. Технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.


Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это делать продукты на бизнес-модели, в которой клиент сам платит за продукт (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели, которая торгует вашими данными, решить проблему непросто.


И в этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне). Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются.)



Надо сказать, появление в конгрессе США Цукерберга (Facebook), Пичаи (Google) и Дорси (Twitter) год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.


Последний пример: пара сенаторов недавно предложила ограничить механики, вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.


Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.



Сравнение рыночной капитализации технологических компаний и ВВП стран Европы (2018).

На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:


  1. Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд). При этом если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.
  2. Google сейчас знает о намерениях и желаниях людей больше, чем все пасторы, шаманы, оракулы и священники за все время существования мировых религий. Такая власть над данными беспрецедентна во всей записанной истории человечества.
  3. Apple заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый карманный компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу.)
  4. До 40% облачной инфраструктуры, на которой крутятся Интернет, принадлежит Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.

Что дальше? Думаю так:


  1. Американская версия GDPR не за горами.
  2. Технологические компании подвергнутся серии антимонопольных рассмотрений.
  3. Внутри тэк. компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.

А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?

Комментарии (14)


  1. Romario21
    12.04.2019 09:37
    +1

    Я думаю, что не за горами цифровая тюрьма.


    1. ponchiknews Автор
      12.04.2019 09:52

      И туда посадят всех цифровых пустозвонов :-)


  1. MMik
    12.04.2019 10:00

    Для чего нужно государство (гос. аппарат) в современном мире?

    Бизнес, конкурируя друг с другом, обеспечивает людей всем необходимым от рождения и до смерти на местном и глобальном уровне: едой, жильём, транспортом и доставкой, связью, развлечениями, медициной, образованием, работой (занятостью), безопасностью, пенсионным обеспечением и пр. Социально-ориентированного бизнеса, наверное, нужно чуть больше, и когда его станет больше, государство станет совершенно не нужно.

    Государства на наших глазах теряют своё влияние на общество и многие сферы жизни, не справляясь ни со своими обязательствами, ни с опережающим их во всех аспектах бизнесом, которому, словно несущемуся поезду, пытаются ставить палки в колёса. Мир уже по большей части принадлежит корпорациям и управляется ими.


    1. vershinin
      12.04.2019 10:22

      Вы не понимаете сущность государства. Основная цель государства — подавление правящим классом всех остальных при помощи полиции, армии, спецслужб и прочего. Это очень дорогой инструмент, одна корпорация такого себе позволить не может. Поэтому, корпорации и крупный бизнес кооперируются, скидываются в общак, и в этот же общак собирают подати с населения, из которого финансируют остальное — медицину, социалку, инфраструктурное строительство и так далее…
      До тех пор, пока все корпорации не сольются в одну монополистическую сверхкорпорацию, государство ещё нужно как некий арбитраж между ними всеми.


      1. ksbes
        12.04.2019 12:17

        Государство в любом случае будет нужно, т.к. будет много людей, не охваченных корпорацией напрямую. Да и невыгодно быть государством даже мегакорпорации — все эти войны, границы, лесные пожары, пенсии, пособия — это траты лучше возложить на своих же работников и случайно выживших частных предпринимателей (фрилансеров надо же «стричь»?).


      1. sergeymasle
        12.04.2019 12:54

        Немного расширю ваш комментарий.

        Цель существования любого государства — это защита самого себя. Государство, есть диктатура правящего класса. Правящий класс, в лице капиталистов, защищает себя любыми способами, чтобы сохранять свое влияние на общество, обслуживать свои интересы и главное увеличивать капитал.

        Современные технологические компании увеличивают свое влияние на общество и могут эффективно им манипулировать за счет обладания большим количеством данных. Такие манипуляции могут привести к конкуренции за место правящего класса.

        Подобные регламенты (GDPR) направлены на снижение влияния компаний на общество, что не нравится, естественно, самим компаниям. Но эта борьба всегда «заправляется соусом» для общественного блага.


        1. vershinin
          12.04.2019 14:28

          Да, так и есть. Технологические корпорации получают преимущество, и их одёргивает конвенциональный крупный бизнес, который пока ещё больше, чем эти технологические корпорации. Но рано или поздно, они его под себя подомнут.


    1. roscomtheend
      12.04.2019 16:19

      Бизнес не обеспечит вам медицину там, где нет дорог, а дорог не обеспечит, поскольку у вас нет денег.
      А денег нет, потому как вы добровольно отдали их охранной структуре чтобы сохранить ноги непереломанными.
      «Мы сможем выбрать другую охраннуюб структуру», слышен писк, с трудом прорывающийся сквозь ломаемые пальцы.
      Вам никто этого не даст, кто вы такие, чтобы ради вас рисковать ссориться с людьми?
      Вы за годы принесёте прибыли меньше, чем будут стоять тёрки с другой структурой.
      Кому вы будете жаловаться? Спортлото? Государства с ререссивным аппаратом нет и единственный репрессивный аппарат — те самые охранные структуры.
      Как вы и хотели — работают очень эффективно.

      Конечно, чиновник или ФСБник, сбивший на переходе, скорее всего сейчас отмажется (или нет — тут как повезёт), но на него хоть в теории может найтись управа, в случае с бандформированием вы просто получите недопротогосударство, в которым вы будете даже не ресурсом, а сырьём.


      1. 0xd34df00d
        12.04.2019 20:18

        Такие же страшилки можно и про государства писать, прямой подстановкой.


  1. vav180480
    12.04.2019 10:04

    А как вы относитесь к государственным соцсетям (да да по паспорту), где вас могут забанить только по решению суда?


    1. ksbes
      12.04.2019 12:13

      Отрицательно. Пока суд да дело тролль успеет изжить из сети сотни условных бабушек. Бан должен быть быстрым и резким.
      А вот обжалование бана через суд — дело неплохое. Причём это вполне возможно и сейчас и в текущих сетях при особой трактовке существующих законов. Ну там кабальные пункты соглашения, публичные оферты и прочий правовой матан. При устоявшейся, конечно, не получится.


    1. qw1
      13.04.2019 15:27

      Гос. соцсети — дело бесполезное. В новую сеть никто не пойдёт, а если существующую крупную национализировать, она будет медленно умирать. Народ пойдёт общаться туда, где нет регуляции. Например, в minecraft свои домики строить и на их стенах посты писать. Можно и minecraft тоже национализировать — пойдут дальше в другое место.


  1. sotnikdv
    13.04.2019 00:38

    Американская версия GDPR не за горами.


    CCPA уже с 1 января 2020 года, она еще не настолько сурова, как GDPR, но уже достаточный сдвиг.

    CCPA покрывает Калифорнию, поэтому так или иначе изменит рынок всего США и сильно отразится на мире.

    Будет настроение — напишу статью, я сейчас занимаюсь проектом по оценке влияния обоих на архитектуру, процессы и организацию.

    Поэтому, в сущности, все уже произошло.


    1. ponchiknews Автор
      15.04.2019 22:08

      Я интересно, напишите плз!