Нам нравятся простые правила. Чем чаще они работают, тем сильнее мы им доверяем. Но что, если за надёжностью скрывается пустота? И кто на самом деле принимает решения — эксперт или гладкий, уверенный в себе булыжник?

Охранник

Он работает в очень скучном здании. Его почти никогда не грабят. Он сидит в своей будке и разгадывает кроссворды. Иногда раздаётся шум — и он проверяет, грабители ли это или просто ветер.

Это ветер. Всегда ветер. Никто не хочет ограбить «Подушечный маркет» в Топике, штат Огайо. Если в среднем здание грабят раз в десятилетие-другое, охранник может проработать всю жизнь и ни разу не столкнуться с настоящим грабителем.

В какой-то момент он вырабатывает полезную эвристику: если слышишь шум — игнорируй и разгадывай дальше, это всего лишь ветер, бро.

Эта эвристика оказывается верна в 99,9 % случаев, что неплохо. Она экономит ему кучу хлопот.

Проблема в том, что пользы от него теперь ноль. Он по сути исключил возможность когда-нибудь быть полезным. Его можно без потерь заменить камнем с надписью: «ГРАБИТЕЛЕЙ НЕТ».

Врач

Она — семейный доктор. Каждый день к ней приходят пациенты: «У меня болит спина» или «У меня странные ощущения в животе». Она осматривает, пальпирует, перкутирует, выслушивает, назначает анализы и говорит: «Ничего страшного, примите аспирин и перезвоните через неделю, если не пройдёт». Оно всегда проходит; никто никогда не звонит.

Постепенно она начинает халтурить. Осматривает, но не пальпирует. Не назначает анализы. Просто говорит: «Ничего страшного, само пройдёт». И всегда оказывается права.

Так она работает всю карьеру. Если ей очень повезёт, ничего плохого не случится. Скорее всего, у двух-трёх её пациентов окажется рак или что похуже, и она пропустит диагноз. Эти люди умрут, а все остальные будут помнить, какая она была милая и заботливая.

Её эвристика верна в 99,9 % случаев, но пользы от неё ноль. Её можно заменить камнем с надписью: «ЭТО НИЧЕГО, ПРИНЯТЕ АСПИРИН И ПОДОЖДИТЕ».

Футуролог

Он комментирует очередные захватывающие пресс-релизы технокомпаний: «Это изменит всё!» — кричат релизы. «Нет, не изменит», — отвечает он. «Это величайшее изобретение!» — «Это мошенничество», — говорит он.

Какое бы потрясение ни предсказывали, он отрицает. «Скоро у всех будут летающие машины!» — «Наши машины останутся на земле». «Скоро все перейдут на криптовалюту!» — «Мы будем пользоваться долларами и Visa, как раньше». «Мы скатываемся к диктатуре!» — «Нет, будем тем же скучным олигархическим псевдодемократическим обществом». «Грядёт утопия гражданского самоуправления!» — «Ты пьян, иди спать».

Когда подсчитывают баллы Брайера и байесовские очки, он лучший футурист. Все остальные иногда ведутся на хайп, а он никогда. Его эвристика превосходна.

Но — повторим вместе — его можно заменить камнем с надписью: «НИЧЕГО НЕ МЕНЯЕТСЯ И НЕ ИНТЕРЕСНО».

Скептик

Она разоблачает всё подряд. Телепатию? У неё есть опровержение. Бигфута? Опровержение. Антипрививочников? Пять опровержений плюс бонусное.

Начинала она с тщательного исследования каждого феномена, находила обман и язвительно высмеивала простаков. После сотни повторов она пропустила шаги один и два. Теперь её алгоритм: «если кто-то говорит что-то странное или противоречащее общему мнению — незамедлительно оскорбить».

И она всегда права! Гидроксихлорохин? Первая заклеймила. Ивермектин? Первая заклеймила! Безупречный рекорд.

(Жаль, что она столь же яростно осмеяла флувоксамин.)

Быстро, весело и 99,9 % успеха. Но она тратит кислород и пищу. А камень с надписью «ТВОЯ СМЕШНАЯ КОНТРАРНАЯ ИДЕЯ НЕВЕРНА» не нуждается ни в чём.

Интервьюер

Он отбирает кандидатов в крупную фирму. Берёт тех, кто окончил лучший вуз и имеет самый длинный стаж. Алмазы в грубой породе? Шанс для самоучек? Не про него. Гарвард лучше, чем State U, лучше, чем комьюнити-колледж. Десять лет опыта лучше пяти лучше одного. Расскажите о проектах — он не впечатлится.

Спору нет: его нанимать отличных сотрудников. Но когда он умрёт, патологоанатом найдёт у него в голове камень с надписью: «НАНИМАЙ ВЫПУСКНИКОВ ТОП-ВУЗОВ С БОЛЬШИМ СТАЖЕМ».

Королева

Она правит вулканическим островом. Все боятся извержения. Мудрецы подсчитали: шанс извержения — 1/1000 в год, без памяти о прошлом. Есть тонкие признаки — оттенок лавы, запах серы — но ничего явного до самого конца.

Королева основала Общество вулканологов и поручила им предсказывать извержения. Но оказались два типа вулканологов. Честные, изучающие знаки. И Культ Камня — тайная секта, черпающая знания у камня с надписью: «ВУЛКАН НЕ ИЗВЕРГАЕТСЯ».

Честный вулканолог иногда замечал странность лавы и бил тревогу. Королева паниковала. Честные говорили: «Шанс мал, но вдруг это исключение». Сектанты проверяли камень: «Не волнуйтесь, всё спокойно». Вулкан не извергался. Королева наказывала паникёра и продвигала уверенных сектантов.

Год за годом статус секты рос. Через пятьсот лет советы давали одни сектанты. Лава чудится странной? «Камень говорит: всё спокойно». Сера пахнет иначе? «Всё спокойно». Земля дрожит? «Смотрим в камень: всё спокойно». Затем вулкан извергся, и все погибли. Конец.

Метеоролог

Он живёт в портовом городе и предсказывает ураганы. Ураганы редки, но когда случаются, все корабли тонут, поэтому метеорологи ценятся.

Как вы знаете из Лавкрафта, после гибели Атлантиды уцелели жуткие культы, и нет страшнее Культа Камня. Этот метеоролог был их адептом и тайно советовался с камнем: «УРАГАНА НЕ БУДЕТ».

Много лет ураганов и правда не было. Бизнесмены любили его: рейсы не отменялись. Журналисты — за чёткие ответы. Политики — за процветание.

Однажды ураган пришёл. Неожиданно. Погибло много людей. Метеоролог заявил: «Бывают редкие отклонения! Мои заслуги прежние!» Начали расследование, но бизнес, пресса и политики встали на его сторону — и он вернулся на пьедестал.

Эвристики, которые почти всегда работают

Иногда есть эвристика вроде «эта технология ничего не изменит» или «завтра не будет урагана».

Редкие исключения настолько важны, что мы нанимаем экспертов, чтобы их уловить. Но эвристика так трудна для превосходства, что эксперты сами тайно на неё опираются, притворяясь, будто используют тонкий анализ.

Почему? Может, эксперты ленивы. Может, социум давит: ошибиться, игнорируя простую эвристику, позорнее, чем промахнуться в сложном прогнозе, где все промахнулись. А может, потому что ложных тревог больше, чем пропущенных бед, и на «разумных» сроках правдоподобнее выглядят те, кто никогда не подаёт ложных тревог.

Это плохо по двум причинам.

  1. Все тратят время и деньги на «экспертов» зря.

  2. Возникает ложная уверенность. Вы думаете, что 99,9 % — шанс события не случиться. Потом консультируетесь у «многих экспертов», они подтверждают, и вы повышаете уверенность до 99,999 %. Но эксперты пользовались той же эвристикой! Информационная каскадная иллюзия.

Эта новая разработка не изменит мир. Эта болезнь не станет пандемией. Эта теория заговора глупа. Этот аутсайдер не победит на выборах. Эта угроза не уничтожит мир.

Почти всегда это правда. Но эвристики, которые почти всегда работают, соблазняют нас быть слишком уверенными.

(Некоторые спрашивают, не то ли это, что и «чёрные лебеди». Согласен, это близко, но я говорю о чуть-чуть другом, включая эвристику «бери выпускника топ-вуза» или «верь экспертам». Можно считать недоучку-гения «чёрным лебедем», но это не типично. И дело не только в том, что «иногда бывают чёрные лебеди», а в том, что эксперты, применяющие эвристику, вызывают предсказуемое переразобновление уверенности.)

Когда кто-то высмеивает рациональность как излишнюю, посмотрите, как он принимает решения. В 99,9 % случаев — по Эвристике, Которая Почти Всегда Работает.

(Но следите за оставшимися 0,1 % — именно у них можно научиться новому!)

Комментарии (15)


  1. FirstEgo
    31.05.2025 07:44

    Огнетушитель в машине тоже эвристика? Он мне ни разу не пригодился, может продать?


    1. JediPhilosopher
      31.05.2025 07:44

      Нуу, как говорят те, кому довелось столкнуться с пожаром на трассе - он вам и не пригодится. Дешевым маленьким огнетушителем потушить горящий автомобиль все равно невозможно.

      Но продавать тоже нельзя, на техосмотре ведь могут потребовать показать.


      1. aegelsky
        31.05.2025 07:44

        товарищ недавно помогал тушить горящую машину, ещё человек 5 с ним остановились.
        из их 5-6 огнетушителей сработали только 2)
        может он и пригодился бы, но из этой скудной статистики выводы печальные


        1. Wesha
          31.05.2025 07:44

          ещё человек 5 с ним остановились.

          Вот это и есть ответ на вопрос «что делать с маленьким огнетушителем»: ожидается, что рядом остановятся другие и помогут.

          из их 5-6 огнетушителей сработали только 2)

          Вот для предотвращения этой ситуации огнетушители и проверяют (вернее, проверяли, пока процент пофигистов как среди ДПСников, так и среди автовладельцев не превысил критическую отметку).


          1. aegelsky
            31.05.2025 07:44

            интересно как можно проверить порошковый огнетушитель, который по факту одноразовый (и их большинство), после первого пуска его надо или потратить полностью, или выкинуть, на следующий день он будет уже бесполезен, просто по его конструкции


            1. Wesha
              31.05.2025 07:44

              Проверяют выбитую на корпусе дату выпуска.

              У меня, кстати, валяется где-то огнетушитель десятилетней, что ли, давности — на нём есть индикатор давления, и он пока показывает "норму". Надо будет с ним поиграться, посмотреть, как он себя ведёт касательно этого самого перезапуска.


      1. Wesha
        31.05.2025 07:44

        Дешевым маленьким огнетушителем потушить горящий автомобиль все равно невозможно.

        А дешёвый маленький огнетушитель и не предназначен для тушения полыхающего автомобиля — он предназначен для ликвидации языков пламени, пока они ещё маленькие.


  1. garryq
    31.05.2025 07:44

    Завтра погода будет примерно такой же, как сегодня – значительно чаще работает, чем не работает


    1. JediPhilosopher
      31.05.2025 07:44

      Только если у вас какой-нибудь циклон над головой не стоит. Вот в Питере сейчас погоду крутит, каждый день все меняется, то дождь до гроза то пасмурно то ясно. Сорвало нам соревнования, два хороших дня всего за две недели.

      Так что пример с синоптиком (кстати синоптик и метеоролог это разные профессии, и они обижаются если их путать) простой и понятный, но ИРЛ все-таки устроено все иначе.

      В мире есть две глобальных погодных модели, американская GFS и европейская ECMWF. Однажды к берегу США приближался тайфун. Американская модель сказала, что он рассется не дойдя до берега. Европейская предупреждала, что до берега он таки дойдет и устроит всем крупные разрушения.

      Американские чиновники поверили американской же модели и не стали объявлять эвакуацию. Тайфун дошел до берега и устроил разгром.

      В итоге правительство вложило денег в доработку GFS, обновление вычислительных мощностей, чтобы такое больше не повторялось. Точность прогнозов выросла. Вроде таких случаев больше не случалось.

      Так что в жизненно важных сферах все-таки пользуются другими принципами.


  1. Abstraction
    31.05.2025 07:44

    Вообще-то я за то чтобы было больше переводов, хороших и разных, но хочу заметить что у этого текста перевод уже был.

    Ивермектин? Первая заклеймила! Безупречный рекорд.

    A flawless (track) record здесь - "безупречный послужной список". Можно "рекордная точность" или "безупречный результат".

    (Следующий абзац про булыжник как протестантского бога выпал из перевода вообще, а он важный.)

    Гарвард лучше, чем State U, лучше, чем комьюнити-колледж.

    X is better than Y is better than Z - X лучше Y, а тот в свою очередь лучше Z (перевод превратил цепочку в однородные члены).

    Спору нет: его нанимать отличных сотрудников.

    Моя ругать. Спору нет: он нанимает отличных сотрудников.

    «Бывают редкие отклонения! Мои заслуги прежние!»

    Гм. “Well, yes, sometimes there are outliers that even I can’t predict, I don’t think this detracts from my vast expertise and many years of success (...)". Хотя бы "Взгляните на мои прежние заслуги!"

    Но эвристика так трудна для превосходства

    Но эвристику так трудно превзойти


  1. Radisto
    31.05.2025 07:44

    Если следовать эвристике, ошибёшься в 0.1% случаев. А если не следовать, то в 99,9%?


    1. Abstraction
      31.05.2025 07:44

      "Не следовать эвристике" - это не описание стратегии принятия решений.

      "Действовать обратно тому что написано на камне" - для вопросов "да/нет" действительно даст 99.9% ошибок, для вопросов с большим пространством ответов ещё больше.

      "Кидать монетку и действовать согласно камню в 99.9%, наоборот в 0.1%" даст примерно 0.2% ошибок.

      "Смотреть на реальность, назначая возможным наблюдениям очки, и действовать согласно камню только если очков набралось не больше 30, иначе действовать наоборот" - зависит от вашего метода подсчёта очков, очевидно. Но стратегия в этом духе - это единственный шанс ошибаться реже.


    1. Keeper21
      31.05.2025 07:44

      Стоящие часы точнее, чем отстающие на минуту в день.


  1. eandr_67
    31.05.2025 07:44

    Поток демагогии, в средине которого под видом "осуждения эвристик" аккуратно подсовывают пропаганду лженауки. Что, полагаю, и является главной целью этой статьи.

    P.S. Каждая современная "нейросеть" - это и есть эвристика в чистом виде.


  1. Free_Artist
    31.05.2025 07:44

    Так современный "искусственный интеллект" как раз так и действует)