Чему учат нас компьютеры по поводу того, как ладить друг с другом




В нашем офисе в университете Карнеги-Мэллон мы с моим коллегой Джоном Миллером создали компьютерную программу, склонную к геноциду.

Мы к этому точно не стремились. Мы не изучали соперничество или войны. Нас интересовало зарождение примитивных форм сотрудничества. Так что мы создавали машины, живущие в воображаемом обществе, и заставляли их играть друг с другом в игру – она известна тем, что порождает сложное социальное поведение не хуже, чем гнилой банан порождает плодовых мушек.

Игра называется "Дилемма заключённого". У неё есть много разновидностей, но по сути – это история о двух людях, выбирающих, сотрудничать им или обманывать друг друга. Если оба обманывают, страдают оба. Если оба сотрудничают, обоим будет лучше. Но если один сотрудничает, а второй обманывает – обманщику будет ещё лучше.

Обобщённость игры делает её привлекательной для политического философа, а строгая конкретика позволяет положить её в основу компьютерной симуляции. В качестве инструмента исследования человеческого поведения она эквивалентна наклонной плоскости Галилея или экспериментам Менделя с горохом. Присоединитесь к забастовке или смоетесь через линию пикета? Остановите производство, чтобы цены не падали, или будете демпинговать и наводните рынок? Приложите усилия при работе в группе или расслабитесь, и предоставите работу остальным?

Наша симуляция была простой: в виртуальном мире машины, принимающие решения, обладавшие ограниченной способностью рассуждать, раз за разом играли в эту игру. Мы, как безжалостные судьи, награждали процветающие машины и наказывали остальных. Успешные машины передавали стратегию действий в следующие поколения, что нарушалось появляющимися случайным образом вариациями, имитирующими естественные мутации.

Мы снабдили машины простым языком, на котором можно думать, и ресурсами для обеспечения памяти и действий на её основе. Каждое поколение машины попарно сталкивались друг с другом. Именно так нам представляется жизнь: мы постоянно встречаемся с торговыми партнёрами, и с последствиями того, как мы с ними обходимся. В нашей модели мира два Робинзона Крузо встретились на пляже.

Запустив развитие этих небольших сообществ, мы ожидали подтверждения того, что многие считают оптимальной стратегией для игры в дилемму заключённого: зуб за зуб. Машина, использующая эту стратегию, начинает с того, что сдерживает свои обещания, но мстит за обман однократным обманом со своей стороны. Зуб за зуб – это правило чести в нашей песочнице: относись к другим хорошо, если только они не дают тебе поводов относиться к ним по-другому, и достаточно быстро прощай их.

Но изучив выходные данные симуляций, в которых стратегии свободно эволюционировали в произвольных направлениях, мы обнаружили нечто совсем другое. После раннего хаотического периода одна из машин быстро начинала доминировать, властвуя над вымышленным миром сотни поколений, а потом в какой-то момент всё внезапно рушилось, и мир погружался в хаос конфликтов, из которого вырастал следующий цикл. Археологи такого мира откопали бы толстые слои процветания, сменяющиеся эрами костей и пепла.

Вместо следующих правилам песочниц, которыми правят осторожные и гордые кооператоры, популяции порождали странные конфигурации, в которых мы не видели смысла. До одного вечера в офисе, когда мы вдруг наткнулись на истину. Доминировавшие машины принимали действия игроков за кодекс, по которому они могли распознать момент, в который они сталкивались с копиями самих себя.

Симуляции показывают начальные уровни, вероятно, случайного поведения, которое примерно на 300-м поколении уступало высокому уровню кооперации, совпадающему с полным доминированием одной машины, доводящей остальных до вымирания. Эта принудительная кооперация исчезает примерно на 450-м поколении. После этого система переключается между двумя экстремумами. Зелёные и жёлтые полосы соответствуют эрам высокой и низкой кооперации соответственно.

На начальных этапах игры они вырабатывали чёткую схему работы: сотрудничай, обманывай, обманывай, сотрудничай, обманывай, сотрудничай (это пример). Если их оппонент отвечал точно таким же образом, обманывая вместе с ними, сотрудничая вместе с ними, они в итоге переключались на фазу постоянного сотрудничества, к обоюдному преимуществу.

Однако горе тем, кто не знает кодекса чести. Любое отклонение от ожидавшейся последовательности приводило к всеобщей и непрекращающейся войне. Такой ответ мог унести с собой обе машины в некоем подобии атаки цифрового смертника. Поскольку на нужную последовательность было очень сложно набрести случайно, только потомки правивших машин могли процветать в послекодексную эру бескорыстной кооперации. Всех остальных убивали, включая и тех, кто использовал стратегию «зуб за зуб». Это доминирование продолжалось, пока не накапливалось достаточно много ошибок в кодексе, передаваемом из поколения в поколение, для того, чтобы доминирующие машины переставали распознавать друг друга. Затем они ополчались друг на дружку так же яростно, как на аутсайдеров, демонстрируя что-то похожее на аутоиммунное заболевание популяции.

В период, когда кодексы соблюдались, мы называли их шибболетами, в память о лингвистической дискриминации, упоминаемой в книге Судей Израилевых:
…И перехватили Галаадитяне переправу чрез Иордан от Ефремлян, и когда кто из уцелевших Ефремлян говорил: «позвольте мне переправиться», то жители Галаадские говорили ему: не Ефремлянин ли ты? Он говорил: нет. Они говорили ему «скажи: шибболет», а он говорил: «сибболет», и не мог иначе выговорить. Тогда они, взяв его, закололи у переправы чрез Иордан. И пало в то время из Ефремлян сорок две тысячи… (Суд. 12:5-6).

Шибболеты – распространённая особенность культуры и конфликтов людей. Финнов, которые не могли произнести слово yksi («один»), считали русскими во время гражданской войны в Финляндии. Туристов в деловом районе Манхэттена быстро распознают, если они произносят название улицы Houston Street [Хаустон-стрит] так же, как произносится название города Houston [Хьюстон] в Техасе.

А наши машины так эффективно использовали их для доминирования в популяции, что никто не мог выжить. Даже по окончанию этой эры пепел унаследовали именно их потомки. Слепая рука эволюции нашла простое, хотя и ужасное, решение.

Это был суровый и жестокий социальный ландшафт. Но мы выдали нашим машинам очень мало ресурсов для размышления. Как бы две совершенно рациональные машины вели бы себя во время конфликта, если бы они знали, что каждая из них идеально рациональная? По самой природе рациональности два полностью рациональных существа, столкнувшихся с одной проблемой, должны вести себя одинаково. Зная это, каждый выбрал бы сотрудничество – но не из альтруизма. Каждый понял бы, что в случае обмана его оппонент также выбрал бы обман, из-за чего оба проиграли бы.

Между двумя этими позициями имеется спектр. На одном его конце – минимально вычисляющие машины, ограниченные нулевые позиции культуры, которые естественным образом вырождаются в междоусобную вражду, трайбализм. На другом конце – неизбежная кооперация полностью рационального существа.

Где же на этой линии между грубыми машинами и ангельской рациональностью находятся человеческие существа?

Если мы, люди, сверхрациональны, или по крайней мере, стремимся к этому, то есть повод для оптимизма. Фрэнсис Фукуяма, возможно, думал о чём-то подобном, когда писал свой "Конец истории" в 1992 году. Хотя его аргументы базируются на работах немецких философов XIX века, таких, как Ницше и Гегель, мы можем переписать их таким образом: достаточно сложная ситуация в жизни человека окончится рациональным, либерал-демократическим, капиталистическим порядком, противостоящим разрозненному набору врагов.

Аргументы Фукуямы основывались не только на философских рассуждениях, но и на осмыслении текущих событий: коллапсе коммунизма, процветании электронных СМИ, на казавшемся беспроблемным открытии границ, и на эпическом росте фондовых рынков.

Сегодня его работа служит монументом мечтаниям предыдущей эры (одна из глав называлась «победа VCR»). Наши культуры эволюционируют, но, судя по всему, не в направлении гармонии. Хаос XXI века очень напоминает наши симуляции. Через два десятилетия после 9/11 даже западные либеральные демократии соглашаются с мрачными моделями человеческого поведения и более мрачными теоретиками, чем Фукуяма.



Карл Шмитт, к примеру, посчитавший совещательные элементы демократии завуалированными авторитарными формами правления. Или Роберт Мичелс, чьё изучение политического неравенства позволило ему увидеть, что демократия – это временный этап эволюции общества, направляющегося к правлению небольшой и закрытой группы элитариев. В то время, как интеллектуалы обеих разновидностей политического экстремизма всё чаще считают рациональный политический порядок фантазией, шибболеты принимают свою роль в определении расовых, национальных и религиозных границ и снова оказываются неискоренимыми свойствами политической жизни.

Между этими философами существует большая разница, как и между соответствующими им компьютерными моделями – между простыми, жестокими и нерациональными существами, которые мы с Джоном Миллером симулировали, и сверхрациональными кооператорами, которых Фукуями увидел ожидающими нас в конце истории. Но эти модели, по крайней мере, вызывают сдержанный оптимизм.

Исследователи из Института исследования машинного интеллекта (MIRI) в Беркли изучали поведение рациональных, но ограниченных в ресурсах машин, способных изучать исходный код друг друга. Может показаться, что такая прозрачность может решить проблему кооперации: если вы можете предсказать, что сделает ваш оппонент, проведя симуляцию его кода, можно решить, то обман не стоит его цены. Но что, если в исходном коде оппонента будет симуляция того, что я сделаю в результате запуска этой симуляции, и он попытается воспользоваться этим знанием? Без симметричной идеальной рациональности эта проблема приводит к серьёзным искажениям мышления.

Некоторые машины в зоопарке MIRI могут напомнить вам о людях, которых вы знаете. К примеру, CliqueBot сотрудничает со всеми со схожим исходным кодом. Ему важены только коды, точно совпадающие с его кодом. FairBot наоборот, пытается заглянуть за поверхностные различия и доказать, что его оппонент будет с ним сотрудничать. Грубо говоря, FairBot говорит: «если я могу доказать, что мой оппонент будет сотрудничать со мной, я буду сотрудничать с ним».

Как эти машины уживаются друг с другом? Хотя общим решением будет парадокс регресса, исследования предсказательного поведения машин в дилемме заключённого дают успокаивающий ответ – обоюдное сотрудничество остаётся, по меньшей мере, возможным, даже для игрока с ограниченными ресурсами. К примеру, FairBot может распознавать сходным образом справедливые машины, даже если их исходный код отличается от его – что говорит о том, что разнообразие и сотрудничество не невозможны, по крайней мере, при достаточно высоком уровне интеллекта [Barasz, M., et al. Robust cooperation in the Prisoner’s Dilemma: Program equilibrium via provability logic. arXiv 1401.5577 (2014)].

Даже из машин, занимающихся геноцидом на жестоком краю спектра, можно извлечь вдохновляющий урок. Они появились из глубин печатной платы, будучи симулированными на техасском суперкомпьютере. У них нет биологических оправданий. Возможно, и мы не должны оправдываться: если это поведение настолько распространено, что оно появляется даже в простейших симуляциях, возможно, нам не нужно его ни бояться, ни боготворить, но относиться к нему так же, как к раку или гриппу.

Что, если мы будем рассматривать межплеменную вражду, как естественный сбой любой когнитивной системы, основанной хоть на кремнии, хоть на углероде? Не как всеобщую истину или неизбежный грех, а как нечто, что необходимо побороть?

Саймон ДиДио – ассистент-профессор в университете Карнеги-Мэллон, управляющий Лабораторией социального мышления и факультетом института в Санта-Фе.

Комментарии (31)


  1. napa3um
    20.10.2017 14:19

    Подобные симуляции не совсем полны, у людей нет строго фиксированного набора «микроигр», в которые они играют с оппонентами, пытаясь выиграть в «метаигре», у людей сам этот набор микроигр в ходе культуры расширяется, появляются новые уровни сублимации агрессии из игр «предыдущего» уровня. И между индивидами различаются способы моделирования этих игр (т.е., на самом деле люди не играют всегда с объективными арбитрами, устанавливающими правила поведения, эти арбитры у каждого в голове собственные, и не всегда люди играют друг с другом по одинаковым правилам). Грубо говоря, модель из статьи могла показать геноцид части популяции, а в реальности бы это выглядело всего лишь как выход команды из чемпионата по футболу (в качестве примера сублимации межпопуляционной агрессии в спорт). Т.е., такие симуляции могут приближённо соответствовать реальным социальным процессам лишь на небольших отрезках времени между фазовыми переходами, когда правила игр условно можно считать фиксированными, но для симуляции фазового перехода (перехода общества в новое квазистабильное состояние) такой симуляции уже будет недостаточно, потребуется подробная симуляция психологии, политики, экономики и т.д. вплоть до физики, чтобы предсказать новые способы сублимации агрессии и новые правила микроигр.

    Грубо говоря, несводимость в реальном мире материальных и нематериальных ценностей и ценности каждой индивидуальной жизни к общему объективному знаменателю — залог надежды на возможность построить рай на земле. Или ад.


    1. Rikkitik
      20.10.2017 20:44

      Тем не менее, ксенофобия — черта, свойственная человеку как биологическому виду и, по-видимому, её уровень у разных личностей генетически обусловлен. Известны и эволюционные предпосылки к её формированию, на определённом этапе развития гоминид она была очень выгодной стратегией поведения. Она работает на уровне эндокринной, а не нервной системы, поэтому плохо контролируется личностью: вы можете разве что убедить себя, что «этот чужой — немножко свой», но не отказаться от недоверия к чужакам в принципе.

      Интересные статьи по теме ксенофобии:
      Эффективен ли окситоцин как лекарство от ксенофобии?
      Строгость нравов в обществе зависит от экологии и демографии
      Может ли эволюционная психология объяснить феномен террористов-самоубийц?


      1. Valerij56
        20.10.2017 21:25

        по-видимому, её уровень у разных личностей генетически обусловлен.
        ИМХО, не доказано.


      1. tendium
        21.10.2017 18:36

        У меня в садике был чернокожий мальчик. И я понятия не имел о том, что он какой-то другой, пока мне об это не сказали…


        1. Posigrade
          21.10.2017 19:04

          У меня в садике
          так раз _у вас_ в садике, значит никакого ксено тут нет(если его специальным образом не обнаружить: типа по длине волос, росту, цвету глаз или цвету кожи), вот будь он из чужого садика, тогда была бы, возможно естественная ксенофобия.
          Например, наш садик имел границу с другим садиком. Только забор отделял детсад №152 от детсада №149. Когда воспитатели не видели, мы обзывались, кидали в друг друга через забор снежки, ледышки, палки (иногда случались серьезные травмы и у них и у нас). Они были чужие для нас, а мы для них, и мы считали друг друга опасными мудаками (ну, насколько это возможно в детсаду).

          Вообще, можно предположить, что это черные обществоведы ставили на нас опыты, что первый снежок через забор кинул какой-нибудь кандидат наук, наплевавший на научную этику.


          1. tendium
            21.10.2017 21:18

            Он был из другой группы (старшей). Это сродни другому садику.


            1. Posigrade
              22.10.2017 02:17

              Садик — это не школа, там у детей еще слишком мало опыта, чтоб воспринимать что-то как «ксено» без веской причины (другой садик + забор + снежок в лицо из-за забора). По большому счету они поначалу все как «ксено» воспринимают, но их психика еще очень пластична, поэтому они очень быстро адаптируются к новому и «ксено» буквально за несколько дней перестает быть «ксено». Это и в «обратную» сторону емнип работает: африканская мелюзга интенсивнее всех удивляется белому цвету кожи прибывшего в деревню доктора, но через пару дней они привыкают и считают белокожего типичной частью местного ландшафта, а для тех, кто постарше, тех, кто когда-то до приезда белокожего осознал, что люди бывают только черные, доктор всегда будет ксеносом (хоть и дружелюбным).

              Вот к школе у детей за годы их жизни набралось опыта и сформировались какое-то представление о типичном, сформировались какие-то устойчивые стереотипы, поэтому к школе дети уже способны опознавать ксеносов, даже когда ксеносы не кидаются снежками из-за забора.


  1. tieonabe
    21.10.2017 00:23

    Мне кажется, в современном мире слишком накручивают проблему расизма и ксенофобии. Делают вид будто она важнее, чем на самом деле. Думаю, это просто выгодно всяким нехорошим личностям, легко пиариться на этой теме. А разумному человеку достаточно глянуть на конфликт двух Корей или российско-украинскую войну, или глянуть как арабы друг друга активно мочат. И сразу станет понятно, что ксенофобия не так уж страшна. Во всех этих случаях выпиливают не каких-то сильно отличающихся «чужаков», а вполне таких же людей, зачастую активно прибегая к помощи чужаков.


    1. immaculate
      21.10.2017 07:09

      Это прокси-войны между двумя державами на территории третьей.


      1. seminole
        21.10.2017 15:27

        Ну да к вам в квартиру ввалился бандит с оружием, вынес новый 4к телевизор, прострелил вам ногу, избил членов вашей семьи. Полиция его объявила в розыск.
        Расслабьтесь, это просто прокси-война между полицией и преступностью на вашей территории.


        1. immaculate
          21.10.2017 15:31

          При чем здесь это? Я не говорил, что война — это хорошая вещь или как-то оправдывал одну из сторон. Просто человек привел примеры войн, которые якобы происходят между «своими», но на самом деле таковыми не являются.


          1. seminole
            21.10.2017 15:39

            В такой ситуации нужно говорить о трех игроках жлоб-сосед (свой), вы и полиция. Жлоб воюет с полицией а нога прострелена у вас.


  1. Aloner
    21.10.2017 00:25

    Я просто оставлю это здесь.
    Симуляции по ссылке показывают, что результат зависит от многих параметров. Например, от того сколько транзакций происходит между участниками. Чем больше транзакций, тем выше стимул доверять друг другу.


    1. Aloner
      21.10.2017 00:30

    1. Regis
      21.10.2017 07:14

      Да, это была первая ассоциация после прочтения начала статьи.


    1. qw1
      21.10.2017 13:01

      В этой модели как минимум две условности противоречат свойствам человеческого общества

      1. Победитель размножается «до победного», как бактерии в чашке Петри. В обществе же, элите разумно держать какую-то кормовую базу, и не вытеснять её своим бесконтрольным размножением.

      2. Все программы играют всегда одинаково со всеми противниками. А что если ввести нового игрока, который знает, кто перед ним: простак, обманщик, или такой же, как он? Тогда стратегия: если простак — всегда обманывай, если свой — всегда кооперируйся.


      1. Valerij56
        21.10.2017 13:42

        Тогда надо вводить, скажем, мстителя, который после, скажем, трёх обманов подряд грабит партнёра.


        1. qw1
          21.10.2017 14:23

          И что это меняет? Этот тип снова работает в рамках модели, т.е. не знает, с кем играет.
          Да, ещё у меня появляется следующий пункт:

          3. В модели игроки проводят друг с другом много раундов. В жизни нет так. Например, купил что-то на avito, а тебя продавец обманул. Нужно ли наказывать недоверием других продавцов?


    1. worldmind
      22.10.2017 20:13

      Что вполне логично, если я планирую жить долго и счастливо, то лучше не наживать врагов, а если я хочу красиво жить в сию секунду, а потом наплевать, можно можно всех обмануть и кратковременно пошиковать.


  1. Samoglas
    21.10.2017 01:09

    Если мы, люди, сверхрациональны, или по крайней мере, стремимся к этому, то есть повод для оптимизма. Фрэнсис Фукуяма, возможно, думал о чём-то подобном, когда писал свой «Конец истории» в 1992 году. Хотя его аргументы базируются на работах немецких философов XIX века, таких, как Ницше и Гегель, мы можем переписать их таким образом: достаточно сложная ситуация в жизни человека окончится рациональным, либерал-демократическим, капиталистическим порядком, противостоящим разрозненному набору врагов.

    Это уровень не научной работы, а политинформаторов, пропогандон истов, Димы Киселева и т. п. персонажей.

    Если летающий макаронный монстр существует или, по крайней мере, может существовать, то построение коммунизма (либерализма, фашизма — ненужное вычеркнуть) на всей Земле неминуемо!
    Учение Маркса всесильно потому, что оно верно.

    Люди иррациональны, это мейнстрим в нынешней науке.
    Если у автора такая легкость в мыслях:
    • считать само собой разумеющимся то, что прямо противоположно научному знанию;
    • по-умолчанию делать переход от каких то там алгоритмов к людям и обществу;
    • распространять какую то там модель до всепланетных масштабов,
    то эта статья — настоящий мусор, никакого доверия к тому, что там намоделировал автор, который демонстрирует глубину мышления на уровне старшеклассника, проводящего политинформацию о победе Коммунизма по всей Земле у младшеклассников в советской школе.


    1. Noeren
      21.10.2017 04:17

      Хммм… По пирамиде Грэма, ответ где-то между препирательством и переходом на личности… Исходный аргумент был качественней…


      1. Samoglas
        21.10.2017 18:26

        Noeren, вот исходный аргумент для меня:
        … достаточно сложная ситуация в жизни человека окончится рациональным, либерал-демократическим, капиталистическим порядком, противостоящим разрозненному набору врагов.

        — Скажите, пожалуйста, а нельзя вот эту последнюю фразу взять и выкинуть?
        — Да ты чё! Ради неё все и писалось!

        Квартет И. День выборов


        Вы понимаете, каким образом автор осуществил переход от эмуляции к торжеству либерализма с Фукуяма-саном? Я вот — нет.

        Статья, в действительности — политота. Просто этого настолько много, что уже глаз перестало резать даже на таком ресурсе, который как бэ про другое.
        А вот замени Фукуяму на Маркса и либерализм на коммунизм — вот это был бы номер, смотрелось бы свежо, а чего там в эмуляции? — да какая разница, если цель благородная, пропихнуть определенное политическое воззрение как единственно верное. Чем чудовищнее ложь, тем охотнее в нее поверят. Не важно, что пишут в основной части такой статьи, про эмуляции или социальное поведение у животных, вывод будет единственно верный и истинный в веках — что либерализм есть вершина человеческого развития.
        Меня так и философии в институте учили — изучали-изучали, начинали с греков и так дальше, штудировали источники и анализировали полемику.
        А в конце трах-бах: вершиной философской мысли являются работы Карла Поппера, без какого-либо обоснования.


        1. Posigrade
          21.10.2017 20:20

          Вы понимаете, каким образом автор осуществил переход от эмуляции к торжеству либерализма с Фукуяма-саном? Я вот — нет.
          тут вариантов — тьма. Чтоб точно сказать, надо четко в общественнонаучном дискурсе ориентироваться. Я не ориентируюсь, поэтому могу сходу предложить около 5 противоречащих друг другу версий.
          Вот одна из них:
          типа мы тут устроили симуляцию повторяющейся дилеммы заключенного, т.к. считаем эту игру критически важной для человечества как с т.з. возникновения сотрудничества так и с т.з. его поддержания. Неожиданным для нас оказалось, что бездушные машины начали геноцидить (не хуже людей), т.е. возможно это не мы такие, а жизнь такая, может причиной геноцидов (и прочего) является не человек, а игра в ПДЗ, которой человек не может избежать. И тут авторы между делом замечают: «мы выдали нашим машинам очень мало ресурсов для размышления» — типа, возможно, проблема именно в человеке (следует читать как «имей машины больше ресурсов для размышления (= будь люди умнее) и игра в ПДЗ превратилась бы в няшную фукуямовщину, а не геноцид».
          Нам очень стыдно в этом признаться, но: раз дело в игре в ПДЗ, а не в человеке (а если и в человеке, то только в том, что у человека мозгов не хватает для хорошей няшной игры), то похоже, что высокий фукуямовский идеал, которому мы верны всем сердцем, достижим через экзокортекс и прочий трансгуманистический рост интеллекта.

          Если грантодатели не учуют диверсию, по всей видимости, следующим исследованием будет, грубо говоря: «Уровень интеллекта игроков и уровень геноцида в симуляции ПЗД»


          1. Samoglas
            23.10.2017 13:16

            Вот одна из них:

            Версия прекрасная, аплодирую. ) Для тренировки мозгов, конечно, полезно покреативить чего-нибудь, но пускай отдуваются афтары сего опуса, они, наверное и не пытаются. По их технологии можно тупо любое исследование на любую тему оканчивать святым, непогрешимым призывом к приближению второго пришествия построению окончательной фукуямы на всея Земли, по высокому римскому образцу: «Кроме того, я думаю, что Карфаген должен быть разрушен».


  1. Natelyn
    21.10.2017 14:00

    это поведение настолько распространено, что оно появляется даже в простейших симуляциях

    Что, если мы будем рассматривать межплеменную вражду, как естественный сбой любой когнитивной системы

    я может что-то не так поняла, но разве первое утверждение не намекает на то, что это закономерность, а не сбой?


    1. qw1
      21.10.2017 14:26

      Там же, чуть дальше:

      нам не нужно его ни бояться, ни боготворить, но относиться к нему так же, как к раку или гриппу.

      То есть, это естественно, но излечимо. Болезни являются сбоем, но они естественны.


  1. bugigugi
    21.10.2017 14:00

    Вы меня конечно простите, но более "диванного" анализа я еще в своей жизни не встречал. Слишком далеко идущие выводы делаются из нарочито упрощенной модели взаимодействия систем. Мое мнение:"В мире больше красок"


  1. Vulko
    21.10.2017 14:00

    Согласен с предыдущим комментом, люди куда сложнее чем любая машина. Машина думает исходя из имеющихся правил, которые ограничивают её мышление. У людей все иначе. Более того, люди настолько разные, что у всех у них разный mind set и output их мыслительного процесса разный и не подчиняется заданным правилам для всех…

    Так уже устроен мир. (с) профессор высшей математики имевший честь обучать балбесов на потоке, к числу которых относился и я…


    1. Valerij56
      21.10.2017 22:54

      А здесь нет отрицания сложности людей и их различий. Это проработка теории игр, в чистом виде. Скорее это вы не понимаете, что иногда для упрощения можно рассматривать и такие модели, но в реальности изучают гораздо более глубокие процессы.

      А эта примитивная модель создана не с научными, а с научно-популярными целями.


  1. vasiliysenin
    23.10.2017 10:20

    При игре с положительной суммой, разумной стратегией (способствующая выживанию) поведения является сотрудничество.
    Например Жак Фреско говорит что при использовании уже существующих технологий производства, если сделать все ресурсы планеты достоянием всего человечества, то можно выйти на более высокий уровень жизни для каждого.
    Но если численность населения превысит несущую способность планеты, то войны за ресурсы неизбежны.


    1. siziyman
      23.10.2017 10:44

      Вот только Фреско, во-первых, весьма предвзят, во-вторых, его рассуждения доказательств не нашли.