Отец искусственного интеллекта размышляет о том, как сделать машину, которая бы гордилась нами. Марвин Мински был довольно жестким ученым и то, что он своим «скальпелем познания» исследует тему чувств и эмоций, что же делает нас людьми, довольно интересно и полезно. Книга — отличный образец того, как «ИТишным подходом» попробовать осмыслить «человеческое»: ценности, идеалы, любовь, боль, здравый смысл.

3-1. Боль

«На протяжении бесчисленных поколений, великая боль толкала животных к тому, чтобы избежать страдания — ценой самых ожесточённых, самых разнообразных усилий. И даже человек, чувствуя боль в конечности или другой части тела, имеет привычку потрясти ею, как-бы стряхивая причину боли, хотя это очевидно может оказаться невозможно.»
— Чарльз Дарвин.

Что происходит, когда вы ударяетесь большим пальцем ноги? Вы ещё не успели в полной мере почувствовать удара, но вот ваше дыхание уже сбивается, вы начинаете потеть — потому что знаете, что последует за ударом: ужасающая боль, от которой скручивает внутренности, заставляющая забыть обо всех целях, кроме одной — избавиться от боли.

Почему ощущение, которое мы называем болью, иногда приводит к тому, что мы называем страданием? Как может настолько незначительное событие так сильно повлиять на все остальные мысли? В данной главе предлагается следующая гипотеза: если боль будет достаточно интенсивной и не будет ослабевать, мозг привлечёт для решения проблемы дополнительные ресурсы, а те, в свою очередь, привлекут ещё. Далее, если такая динамика продолжится, разум станет жертвой широкомасштабного «каскада», который со временем поглотит его полностью, как и было описано в разделе 1-7:


Иногда боль это просто боль; если она не слишком интенсивна и продолжительна, она не будет беспокоить вас так уж сильно. Даже если боль острая, обычно вы можете заглушить её на время, стараясь думать о чём-то другом. И наконец, вы можете ослабить боль думая о ней самой — фокусируя на ней внимание, оценивая её интенсивность, пытаясь рассматривать её оттенки в качестве интересных новшеств.

Дэниел Деннет: Если у вас получится заставить себя изучать свою боль (даже весьма интенсивную), вы обнаружите, что перестаёте её чувствовать (для боли не остаётся пространства). Однако, изучение боли (например, головной) наскучит вам уже скоро и, как только вы перестанете её изучать, она вернётся и «продолжит болеть», что, как ни странно, нередко оказывается увлекательнее изучения наскучившего объекта и даже в некотором роде предпочтительнее.

Но это лишь временное облегчение, поскольку пока боль не уйдёт, она будет продолжать ныть и требовать внимания, словно расстроенный, неудовлетворённый ребёнок; вы можете некоторое время думать о чём-то другом, но, как бы вы не старались, уже скоро боль снова будет доминировать над разумом.

И всё-же, мы должны быть рады, что боль «выжила» в рамках эволюционного процесса — она защищает наши тела от урона. Во-первых, согласно Дарвину, боль может заставить вас стряхнуть раздражитель — она может и удержать вас от попыток двигать повреждённой частью тела, позволяя той отдохнуть и зажить. А вот и другие способы, которыми боль защищает нас от травм:

• Боль фокусирует наше внимание на поражённой части тела.
• Боль мешает нам думать о чём-либо, кроме её источника.
• Боль заставляет нас избегать того, что её вызывает.
• Она заставляет нас стремиться выйти из текущего состояния и учит не возвращаться в него в будущем.

Но вместо того, чтобы быть благодарными боли, мы лишь жалуемся на неё. «Отчего мы прокляты на эти ужасные ощущения?» — вопрошают жертвы боли. Мы часто думаем о боли и удовольствии как о противоположностях — но их объединяет множество свойств:

• Удовольствие заставляет нас концентрироваться на определённых частях тела, вовлечённых в процесс.
• Удовольствие мешает думать о чём-либо кроме него.
• Оно принуждает нас приблизиться к его источнику.
• Оно побуждает оставаться в текущем состоянии и учит, что в будущем стоит почаще в него возвращаться.

Можно предположить, что удовольствие и боль задействуют одни и те же «механизмы». Например, оба сужают наш спектр внимания, оба связаны с тем, как мы усваиваем информацию, оба присваивают приоритет только одной из многих целей человека. Учитывая эти сходства, несложно представить, что разумный пришелец может задаться вопросом — почему люди так любят удовольствие, но стараются избегать боли:

Пришелец: Почему люди жалуются на боль?

Человек: Нам не нравится боль потому что от неё больно.

Пришелец: Объясните, что значит «больно»?

Человек: Нам больно когда мы чувствуем боль.

Пришелец: Объясните пожалуйста, что такое «чувство»?


В этот момент беседа может зайти в тупик, так как многие человеческие мыслители считаю что мы никогда не сможем объяснить подобные вещи — ведь чувства «несократимы».

Философ-дуалист: Наука может объяснять феномен лишь оперируя другими, более простыми феноменами. Но субъективные чувства вроде удовольствия и боли по определению несократимы (не поддаются упрощению). Их не получится поделить на простейшие части, такие как атомы: или они есть, или их нет.

В этой книге описан противоположный взгляд на чувства, не как на простые, «несократимые» явления — как на явления крайне комплексные, сложные. И, что несколько парадоксально, как только мы распознаем эту сложность, мы сможем объяснить, почему удовольствие и боль похожи, представив (что мы и попытаемся сделать в Главе 9) оба чувства в качестве результатов работы похожих «механизмов».

Люди часто используют слово «болит», понятия «боль» и «страдание» так, будто они описывают одно и тоже состояние, а отличаются только по степени тяжести. В этой главе представлена альтернативная точка зрения: что нам нужны значительно более явные различия и отдельные теории для каждого из этих явлений.

3-2. Продолжительная Боль приводит к Каскадам

Наша идея относительно механизма работы Страдания заключается в следующем: любая острая и продолжительная боль приводит к каскаду психических изменений, оказывающему разрушительное воздействие на ваши планы и цели. Подавляя таким образом большинство других ресурсов мозга, процесс сужает ваш круг интересов — так, что большая часть вашего разума подчиняется одной непреодолимой команде: Любой ценой избавься от Боли.

Эти механизмы безусловно имеют огромную ценность — при условии, что они заставят вас избавиться от раздражителя, чтобы вы могли вернуться к делам. Однако, если интенсивность боли сохраняется после того, как вы предприняли всё возможное чтобы от неё избавиться, она может продолжить занимать уже выделенные ресурсы — и продолжать «захватывать» новые — пока у вас не пропадёт способность «думать о чём-то кроме неё». Это распространение может и остановиться само по себе, но, пока боль не уйдёт, каскад может продолжить расти и, по мере поглощения новых ресурсов, будет уменьшать вашу способность мыслить, пока вам не начнёт казаться, что остатки вашего разума засасывает «чёрная дыра» страдания.


В таких обстоятельствах ваши обычные цели будут казаться куда более сложно-достижимыми. Что бы вы не пытались делать, боль будет вмешиваться в процесс с собственными запросами и разрушать ваши планы, пока боль и неприятности вызванные ею не заполнят ваш разум, вытеснив практически всё остальное. Возможно, тяжесть страдания проистекает в большой степени из невозможности сознательно выбирать о чём думать. Страдание — форма заточения.

Невролог: Ваши предположения о разрушительных каскадах весьма соблазнительны, но есть ли у вас доказательства существования подобных процессов? Как вы продемонстрируете правильность своих догадок?

Это будет невозможно продемонстрировать с сегодняшними технологиями, но когда сканеры смогут показывать что происходит в мозге с более высоким разрешением, мы, скорее всего, сможем увидеть эти каскады. А покамест, требуется ли кому-то более существенное подтверждение, чем жалобы страждущих:

• Неудовлетворённость от не достигнутых целей.
• Раздражение от потери подвижности.
• Досада от неспособности мыслить.
• Ужас от возможности стать беспомощным калекой.
• Стыд от возможности стать обузой для друзей.
• Раскаяние от невыполненных обязательств.
• Смятение от вероятности провала.
• Огорчение от собственной «ненормальности» в чужих глазах.
• Возмущение от упущенных возможностей.
• Страх перед необходимостью выживания и вероятностью смерти.

Отсюда возможно предположить, что мы используем такие слова, как «страдание», «тоска» и «мучение» в попытке описать что с нами происходит, когда продолжаются эти разрушительные каскады: по мере того как всё новые системы расстраиваются и начинают передавать тревожные сигналы, ваш обычный ход мыслей нарушается настолько, что может показаться будто-бы ваш разум «украли».

Гражданин: Я согласен что все эти эмоции могут сопутствовать страданию. Но это не объясняет, что же такое страдание. Безусловно отвращение, раскаяние, смятение и страх связаны с реакциями на боль — и могут заставить нас страдать. Но не лучше ли будет рассматривать страдание просто в качестве очередного ощущения?

Как правило, говоря об ощущениях мы имеем в виду сигналы, поступающие от сенсоров, реагирующих на события во внешнем мире. Однако здесь речь идёт, как мне кажется, о сигналах, поступающих не «снаружи», извне, а от специальных ресурсов, отслеживающих состояния и стимулы высокого уровня [возможно интерпретировать как: приоритетные состояния] внутри мозга. Позже, в разделе 4-3 мы предположим, как именно работают эти ресурсы.

Как бы то ни было, страждущему сложно сохранять привычный образ мыслей. Так, будучи оторванными от своих привычных мыслей, вам сложно рассуждать о чём-то кроме текущего состояния обременения — и осознание собственного бедственного положения только усугубляет проблему. Как уже было сказано выше, боль лишает вас свободы, а значительным компонентом страдания является отчаяние от утери свободы делать ментальный выбор [прим. переводчика: под «ментальным выбором» автор подразумевает свободу сознательно выбирать о чём думать].

То же (хотя и в меньшей степени) касается и наших обычных состояний: наши мысли всегда ограничиваются актуальными целями которые, в свою очередь, подключают разные процессы. Иногда эти процессы продуктивно взаимодействуют, но часто они также сталкиваются и конфликтуют. У нас никогда не хватает времени чтобы сделать всё, что мы хотим сделать — так, каждая новая цель или идея могут заставить нас отложить или отказаться от других амбиций.

Чаще всего мы не обращаем большого внимания на эти конфликты, потому что чувствуем, что контроль всё ещё в наших руках, что мы можем сами принимать решения — а если нас не устроит результат, мы всё равно «свободны» вернуться назад и попробовать другой подход. Но когда в дело вмешивается боль, все проекты и планы отбрасываются в сторону, словно-бы какой-то внешней силой — и тогда мы придумываем отчаянные пути избежать боли. Срочность боли оказывается полезна когда приходится разбираться с экстренными ситуациями — но если после этого от неё не удастся быстро избавиться, боль может превратиться в катастрофу.

Действительно, страдание может повлиять на вас настолько сильно, что друзья начнут видеть на вашем месте другую личность. Оно может даже заставить вас пасть столь низко, что вы будете рыдать и молить о помощи, словно бы превратившись в ребёнка. Конечно, вам может казаться, что вы не изменились и всё ещё обладаете своими старыми воспоминаниями и способностями. Но у вас не получится использовать их продуктивно, пока вы не вернётесь к своей настоящей Личности.

Первоочерёдная функция Боли — заставить человека избавиться от её источника. Однако, чтобы сделать это, ей придётся подорвать стремление человека к большинству его обычных целей. Когда это приводит к обширному каскаду, мы используем такие слова как «страдание» чтобы описать, что остаётся от разума его жертвы.

Механика страдания

«Неугомонная, суетливая природа естества — вот корень боли, так говорю я. Обрети то спокойствие разума, что покоится в умиротворённости бессмертия. Твоё «Я» — лишь груда составных черт, и его мир — не более, чем пустая фантазия.»
— Будда.

«Жизнь полна горя, одиночества и страдания — и заканчивается слишком быстро.»
— Вуди Аллен.

Вчера Джоан споткнулась на лестнице. У неё не было ни малейшего подозрения о травме — но сегодня она ощутила ужасную боль в колене. Она работает над важным отчётом и планирует представить его завтра. «Но если это продолжится,» думает она, «я даже не доеду до места.». Она пытается заставить себя вернуться к работе, но уже скоро роняет ручку и стонет: «Мне нужно как можно скорее избавиться от этой боли.». В попытке добраться до домашней аптечки и найти таблетку, которая может хоть немного помочь, она внезапно чувствует острую, колющую боль, которая заставляет её сесть и прекратить пользоваться повреждённой ногой. Она хватается за колено, пытается отдышаться и подумать, что делать дальше — но боль подчиняет её себе настолько, что она не может сконцентрироваться ни на чём, кроме неё.

Откуда Джоан знает, где сосредоточена её боль? Оказывается, ей очень просто привязать конкретное болевое ощущение к определенному месту на коже — она ориентируется по врождённым «картам» кожного покрова, расположенным в разных частях её мозга; подобным этой, расположенной в сенсорной зоне коры.


Во многих пособиях о мозге утверждается, что эти карты помогают нам локализовать тактильные ощущения — но эти пособия не объясняют, в чём преимущество наличия этих карт — учитывая, что эту функцию легко могла бы взять на себя кожа. Однако, локализовать внутренние очаги боли у нас получается далеко не так хорошо. Похоже, что в человеческом мозге отсутствуют механизмы, которые могли бы локализовать структуры под кожным покровом. Предположительно, их карты не сохранились в рамках эволюционного процесса по причине крайне низкой полезности: до наступления эры медицины не было способов, например, защитить селезёнку, помимо защиты всей брюшной полости — а потому, человеку требовалось только знать, когда у него болит живот. В частности, мы никогда не говорим «У меня ужасно болит мозг» потому, что у нас никогда не было способов лечения именно мозга, из-за чего не эволюционировала как боль в мозге, так и способность пространственной локализации ментальных событий.

Как бы то ни было, боль Джоан окажется полезной для неё только если заставит сфокусироваться на её колене — откладывая, в тоже время, другие её цели. «Избавься от меня,» внушает боль, «вернись в своё Нормальное Состояние.». Джоан не сможет вернуться к работе над отчётом, пока не удовлетворит это требование.

Как в действительности работает наше чувство боли? Наши учёные знают хоть сколько-нибудь много только о нескольких событиях, происходящих в первые секунды после получения травмы. Сначала повреждённые клетки выделяют вещества, заставляющие определённые нервы посылать сигналы спинному мозгу. Потом определённые нейронные сети посылают собственные сигналы в головной мозг. Однако, наши учёные достаточно плохо понимают что происходит после этого в остальных зонах мозга. Я ни разу не видел ни одной достойной теории, объясняющей почему боль ведёт к страданию. Вместо этого можно найти описания, подобные нижеследующему:

Чувство боли возникает в следствие реакции определённых нервов на высокие температуры, давление и т.д. Потом их сигналы поднимаются до вашего таламуса, из которого также отсылаются сигналы в другие зоны мозга — провоцируя процессы, которые на разных уровнях включают гормоны, эндорфины и нейромедиаторы. Достигнув вашей лимбической системы они провоцируют такие эмоции как грусть, злоба и разочарование.

Но и этого объяснения недостаточно, потому как для понимания природы страдания недостаточно понимания того, какие зоны мозга вовлечены в процесс. Также требуется понимать функции этих зон и то, как каждая из них влияет на остальные; как во время пребывания объекта в своём обычном состоянии, так и во время вышеупомянутых каскадов (чтобы лучше понять особенности страдания). Рональд Мельзак и Патрик Уолл, одними из первых занявшиеся изучением проблемы боли, осторожно замечают:

«Определённая зона переднего поясного слоя коры головного мозга имеет высокоспециализированную функцию в обработке болевых ощущений, соответствующую вовлечённости в характерный эмоционально-мотивационный компонент боли.»

Однако мы также знаем, что боль затрагивает и многие другие зоны мозга. Мельзак и Уолл продолжают:

«Концепция «болевого центра» — чистой воды фантазия, если только не считать этим центром весь мозг; потому что таламус, лимбическая система, гипоталамус, ретикулярная субстанция ствола мозга, париетальная и фронтальная зоны коры — все они замешаны в восприятии боли.»

Также, наши реакции на боль зависят от следующих ментальных состояний:

Дэниел Дэннет: «Настоящая боль связана с импульсом к выживанию, с реальной вероятностью смерти, с недугами нашей мягкой, уязвимой, тёплой плоти. [...] Невозможно отрицать (хотя опыт многих показывает возможность игнорирования), что наша концепция боли неразрывно связана с нашим этическим восприятием, нашими страданиями, обязанностями и злом.»

Вообще говоря, мы не так уж много знаем о том, как физическая боль приводит к страданию. И хотя мы смогли локализовать многие из связанных процессов внутри мозга, мы практически не понимаем как работает каждая соответствующая зона — потому, что для этого нам требуются теории (подобные изложенным в этой книге) о том, что именно они делают.

Возможно нам удастся найти больше подсказок об этих вещах исследуя редкое заболевание, возникающее в следствие повреждений определённых частей мозга: жертвы «Болевой асимболии» всё ещё чувствуют то, что большинство из нас называют болью — но не находят эти ощущения неприятными, и могут даже смеяться в ответ на них. Возможно, они утратили некие ресурсы, которые вызывают у остальных из нас мучительные каскады.

Физическая боль против «боли» психической

Гражданин: Физическая боль — лишь один из видов боли, эмоциональные боли могут быть настолько же интенсивными; временами они даже доводят людей до самоубийства. Может ли ваша теория также объяснить и это?

Возможно ли, что психическая и физическая боль — одно и то же? Часто можно заметить, что они влияют на наши ментальные состояния похожим образом. Каким может быть взаимоотношение между нашими реакциями на, скажем, щипание или жжение кожи и «болезненные» внутренние переживания, такие как

• Боль от потери товарища.
• Боль от наблюдения боли других людей.
• Боль от лишения сна.
• Боль от унижения и предвидимых неудач.
• Боль от избыточного и продолжительного стресса.

Представьте, что вы слышите, как Чарльз говорит, «Я чувствовал себя настолько беспокойным и расстроенным, будто что-то раздирало меня изнутри.». Можно было бы заключить, что ощущения Чарльза напоминали ему о том, что он испытывал при ужасающей боли в животе.

Физиолог: Ваше ощущение «будто вас раздирало изнутри» могло быть вполне обоснованным — ваше психическое состояние могло вынудить мозг посылать сигналы желудочно-кишечному тракту.

Похожим образом мы говорим об «уязвлённых чувствах», как будто они напоминают ощущения физической боли, несмотря на разные обстоятельства возникновения. Причина может крыться в том, что и те и другие процессы задействуют один тип механизмов высокого уровня. Так, неуважение товарища может нарушить работу мозга ровно также сильно, как глубокая, тупая боль. А иногда то, что начинается с физической боли, может быть усилено «психологически»:

Студент: Как-то раз, ещё ребёнком, я ударился головой об стул и накрыл повреждённое место ладонью. И хотя боль была острой, меня это не особо расстроило. Только увидев кровь на своей руке я запаниковал и разрыдался.

Как бы то ни было, большинство чувств крайне сложно описать, потому что мы очень мало знаем о механике их работы. Однако, может быть куда проще распознать психическое состояние (как в самих себе, так и в окружающих), так как вам требуется только заметить несколько критериев определённого состояния. И этого чаще всего будет достаточно чтобы помочь нам коммуницировать — мы используем так называемую «эмпатию». Потому как двум разумам, имеющим структурные сходства, может быть достаточно лишь нескольких подсказок чтобы распознать друг в друге знакомые признаки.

За перевод спасибо Savva Sumin.

Об авторе

Марвин Ли Минский (англ. Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. [Википедия]

Интересные факты:

• Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
• Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
• Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
• Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
• В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]

---