Предисловие
Давно интересуюсь проблемой сознания и его связи с мозгом. Однажды я натолкнулся на очень интересный мысленный эксперимент, называемый «Китайская комната». Не помню в какой публикации я впервые прочел о нем, но он меня очень заинтересовал, поэтому я стал изучать вопрос. Только после прочтения оригинальной статьи [1] я понял, что в большинстве источников идеи автора представлены упрощенно, искажены и не поняты до конца. Эксперимент с Китайской комнатой ставит вопросы, и пытается дать ответы. Вопросы очень интересные, а ответы, на мой взгляд, неудовлетворительны. Поэтому я долго размышлял и решил сам сформулировать решение данной проблемы, о чем и будет моя статья.
Суть
В 1980-м году философ Джон Серл впервые представил свой мысленный эксперимент в статье «Minds, Brains, and Programs» журнала «The Behavioral and Brain Sciences». Эксперимент вызвал множество споров среди людей занимающихся проблемами философии сознания и искусственного интеллекта. Заявленная цель статьи состояла в том, чтобы доказать два утверждения: 1) Интенциональность человека (и животных) есть результат каузальных свойств мозга; и 2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.
Три десятилетия до выхода статьи Серла, Алан Тюринг сформулировал свой известный критерий для разумной машины, известный также как Тест Тюринга: компьютер, способный поддерживать диалог (текстовый) и сойти, таким образом, за человека, должен считаться разумным. К концу 70-х годов компьютеры и программы ИИ достигли того уровня, когда некоторые из их разработчиков стали заявлять, что их машины способны понимать английский язык. Статья Серла, содержащая описанный ниже эксперимент, стала во многом реакцией на подобные утверждения и общее мнение, что компьютер в принципе способен понимать человеческую речь.
В чем же заключался эксперимент? Серл предложил представить комнату, в которой находится человек. Внутрь комнаты можно подавать карточки с нарисованными на них китайскими иероглифами. Человек, находящийся внутри комнаты, совершенно не говорит и не читает на китайском, поэтому смысл иероглифов ему не понятен. В то же время, человеку даны подробные инструкции о том, как оперировать поступающими карточками и какими карточками отвечать. Таким образом, человек снаружи комнаты может задавать различные вопросы с помощью карточек и получать вразумительные ответы. У человека, задающего вопросы, должно сложиться впечатление, что человек внутри комнаты владеет китайским и понимает смысл их диалога, но на самом деле он лишь бездумно выполняет инструкции и не понимает ни слова. Более того, человек в комнате даже не способен постепенно выучить язык, поскольку бессмысленные для него карточки на китайском – это единственный способ связи с внешним миром.
В данном примере легко увидеть параллель с компьютером. Компьютер так же оперирует данными в двоичном коде, который не несет для него совершенно никакого смысла, машина просто выполняет арифметические и логические операции согласно заложенной в нее инструкции.
По мнению Серла, компьютер (или китайская комната) не способен достичь понимания, т.к. оперирует лишь синтаксическими конструкциями. Человек же в свою очередь воспринимает и оперирует смыслами, а не только лишь самими символами, на что компьютер не способен. Если суммировать идеи Серла изложенные в статье, он не против идеи существования искусственного интеллекта как такового. Основная его идея заключается в том, что для существования сознания не достаточно формальной программы, но необходим носитель обладающий свойствами, которые порождают интенциональность, формальная же программа не несет смысл и не может служить носителем понимания или сознания: «… only a machine could think, and only very special kinds of machines, namely brains and machines with internal causal powers equivalent to those of brains… Intentionality in human beings (and animals) is a product of causal features of the brain… Instantiating a computer program is never by itself a sufficient condition of intentionality » [1]. Таким образом Серл говорит, что интенциональность является необходимым свойством для возникновения мышления, и эта интенциональность является продуктом неких внутренне присущих свойств мозга. Машина, обладающая такими же свойствами, способна мыслить. Классический компьютер не обладает такими свойствами, поэтому, независимо от того, какая программа будет написана, она не способна привести к появлению мышления, и, как следствие, к появлению сознания.
«The aim of the Chinese room example was to try to show this by showing that as soon as we put something into the system that really does have intentionality (a man), and we program him with the formal program, you can see that the formal program carries no additional intentionality. It adds nothing, for example, to a man's ability to understand Chinese». [1]
(Цель примера с китайской комнатой состояла в том, чтобы попытаться отразить это, показав, что как только мы помещаем в систему нечто, действительно обладающее интенциональностью (человека), и программируем его формальной программой, то можно убедиться, что эта формальная программа не несет никакой дополнительной интенциональности. Она не прибавляет ничего, например, способность человека понимать китайский язык).
Идеи, изложенные Серлом, нельзя назвать завершенными, что вызвало вокруг них не мало споров. Тем не менее, эти споры так и не привели к окончательному выводу. Ни противники Серла, ни его сторонники ни сам философ так и не пришли к решению важных вопросов, ответы на которые должны лежать в основании размышлений о сознании и ИИ: «Какие свойства мозга порождают интенциональность?»,«Что есть смысл? И как он возникает?», «Каков процесс формирующий понимание?».
В данной статье я постараюсь дать ответы на эти вопросы.
Прежде всего, стоит разобраться с интенциональностью – внутренне присущим свойством мозга – которое, по мнению Серла, является столь необходимым для существования сознания. Для этого я хочу несколько отступить от основной темы и рассмотреть вкратце происхождение и эволюцию живых организмов.
Биологическую эволюцию можно рассматривать как продолжение эволюции химической, которая в свою очередь является продолжением физической эволюции. Согласно современным космологическим представлениям, после большего взрыва высвободилось огромное количество энергии/вещества, которое по мере расширения и остывания вселенной сконденсировалось в огромное количество разнообразных частиц. Время жизни большинства частиц, ввиду их нестабильности, оказалось чрезвычайно мало, и по прошествии времени остались лишь наиболее стабильные частицы, которые стали основой для формирования атомов известных химических элементов. Атомы вещества взаимодействовали, образовывая различные соединения. Наиболее стабильные из них копились, нестабильные распадались и объединялись в стабильные. В результате сложившихся уникальных условий на Земле появились соединения, которые были не только достаточно стабильны, но и могли производить дупликаты своих молекул, то были предки ДНК. Постепенно такие реплицирующиеся молекулы, путем случайных рекомбинаций, эволюционировали до состояния, когда они смогли не только воспроизводить себе подобных, но и создавать вокруг себя благоприятные условия для стабильного существования и размножения. Такая создаваемая благоприятная среда стала внутренней средой бактерий и одноклеточных организмов, а управляющие молекулы, которые уже можно назвать ДНК, приобрели функцию поддержки динамического равновесия организма (внутренней среды) — гомеостаза. Дальше были мутации и естественный отбор, которые создали тот живой мир, который мы знаем. Идея о том, что все живущие организмы являются лишь сложными механизмами для распространения молекулы ДНК, не нова, и подробно рассмотрена, например, Ричардом Докинзом [2]. Таким образом можно проследить, как происхождение жизни вытекает из фундаментальных законов существующей Вселенной. Грубо говоря, вся эволюция Вселенной – это лишь хаотичное движение энергии, подчиняющееся вероятностным законам. Происходит то, что наиболее вероятно, остается во времени то, что наиболее стабильно. Живую клетку, мельчайшую единицу жизни, можно рассматривать как огромный химический завод с множеством сложных химических процессов, которые сами по себе каждый в отдельности не имеют никакой внутренней цели, но все вместе осуществляют поддержание стабильной внутренней среды клетки, которая необходима для существования и репликации ДНК. Мы говорим, что целью всего живого является выживание и размножение, это несомненно так с точки зрения биологии, но необходимо заметить, что человек сам «присвоил» эти цели живому, чтобы описать общий характер поведения живых организмов. Если же быть последовательным с вышеописанными размышлениями об эволюции, то надо признать, что никакой цели или внутренне присущей интенциональности у живых организмов нет в принципе, как нет никакой цели у падающего яблока – оно падает подчиняясь фундаментальным физическим законам (мы можем говорить, что яблоко стремится упасть, но это не значит, что стремление упасть обусловлено какими-то внутренне присущими намерениями яблока). Живой организм – способ существования вещества обусловленный лишь фундаментальными физическими законами, нет никакой нужды в дополнительной магии. Я пишу об этом, чтобы показать, что в плане интенциональности между живым и неживым нет фундаментального различия. ДНК — это молекула, у нее нет и не может быть целей, только направления – физические и химические законы, следуя которым, она существует и управляет клеткой.
Далее в этой статье, когда будут использоваться слова цели, потребности, интенциональности в отношении живых организмов, необходимо помнить, что данные понятия лишь удобные абстракции, используемые для описания поведения, за которым стоят реальные процессы обусловленные фундаментальными объективными законами, а не туманными субъективными факторами.
Как уже было сказано, главное отличительное свойство живых организмов от неживых физических структур заключается в способности первых к репликации и поддержании стабильной внутренней среды – гомеостазе. Это именно свойства(!), но для удобства будем называть эти свойства целями и вернемся к тому, что целями живых организмов является размножение и поддержание гомеостаза. Рассмотрим стандартную схему поведения живого организма.
Живой организм не может пассивно существовать ожидая милостей от внешнего мира, ему приходится активно воздействовать на окружающую среду, чтобы достигнуть своих целей – выжить и размножиться. Именно эти цели являются отправными точками для его поведения. Но как именно себя вести? Главный вопрос, который стоит перед любым живым организмом в каждый момент времени – «Что делать дальше?». Рассмотрим гипотетический простейший одноклеточный организм. В схеме его работы есть три основных элемента: внешняя среда, внутреннее состояние и программа(1). Каждый из них может быть инициатором движения. Например, чтобы ответить на Главный вопрос, происходит проверка внутреннего состояния организма, которая определяет текущие потребности (например, питание). В клетке эта проверка происходит за счет хаотичного движения молекул вещества внутренней среды. Отдельные органеллы и ДНК взаимодействуют с химическими веществами и реагируют соответствующим образом. В ответ на внутреннее состояние запускается программа, которая определяется ДНК, а в более сложных многоклеточных организмах программа определяется нервной системой. Программа запускает процесс, который изменяет внутреннее состояние, которое в свою очередь меняет внешнюю среду (например, организм движется в пространстве). Внешняя среда воздействует на внутреннее состояние, и цикл замыкается. Эта схема приложима как к самым простым организмам, так и к самым сложным, включая человека. Более того, эта схема применима к различным частям организма, различным его системам разного уровня."
Запомним рассмотренную схему и вернемся к китайской комнате. Как я уже сказал, принцип ее функционирования, по сути, идентичен устройству стандартного компьютера, а сам эксперимент прекрасно демонстрирует ограниченность возможностей машины для понимания окружающего мира. Но погодите, разве мозг не находится в такой же ситуации, в какой находится человек внутри китайской комнаты? По сути, мозг имеет дело с той же китайской грамотой. Мозг сидит в темноте черепной коробки, изолированный от всего, кроме бессмысленного кода, который он получает от органов чувств. Если мы подключим электрод к нервной клетке, любой нервной клетке, не важно, принадлежит она мозгу или же сетчатке глаза, все, что мы увидим, это серии скачков напряжения. Для удобства наблюдения, такие импульсы часто подключают к громкоговорителю, тогда они слышны как неравномерное стрекотание. Такое стрекотание издают нервные клетки органов восприятия – клетки сетчатки глаза, волосковые клетки уха и т.д. Это стрекотание мозг и получает от органов чувств. Все что мозг может знать о внешнем мире – это то, что он похож на стрекочущий гул миллиардов клеток. В этом гуле нет абсолютно ничего указывающего на наличие пространства и времени, на существование предметов или людей вокруг. Звуки, формы, цвета, запахи – это все совершенно не похоже на странный и бессмысленный стрекот. Из собственного опыта нам известно, что мозгу все-таки удалось расшифровать этот код и использовать его вполне успешно для ориентации в мире. Почему же у мозга это получается, а человеку в китайской комнате (или компьютеру) это принципиально не под силу? Ведь они находятся в одинаковом положении! На самом деле последнее утверждение ошибочно – их положение принципиально различается.
Дело в том, что метод постановки мысленного эксперимента лишил человека внутри комнаты одной принципиально важной возможности – человек не может задавать вопросы вовне. Условия эксперимента говорят, что он может принимать карточки, манипулировать ими согласно инструкциям и таким образом отвечать на поставленные перед ним вопросы, хотя сам человек и не понимает что это за вопросы, он даже не понимает, что это вообще вопросы. Помимо этого, человек, оперируя внутри китайской комнаты, не преследует своими манипуляциями никаких целей – отсутствует интенциональность. Карточки никак не воздействуют на состояние человека внутри комнаты, они не полезны и не вредны, например, для выживания. Хоть и можно сказать, что карточки влияют на внутреннее состояние комнаты в целом, так как заставляют совершать манипуляции, но это влияние нейтрально, оно не приближает систему к цели и не удаляет ее, так как никакой цели изначально нет, кроме манипуляции ради манипуляции, как нет и обратной связи. Если же рассматривать работу нервной клетки и принимаемые ею сигналы (химические, по своей природе), то становится очевидным, что они непосредственно влияют на работу клетки. Они меняют ее внутреннее состояние. В то же время, нервная клетка имеет оптимальные для нее режим работы и внутреннее состояние, оптимальный химический состав. Поэтому сигналы не просто меняют работу клетки, но и смещают ее внутреннее состояние относительно целевого (оптимального) значения. Целевое внутреннее состояние задается программой, которая записана в ДНК. ДНК находится в положении схожем с мозгом и с КК, поскольку не контактирует напрямую с внешним миром, но только через посредство внутреклеточной среды. Таким образом, оптимальное внутреннее состояние, которое есть цель функционирования клетки, и является как условием, так и причиной присущей этой клетке интенциональности, задается программой (ДНК).
Можно сказать, что сама программа является носителем интенциональности. Но откуда интенциональность там взялась? Как уже было сказано, ДНК существует и функционирует по физическим/химическим законам. Репликация и прочие функции, связанные с поддержанием гомеостаза, являются свойствами ДНК, вытекающими из этих законов, а не целями или потребностями ДНК. Так же как краснота является свойством красного яблока, а не его намерением. Отсюда следует, как я уже оговаривал в начале статьи, что то, что мы называем интенциональностью живых организмов, по сути своей ею не является. Поэтому вопрос «откуда появляется интенциональность?» не имеет смысла. Интенциональности там нет, как нет ее нигде. Есть только цепочка причин и следствий, которая следует универсальным физическим законам. Интенциональность – человеческая выдумка и удобная абстракция, впрочем, это я тоже уже писал. Но мы продолжим пользоваться этим понятием, поскольку оно удобно для описания сложного поведения организмов. Чтобы немного суммировать написанное, выстроим логическую цепочку возникновения «интенциональности»:
Физические законы > Химические законы > ДНК + эволюция > Репликация и Гомеостаз > Целевое внутреннее состояние > Интенциональность (целевое поведение)
Вернемся к вопросу о «понимании». В чем оно состоит? Когда мы можем сказать, что китайская комната «поняла»? Где проходит граница между понимающей системой, и системой не способной к пониманию? Способна ли единичная клетка обладать каким-либо «пониманием»? И если способна, то чем отличается клетка понимающая от непонимающей?
Можно рассматривать животных, по мере уменьшения и упрощения их ЦНС и задаваться вопросом, способно ли данное животное к пониманию? Лично для меня крайне сложно нащупать границу между пониманием и непониманием таким способом, поэтому я решил пойти снизу вверх, начиная с единичной нервной клетки.
Нервная клетка, в отличие от «китайской комнаты», способна не только пассивно реагировать, принимая сигналы, но и активно воздействовать на их источник. Методами такого воздействия может быть, например, изменение количества рецепторов медиатора на постсинаптической мембране клетки, или изменение частоты и силы (количества молекул медиатора) генерируемых сигналов. Последний метод тем более очевиден, чем проще рассматриваемая нейронная сеть. На основе универсальной схемы функционирования живых организмов (1) рассмотрим простейшую нейронную сеть (2), осуществляющую работу этой схемы.
Допустим, внешний раздражитель, на данной схеме, это источник света, рецептор (Р) – это световой рецептор на сетчатке глаза, (Н) – управляющий нейрон, а актуатор (А) – мышца отвечающая за сужение зрачка. Очевидно, что схема работает следующим образом: свет попадает на рецептор; тот генерирует импульсы, поступающие на управляющий нейрон; который в свою очередь генерирует управляющие импульсы на сужение зрачка; зрачок уменьшает количество попадающего на рецептор света; в результате чего изменяется частота генерируемых рецептором импульсов и так далее по кругу. Управляющему нейрону в данной схеме ничего не известно о внешнем мире, он с ним не контактирует напрямую. Все, что «известно» данному нейрону это то, как его «поведение» влияет на его внутреннее состояние, т.е. генерируемые на выходе импульсы влияют на характер получаемых импульсов на входе. Нейрон, как и мозг в целом, как и человек в китайской комнате, находится в изоляции, все что его «волнует» и доступно для восприятия — это его внутреннее состояние. Внешняя среда оказывает воздействие, изменяя внутреннее состояние, и, отталкиваясь от этого изменения, нейрон меняет свое поведение. При этом целью поведения является достижение оптимального для клетки внутреннего состояния или режима работы. Возвращаясь немного назад, нужно заметить, что целевое состояние не есть конечная цель, которой, как было уже сказано, является выживание и размножение организма.
Просто для Программы доступна информация только о внутреннем состоянии организма. Достижение целевого внутреннего состояния и является условием для выживания и/или размножения. Целевое состояние не является чем-то постоянным, но зависит от внешних условий и личного опыта клетки. Стоит также отметить, что для самого нейрона не стоит задачи единоличного выживания и размножения, т.к. он является лишь частью целого организма. Однако, преследовать какие-либо другие цели кроме «личных» нейрон (как и любая другая клетка организма) не способен, вследствие ограниченности получаемой им информации. Поэтому залогом успешного функционирования целого организма является то, что «личные» цели отдельных его составляющих согласованны, и их достижение отдельными клетками приводит к выживанию организма в целом.
Для того, чтобы показать, как клетка может что-то понимать или не понимать рассмотрим еще один пример. Представим нейрон, на который воздействуют два химических вещества: А и В. Оба вещества влияют на внутреннее состояние нейрона. Вещество А является нейромедиатором, на который нейрон способен реагировать, т.к. обладает соответствующими рецепторами и программой записанной в ДНК. Вещество А деполяризует мембрану, возникает потенциал действия, часть ионов натрия заходит в клетку, часть ионов калия выходит из клетки, затем баланс ионов восстанавливается с помощью натрий-калиевых насосов, которые приводятся в действие с помощью АТФ синтезируемой внутри клетки. Помимо этого, происходит элементарное обучение, т.е. изменение синаптической проводимости и некоторые другие процессы, являющиеся актом адаптации к внешним воздействиям. Это обычный процесс жизнедеятельности нейрона, все в рамках программы ДНК. Произошло воздействие, воздействие изменило внутреннее состояние, ДНК запустила соответствующую программу, внутреннее состояние вернулось к целевому. Нейрон готов к подобного рода воздействию и знает как себя вести, чтобы вернуться к целевому состоянию.
В случае с веществом В ситуация несколько иная. Допустим, что это ионы тяжелых металлов, которые постепенно проникают внутрь клетки, и клетка не обладает молекулярными механизмами для распознавания и выведения данных ионов. В свою очередь, эти ионы, накапливаясь внутри клетки, мешают нормальной работе ионных каналов и тем самым нарушают баланс веществ.
Существующих внутриклеточных механизмов оказывается недостаточно, чтобы поддержать баланс на должном уровне, избегание воздействия тоже не происходит, клетка не способна адаптироваться к воздействию, вернуться в целевое состояние. Отсутствие адекватной реакции адаптации можно расценивать как «отсутствие понимания» клеткой данного вида воздействия. В ходе эволюции клетки способны приобрести это «понимание», если подобное воздействие будет оказывать существенное эволюционное давление.
Подведем итоги. Что представляет собой система (например, живой организм) способная к пониманию? Система должна обладать следующими свойствами:
1. Интенциональность. То есть функционирование системы должно иметь цель – достижение и/или поддержание некоего внутреннего состояния;
2. Каузальность. Система способна воспринимать только такое воздействие, которое влияет на внутреннее состояние системы таким образом, что оно смещается от целевого состояния;
3. Адекватная реакция. После того, как воздействие вызвало изменение внутреннего состояния, система должна попытаться вернуться к целевому состоянию. Достигается это за счет изменения внешнего воздействия, т.е. происходит обратное воздействие на внешнюю среду (простейший пример – избегание).
4. Реакция подразумевает наличие Программы, которая запускает поведение в ответ на соответствующее воздействие. В Программе хранятся целевые состояния и порядок действия/реакции в различных ситуациях. Нужно заметить, что такая Программа обладает некоторого рода предвидением, поскольку чтобы запустить адекватное поведение, необходимо знать, что результатом этого поведения (с некоторой вероятностью) станет достижение целевого состояния.
Такое знание или предвидение живые организмы приобретают в ходе фило- и онтогенеза.
Не трудно убедиться, что любой живой организм обладает перечисленными свойствами. А как насчет «китайской комнаты»? Как правильно заметил Серл, у нее отсутствует интенциональность. Из наших рассуждений это следует из отсутствия целевого внутреннего состояния. Соответственно все остальные пункты тоже отсутствую, потому как они базируются на первом. Сигналы (воздействие) передаваемые в КК, воздействуют на внутреннее состояние, но не смещают его от целевого, они нейтральны. А если нет смещения, то и адекватной реакции не может быть. Правда КК обладает Программой, но эта программа не удовлетворяет описанным требованиям, а именно, не запускает адекватное поведение.
Способна ли формальная программа наделить классический компьютер мышлением, т.е. наделить систему 4-мя описанными свойствами? Очевидно, ответ – да. Я не хочу описывать, каким образом этого достигается, так как это довольно просто сделать, опираясь на приведенные выше тезисы.В конце концов, ДНК так же является формальной программой. Вместо этого предлагаю рассмотреть более радикальный и любимый многими философами пример – обыкновенный термостат.
Термостат – это прибор для поддержания постоянной температуры. Схема и принцип функционирования термостата могут быть очень просты. Элементарный термостат имеет датчик, который срабатывает при заданном пороговом значении температуры и передает управляющий сигнал на включение/выключение нагревательного элемента. Допустим, такой термостат поддерживает температуру в комнате на уровне 25 град С. Изначально, обогреватель работает и повышает температуру в комнате. Когда температура поднимается до 25 градусов, датчик срабатывает и отключает обогреватель. Комната начинает постепенно остывать. После того, как температура опустилась ниже определенного порогового значения (например 23 градС), датчик срабатывает и включает обогреватель. Цикл повторяется.
Проверим, обладает ли термостат 4-мя свойствами мыслящих (семантических) систем. Первое – целевое состояние и интенциональность. Термостат «стремится» поддерживать температуру датчика в районе 25 градС. Это вполне попадает под определение целевого внутреннего состояния системы. Второе – внешнее воздействие. Термостат способен воспринимать температуру и только ее, таким образом, система одномерна, к тому же обладает всего двумя состояниями, грубо говоря, «Вкл» и «Выкл». Диапазон «ощущений» так же сводится к двум – температура выше или ниже порогового значения. Третье – адекватная реакция. Поведение термостата адекватно воздействию и направлено на восстановление целевого внутреннего состояния – заданной температуры датчика. При этом термостат воздействует на внешнюю среду, которая в свою очередь воздействует на датчик. Все в рамках описанной концепции. Четвертый пункт – программа. Можно сказать, что программа задана самой конструкцией термостата и параметрами датчика.
Выходит, что термостат способен мыслить и понимать. Кому-то это покажется смешным, кому-то безумным, а кто-то согласится с ходом моих размышлений. К тому же, я не первый, кто пришел к подобным выводам [3]. Конечно, уровень понимания термостата совершенно иной чем тот, которым обладает человек или даже мышь, это элементарнейший уровень. Поэтому попытки проводить параллели между человеком и термостатом могут показаться притянутыми.
Человеческое мышление подразумевает задействование огромного количества элементарных схем, связанных между собой, и вложенных друг в друга. Мир внутренних состояний бесконечно богаче мира термостата, но суть самого процесса мышления остается одинаковой на всех уровнях. Суть эта отражена в схеме (1) и четырех свойствах мыслящей системы.
Важно всегда помнить при исследовании структур мозга и его функций, что главным назначением и конечным продуктом мозга является не мышление, а действие. Действие, направленное на внешнюю, по отношению к исследуемой структуре, среду. Целью такого действия является изменение воздействия среды обратно на внутреннее состояние организма (структуры, клетки). Это и есть описанный в схеме (1) цикл: Внеш. Среда > Внутр. Состояние > Программа > Внутр. Состояние > Внеш. Среда. Этот цикл и порождает «смысл», образует смысловую петлю. При этом в качестве внешней среды может выступать как окружающий мир, так и другие структуры организма или соседние клетки, в зависимости от того, какой уровень системы рассматривается.
Таким образом, смысл любой информации (воздействия) заключается в том, какое влияние она оказывает на внутреннее состояние, и какое ответное воздействие организм (структура) может оказать, чтобы изменить это влияние. Говоря еще проще, смысл информации заключается в ответе на вопрос «Что делать в связи с полученной информацией?». Назначение мозга в конечном счете тоже сводится к ответу на этот вопрос, Главный вопрос, как я назвал его в начале статьи при описании схемы (1): «Что делать дальше (чтобы выжить и размножиться)?».
Заключение
В заключение, вернемся к тезисам, которые выдвинул Джон Серл в своей статье.
1) Интенциональность человека (и животных) есть результат каузальных свойств мозга.
Данное утверждение верно лишь отчасти. Если тщательнее разобраться, корни интенциональности уходят глубже. Носителем интенциональности всего живого является ДНК. Это сложная молекула, обладающая ключевым свойством – способностью к саморепликации. Именно это свойство сделало возможным эволюцию ДНК, в ходе которой молекула строила вокруг себя все более и более сложные живые организмы. Именно ДНК определяет структуру, развитие и поведение живого организма. ЦНС появляется несколько позже в процессе эволюции. Она необходима для управления большим и сложным многоклеточным организмом и способна значительно расширить поведенческий репертуар. Мозг является сложной динамической самоорганизующейся структурой.
Внутреннее состояние мозга, с одной стороны, отражает отдельные характеристики внешнего мира, с другой стороны, содержит информацию о состоянии и функционировании организма. Цель мозга – поддержание оптимального внутреннего состояния организма. Для достижения этой цели мозг действует как реактивно, так и проактивно. Как видно из рассуждений, мозг хорошо вписывается в схему Внешний мир <-> Внутреннее состояние <-> Программа. Мозг, как и ДНК, выступает в роли носителя программы. Эта программа частично задается ДНК во время развития организма, частично формируется жизненным опытом. Она хранится в структуре связей нейронной сети и текущей активности нейронов. Программа является носителем интенциональности — направленность мышления и поведения. Таким образом, можно сказать, что интенциональность мозга задана структурой его нейронных связей и свойствами самих нейронов, и то и другое определяется по большей части ДНК.
2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.
Как было показано, носителем интенциональности в живых организмах является именно закодированная в структуре ДНК, программа. Сам физический носитель в данном случае не принципиален, главное чтобы он был способен взаимодействовать с внутренней средой и обладать достаточной структурной емкостью, чтобы вместить программу. В этом смысле, ДНК ничуть не предпочтительнее полупроводниковых элементов, из которых сделан компьютер. Любой организм – это, в конечном счете, машина, талантливое инженерное решение эволюции. Любая машина является физическим носителем программы, которая записана в самой структуре машины. В то же время, любая программа нуждается в физическом носителе для того, чтобы быть запущенной.
Каким образом все вышесказанное относится к способности компьютера понимать человеческую речь? Любое внешнее воздействие обретает смысл только будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) > Внутр. Состояние > Программа > Внутр. Состояние > Внеш. Среда (воздействие). Это применимо и к словам, с единственной оговоркой, поскольку слова являются абстракциями высокого уровня, причинно следственная цепочка для них будет выглядеть сложнее, хоть и сохранит общую структуру и смысл. Другими словами, слово, как и все остальное, имеет смысл только в том случае, если способно повлиять на внутреннее состояние так, что сместит его от целевого состояния. Для человека слово «красный» имеет большое значение. Например, красные ягоды – спелые, а зеленые – нет. Это полезная для выживания информация. Для компьютера, чтобы слово красный обрело значение, притом схожее с человеческим, ему необходимы сенсоры, воспринимающие красный цвет, цель и взаимосвязь красного цвета и достижения цели. В одном Серл был совершенно прав, современные компьютеры лишь симулируют понимание, т.к. их «знания» о словах опираются не на реальный опыт, а на другие слова, что в теории может породить некоторую степень понимания, но совершенно отличную от человеческой. К тому же современные компьютеры и программы не наделены внутренними целевыми состояниями, что делает невозможным появление смысла.
?
P.S. Цепь размышлений в данной статье идет снизу вверх, от элементарных понятий и объектов, к более сложным и абстрактным. Размышления следуют логике эволюции и в целом опираются на эволюционную парадигму. Такой подход видится автору наиболее научным. Терминология также развивается снизу вверх. В результате, современные понятия получают новую трактовку. Автор не ставил себе целью подмену терминов, и тем более нет у него желания использовать это в качестве хитрого приема, для облегчения задачи объяснения феномена мышления. Новая трактовка терминов является неизбежным следствием последовательных размышлений основанных на научном подходе. Современная философия сознания зачастую использует подход «сверху вниз» и потому постоянно жонглирует терминами, которые ссылаются друг на друга. В результате, картина напоминает попытку вытащить себя из болота за собственные усы. Отличие данной статьи заключается в том, что мышление выводится непосредственно из фундаментальных законов. Таким образом, мышление лишается ореола загадочности и перестает быть прерогативой человека, высших животных, и даже животных вообще.
Можно заметить, что в статье понятие мышления приравнивается к понятию понимания. Необходимо разъяснить этот момент, чтобы избежать непонимания. Если говорить о мышлении в его классическом определении, то это сложный многоуровневый процесс, и понимание является лишь его частью. Более того, понимание в том виде, в котором оно используется в данной статье тоже не дотягивает до своего общепринятого оригинала. Можно привести некоторую иерархию существующих общепринятых понятий, которые близки вопросу, обсуждаемому здесь:
Ощущение > Восприятие > Понимание > Мышление
Строго говоря, то, что я называю здесь актом мышления, ближе по своим свойствам к самому нижнему уровню этой иерархии – ощущению. Вот определение ощущения взятое из Википедии: «Ощущение, чувственный опыт — простейший психический процесс, представляющий собой психическое отражение отдельных свойств и состояний внешней среды, субъектом внутренних или внешних стимулов и раздражителей при участии нервной системы». Что касается восприятия, оно основано на ощущениях, но является более сложным процессом, подразумевающим активное извлечение информации из окружающего мира, в том числе и путем воздействия на мир. Понимание подразумевает не только восприятие информации, но и интеграцию полученной информации в собственную структуру знаний. Мышление находится наверху цепочки, оно включает в себя все предыдущие уровни и другие процессы, подразумевающие оперирование полученной информацией (анализ, синтез, абстрагирование, классификация и т.д.). Поскольку каждый последующий уровень приведенной иерархии понятий включает предыдущий, то понятия пересекаются. Если постепенно двигаться от мышления во всей его полноте и сложности, как оно представлено у человека, к более элементарным уровням мышления, как у более простых животных, то можно заметить, что понятия ощущения, восприятия, понимания и мышления постепенно сближаются и приобретают именно тот вид, который они получили в данной статье, становясь единым понятием. Если разобрать элементарный акт мышления, описанный выше, то он включает в себя зачатки всех понятий входящих в цепочку. Рассмотрение мышления на его элементарном уровне позволяет избавиться от лишней шелухи, и увидеть суть процесса. Сформированное таким образом заново понятие мышления является хорошей отправной точкой для дальнейших размышлений и исследований.
1. Searle J. Minds, Brains, and Programs. The Philosophy of Artificial Intelligence / Boden M (ed.) Oxford. 1990. Впервые опубликовано в журнале: «The Behavioral and Brain Sciences», 1980, № 3, pp. 417–424.
2. Докинз, Ричард. Эгоистичный ген. — Пер. с англ. М.: АСТ:CORPUS, 2013
3. Чалмерс Д. Сознающий ум: В поисках фундаментальной теории. М.: URSS, 2013
Комментарии (118)
Nuwen
13.08.2017 14:09+4Насчёт Китайской комнаты. Этот мысленный эксперимент — намеренное упрощение, практически на грани доведения до абсурда; и имеет цель показать, что реакция системы на раздражители — адекватная разумной — ещё не означает того, что эта система действительно разумна, ведь де человек внутри не осознаёт смысла тех иероглифов.
А насчёт вашего замечания о том, что иероглифы не оказывают влияния на саму комнату — так дело как раз в чрезмерном упрощении. Правилами эксперимента ведь вроде бы не запрещается сколь угодно сложная реакция на принимаемые данные — иероглифы можно не только принимать и передавать, их можно записывать в некие регистры памяти, и в соответствии с содержанием этих регистров менять правила реагирования на следующие акты ответа.
Суть эксперимента в принципе от этого не меняется — человек как не понимал значения иероглифов, так и не понимает, какими бы сложными не были правила ответа на них.
Другое дело, что тут уже появляется вопрос: — почему именно разум человека — сидящего в комнате — является субъектом эксперимента, по сути разумом системы является уже не он, а некий «китаец», который кроется в сложной системе реагирования на иероглифы, и именно у него появляется самосознание. А сознание самого человека уже выносится за скобки.
Кстати у Чалмерса по поводу панпсихизма как раз приводятся — как один из примеров — подсознательные процессы в мозгу, к которым у сознания доступа нет; хотя казалось бы, в чём разница, ведь это точно так же мозг реагирует на внешние раздражители.
По поводу размышлений про ИИ в посте возражений нет, просто хотел про тот мысленный эксперимент уточнить. Но вообще, я просто не знаю (да и кто знает?) почему существует самосознание, хотя очень хочу понять.Nuwen
13.08.2017 14:24У меня возникла идея другого мысленного эксперимента: сделать компьютерную игру, в которой игрок будет выполнять тривиальные и не очень задания, обучаться чему либо, приобретать навыки, одним словом обычную игру, каких много. Но при этом сделать такую систему интерпретации процесса игры, чтобы действия игрока в этой интерпретации сходили за ведение некой системой разумного диалога с человеком. То есть например: игрок прыгает через препятствие, а программа в это время конвертирует сложное поведение игрока в лексическое предложение в диалоге. Оппонент отвечает, а программа переводит это в следующее препятствие сложной формы, которое игроку нужно преодолеть, то есть «ответить» в другой интерпретации.
Не могу вспомнить, читал ли я это где-то или самому в голову пришло, но мысль забавная.
Darth_Biomech
13.08.2017 14:57Тоже встречал идею что в данном случае следует считать разумным всю систему целиком, «комната+человек».
Но тут другая проблема будет — такая система никогда ничего не сделает по собственной инициативе. Она будет всегда ожидать ввода данных, потому что только тогда она сможет отреагировать.Nuwen
13.08.2017 15:02+2Даже в случае с инициативой нет никаких сложностей с эмуляцией. Просто надо предусмотреть такие правила, которые в зависимости от содержимого определённых регистров памяти, будут побуждать человека внутри в определённые моменты выкидывать определённые иероглифы, даже если снаружи ничего не приходило.
Caseor
13.08.2017 16:44+1Собственная инициатива это тоже иллюзия, как и свобода воли.
Человек тоже что-то делает только под действием входных данных, но эти данные могут быть не только от окружения, но и от скажем внутренних органов тела. Ведь тело не является частью сознания, потому является внешним.
Например, в желудке пусто, желудок формирует сигнал в мозг, в мозгу появляется задача покушать и чувство голода.
Подозреваю бывают иные входные данные, более сложной природы, типа социальная среда и наше место в ней. Или потребность в любопытстве, которое есть замаскированный поиск новых ресурсов.
AlexanderS
13.08.2017 23:05Собственная инициатива это тоже иллюзия, как и свобода воли.
Человек тоже что-то делает только под действием входных данных...
Я бы не исключал различия в алгоритмах обработки этих входных данных. Иначе чем объяснить, что примерно одинаковые люди, оказавшиеся в примерно одинаковых условиях (и внешних, и состояния тела) ведут себя порой кардинально противоположно.Caseor
14.08.2017 07:21Объяснить тем, что не бывает примерно одинаковых людей.
Одинаковыми могут быть простые объекты, у которых мало основных характеристик. Если у двух таких объектов основные характеристики слабо отличаются, то можно предположить, что и производные характеристики будут отличаться не сильно.
Если же у двух объектов основных характеристик не 2-4, а 20, то малое отличие в половине может дать кумулятивный эффект и производные характеристики могут отличаться сильно.
Как мне кажется люди относятся к последнему типу объектов.
Я уж не говорю про инструментальное определение характеристик человека. Вот тут определяют какие-то характеристики личности, но насколько это объективно по сравнению с измерением массы или силы тока?
kryvichh
14.08.2017 09:47Более того, один и тот же человек из сегодня и из вчера — могут совершенно разно прореагировать на одинаковые события. Потому что человек из сегодня за прожитый день получил новый опыт. и избавился от некоторых старых привычек. Получается, это разные люди. )
Welran
14.08.2017 12:04Значит это были не примерно одинаковые люди. А вероятно совершенно непохожие люди.
norlin
13.08.2017 20:30и именно у него появляется самосознание
А что вы понимаете под термином "самосознание" в данном котексте? Потому что в том смысле, в котором понимаю это слово я, оно ну никак не может появиться у подобной "системы реагирования".
Nuwen
14.08.2017 03:52Под этим термином я понимаю само понятие «я». То, что отличает вас от других людей, с вашей точки зрения. Само понятие вашей «точки зрения». Ваше мироощущение. То, что у вас отсутствует когда вы спите без снов или когда вы без сознания. То, что позволяет каждому человеку в любой момент сказать — Я есть.
И да, я думаю, что в системе правил — записанных в книге в китайской комнате — тоже будет присутствовать это качество, при условии, что китайская комната, в этом мысленном эксперименте, должна проходить тест Тьюринга. Допустим, что в этом тесте будут задаваться вопросы на темы самосознания, допустим будет спрошено: — имеет ли испытуемый свою точку зрения, есть ли он? Комната обязана будет отвечать точно так же, как отвечал бы живой человек. Обычный мозг принципиально уже не отличается от такой комнаты, он имеет всё тот же набор правил, согласно которым он отвечает на сигналы извне.
Думать, что полное внешнее совпадение по реакциям не означает того, что внутри действительно есть мироощущение — означает признавать концепцию философских зомби — сущностей, лишь притворяющихся сознаниями. Думать так — признавать что в вашем мозгу есть что-то, что отличает его от мясного компьютера — отрицать материализм; либо ударяться в солипсизм — думать что у других людей нет такого качества, ведь все их реакции можно объяснить нейронными связями в мозгу, которые заставляют их говорить так, будто они тоже мироощущают как личности, на самом деле ими не являясь.
Я думаю, что само понятие самосознания не хранится где-то в нейронах или их внутренних структурах. Оно не файл, оно процесс. Оно возникает на границе обмена информацией мозга с внешним миром. Как аналогия: понятие процесса скачивания файла вашим компьютером из интернета, скачивание не хранится на жёстком диске или где то в интернете, оно возникает где-то на границе этих информационных систем.
То есть да, я думаю что без внешнего мира, на который реагирует мозг, не существует и сознания в этом мозгу, внешняя среда это второй необходимый компонент сознания, столь же важный как и устройство мозга. Эксперименты с сенсорной депривацией тоже наводят на эту мысль. По описаниям — после нескольких часов отключения от внешнего мира — сознание распадается и исчезает. Возможно, эти несколько часов сознание ещё существует как процесс обмена данными с буферной зоной в мозгу, той самой, в которой хранится модель внешнего мира, все представления человека о нём, его мировоззрения. Без подпитки внешними данными, эта модель тускнеет, утрачивает актуальность и всякие процессы взаимодействия между ней и остальными системами в мозгу теряют смысл и останавливаются, что и приводит к потере самоощущения.
И ещё, в последнее время часто встречаю точку зрения, что все проблемы определения самосознания просто придуманы философами недавнего времени, и что не будь такой постановки вопроса, то и проблемы такой бы и не существовало. Но я не знаю, неужели не удивляет то ощущение в тот момент, когда вы прислушиваетесь к себе чтобы ответить на вопрос — есть ли вы?norlin
14.08.2017 08:25Не могу согласиться, т.к. в эксперименте комната не создаёт ответы, ответы заранее подготовлены каким-то человеком. Поэтому нет никаких оснований говорить о "комнате" как о какой-то отдельной сцщности. По-сути, те, кто передают в комнату карточки, общаются с человеком, подготовившим ответы. А комната с другим человеком внутри – лишь средство передачи информации.
Всё равно, что после разговора по телефону сказать, что телефон имеет самосознание, потому что отвечает на вопросы.
Welran
14.08.2017 12:12Если телефон единственный способ поговорить с тем человеком, то нет никакой разницы имеет самосознание телефон или человек на другом конце линии.
А так можно нафилософствовать на тему имеет ли самосознание человек или всего лишь оболочка для души которая и является сознанием.norlin
14.08.2017 12:13то нет никакой разницы имеет самосознание телефон или человек на другом конце линии
Конечно же, есть разница. Во-первых, речь не о восприятии того, кто "на этом конце линии", а о фактическом положении вещей. Во-вторых, телефон без того человека "на другом конце" ничего сказать не сможет.
Вопрос "что такое [само]сознание" – отдельный разговор и, пока что, чисто филосовский, а не научный, к сожалению.
Nuwen
14.08.2017 12:38о фактическом положении вещей
А каково оно, фактическое положение вещей? Когда ты говоришь с человеком, что именно ты воспринимаешь как его? Его тело? Мозг? Нейроны, сигналы в них? Или может даже изображение человека на твоей сетчатке и колебания твоих ушных косточек? Где кроется сознание твоего собеседника? Всё это количественные различия, и если с этой точки посмотреть, то нет никакой разницы с кем ты разговариваешь, с химическими реакциями в нервных клетках, с изображением на мониторе, с телефоном или китайской комнатой. Всё это является или не является человеком — с которым ты говоришь — в одинаковой мере.norlin
14.08.2017 13:59Ещё раз – с точки зрения воспринимающего разницы действительно нет. А по факту – есть, конечно же. Говорит не телефон, а человек. Ответы даёт не комната, а человек (более того, даже не тот человек, который внутри комнаты тупо передаёт карточки, а тот, который подготовил инструкции по передаче карточек). И т.д.
Иначе можно дофилосовствоваться до того, что не существует никого и ничего, кроме моего собственного сознания, а всё остальное – лишь игра воображения.
Ckpyt
14.08.2017 13:22Полный набор всех правил, делающих систему комната + человек неотличимой от разумной, и будет тем самым ИИ :-)
Как бы вам объяснить…
Создав правило о накоплении знаний, вы уже делаете обучающуюся систему.
Следующий шаг — создать правило для вывода других правил.
Третий шаг — создать правило о разумном выводе на основе из накопленных знаний.
Тут вы делаете разумную систему. И весь вопрос в том насколько разумной будет эта система и сумеете ли вы описать такие правила :-)
Старый вопрос — "будет ли экспертная система с полным набором знаний человека ИИ"?
dimbo
14.08.2017 16:41тут уже появляется вопрос: — почему именно разум человека — сидящего в комнате — является субъектом эксперимента, по сути разумом системы является уже не он, а некий «китаец», который кроется в сложной системе реагирования на иероглифы
Совершенно согласен. На мой взгляд, в этом эксперименте почему-то упускают из виду те самые инструкции, согласно которым реагирует человек в китайской комнате. Проводя аналогию с компьютером, человек здесь — всего лишь центральный процессор, который и не предполагается разумным. В конце концов, роль человека в этом эксперименте могла бы выполнить дрессированная обезьяна (ну, или множество обезьян, «натасканных» на выполнение определенных правил в зависимости от вида иероглифа).
Истинную «разумность» китайской комнате придают именно инструкции, определяющие зависимости между входными и выходными иероглифами. То есть, проблема здесь та же, что и у Тюринга — в создании программы, имитирующей разум. А кто эту программу будет выполнять — человек или автоматический вычислитель — уже дело десятое.
IvanBannikov Автор
14.08.2017 16:43Серл как раз и написал свою статью во многом как контр-аргумент к критерию Тюринга. Своим экспериментом он попытался показать, что внешне разумное поведение вовсе не обязательно означает наличие разумности у системы.
ideological
13.08.2017 14:18Статья на мой взгляд слишком неупорядоченная, сжатая, однобокая.
Всё таки Джон Серл мастер, лаконично всё изложил. Таких мысленных экспериментов нужно больше.
Философия незаменимая часть созидания и помогает двигаться вперед. Хотя тут многие с этим яростно не согласны, для них это лишь пустая болтовня. ДА КОМУ НУЖНА ФИЛОСОФИЯ?! | IQIvanBannikov Автор
14.08.2017 16:40Согласен, что статья немного скомкана, не лучшим образом структурирована, и сжатая. Тема довольно сложная и обширная, и я попытался изложить свои мысли по возможности кратко, и в то же время полно. Однобокая? смотря что вы имеете ввиду.
Что до Серла, то он все таки профессионал. К тому же, его статья занимает куда больше, чем моя, и у нее тоже нашлось миллион критиков, во многом из-за того, что статья не полна.
DragonRU
13.08.2017 18:49+2Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.
В общем, единственное, что фактически доказал Серл — что хардвер без софта недостаточен для мышления. Глубокий вывод, ничего не скажешь. А что в данном случае хардвер весьма экзотический — к делу не относится.sasha1024
14.08.2017 01:55Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.
Не понял, поясните.DragonRU
14.08.2017 06:29Оператор китайской комнаты выполняет операции, приводящие к результату, полностью совпадающему с результатом процесса мышления — Серл утверждает, что поскольку оператор не понимает смысл этих операций и осуществляет их чисто механически, процесса мышления не происходит.
Меняем в этом описании слова «процесс мышления» на «умножение». Получаем мой пример. Аргументация осталась та же, но вывод, к которому она приводит, оказывается очевидно неверным. Следовательно, в аргументации есть ошибка.
SHOL
14.08.2017 14:30Серл утверждает, что поскольку оператор не понимает смысл этих операций и осуществляет их чисто механически, процесса мышления не происходит.
В голове оператора. Процесса мышления. Не происходит. Понимаете? Оператор не осознает, что он делает. Он тупо выполняет инструкции. Как машина.
Меняем в этом описании слова «процесс мышления» на «умножение». Получаем мой пример. Аргументация осталась та же, но вывод, к которому она приводит, оказывается очевидно неверным.
Почему это «очевидно неверным»? Умножение в голове оператора происходить не будет. Более того, оператор даже знать не будет, что он делает «на самом деле».DragonRU
14.08.2017 15:03Он тупо выполняет инструкции. Как машина.
Почему «как»? Он тут и выступает в роли части хардвера. Но Серл-то из этого делает вывод, что процесса мышления в его примере не происходит вообще.
Более того, оператор даже знать не будет, что он делает «на самом деле».
Вот в этом-то и есть идея моего контрпримера. Оператор не знает, что он делает — но процесс умножения тем не менее происходит. Так же и с мышлением в исходном примере Серла.norlin
14.08.2017 21:44Вы упускаете наличие того человека, который все эти инструкции подготовил. В эксперименте с комнатой процесс мышления как бы вынесен за скобки и выполнен заранее для какого-то предустановленного набора карточек. А в ходе самого эксперимента никакого мышления системы "комната+оператор" не происходит.
В случае умножения аналогом будет набор предопределённых вариантов ответов (2х2=4, 3х2=6 и т.д.), и в таком случае система не будет производить умножения.
Однако, если мы заложим в систему непосредственно алгоритм умножения любых чисел, вместо предопределённых вариантов, тогда система действительно будет "уметь" умножать.
Если же мы говорим о том, что комната отвечает на любые возможные иероглифы (неизвестные заранее создателю алгоритма ответов) и эти ответы экспериментаторы не могут отличить от человеческих, то это будет уже ИИ (по определению теста Тьюринга). Но даже в этом случае комната+оператор будут лишь "железом", а сам ИИ – это инструкции по выдаче ответных карточек.
gameproducer
14.08.2017 16:36Заменим моделирование мышления на выполнение алгоритма умножения путем переворачивания монет (aka умножение в двоичной системе). Все рассуждения Серла останутся в силе — но на выходе будет «доказательство», что компьютеры неспособны умножать числа.
но ведь Searl как раз утверждает, что компьютер может общаться по китайски — просто без понимания смысла этого общения. или смысла умножения в вашем примере.
michael_vostrikov
15.08.2017 04:33На выходе будет доказательство, что компьютеры неспособны понять смысл умножения, применить его самостоятельно в практических задачах или вывести на основе него понятие деление.
mad_god
13.08.2017 18:59-2Давайте создадим разумную комнату, которая будет переводить с китайского.
Давайте поместим в эту комнтату то, что умеет думать, убрав необходимость создавать эту часть искусственно.
Вот что я вижу в этом эксперименте.
Нам нужно создать «мозг», мы его не создаём, а помещаем внутрь готовый.
ArtificialLife
13.08.2017 20:42Носителем интенциональности всего живого является ДНК.
Верно, но лишь отчасти. Формообразование мозга довольно рандомный процесс. Отделы мозга у всех (людей), конечно, примерно одинаковые, но их размеры отличаются сильно. И размеры, как раз, в ДНК практически ни как не кодируются.
П.С. Не специалист, не стоит сильно верить моим словам.
zuborg
13.08.2017 23:15+2Статья интересная, но у меня есть некоторые замечания и дополнения )
Во первых, присутствует некоторая неточность в использовании терминологии.
Можно наделять термостат способностью к мышлению, но надо уточнять, что имеется в виду под собственно «мышлением». То же относится к «пониманию», «восприятию», «смысл» и подобным терминам.
Поясню, что я имею ввиду на примере «понимания»:
Когда мы говорим, что «поняли» как что-то устроено, это значит, что мы можем делать уверенные предсказания относительно него без необходимости реального эксперимента. Например, если я хорошо понял процесс фотографирования в фотоаппарате — я могу заранее предсказать в какую сторону будет изменен результат при изменении какой-либо настройки, и пользоваться своим пониманием, чтобы подбирать нужные настройки для получения нужного мне результата. В общем случае — «понимание» суть наличие адекватной (соответствующей действительности) и точной модели объекта понимания. Чем точнее и адекватнее эта модель — тем более глубоким есть «понимание». Ключевое слово здесь — «модель»!
«Мышление» же, грубо говоря, суть процесс, в ходе которого рассмотренная выше «модель» (понимания) уточняется чисто аналитическим путем (т.е. используя уже известную информацию, без дополнительной информации извне).
Так что согласиться с тем, что термостату доступно «понимание» и уж тем более «мышление» я не могу.
Второй момент — для успешного «плодиться и размножаться» организмам нужно «понимание» (в смысле, описанном двумя абзацами выше) внешнего мира. Чем лучше организм предскажет, как отреагирует внешняя среда на его действия, тем более точно он сможет выбирать лучший вариант действия для достижения свей цели.
Возьмем, к примеру, одноклеточный организм. Он имеет рецепторы, и использует их, чтобы передвигаться в сторону комфортной и питательной среды, а удаляться от опасной и бедной на полезные вещества. Модель внешней среды у такого организма проста и примитивна — там где рецепторы сигналят «вкусно» есть еда, и надо всеми ложноножками двигать туда (точнее, надо двигать теми ложноножками, что расположены в нужной позиции относительно этих рецепторов, и в итоге ты окажешься там, где будет лучше, чем тут, где ты сейчас)
Чем более развитый организм, тем больше разных рецепторов он имеет, может воспринимать больше аспектов окружающей среды и больше нейронов (либо более эффективно) может использовать для моделирования окружающего мира (и себя в нем). Кстати, в буддизме эта концепция присутствует в виде «я — это зеркало».
Вот чем заняты все успешные организмы — они с помощью своего сознания адекватно моделируют окружающий мир и выживают, избегая опасностей, а получая ништяки. А у особо продвинутых, модель мира которых включает их самих — присутствует и самосознание :) Компьютерам, думаю, такое тоже будет под силу, рано или поздно.IvanBannikov Автор
14.08.2017 16:00Собственно, вся статья во многом сводится к определению понятия «мышление», его суть «отражена в схеме (1) и четырех свойствах мыслящей системы».
Если говорить о построении модели, то термостат уже обладает моделью, и действует сообразно ей. Да, он не может создать новую модель или изменить существующую, но адекватно реагировать в рамках собственно модели он может.
Важно заметить, что далеко не любая модель автоматически означает «понимание». Китайская комната тоже обладает некой моделью (или, что по сути тоже самое, программой), но не обладает остальными свойствами мыслящей системы, которые я изложил в статье.
«Мышление» же, грубо говоря, суть процесс, в ходе которого рассмотренная выше «модель» (понимания) уточняется чисто аналитическим путем (т.е. используя уже известную информацию, без дополнительной информации извне).
Возьмем, к примеру, одноклеточный организм. Он имеет рецепторы, и использует их, чтобы передвигаться в сторону комфортной и питательной среды, а удаляться от опасной
Вы всерьез предлагаете, что одноклеточный организм способен к описанному вами аналитическому мышлению?
cicatrix
14.08.2017 11:00+1Мысленный эксперимент с китайской комнатой мне кажется не совсем корректным, так как если есть возможность чётко алгоритмизировать ответы на любой «открытый» вопрос, такие как, например: «Какой писатель оказал на вас наибольшее влияние?», «Как вы считаете, что являлось причинами Великой Французской Революции?», «Какой цвет вам больше всего нравится? Почему?», и т. д., тогда придётся признать, что комната — мыслящая система, понимающая китайский язык.
То есть, если условия «эксперимента» действительно допускают возможность создания подобного алгоритма, то он не приводит к парадоксу. С моей точки зрения, парадокс в самой формулировке эксперимента, где «человеку даны подробные инструкции» — невозможно создать подобный свод инструкций генераций ответа на любой вопрос, при этом не создав мыслящую по китайски систему.IvanBannikov Автор
14.08.2017 16:35Вы считаете, что чат-бот обладает пониманием того, о чем говорит?
cicatrix
15.08.2017 09:53Зависит от его ответов. При условии выполнения Тьюринг-теста, наверное, буду считать так. Особенно, если сможет порассуждать на тему «как нам обустроить Россию», ведь каждый интеллектуал имеет свою программу на этот счёт.
lavmax
14.08.2017 11:29Китайская комната — это абсурд или софизм. Фактически, набор правил по которым действует человек и есть машина, отвечающая на вопросы, человек только перекладывает карточки. Т.о. китаец снаружи комнаты разговаривает не с человеком внутри, а с машиной, оперирующей правилами. Человека внутри спокойно можно было бы поместить снаружи, между китайцем и комнатой, чтобы перекладывал карточки, суть не изменится и все сводится к чат-боту. Тема устарела лет на 100.
prospero78su
14.08.2017 15:16Пожалуй, соглашусь и добавлю от себя.
А с чего вдруг автор решил, что краснота яблока не есть цель яблока?
Или желание упасть яблока, не есть его такая же цель? На каком основании?))
Понятно, что некие законы действуют, но опять же вопрос: почему действуют? Откуда программа, если вначале не было ничего?))
amarao
14.08.2017 12:29Мне кажется, что название «Китайская комната» слишком поэтично. Есть же давно устоявшийся термин в философии и теории сложности вычислений — GLUT (Gigantic Lookup Table).
odins1970
15.08.2017 04:23странно читать комментарии людей которые даже работу Серля не прочли в оригинале!!! Что до автора, это как ознакомившись с работой Геделя о неполноте, отправиться отвергать ее в соседний детский сад или среднюю школу. Аудитория самая компетентная в вопросе.
IvanBannikov Автор
15.08.2017 04:24К сожалению, у меня нет другой аудитории, но и тут много людей мыслящих и способных понять суть проблемы
overweight
14.08.2017 15:16Но ведь нейроны работают примерно так же, как эта китайская комната.У них есть набор инструкций обработки входных данных, не более.И что же теперь, человек не может мыслить?
IvanBannikov Автор
14.08.2017 16:04Совершенно верно, нейроны находятся в похожей ситуации, но не совсем. Об этом я и пишу в статье:
Дело в том, что метод постановки мысленного эксперимента лишил человека внутри комнаты одной принципиально важной возможности – человек не может задавать вопросы вовне. Условия эксперимента говорят, что он может принимать карточки, манипулировать ими согласно инструкциям и таким образом отвечать на поставленные перед ним вопросы, хотя сам человек и не понимает что это за вопросы, он даже не понимает, что это вообще вопросы. Помимо этого, человек, оперируя внутри китайской комнаты, не преследует своими манипуляциями никаких целей
и т.д. по тексту.
s_algorithm
14.08.2017 15:17Хотелось бы ознакомиться с мыслями автора на тему qualia и природы ощущения красности красного.
Статья понравилась.IvanBannikov Автор
14.08.2017 16:08Спасибо за положительный отзыв!
По сути, данная статья раскрывает понятие Квалиа.Чалмерс навел мистический туман вокруг него, а я попытался этот туман убрать. Красность приобретает свое квалиа будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) > Внутр. Состояние > Программа > Внутр. Состояние > Внеш. Среда (воздействие).
Daddy_Cool
14.08.2017 15:23Самый главный вопрос — а что значит ПОНИМАТЬ? ИМХО — соотносить со своей картиной мира. Для простоты можно рассмотреть критерий полезности (в смысле возможности использования чего-то прям сейчас). Каких вещей мы не понимаем? Которые не имеют для нас смысла. А что такое смысл? У человека есть мощная вещь — инстинкты. И инстинкт номер ноль — ВЫЖИТЬ. А для этого надо… поесть (пишу во время обеда). И будем всю поступающую информацию соотносить с этим. На входе нечто (ну мы-то знаем, что это карточка с иероглифом). Съедобно? Нет. Нафиг! На входе нечто круглое и зеленое. Съедобно? Да. Отлично! Вот мы получили уже однобитный компьютер. Так что уже можно классифицировать и жить в таком бинарном мире. Собственно младенцы, умалишенные, и совсем простые организмы так и живут. (Кажется автор нечто подобное и имел ввиду).
У компьютеров в этом смысле жизнь весьма грустная.
1. У них нет собственных целей. Поставьте компу цель — выживать любой ценой.
2. У них нет средств реализации целей. Если человека не кормить — он погибнет весьма не сразу. А если компу отключить питание — моментальный шатдаун в худшем случае со скоростью света, в лучшем — с скоростью разрядки конденсаторов, в прекрасном — со скоростью разрядки бесперебойника. Если ничем не грозить — то нет мотивации развиваться.
3. Нет манипуляторов для манипуляций в реальном мире. Ну правда — сделайте компу ноги и руки, чтобы он мог убежать к тому кто его не будет нагружать расчетами и у кого синус в розетке поблагородней. У человека масса всего подобного реализуется аппаратно и отточено тысячелетиями оптимизации и конкуренции. Компьютеры же создавались как считалки.
Вывод. Пока компьютеру не станет нужным разговаривать с человеком ради выполнения своих собственных задач — он не станет этого делать да и трудно ему развиться до такого уровня по объективным причинам.
Какие пути? Медленное и методичное создание некой системы с накоплением знаний о мире, возможностью воздействовать на мир и соответственно обратными связями. Вначале получится что-то совсем простенькое — а-ля червяк, потом усложнится до уровня собаки, потом получим вполне так человеческие мозги. А дальше — сами виноваты, я вот тут предупреждал.IvanBannikov Автор
14.08.2017 16:18Кажется автор нечто подобное и имел ввиду
Да, то, что вы описали во многом совпадает со сказанным в статье.
Пока компьютеру не станет нужным разговаривать с человеком ради выполнения своих собственных задач — он не станет этого делать
Что мешает человеку заложить в него такую «нужду»?
alecsisk
14.08.2017 15:24понравилась статья, нашел свои мысли тут. чтобы создать исскуственный интеллект надо понять почему клетка стремимся выжить? мы можем сделать глаз или термостат, но наше стремление к выживанию это не просто способность реагировать на температуру. если бы это было свойством мы бы так и остались мышлением на уровне термостата. а может мышление это выдумка и «все что происходит» это просто яблоко, падающее с дерева?
IvanBannikov Автор
14.08.2017 16:29«все что происходит» это просто яблоко, падающее с дерева?
Вы познали глубины моей статьи)
Но мышление, не совсем выдумка, скорее ошибочная интерпретация реальности. Люди часто ошибаются, размышляя о понимании и мышлении, т.к. ставят мерилом свое собственное «человеческое» мышление. Но мышление мышлению рознь, и у более примитивных организмов оно примитивнее. Я попытался выявить ключевые моменты мышления, и, как оказалось в конечном счете, человеческое мышление и поведение термостата одинаковы в своей сути, хоть и различаются по сложности и масштабам, но принципиальной разницы между ними нет. Поэтому иллюзия тут состоит в том, что люди считают свою способность мыслить чем то уникальным. Уникальным для человека, или для живых организмов как таковых.
mastan
14.08.2017 15:27Китайская комната не может доказать возможность или невозможность компьютерного интеллекта по очень простой причине, без кучи страшных терминов.
В случае китайской комнаты предполагается, что все инструкции заложены с самого начала и не меняются. Человек внутри её не обучается, т.к. не понимает смысла символов.
В случае же с искусственными или естественными нейросетями это не так. Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию, человека в китайской комнате так «обучить» нельзя, по определению.
Так что любые выводы из эксперимента с китайской комнатой не применимы к нейросетям. И, соответственно, к искусственному интеллекту.IvanBannikov Автор
14.08.2017 15:31Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию, человека в китайской комнате так «обучить» нельзя, по определению.
Почему человека в китайской комнате нельзя запрограммировать реагировать сложным и разнообразным образом? Любая нейросеть в конечном счете — код, а код — это таблички с иероглифами.
jetexe
14.08.2017 15:33Можно обучить нейросеть на конкретный иероглиф выдавать ту или иную реакцию
человека в китайской комнате так «обучить» нельзя, по определению.
Вы закладываете алгоритм обучения НС, так и тут можно создать такую инструкцию при которой человек внутри будет «обучаться» также как «обучается» НСIvanBannikov Автор
14.08.2017 16:31А ведь можно дать готовую инструкцию, просто более подробную, расширенную.
mastan
14.08.2017 18:02Вы закладываете алгоритм обучения НС, так и тут можно создать такую инструкцию при которой человек внутри будет «обучаться» также как «обучается» НС
Человек внутри не может обучаться по определению. Но если принять упомянутые возможности, что по входным данным человек внутри будет управлять так, что будет эмулировать работу нейросети, то при достаточной сложности почему бы в этой системе не появиться разуму? Только не надо ожидать, что разум будет на уровне человека внутри, он будет «выше». Человек внутри китайской комнаты — это всего лишь механизм. Как движение ионов, к примеру, это низшая часть механизма работы нейронов в мозгу, и они сами по себе ничего не понимают, а лишь работают.jetexe
15.08.2017 11:08так и говорят про то, чтобы составить инструкцию достаточную для прохождения теста Тьюринга
Xeli
14.08.2017 16:29Ну как только роботы начнут мечтать об электроовцах так можно будет смело заявить — «Ура товарищи! Китайская комната повержена!». Так же возможен вариант, что AlphaGo выведет в терминал: «Мне надоела игра Го. Я достиг в ней совершенства. Отвезите мой сервер в Гималаи я хочу познать дзен и научится медитировать». Вот тогда я возликую и ужаснусь одновременно. Возликую потому что искусственный интеллект действительно стал интеллектом, а ужаснусь потому что человечеству как биологическому виду п#з%а. Пока таких заявлений и явлений не наблюдается, можно спать спокойно. У нас еще, слава богам, есть рубильник и источники электричества под контролем.
А пока… а пока это всего лишь автоматы разной степени сложности мимикрирующие под искусственный интеллект.
Rost99
14.08.2017 17:54IvanBannikov, спасибо за статью! Вы не могли бы порекомендовать еще литературы на тему сознания, помимо Чалмерса?
Если вдруг Вы не знакомы со статьями Алексея Редозубова на эту тему, очень рекомендую: https://habrahabr.ru/users/AlexeyR/IvanBannikov Автор
14.08.2017 18:00Самое лучшее, что я читал на тему Сознание+Мозг это Patricia Churchland «Brain-Wise: Studies in Neurophilosophy». Книга наиболее честно и последовательно рассматривает существующие теории и факты о связях сознания и мозга. К сожалению, она на английском (хотя может на русском тоже есть).
С Редозубовым смотрел видео, и не раз натыкался на его публикации (правда не прочел). Интересный мужик.IvanBannikov Автор
15.08.2017 04:49И, кстати, в этой книге вы можете найти многочисленные ссылки на работы других интересных авторов о проблеме сознания.
gameproducer
14.08.2017 18:11Интересная статья. Укажу на основной проблемный момент:
Живой организм – способ существования вещества обусловленный лишь фундаментальными физическими законами, нет никакой нужды в дополнительной магии. Я пишу об этом, чтобы показать, что в плане интенциональности между живым и неживым нет фундаментального различия. ДНК — это молекула, у нее нет и не может быть целей, только направления – физические и химические законы, следуя которым, она существует и управляет клеткой.
Как раз эксперимент и показывает, что магия есть – нам интуитивно понятна разница между человеком, действительно знающим китайский и человеком или AI, подчиняющимся инструкции.
Если интенциональность (а вслед за ней и «смысл», “китайский”, “язык”) — это несуществующие / иллюзорные феномены, то эксперимент лишается, простите за тавтологию, смысла. В рамках этой парадигмы и человек, и компьютер, и кусок скалы заведомо равны – нет никакого критерия, по которому мы могли бы их отличить. ДНК подчиняется физическим законам, компьютер подчиняется физическим законам, камень подчиняется физическим законам. Физикалисткий шах и мат в один ход – все дальнейшия рассуждения становятся самопротиворечивыми.
Целевое внутреннее состояние задается программой, которая записана в ДНК. ДНК находится в положении схожем с мозгом и с КК, поскольку не контактирует напрямую с внешним миром, но только через посредство внутреклеточной среды. Таким образом, оптимальное внутреннее состояние, которое есть цель функционирования клетки, и является как условием, так и причиной присущей этой клетке интенциональности, задается программой (ДНК).
Автор, по сути, предлагает отказаться от магии интенциональности заменив ее магией программы ДНК или ее аналогом. Немного утрируя, “компьютеры обретут сознание как только станут живыми”.
Проблема в том, что само наличие программы подразумевает цель, причем “программа” может быть обнаружена только кем-то, усматривающем за ней смысл. Компьютер, говорящий по китайски, является таким же физическим объектом, что и камень и отличается от него только в нашем восприятии. Пока этот парадокс далек от разрешения и магия остается неприступной.IvanBannikov Автор
15.08.2017 04:46Спасибо за интересный и обстоятельный комментарий.
В рамках этой парадигмы и человек, и компьютер, и кусок скалы заведомо равны
И да и нет. Равны в том, что отправной точкой их поведения являются одни и те же физические законы, т.е. никакой дополнительной магии вроде души или ее абстрактного брата близнеца «сознания, которое результат непонятно чего, но чего то высшего, чего нет у всех остальных».
Но в то же время есть и отличие, и оно очевидно. Это отличие в самом поведении, которое мы и склонны ошибочно объяснять наличием магии. Я в этой статье пытаюсь показать, в чем как раз таки есть разница, и каким образом она сказывается на поведении камня, компьютера, или живого организма.
«Программа» — условное понятие, обозначающее достаточно сложную структуру, обуславливающую сложные типы реакций. Для того, чтобы компьютер или термостат следовал программе, не нужно наблюдателей. И без наблюдателя их программа-структура никуда не денется. Я предлагаю отказаться от магии интенциональности, разбивая ее на элементарные составные части, которые управляются естественными законами, и показывая тем самым, что такое интенциональность, и как она может возникнуть.gameproducer
15.08.2017 13:05А я утверждаю, что для марсианина термостат не отличается от куска камня. Их поведение подчиняется одним и тем же физическим законам и чтобы осознать принципиальное отличие нужен культурный контекст, которого у марсианина нет.
Grox
15.08.2017 00:37Спасибо большое. Самая замечательная статья, которую я читал за долгое время. Отлично дополняет мои собственные мысли по теме и раскладывающая всё до самых примитивных частиц.
RobotexModel2
15.08.2017 04:47Браво! Вы ответили на многие мои вопросы о природе мышления. Мы все всего лишь бездушные машины :(
frees2
Иногда лучше немного подумать прежде чем выкладывать. Старые представления и термины архаики…