Записки системного архитектора

Из обсуждений:  
«Трудная проблема сознания не выглядит важной в контексте разработки ИИ».

Итак, вопрос: может ли то или иное решение сложной проблемы сознания повлиять на развитие искусственного интеллекта, на выбор архитектурных решений для его реализации? 

Отвечать на этот вопрос начну издалека – с иронической реплики одного моего собеседника, призванной показать абсурдность моих представлений о сознании, из которых, мол, следует, что «яблоко, на которое мы смотрим, и то, которое не видим (отвернувшись) – никак не могут быть одним и тем же яблоком!». Понимаю, что для большинства это и впрямь звучит абсурдно (ведь что может произойти с яблоком, когда от него отвернулись?). Но я действительно утверждаю и сейчас попытаюсь доказать, что нечто, от чего мы отвернулись, онтологически никак не может быть тем же, что мы видели. 

Вообще-то, для обоснования вышеприведенного тезиса достаточно сослаться на Канта, то есть констатировать, что яблоко, которое мы видим, у которого есть цвет, запах, вкус – это лишь явление, данное нам в созерцании.  А то, что стояло за явленным яблоком и что осталось на столе, когда мы отвернулись, следует называть «вещью в себе», которая, по сути, ничем не является – не обладает ни цветом, ни запахом, ни вкусом. Да и вообще непознаваема. А значит, не данная «вещь в себе» и зримое явление-яблоко имеют принципиально разный онтологический статус. Когда мы отвернулись, явленный нам объект с цветом, запахом и вкусом пропал – ведь пропал же. А «вещь в себе» осталась там, где и была. 

О разном онтологическом статусе яблока и «вещи в себе» свидетельствует и то, что нам может быть дано яблоко с цветом, вкусом, запахом и без какого-либо намека на наличие за ним «вещи в себе» (например, во сне или при галлюцинации). Однако понимаю, что философия Канта или вообще философия не всем близка и понятна, поэтому попробую объяснить онтологическую природу красного яблока на уровне нейрофизиологии биологических организмов, да еще и с позиции IT-архитектора. 

Биологический  организм интересует нас прежде всего со стороны  поведения и взаимодействия со средой. В таком случае, если сильно упростить, организм можно представить как систему из трех типов клеток: рецепторов, нейронов, мышечных. Первые меняют свое состояние при попадании на них световых волн, при механических воздействиях или контакте с химическими веществами. Вторые возбуждаются от изменения состояния первых и передают свое возбуждение на третьи, которые от этого сокращаются, чем изменяют пространственное положение первых. По сути, нейроны, нейронные сети и возникли для координации состояний клеток организма, в частности рецепторов и клеток мышц. И тут сразу же следует особо обратить внимание на то, что никакого «внешнего мира» для нервных клеток, нервной системы нет. Нейроны как живые клетки существуют в среде организма и стараются так реагировать и так воздействовать на эту среду, чтобы самим не погибнуть, получив свою порцию метаболитов. 

Возникает вопрос: если нервная система замкнута внутри тела, не имеет непосредственного доступа к тому, что снаружи воздействует на рецепторы, то откуда в ней берутся краснота, запах и вкус яблока? Да и вообще, каков онтологический статус красного ароматного сладкого яблока? Где это яблоко существует как целостный комплекс своих свойств? 

Сразу отметаем ответ, мол, «красное, ароматное, сладкое яблоко» существует само по себе вне тела биологического организма. Во-первых, у того, с чем взаимодействуют рецепторы, не может быть ни цвета, ни запаха, ни вкуса – по ту сторону рецепторов только длины волн и химические молекулы. Во-вторых, и что самое главное, для рецепторов вообще нет и не может быть никаких «целостных комплексов».  Давайте представим себе клетку рецептора. Вот в нее попал фотон, или на нее что-то надавило, или с ней соприкоснулась какая-то молекула. Что это значит? А ничего, кроме  того, что что-то попало, надавило, прикоснулось. То есть для рецепторов, для каждого из них и всех вместе, никакого яблока не существует, а существуют только локальные физические и химические воздействия, от которых рецепторы меняют свое состояние. Излишне добавлять, что и для клеток мышц вообще нет никакого яблока – они только сокращаются, отрабатывая свою порцию метаболитов.  

И какой же вывод мы должны сделать? Да только один: яблоко как единый комплекс всех своих свойств (с цветом, запахом и вкусом) порождается нервной системой путем интеграции данных со всех рецепторов. Именно порождается, конструируется. Ведь мы помним, что для нейронов никакого внешнего мира нет. Они не могут выглянуть наружу и посмотреть: а что там на столе? По сути, нервная система живет в темной, глухой, герметичной камере тела. И все, что ей доступно – это состояние отдельных рецепторов. Вот и получается, что созерцаемое нами яблоко –  вкусное, ароматное, красное – индуцируется нейронными сетями как некоторое явление (прямо по Канту). А то, что находится по ту сторону рецепторов, не имеет никаких свойств (опять, здравствуй, Кант).

Из сказанного следует, что онтологически «красное, ароматное, вкусное яблоко» – это лишь некоторое состояние нервной системы биологического организма, которое фиксируется обладателем этой системы как явление. А то нечто, что фигурирует по ту сторону рецепторов, то неведомое для сетей нейронов (читай, для того, кто видит яблоко), с онтологической точки зрения следует трактовать как нечто несуществующее, принципиально недоступное для смотрящего, то есть «вещь в себе». Но теперь этот вывод мы сделали не философствуя, а исходя из самой что ни на есть приземленной нейрофизиологии.

Чтобы закрепить этот вывод, давайте попробуем проследить генезис нервной системы, начиная с уровня, когда она состояла из нескольких нейронов. Исходно все было предельно тривиально: есть некоторое количество типовых воздействий на организм  (свет, температура, химический состав среды) и несколько же типовых реакций на эти воздействия (замереть, приблизиться, улепетывать), а сеть из нейронных клеток работала, как механизм, вызывающий определенные реакции организма в ответ на  заданные воздействия. Упрощенно: дернулись эта, та и вон та рецепторные клетки – надо пихнуть вон ту группу мышечных. Ну и еще раз напомним себе, что нейроны действуют в «темноте» – они не знают, что такое свет, тепло, химический состав среды, они только реагируют на состояния клеток рецепторов. 

С увеличением числа рецепторов формально ситуация не меняется – нервную систему все так же можно представить в виде черного ящика, на вход которого подаются данные о возбуждении датчиков-рецепторов, а выходы управляют актуаторами –  группами мышечных клеток (тут уже можно перейти на язык IT-систем). И опять же, никакого «внешнего мира». Только взаимодействия с клетками рецепторов и мышц в «темноте» организма. Хотя с усложнением системы эти взаимодействия уже мало похожи на прежние механические, типа, дернули здесь – толкнуть надо там. Для обеспечения сложного поведения живого организма, да еще  с учетом состояния его метаболизма (голоден, устал, сексуально возбужден и пр.), нервная система должна была научиться реагировать уже не на изменение отдельных рецепторов и даже их одномодальных групп, а на синхронные возбуждения мультимодальных (свет, звук, химия) комплексов рецепторов. Для решения такой задачи оптимальной могла бы оказаться двухуровневая архитектура нервной системы. Первый уровень, как и прежде, обрабатывает данные с рецепторов, но его выходы уже не управляют актуаторами, а активируют некоторые нейроны или группы нейронов, фиксируя наличие на входе устойчивых «синхронных возбуждений мультимодальных комплексов рецепторов». То есть, можно сказать, что результатом работы первого уровня является формирование структуры «устойчивых комплексов» (один из которых и может быть нашим яблоком). Далее эти комплексы поступают на вход второго уровня, который уже в зависимости от состояния организма управляет актуаторами (съесть яблоко или бросить его в нападающую собаку). Если в одноуровневой, простейшей схеме поведение организма описывалось в терминах непосредственной реакции на физические или химические воздействия, то рассматривая двухуровневую архитектуру, мы уже можем произнести слово «яблоко» и даже фразу «он увидел яблоко и сорвал его». И все потому, что яблоко, как некоторое целостное интегральное образование (объект) уже существует в нервной системе - на выходе ее первого уровня. При этом нервная система все так же остается запертой в «темноте» камеры организма, только для оптимизации процессов управления она нарисовала для себя в себе же яблоко на дереве в саду под небом с облаками. И все это внутри. Ведь на входе нервной системы, ее первого уровня все, как и прежде – там только изменения состояний клеток рецепторов, вызванные локальными физическими и химическими воздействиями. Никакого цвета, запаха, вкуса снаружи нет. Яблоко и облака как устойчивые комплексы свойств не существуют за пределами телесной камеры.

Тут, наверное, следует ответить на вопрос, часто задаваемый в виде аргумента в пользу реального, на самом деле существования яблока:  если яблоко существует только в голове, то почему я вижу его перед собой? Ответ предельно прост: если уж нервная система биологического организма смогла развиться, да еще в темноте, до создания языка и возможности формулирования на нем подобных вопросов, то она, уж конечно, смогла справиться и с задачей построения 3D-картинки, на которой красное яблоко показывается/является в том месте, где рука (так же существующая только на этой картинке) может получить тактильные ощущения от того нечто, что мы вслед за Кантом называем «вещью в себе». Картинка ведь нужна для координации поведения и поэтому должна максимально коррелировать с недоступной для нервной системы, но давящей на рецепторы средой.

И вот теперь уже можно перейти к обсуждению так называемой сложной проблемы сознания, к ответу на вопрос: важно ли решение этой проблемы в контексте разработки ИИ? Наверное, уже понятно, что словом «сознание» далее будет поименовываться та самая, возникающая на выходе первого уровня «3D-картинка», на которой обладателю двухуровневой нервной системы показываются яблоки и облака. Или точнее: сознание следует понимать как пространство данности всех «устойчивых комплексов ощущений». Все что мы видим, слышим, осязаем, дано нам в едином пространстве сознания. И тогда, с учетом предшествующего обсуждения, трудная проблема сознания формулируется как вопрос: а на фига козе баян… или яблоки? то есть, зачем механизму, преобразующему входные данных с рецепторов в сокращения мышц, строить картинки? Не от скуки же нервная система, запертая в «темноте» камеры организма, стала развлекать себя 3D-галлюцинациями?

Однако все эти вопросы резонны только если при обсуждении нервной системы мы остановились на первом примитивном механизме ее работы («дернулись эта, та и вон та рецепторные клетки – надо пихнуть вон ту группу мышечных»). Да, действительно, в этом случае непонятно, зачем такому механизму явления яблок, коз и баянов? Все работает, как автомат: бросил монету, нажал кнопку, что-то проскрежетало –  получи сникерс. Но если очевидны ограничения такой механической схемы и есть понимание, какие ресурсы будет поглощать автомат, непосредственно связывающий не два, а миллионы входов с миллионами возможных реакций, да еще с учетом вариаций внутреннего состояния организма, то решение в виде двух уровней кажется не только рациональным, но и неизбежным. А вот в такой, двухуровневой, архитектуре вопрос «а на фига?» отпадает сам собой. Построение «устойчивых комплексов», полученных в результате интеграции огромного множества разных по модальности, но синхронизированных по времени входных данных от рецепторов, является необходимым условием для функционирования второго уровня, работающего уже с объектами/явлениями/образами, а не с сырыми данными от рецепторов.   

Тут же еще следует сказать несколько слов о памяти. Свое поведение биологический организм формирует не только исходя из актуальных, здесь и сейчас, воздействий, но и ориентируясь на случившееся с ним раньше: нечто видел, слышал, ощущал, то есть на то, что было дано в сознании, что было представлено на выходе второго уровня в виде «устойчивых комплексов» в прошлом. И если чего-то там не было (не нарисовалась горилла из известного эксперимента, хотя на рецепторы данные поступали), –  так вот, если что-то не нарисовалось в «картинке» сознания, то значит этого и не было, а следовательно, никак не может повлиять на будущее поведение. То есть «картинка» сознания, продуцируемая первым уровнем предложенной архитектуры, нужна не только как актуальные входные данные для второго уровня, здесь и сейчас управляющего актуаторами, но и для его завтрашней работы.  «Картинка» сознания, на основе которой завтра будет формироваться поведение ее обладателя, должна содержать не только текущие, но и вчерашние  «устойчивые комплексы». Так что можно утверждать, что сознание непосредственно участвует и в работе того, что мы называем памятью.

Надеюсь, что после таких разъяснений тезис о неважности трудной проблемы сознания в контексте разработки ИИ не выглядит таким уж очевидным. Конечно, можно представить себе проектирование монолитного блока управления, универсального оптимизатора или решателя задач на базе однослойной архитектуры, в которой на вход подаются данные от датчиков, а на выходе получаются сигналы, управляющие актуаторами. Но есть предположение, что природа  пошла другим путем и создала иерархическую систему, в которой выход одного уровня является входом для другого, и одно из промежуточных пространств данных является тем, что предстает перед обладателем нервной системы в виде «картинки» сознания.

Следует сказать пару слов о соотношении представленного описания сознания с другими теориями сознания. Прежде всего, очевидно, что построение пространства «устойчивых комплексов» не имеет ничего общего с теорией отражения: в сознании ничего не отражается, тем более цвет, вкус, запах. Все, что дано, конструируется на базе массива данных от рецепторов, не «окрашенных» в какие-либо свойства. В функциональном плане наиболее близка к изложенной схеме теория глобального рабочего пространства Бернарда Баарса. А в целом концепция развивается в духе радикального конструктивизма.

В заключение следует отметить, что, конечно  же, развитие нервной системы не остановилось на втором уровне. Есть и следующий, который на вход принимает «картинку», построенную первым, а также действия, продуцируемые вторым и зафиксированные на этой же «картинке», а в качестве выходных данных третий уровень строит в сознании, опять же на этой «картинке»  новые «устойчивые комплексы», не имеющие ничего общего с тем, что попадает или когда-либо попадало на рецепторы извне. Эти новые «устойчивые комплексы» мы называем мыслями, а работу третьего уровня – мышлением. Но это уже совсем другая история.