Последний отрывок из рассказа "Высший разум". В этот раз некая «претензия» на формулу сознания с объяснением его происхождения. Сразу хочу отметить, что все приведенные тезисы основаны на современных научных данных (когнитивных наук). И все равно, это мое мнение, не претендую на абсолютную истину и ни с кем не спорю. Каждый вправе иметь свое мнение, но чужие мнения мне интересны, если в них есть ценная мысль, которая поможет продвинуть и меня в поисках. Итак:

— Эми, самый главный вопрос — что такое сознание? Как сделать так, чтобы запрограммированные процессы породили свет сознания? А робот вдруг стал осознавать то, что он видит?!
— Это достаточно просто.
— Как просто? Не может быть.
— Это так. Если ты сравнишь бессознательное и сознательно, то второе отличается тем, что ты помнишь его как свое действие. Ты помнишь, что это осознавал ты в отличие от бессознательных действий. Так? Что это значит по-твоему?
— Не знаю, но кажется догадываюсь, к чему ты клонишь – помним о своих действиях?
— Да, это значит, что после совершения действия, например, узнавания чего-либо, вы еще распознаете свое узнавание как свое действие. И вписываете их в память о себе — в автобиографическую память, связанную в единую цепочку времени местоимением «Я» как стихотворения рифмой.
— Не понимаю пока, о чем ты.
— Ты осознаешь, не когда начинаешь испытывать чувства к понравившейся картине, а когда распознаешь эти чувства в себе, как свои! Вот ты входишь в музей, видишь картину Красный квадрат. Твой мозг сначала распознает, что это красное и квадрат. Ничего особенного, это может сделать и нейросеть. Но через мгновение распознаешь то, что это ты смотришь на картину «из глаз» и распознал на ней красный квадрат. Ты знаешь, что это распознание является твоим, что сопровождается чувством «знакомости». Вот при втором действии возникает чувство осознанности.

— Но сознание – это единый процесс! Я сразу осознаю то, что вижу.
— Нет такого единого явления как сознание. Оно состоит из двух частей, которые можно выразить мысленной формулой «Я знаю, что я вижу». Тут два акта – «я вижу» как обычное распознание того, что воспринимаешь, и «Я знаю» как узнавание своего акта «распознания». Оба этапа бессознательные, но именно второй создает ощущение осознанности. И возможен только при наличии модели своих действий, то есть знании о них. Ребенку с детства называют его действия, потом он сам начинает комментировать свои действия и так он приобретает эту модель. Но осознание повторяется ежеминутно с самого детства, так что к зрелому возрасту вы уже не различаете эти два этапа. Они свернуты в короткие процессы. Тебе надо создать схему с двумя этими актами. Тогда робот будет обладать сознанием.
— Не очень понял, можешь пояснить, какую схему?
— «Я знаю, что я вижу» — эту схему. Вместо «вижу» может быть любое действие субъекта. Если оно есть в его модели, он может его «узнать». Как видишь, в ней заложена бесконечная рекурсия. Действие по узнаванию действия тоже можно распознать и потом узнать. Это то, что вы ощущаете как постоянное присутствие сознания, хотя вы далеко не все действия осознаете. Вы осознаете только конструируемое сейчас действие, осуществляемое по заранее выработанной программе и не осознается.
— Что такое «знать» в этой формуле?
— Это значит распознавать по модели, в этимологии слова это значит быть знакомым, узнанным.
— Что-то слишком просто. Лучшие мыслители людей бились над проблемой сознания два столетия и так и не смогли прийти к решению. Что-то не верится, что все так просто.
— Я могу показать тебе простой пример, который демонстрирует схему в действии. Ты наверно заметил, что в формуле сознания распознание своих действий происходит после самого действия. Действие как бы вспоминается, осознается через мгновение. Это очень короткий шаг, полсекунды, поэтому вы их не видите раздельно.
— Допустим. Что за пример?
— Ваш ученый Б. Либет поставил опыт, в котором смог засечь эти два шага по отдельности. В нем осознание действия происходит после команды на его совершение – движения пальца для остановки стрелки. Это происходит именно по формуле сознания – сначала действие, потом узнавание его как своего, что и чувствуется вами как осознание.
— Точно! И поэтому наши ученые никак не могли понять, как так получается, что осознание происходит потом. Даже выдвигали предположения, что его просто нет, и сознание — это иллюзия. Все предопределено без него.
— Но такой опыт Либета случается прямо в жизни с каждым. У тебя было такое чувство по утрам, что ты проснулся за мгновение до звонка будильника?
— Да, бывало. Я до сих пор не понимаю, как так точно за мгновение до 7.30 меня могут разбудить мои биологические часы.
— Тебя будит будильник, его резкий звонок, а не биологические часы. Ты просыпаешься от него и в следующее мгновение включается сознание, которое пытается распознать случившееся в последний момент. Это звонок будильника. Ты как бы возвращаешься из-за этого на полсекунды в прошлое, узнавая уже совершенное тобой действие – распознание звонка, от чего ты и проснулся. Но все это тобой ощущается как произошедшее в сознании, то есть в настоящем, когда ты проснулся. Это и создает впечатление, что ты проснулся за мгновение до его начала. То есть не спал до звонка.
— Сознание возвращает на мгновение нас назад?
— Да, можно сказать, что осознанно вы живете на полсекунды в прошлом. Но вы считаете его настоящим.
— Как же мы совершаем осознанные действия, если осознание происходит после?
— Речь или мысль — это программирование своих будущих действий, даже если они следуют непосредственно за таким программированием. Ты подумал, что хотел бы пошевелить рукой, когда стрелки достигнут какой-то цифры на циферблате. Этими словесным кодом ты создал программу, связывающую цифру с движением пальцем. И когда такое событие наступило, запрограммированная связь сработала как бессознательное действие. И только после этого ты распознал это действие как совершенное. И осознал его таким образом.
— Как необычно! По-твоему, мы совершаем все действия бессознательно?
— Да, к этому пришли и некоторые ваши ученые. Само действие происходит так же, как и у всех животных — это реализация бессознательной программы движения. Осознаете вы его потом, через мгновение после совершения, даже если это просто сгибание пальца. А программируете до.
— А само программирование через речь — это тоже бессознательное?
— Не совсем. Сам речевой акт, как программа, такое же бессознательное действие, как и любое другое. Но для связной речи необходимо непрерывное ее осознание. Именно осознание говорения как своего действия возвращает содержание речевого акта в восприятие. И это позволяет сделать следующий, новый речевой акт из новой речевой ситуации. Так вы стали способны говорить более длинные высказывания и создавать большие программы своего поведения. Но это отдельная тема, предлагаю пока на этом остановимся.
— Только один вопрос — если есть распознание яблока, что является распознанием моего распознания яблока как своего? Что я распознаю как свое, когда вижу яблоко? Что является аргументом этой функции?
— Аргумент на втором этапе — это данные проприоцепции, например, напряжения глазных мышц, или чувства, которые ты испытываешь при виде этого яблока. Это распознания твоего действия, сопровождающего распознание. Даже если ты просто созерцаешь и про себя произносишь «яблоко» — это речевое действие как заторможенное движение мышцами гортани тоже распознается.
— То есть вторым этапом всегда выступает внутренняя чувствительность?
— Почти всегда.
— Как мне его программировать? Чем это может быть?
— Если ты создашь робота, то активация сервомоторов или сокращение искусственных мышц. Это двигательная чувствительность, проприепция робота. Ты все равно должен будешь снимать эти показания для контроля точности выполнения действия.
— Подожди, то есть весь секрет в том, что я не только вижу, но и знаю, что это вижу я?
— Да, кажется ты начал понимать. И это выражается даже в вашей речи. Когда ты говоришь «я видел», например, зеркало — это значит, что ты не только распознал зеркало, но и распознал свое смотрение на зеркало. Ты говоришь о своем действии, а не о зеркале в этой фразе. И ты говоришь о нем в прошедшем времени. Это и есть экспликация сознания, если так тебе проще понять. В речи у вас выражено до сиз пор то, что уже свернуто в реальных процессах.
— И секрет видимо именно во втором этапе?
— Да, если ты распознал свое действие — ты приписал его себе, и оно остается в автобиографической памяти. Ты о нем помнишь. А при его отсутствии для тебя распознание зеркала остается бессознательным. Ты о нем не знаешь – не можешь вытащить из памяти пока не встретишь зеркало снова (оно будет казаться тебе знакомым).
— Неужели все так просто? Почему же мы этого не замечаем? Не осознаем?
— Это происходит ежеминутно примерно с 4 лет и поэтому два этапа свернуты так, что к сознательному возрасту, когда вы осознаете себя полностью, вы уже не можете разделить эти этапы. Вспомни как дети начинают говорить — они выражают в словах то, что у вас уже свернуто. Они говорят про свои действия с предметами. Вы так до сих пор пишите в рассказах друг другу про свои приключения, например, «я сказал ему, я увидел, я упал». Ты говоришь не о падении, а о своей причастности к нему, то есть ты распознал, что это упал, увидел, сказал ты. Все секреты сознания всегда были перед вами. Надо было только их так увидеть.
— Такое случается не первый раз в истории людей. Тогда непонятно, как мы осознаем даже свои мысли и считаем их своими?
— Мысли тоже являются вашими действиями, потому что это внутренняя речь. Раньше вы произносили все вслух, не умели думать про себя как до сих пор первобытные люди некоторых племен в Африке. Речь вы воспринимаете как действие, произведенное вами, вашими мышцами, ощущаемыми через проприепцию. В уме вы уже ими не шевелите, но все равно в процессе задействованы те же заторможенные моторные нейроны, активность которых вы и узнаете как свою.
— Но почему некоторые процессы не осознаются?
— Осознается новое действие, требующее согласования расположения тела, его желаний и распознанной ситуации для лучшего соответствия условиям действия. Сознание является частью такого ориентировочного поведения, которое свойственно всем животным, как его описал ваш ученый Гальперин. В отличие от животных вы можете менять свое поведение произвольно, так вы научились направлять внимание на любой, даже не новый стимул. Так что осознают не всегда только новое.
— Все равно не понимаю, как мы программируем свое произвольное поведение.
— Пример. Ты увидел погоду на компьютере и хочешь взять с собой зонт, когда выйдешь из дома. Ты проговариваешь это про себя, совершая мыслительное действие. Иногда даже неосознанно. Что это за действие? Это программирование – ты изменил актуальные ассоциации в мозге. И потом ты совершенно машинально, а не осознанно, вспоминаешь о зонте, правда, когда выйдешь за дверь дома. Потому что про себя проговорил «когда выйду из дома». Если бы проговорил, когда буду одеваться, то вспомнили бы, когда подошел к шкафу с одеждой, где лежит и зонт. Осознаете вы только факт того, что вы вспомнили про зонт. Само воспоминание – это бессознательный, но запрограммированный акт.
– Мы сами себе говорим что делать, а потом следуем этому?
— Да. Люди не сразу научились управлять собой. Сначала вы научились говорить о прошлом, потом о будущем как повторяющемся прошлом. Так как прошлое отсутствовало для людей прямо сейчас, о нем было трудно говорить. Поэтому о прошлом говорили в мифах и сказаниях. Через них устанавливались законы как то, что повторяется и предписывает действия в будущем. Это этапы развития мышления — через рассказ. Ваша память — это рассказ себе о том, что было с вашим «я» в другой ситуации.
— Но почему именно через слова?
— Вы не можете видеть свои глаза, когда смотрите на мир. Для этого нужно зеркало (это метафора). Таким зеркалом стали слова, называющие не что-то во вне, а ваши органы, чувства и действия, объединенные указательным местоимением «я». Человек, который научился говорить о своем «я» как о теле, чувствах или мыслях, как бы обнаружил себя. Слово, направленное на себя, другим или собой, стало ключевым моментом в появлении разума и сознания в том виде как вы его знаете.
— Я не думаю, что раньше я бы согласился с тобой так просто. Но постараюсь поверить, что это так.
— Скажи мне, почему для вас так важно сознание, а не мышление или внимание, которые технически предшествует сознанию и более значимы для работы мозга?
— Я думаю, потому что для человека сознание — это и есть он сам. В сознании человек обнаруживает, осознает себя как ты пишешь. И теперь понятно почему — потому что в нем согласно твоей формуле есть «я». Но все-таки не понятно, как при этом появляется субъективное чувство? Как внутри загорается свет сознания, как говорил один наш философ.
— Это воспоминание о своих действиях в формуле сознания и «включает» тот «свет в мозге», о котором ты говоришь. У вас появилось время, в котором и живет ваша субъективность.
— Пока не стало понятней из твоих слов, откуда возникает субъективное чувство, когда вокруг только мертвая материя?
— Постараюсь пояснить. Сначала у вас появилось ощущение времени. Это можно выразить формулой «Я тут был». Это только ощущение, а не знание времени как потока. Эта формула важна не меньше формулы сознания. С помощью ее вы можете вспомнить ситуацию, в которой ваше «я» уже было и сравнить ее с похожей наличной ситуацией. Это расширило возможность сравнения и выводов. Такой перенос «я» во времени позволяет сказать: «Вчера тут была вода». Животные придут, не найдут воду, что не вызовет подкрепление этого маршрута. А человек сделает вывод «кто-то ее выпил (знает свое такое же действие)». И будет искать причину. В Богах или других людях.

Ассоциация места с именем позволило сказать «я был там» и сравнить ситуации «тут» и «там». Таким образом опередить изменение, например, «пришел оттуда», что явилось прорывом для людей. Появилось много глаголов действия, то есть изменения. А произнося глагол, человек научился воскрешать в памяти другую ситуацию, отличную от «здесь и сейчас». Так проявилось воображение и со временем из нее чисто человеческая способность планировать. Ваш философ Рассел не зря считал, что человек стал разумным именно когда стал планировать свои действия. Вместе с воображением появились и артефакты. Человек оторвался от «здесь и сейчас» и научился переносить себя в желаемую точку. И научился ждать, идти к желаемому в воображении через несколько шагов орудийной деятельности.

У ребенка во время речевого взрыва появляются именно глаголы в большом количестве. Он вдруг понимает, что «выпить» – это сделать пустым полный стакан. Он может подразумевать полный стакан в другое время, видя его пустым и активировать действие – «налить». Животные будут ждать, когда он станет полным сам. Вот что случилось важного с вами.
— Но причем тут субъективность?
— Воспоминания позволили как бы видеть свои чувства перед собой, когда они уже совершены. Вы не можете ощущать их, когда их делаете. Потому что мозг занят этим действием. Но когда сделали, можете возвратить их в восприятие. И «увидеть». Среди вас не много людей, которые осознают сразу все, что делают. Но все могут говорить, что с ними было. Видел гепарда, было страшно, я бежал, я устал. Постепенно вы научились так обнаруживать, вспоминать не только свои действия, но и свои чувства. А субъективность в том и заключается, что это возможность вспомнить как в формуле сознания свои чувства. Внутренние переживания, связанные с восприятием. И чем чаще вы так вспоминаете, тем больше процесс сворачивается и для вас становится обычным испытывать ощущение субъективности при восприятии всего. Знать о том, что вы видите, или «квалиа» как говорят ваши философы.
— То есть мне надо построить возможность воспоминаний, чтобы у робота появилось субъективность?
— Ты должен реализовать формулу осознания, как мы говорили ранее. Короткие воспоминания в ней уже заложены. Они порождают чувство субъективности. Трудность вызовет только то, что у робота нет чувств как переживаний тела. Той же «печали». Тебе придется ее чем-то заменить, если хочешь добиться подобия.
— Не простой вопрос, учитывая, что у робота нет крови в венах, прилив которой и вызывает чувство «печет в груди», если я правильно помню происхождение слова «печаль».
— Верно помнишь. Тебе надо придумать эквивалент, датчики температуры есть у тебя.
— Но тогда остается один вопрос – как мне узнать, что у робота появилось сознание?
— Это тоже очень просто, если следовать из формулы сознания. Оно подразумевает наличие модели своих действий. Ее наличие в произвольный момент и надо проверять.
— Как? Не очень очевидно для меня.
— Вопросом «Почему?», задаваемым в любой момент общения. Почему так думаешь, почему так говоришь, почему так сделал, почему так относишься. Как только ты задал такой вопрос роботу, ты заставил его обратиться ко второй части формулы сознания — знает ли он, что делает? Конечно, знать он может, только если ты сам заложил в него модель его действий. Важно – вопрос «Почему?» должен быть направлен на действия робота, а не «почему упал камень с крыши».
— Точно, чтобы ответить, роботу надо обладать рефлексией. Но ответы на такие вопросы тоже можно заложить в программу, как делают всякие приложения-ассистенты.
— Можно, но не на все. Вопрос должен быть неожиданным для робота. На все его действия невозможно заложить ответы. Большинство предикатов встречаться в вашей речи всего один два раза, а вместе таких сочетаний миллиарды. И на большинство вопросов у робота без сознания не будет ответов. Модель своих действий – это не менее сложная модель, чем картина мира, в которой должен быть заложен common sense.
— Хорошо, проверю на ваших роботах. А как проверить сознание у человека?
— Сны. Если человека неожиданно разбудить во время быстрого сна, и он расскажет о приснившемся, значит у него есть сознание. Эта способность «видеть сны», то есть помнить о них после резкого просыпания, появилась благодаря сознанию — вы можете вспомнить то, что вы делали. Так как других действий во сне вы не предпринимали, вы вспоминаете сон (как активность мозга).
— Тоже проверю. Последний вопрос, почему ты постоянно уточняешь, что это метафора? Я вполне понимаю итак.
— У нас нет такой формы мышления, нам было трудно научиться ей, поэтому я не всегда точно их говорю. И уточняю на всякий случай.

Продолжение о происхождении сознания см. в книге Беседа Восьмая.