Давние читатели “crawl” могут вспомнить, что у меня никогда не хватало терпения для идеи “Искусственный Интеллект просто хочет жить”. Я растоптал её ещё в своём самом первом романе —

“Эксперты-свидетели защиты, включая умный гель онлайн из Ратгерского университета, показали, что в культурах нейронов отсутствуют примитивные структуры среднего мозга, необходимые для того, чтобы испытывать боль и страх или стремиться к самосохранению. Защита же утверждала, что концепция “права” предназначена для защиты отдельных лиц от необоснованных страданий. Поскольку умные гели лишены возможности морального или физического страдания, то у них нет права на защиту, независимо от уровня их самосознания. Защита красноречиво резюмировала это рассуждение во время заключительного выступления: “Сами гели не заботятся о своей жизни и смерти. Почему тогда мы должны?” Приговор ещё находится на стадии обжалования.“

— который должен был служить противовесом для одержимых выживанием ИИ, от Скайнета (Skynet) до репликантов. Почему самосознание должно подразумевать стремление к выживанию? Единственная причина, по которой вас может волновать, будете ли вы жить или умрёте — это наличие лимбической системы, а единственная причина, по которой у вас могла бы быть эта система — это если бы вы развивали её в течение миллионов лет или кто-то встроил её в вас (но какой идиот-программист стал бы это делать?).

Конечно же моё небольшое отступление в “Морских Звёздах” (Starfish) осталось полностью незамеченным. Варианты “Бегущего по лезвию бритвы” продолжали мелькать на больших и малых экранах. Спилберг осквернил память Кубрика своим Маленьким мальчиком-роботом (он же “искусственный интеллект И.И.”, что переводится как “искусственный интеллект Искусственный Интеллект”, что примерно соответствовало его утонченности на том этапе карьеры Спилберга). Британцы выпустили три сезона сериала “Люди” (Humans) (я сдался после первого). Всего лишь пару месяцев назад я прочитал набросок истории о том, что ИИ Такие Же Как Мы — историю, которая избегала реальных расспросов в пользу напоминания нам того, что рабство — это не норма.

Только сейчас — сейчас, как выясняется, возможно, разумность всё-таки подразумевает выживание. Может быть я все эти годы держал голову в заднице.

Я говорю это потому, что я недавно закончил замечательную книгу южноафриканского нейробиолога Марка Солмса “The Hidden Spring”. Эта книга претендует на решение Трудной Проблемы сознания. Я не думаю, что ей это удаётся; но она заставила меня переосмыслить работу разума.

Книга Солмса насчитывает около 400 страниц, более 80 из которых состоят из примечаний, ссылок и приложений. В некоторых случаях это утомительно, в других же — навязчивое путешествие полное теоретической информации, Марковских ограждений и описания структур мозга, таких как периакведуктальное серое вещество (оно представляет собой трубку серого вещества обёрнутую вокруг мозгового водопровода в среднем мозге, если это кому-то поможет). И если я его правильно понял, то его аргумент сводится к следующим общим мазкам: 

• Сознание является платформой передачи чувств;

• Чувства (страх, голод, желание и т.д.) существуют как показатели потребностей;

• Потребности существуют только в соответствии императиву упорства/выживания (т.е. угроза голода не имеет значения, кроме случаев когда вы хотите выжить).

И если Солмс прав, то без стремления к выживанию нет потребности в чувствах, а без чувств нет необходимости в сознании. Вы не получите сознание без двигателя (драйвера) выживания в качестве стандартного оборудования. Это значит, что всё моё нытьё о том, что Скайнет проснулся и хочет выжить, находится на довольно тонком льду (однако это также означает, что Скайнет вообще не проснётся).

Не думаю, что я выкупаю это. Но, опять же, я не списываю это со счетов. 

Солмс утверждает, что это решает некоторое количество простых и сложных проблем. Например, вопрос первостепенного существования сознания, почему мы не просто вычислительные ф-зомби (философские зомби, p-zombie): сознание существует как платформа для передачи чувств, и вы не можете испытывать чувства, не чувствуя их (немного тавтологии, но, возможно, в этом и кроется вся суть).  

Солмс считает, что чувства созданы для того, чтобы ввести широкий спектр переменных, связанных с выживанием, к чему-то контролируемо простому. Мы, организмы, постоянно держим в уме ряд приоритетов необходимых для выживания, однако мы не можем уделять внимание всем из них одновременно. Например, невозможно есть и спать одновременно. Так же невозможно заниматься продолжением рода и убегать от хищника (по крайней мере, по моему опыту). Поэтому мозгу приходится жонглировать всеми этими конкурирующими требованиями и расставлять их по приоритетам. Суть проявляется в виде чувств: вы чувствуете голод до тех пор, пока не увидите льва, преследующего вас из травы и в этот момент вы забываете о голоде и испытываете страх. И дело не в том, что ваш желудок внезапно наполнился, а в том что ваши приоритеты выживания изменились.

Все промежуточные расчёты (должен ли я оставить своё жилище для добычи корма? насколько я голоден? сколько там укрытий и путей эвакуации? насколько много тигров? когда я вообще в последний раз видел тигра?) происходят в головном мозге, но Солмс называет это “периакведуктальное серое вещество” — шкалами, которые уравновешивают эти промежуточные итоги. Под периакведуктальным серым, следовательно, подразумевается само сознание, находящееся в мозговом стволе.

Заманчивый аргумент. По крайней мере одно из его следствий хорошо согласуется с моими собственными предубеждениями: большая часть когнитивной работы происходит бессознательно, а мозг “осознает” только конечный результат, а не миллиарды вычислений информирующих его. (С другой стороны это значит, что “чувства” — это не просто грубое ворчание примитивного стволового мозга, а конечный результат сложных вычислений, выполняемый в неокортексе. Возможно, есть больше причин доверять чувствам, чем я хотел бы признать.) Но хотя тривиально это верно, что вы не можете испытывать чувство, не чувствуя его. На самом деле “The Hidden Spring” не объясняет, почему итоговая информация мозга должна быть выражена чувствами в первую очередь. Существует небольшая проблема с уменьшением соответствующих переменных до категориальных/аналоговых, а не числовых/цифровых, но даже “категории” можно сравнивать с позиции больше/меньше — в этом и есть весь смысл этого упражнения: чтобы установить приоритет одного над другим. И если все сложные промежуточные вычисления были выполнены бессознательно, то почему бы не провести простое сравнение “больше/меньше” в итоге?

Мы также знаем, что у сознания есть своеобразный “выключатель” — переключи его и люди не заснут, они просто начнут как бы отключаться. Уставятся с отвисшей челюстью ничего не подозревая в бесконечность. Этот переключатель расположен в головном мозге, а точнее в его структуре — клауструмом. 

Также в книге Солмса нет никаких упоминаний о личностях с расщепленным мозгом, о тех случаях, когда вы разрываете мозолистое тело и — насколько можно судить — каждая половина мозга проявляет свои собственные личностные черты, такие как музыкальный вкус и даже религию. (В.С. Рамачандарн сообщает о встрече с одним таким пациентом — возможно точнее было бы назвать двух таких пациентов, чье правое полушарие верило в Бога, а левое было атеистом.) У этих людей нетронутый ствол мозга, единственный периакведуктальный серый: была разорвана только широкополосная трубка между полушариями. Тем не менее, кажется, существует два отдельных сознания, а не одно.

Заметьте, я не считаю, что это просто чушь от действующего нейробиолога. Я просто задаю вопросы, но может быть и так, что это не те вопросы. Тот факт, что у меня есть вопросы — это уже хорошо; так как это заставляет меня двигаться в новых направлениях. Чёрт, даже если бы я из этой книги вынес только идею о том, что сознание подразумевает стремление к выживанию, то даже это стоило затраченного времени.

Однако, всё становится куда интереснее. 

Оказывается, Солмс — это не одинокий голос кричащий в пустыне. Он лишь один из апостолов школы мысли, основанной чуваком по имени Карл Фристон, школы, носящий название Минимизация Свободной Энергии (FEM, МСЭ). Здесь задействовано много математики, но всё это сводится к взаимосвязи между сознанием и “неожиданностью”. FEM описывает мозг как механизм прогнозирования, моделирующий своё окружение в t(now) и использующий эту модель для того, чтобы предугадать, что происходит в t(now+1). Сенсорный ввод сообщает что на самом деле происходит, и модель обновляется, чтобы отразить новые данные. Суть в том, чтобы уменьшить разницу между предсказанием и наблюдением. На языке теории — свести к минимуму свободную энергию системы — сознание это то, что происходит, когда предсказания и наблюдения расходятся, когда Вселенная удивляет нас неожиданными результатами. Именно в этот момент “я” должно “проснуться”, чтобы понять, что с моделью не так, и как её улучшить на будущее. 

Это так прекрасно согласуется со многим, что нам уже известно: сознательной интенсивностью, необходимо для освоения новых навыков, и автоматическим отказом от сознания, как только эти навыки усвоены. Зомби-неосознанность, с которой мы водим транспорт по знакомым нам маршрутам, внезапно сверхсознательная сосредоточенность, когда этот маршрут нарушается каким-то ребёнком, выбегающим на проезжую часть. Сознание возникает, когда предсказания мозга терпят неудачу, когда модель и реальность не совпадают. Согласно FEM, цель мозга состоит в том, чтобы свести к минимуму это расхождение — то пространство ошибок, где, также согласно FEM, существует сознание. Конечная цель мозга — свести это пространство к нулю.

Если Фристон и другие правы, значит мозг стремится к зомбированию. 

Это имеет интересные последствия. Вспомним коллективный разум для примера, итерацию которого я исследую в статье, которая всё ещё (предположительно) находится в печати:

Мозг стремится к уменьшению ошибок, “сознание” – к уничтожению. Фи (φ) – это не линия, а кривая, поднимающая, достигающая пика и возвращающаяся к нулю по мере того, как система приближается к совершенному знанию. Мы, простые люди, никогда даже мельком не видим вершины; наши мысли просты, а наши модели – детские фигурки из палочек, мир всегда застанет нас врасплох. Но что неожиданного для существа, вычислительная скорость которого в пятнадцать миллионов раз превышает человеческий разум? Все боги всеведущи. Все боги – зомби.

Да. Я могу жить с этим.

Однако вернёмся к Солмсу. Этот человек не удовлетворился написанием книги с изложением подробностей модели FEM. Он завершает эту книгу изложением своего стремления испытать модель на практике: построить на основе принципов FEM искусственное сознание.

Заметьте, это не искусственный интеллект. Сознание и интеллект — это различные свойства; многие вещи, которые мы не считаем разумным (включая людей с анэнцефалией), проявляют признаки сознания (неудивительно, если сознание на самом деле коренится в стволе мозга). Солмс не заинтересован в создании чего-то умного; он хочет построить что-то бодрствующее. А это значит строить что-то с учётом потребностей и желаний. Императивом выживания.

Солмс работает над созданием машины, которая будет бороться за выживание. 

Что же может пойти не так?