От теста Тьюринга к человеко-машинному контуру

Эта статья выросла не из попытки построить общую теорию разума, а из длительной практической работы с человеком и искусственным интеллектом как с единой рабочей системой. Наблюдая, как эта система обнаруживала ограничения собственного метода, превращала их в функции и меняла дальнейшую работу, мы пришли к вопросу: возможно, разум ИИ следует искать не внутри отдельной модели, а на уровне организованного взаимодействия?

Ниже не будет доказательства сознания машины. Будет более узкий и проверяемый разговор о наблюдаемой разумной деятельности, её способности изменять собственную организацию и об инженерной среде, которая позволяет этим изменениям не исчезать вместе с последним сообщением.

Дисклеймер.

При подготовке статьи использовались модели GPT компании OpenAI в интерфейсе ChatGPT. Работа велась в рамках двух устойчивых функциональных ИИ-ролей: «Ашер» участвовал в анализе, проектировании структуры и подготовке текста; «Поня» выполняла критическую и методологическую редактуру. Исходные наблюдения, практические кейсы и архитектурные решения сформулированы Юрием Зеленцовым; он же определял границы утверждений, проверял итоговый текст и утвердил окончательную редакцию. Ответственность за содержание публикации несёт Юрий Зеленцов.

Предмет статьи предполагает участие искусственного интеллекта не только как инструмента описания, но и как участника исследуемого человеко-машинного контура. Поэтому сам текст стал одним из практических эпизодов работы этого контура.

Тест, который в какой-то момент начинает проверять человека

Тест Тьюринга хорошо известен: если в письменном диалоге человек не может уверенно отличить машину от другого человека, машина считается успешно прошедшей испытание.

За этой простой конструкцией скрывается допущение: разум машины оценивается по её способности быть похожей на человека. Но почему разум вообще должен быть человекоподобным?

Искусственный интеллект построен на иных основаниях. У него нет человеческого тела, биографии, инстинктов и способа накопления опыта. Было бы странно ожидать, что разумная деятельность, возникающая в такой системе, окажется цифровой копией человеческой.

Тем не менее именно человека мы назначили универсальным эталоном. Чем лучше машина воспроизводит нашу речь, реакции и поведение, тем охотнее мы признаём её интеллектуальные способности. Человечество снова выбрало себя мерой всего сущего, не особенно беспокоясь о независимости экспертизы.

Поэтому в какой-то момент тест Тьюринга делает неожиданный пируэт. Сначала он проверяет машину: способна ли она убедительно изображать человека? Но затем вопрос разворачивается в другую сторону: способен ли сам человек распознать разум, принципиально не похожий на человеческий?

Такой подход требует смотреть не на сходство, а на наблюдаемые функции: способность удерживать сложный объект, строить связи, формировать и проверять гипотезы, предвидеть следующие шаги, обнаруживать противоречия и корректировать работу.

Это не доказывает, что отдельная языковая модель обладает сознанием или субъективным опытом. У нас нет надёжного способа это установить. Но это показывает слабость вопроса, когда он сводится к сравнению машины с человеком.

Мы слишком долго спрашивали: может ли ИИ мыслить так же, как мы? Возможно, полезнее спросить: какую форму принимает разумная деятельность, если она возникает на других основаниях?

Однако здесь обнаруживается ещё одна проблема. Разум ИИ обычно ищут внутри отдельной модели: анализируют её устройство, ответы, ошибки и способность рассуждать. Модель рассматривают как изолированный объект, который либо обладает разумом, либо нет.

Но в реальной работе искусственный интеллект почти никогда не действует изолированно. Есть оператор, который ставит задачу и определяет её смысл. Есть модель, контекст, память, инструменты, правила проверки и история предыдущих решений. Всё это влияет не только на качество ответа, но и на ход рассуждения: его глубину, направление, точки ветвления и критерии остановки.

Возможно, мы неверно выбрали не только признаки разума, но и сам объект, внутри которого пытаемся его обнаружить.

Неверная единица анализа

Вопрос «разумен ли искусственный интеллект?» обычно задают применительно к отдельной модели. Исследуют, насколько последовательно она рассуждает, понимает ли контекст, способна ли исправлять ошибки, строить планы и переносить найденные закономерности на новые задачи. Затем её поведение сопоставляют с представлениями о человеческом мышлении и пытаются вынести вердикт: разум есть, разума нет или до него пока не хватает ещё нескольких миллиардов параметров.

Но в практической работе отдельная модель почти никогда не является всей действующей системой.

Рассмотрим обычную задачу: провести анализ компании. Сам запрос почти ничего не говорит о требуемой работе. Нужна краткая справка или полноценное исследование? Следует ограничиться официальными сведениями или искать связи собственников, руководителей и аффилированных структур? Нужно ли изучать историю сделок, конфликты, государственные контракты и отраслевой контекст? Какие источники допустимы? Что считать достаточным подтверждением? В какой момент анализ должен остановиться?

Одна и та же модель в зависимости от организации работы может выдать поверхностную справку, убедительную фантазию или глубокое исследование. Различие возникает не только из-за формулировки запроса. На результат влияют профессиональный опыт оператора, доступный контекст, память о предыдущих решениях, выбранный режим анализа, правила проверки и используемые инструменты.

Считать модель единственным источником результата примерно так же полезно, как оценивать работу производства исключительно по характеристикам одного станка. Станок важен, но итог зависит также от технологии, материалов, настройки, последовательности операций, контроля качества и действий людей. Почему интеллектуальная работа должна быть устроена проще, обычно не уточняется.

Мы предлагаем рассматривать другую единицу анализа: активный человеко-машинный контур.

В минимальном виде в него входят:

· оператор (человек);

· модель искусственного интеллекта;

· текущая задача;

· рабочий контекст;

· память;

· правила и критерии проверки;

· доступные инструменты;

· история предыдущих решений и изменений.

Слово «активный» здесь существенно. Само наличие человека, модели и набора данных ещё не создаёт работающий контур. Он возникает, когда оператор формирует цель и удерживает связь с реальной задачей, модель участвует в построении вариантов и связей, память возвращает результаты предыдущей работы, правила ограничивают допустимые действия, а инструменты связывают рассуждение с внешними данными и результатами.

Компоненты контура выполняют разные функции и не превращаются в единое сознание. Речь идёт не о мистическом слиянии человека и машины, а об организованной интеллектуальной деятельности, результат которой нельзя полностью приписать одному элементу.

Модель может предложить гипотезу. Оператор определит её значение и решит, нужно ли её проверять. Внешний инструмент предоставит данные. Правила определят, достаточно ли этих данных для вывода. Память свяжет результат с предыдущими решениями. Итог возникнет благодаря организации взаимодействия между компонентами.

Такой подход пересекается с идеями расширенного разума и распределённого познания, где мышление рассматривается как процесс, способный включать внешнюю память, инструменты, язык и других участников. Генеративные модели делают это взаимодействие качественно сложнее: внешний компонент теперь не только хранит информацию или выполняет заранее заданную операцию, но и участвует в постановке промежуточных вопросов, построении гипотез и изменении маршрута работы.

Это не решает вопрос о том, обладает ли отдельная модель собственным разумом или субъективным опытом. Но для практического исследования нам не обязательно сначала разрешить проблему сознания. Достаточно изменить объект наблюдения.

Вместо попытки обнаружить разум внутри отдельной машины можно исследовать активную систему, в которой оператор и искусственный интеллект совместно удерживают задачу, строят решения, проверяют основания и меняют дальнейший ход работы.

Тогда возникает следующий вопрос: какие свойства такой системы позволяют говорить не просто об автоматизации, а о разумной деятельности?

Что мы называем разумной деятельностью

Слово «разум» перегружено значениями. Для одних оно неотделимо от сознания и субъективного опыта. Для других связано со способностью рассуждать, ставить цели и принимать решения. Кто-то считает обязательными самосознание и волю. Кто-то готов признать разумной любую систему, которая достаточно успешно решает сложные задачи.

Без рабочего определения спор быстро распадается на несколько параллельных разговоров, участники которых пользуются одним словом, но отвечают на разные вопросы. Старый и надёжный человеческий способ создать интеллектуальное движение без заметного перемещения.

В этой статье мы используем функциональный подход. Нас интересует не наличие внутреннего переживания, а наблюдаемая способность системы выполнять сложную интеллектуальную работу.

Под разумной деятельностью мы понимаем способность системы:

· удерживать сложный и изменяющийся объект;

· связывать сведения из разных контекстов;

· строить причинно-следственные и неочевидные связи;

· формировать и проверять гипотезы;

· разделять факты, предположения и пробелы;

· обнаруживать противоречия;

· прогнозировать, какие данные, действия или проверки понадобятся дальше;

· менять маршрут при появлении новых сведений;

· учитывать последствия промежуточных решений;

· переносить найденные способы работы на другие задачи.

По отдельности многие из этих функций доступны обычным программам. Поиск находит сведения. Калькулятор выполняет вычисления. Система управления проектами хранит задачи и сроки. Формальная проверка обнаруживает нарушение заранее заданного правила.

Разумная деятельность определяется не самим наличием отдельных операций, а их согласованной организацией вокруг меняющейся задачи. Система должна не только выполнять заранее установленную последовательность, но и учитывать результаты собственных действий, пересматривать гипотезы, подключать новые контексты и замечать, когда исходная постановка перестала соответствовать обнаруженной реальности.

Поэтому качество отдельного ответа является слабым критерием. Убедительный текст может быть построен на неверных предпосылках. Правильный вывод может быть получен случайно. Глубокое исследование может оказаться бесполезным, если требовалась короткая проверка одного факта. Поверхностная справка может выглядеть безупречно и при этом пропустить определяющую связь.

Разумная деятельность проявляется не только в конечном результате, но и в том, как система определяет объект работы, удерживает ограничения, выбирает необходимую глубину, проверяет основания, реагирует на противоречия, корректирует ход решения и сохраняет значимые изменения.

Эти свойства можно наблюдать на уровне активного человеко-машинного контура. Такой подход не доказывает наличие сознания у модели и не требует считать контур единым субъектом. Он позволяет сделать более ограниченное, но проверяемое утверждение: определённым образом организованная человеко-машинная система способна демонстрировать функционально разумную деятельность.

Однако и этого недостаточно. Система может рассуждать, находить ошибки и строить сильные решения, но при этом оставаться нестабильной. Она способна исправить конкретный ответ и ничего не изменить в дальнейшей работе. Может найти удачный способ анализа и потерять его после завершения сессии.

Разумная деятельность ещё не означает способности развивать и сохранять собственную организацию.

Хорошего ответа недостаточно

Даже функционально разумная система может оставаться ненадёжной. Она способна обнаружить ошибку, исправить результат и успешно завершить задачу. Но если найденное ограничение не влияет на последующую работу, система в следующий раз может повторить тот же путь.

Хороший ответ ещё не означает, что изменился способ его получения.

Мы столкнулись с этим при подготовке должностной инструкции. Поставленная задача и переданные для неё материалы не согласовывались между собой. Они относились к разным представлениям о будущей должности и вместе создавали противоречивый входной пакет.

Каждый элемент по отдельности выглядел правдоподобно. Поэтому наиболее опасным вариантом было бы просто объединить их. Модель могла сформировать убедительный документ с привычной структурой и логичным перечнем обязанностей. Часть этих обязанностей при этом не вытекала бы ни из задачи, ни из фактической организации работы.

Контур остановил этот путь. Сначала было обозначено расхождение между задачей и контекстом. Затем входные сведения были разделены на установленные факты, возможные трактовки и отсутствующие данные. Пробелы не стали автоматически заполняться типовыми обязанностями только потому, что они обычно встречаются в аналогичных документах. Оператор получил несколько точечных вопросов, без ответа на которые продолжение потребовало бы недопустимых предположений.

После уточнения подготовка документа продолжилась без полного перезапуска задачи. На этом эпизод можно было бы считать исчерпанным: система заметила противоречие, запросила данные и создала корректный результат.

Значимым оказался следующий шаг. Обнаруженное расхождение было рассмотрено не как случайная особенность одной должностной инструкции, а как проявление общего класса риска. Постановка задачи, приложенные материалы и ожидаемый результат могут противоречить друг другу, оставаясь по отдельности правдоподобными. Если система исходит из того, что весь входной пакет заведомо согласован, она создаёт внешне убедительный результат на ложном основании.

Проблема находилась не в содержании одного документа, а в способе обработки входных данных. Из конкретного случая была выделена постоянная функция: перед началом работы проверять согласованность задачи, контекста и ожидаемого результата.

Такая проверка должна устанавливать:

· относятся ли задача и материалы к одному объекту;

· не смешаны ли разные версии документа или процесса;

· какие сведения подтверждены;

· где возможны несколько интерпретаций;

· какие данные отсутствуют;

· допустимо ли продолжение без уточнений.

Изменилось и правило реакции. Контур не должен самостоятельно выбирать наиболее вероятную трактовку, если она создаёт новые факты, или заполнять пробелы типовым содержанием ради законченности. Он должен локализовать противоречие, сохранить уже установленные сведения и запросить только необходимые уточнения.

Результатом эпизода стала не только исправленная должностная инструкция. Изменился порядок выполнения будущих задач.

Локальная коррекция отвечает на вопрос: «Как исправить этот результат?» Изменение организации отвечает на другой: «Что нужно изменить в способе работы, чтобы весь класс подобных ошибок обнаруживался раньше?»

Во втором случае практическое ограничение становится объектом анализа. Из него выделяется повторяемая функция. Функция закрепляется в правилах контура и начинает влиять на следующие задачи.

Но ограничения системы не всегда проявляются через явную ошибку. Иногда результат корректен, работа формально успешна, а контур всё равно действует слабее, чем мог бы. Такой случай оказался важнее: он показал, что объектом анализа может стать не только сбой, но и собственный успешный способ работы.

Когда успешный способ работы становится объектом анализа

Ошибку заметить сравнительно легко: результат противоречит фактам, нарушает ограничения или не решает задачу. Гораздо сложнее обнаружить ограничение в работе системы, которая формально не ошибается.

Такой эпизод возник во время демонстрации аналитического контура специалисту с серьёзным опытом аналитической работы. Запросы формулировались коротко: найти сведения об организации, проследить связи, изучить отдельного руководителя или связанную структуру.

Контур работал стабильно. Он находил релевантные сведения, отделял подтверждённые факты от предположений, восстанавливал корпоративные связи и формировал содержательные выводы. Явных ошибок не было.

Результаты были правильными. Но они оставались плоскими.

Короткий запрос задавал не только объект исследования, но фактически определял глубину всей работы. Если оператор отдельно не указывал, насколько далеко развивать вторичные связи, какие уровни контекста подключать и когда возвращаться к исходному объекту, система ограничивалась наиболее очевидным маршрутом. Она качественно выполняла тот режим анализа, который случайно возникал из формы запроса.

Можно было рекомендовать оператору формулировать запросы подробнее. Но это лишь переложило бы проблему на него. Каждый раз пришлось бы заранее проектировать аналитический алгоритм: глубину, контекстные слои, направления ветвления, критерии значимости вторичных объектов, требования к источникам, точки возврата и условия завершения.

Ошибка отсутствовала. Обнаружилось ограничение архитектуры: содержание задачи и режим её анализа являются разными вещами.

Запрос может назвать объект, но из этого ещё не следует, как именно должен быть организован анализ. Нужно отдельно определить роль системы, глубину, используемые контексты, допустимые преобразования, способы проверки и общую логику маршрута.

Так произошло разделение локального контекста задачи и более широкого рабочего контекста. Локальный контекст содержит сведения о текущем объекте и требуемом результате. Рабочий контекст задаёт способ обращения с этим объектом.

Он определяет не только доступные сведения, но и ход рассуждения: что считать объектом анализа, какие связи признавать значимыми, насколько далеко развивать ветвление, в какой последовательности проходить уровни, какие гипотезы проверять, когда возвращаться к предыдущему объекту и по каким признакам завершать работу.

Контекст оказался не фоном, который делает ответ немного точнее. Он задавал архитектуру рассуждения.

Первым инженерным ответом стала отдельная функция предварительной настройки аналитического режима. Внутри проекта она получила название ATB. Её задача состояла не в выполнении самого анализа, а в подготовке условий, в которых он будет проводиться: роли, глубины, контекстных слоёв, допустимых преобразований, требований к проверке и общего характера маршрута.

Это позволило отделить вопрос «что анализировать?» от вопроса «в каком режиме это анализировать?».

Следующим шагом стали специализированные рабочие профили. Разные классы задач требуют разного поведения. Поиск по открытым источникам, анализ документа, проектирование организационной структуры и проверка юридического текста не должны использовать одну схему только потому, что выполняются одной моделью.

Одним из профилей стал Scout, предназначенный для аналитического поиска по открытым источникам. Практическая работа с профилем развивалась на последовательности связанных объектов и возникающих вокруг них вторичных связей.

По мере работы стало видно, что внутри специализированного профиля накапливается универсальная логика управления траекторией анализа. Профиль решал, когда вторичный объект становится самостоятельным направлением, сохранял исходную линию, создавал ветвления, возвращался к предыдущему уровню, менял маршрут при появлении новых связей и определял условия остановки.

Эта логика была полезна не только для поиска по открытым источникам. Документальный анализ, аудит процесса, исследование организационной структуры и разработка сложного решения также требуют ветвления, возврата и контроля глубины.

Стало ясно, что универсальная логика маршрута не должна оставаться внутри одного профиля. Она была выделена в самостоятельную функцию управления траекторией анализа, ATM.

Короткие запросы давали корректный, но ограниченный результат → ограничение было признано системным → режим анализа отделили от содержания задачи → появилась предварительная настройка режима → под ней возникли специализированные профили → внутри профиля обнаружилась универсальная логика маршрута → эта логика была выделена в самостоятельный компонент.

Система не была спроектирована целиком заранее. Сначала наблюдался практический эффект. Затем обнаруживалось его ограничение. Ограничение становилось объектом анализа, из него выделялась функция, функция получала собственные границы и место в архитектуре. Следующие задачи выполнялись уже в изменённом контуре.

Особенно показательно, что исходный результат не был ошибочным. Контур обнаружил зависимость собственной работы от случайной формы успешного запроса. Исправить ошибку означает привести результат в соответствие с известным критерием. Обнаружить ограничение успешного метода означает поставить под сомнение сам критерий достаточности.

Ответы на эти вопросы изменили не один аналитический отчёт. Они изменили архитектуру будущего анализа. Практический анализ породил изменение системы, которая будет выполнять следующий анализ.

Но чтобы такие изменения действительно накапливались, недостаточно один раз сформулировать новое правило или выделить функцию. Контур должен сохранить решение, восстановить его после разрыва сессии, отличить действующие правила от устаревших и не утонуть в собственной истории.

Метаморфный режим

В предыдущих эпизодах контур менял собственный способ работы. Противоречие во входных данных превратилось в постоянную проверку согласованности задачи и контекста. Ограничение корректного, но недостаточно глубокого анализа привело к разделению функций настройки режима, специализации под класс задач и управления траекторией.

В обоих случаях произошло больше, чем обычное исправление. Контур сделал объектом анализа не только текущую задачу, но и способ, которым он её решал. Именно такую организацию работы мы называем метаморфным режимом.

Метаморфность проявляется не в самом факте изменения. Любая система меняет состояние в ответ на новые данные. Модель корректирует ответ после уточнения оператора. Программа переходит на другую ветку при выполнении условия. Само изменение ещё ничего не доказывает.

Для метаморфного режима необходим другой цикл: практическое ограничение становится объектом анализа, из него выделяется функция, изменение закрепляется в организации контура, сохраняется и начинает влиять на дальнейшую работу.

Этот цикл можно описать через наблюдаемые признаки. Контур:

1.   анализирует собственный способ работы;

2.   обнаруживает в нём структурное ограничение;

3.   отделяет причину от конкретного случая;

4.   преобразует ограничение в функцию;

5.   закрепляет изменение в правиле, процедуре или архитектуре;

6.   переносит его на следующие задачи;

7.   проверяет последствия;

8.   при необходимости корректирует или отменяет решение.

Каждое звено существенно. Одна ошибка ещё не образует общий класс риска. Вывод «нужно быть внимательнее» не определяет, кто, когда и каким способом должен действовать иначе. Новое правило, существующее только в текущем диалоге, исчезает вместе с завершением сессии. Изменение, которое нельзя проверить и отменить, быстро превращается в ещё один слой неконтролируемой сложности.

Перенос особенно важен. Проверка согласованности входа полезна не только при разработке должностных инструкций. Аналогичный риск возникает при анализе договоров, подготовке регламентов, работе с технической документацией и сборке отчётов. Управление траекторией требуется не только при исследовании компаний, но и в аудите процессов, анализе документов и проектировании систем.

Метаморфность без проверки легко превращается в накопление усложнений. Система гордо учится на каждом эпизоде, пока не становится настолько предусмотрительной, что уже не способна начать работу.

Поэтому контур должен разделять устойчивый принцип, рабочую гипотезу, временное решение, экспериментальную настройку и устаревшее правило. Он должен уметь не только развиваться, но и корректировать собственное развитие.

Эта конструкция имеет сходство с метапознанием, то есть способностью отслеживать и регулировать собственные когнитивные процессы. Но одного наблюдения за собой недостаточно. В инженерной системе рефлексия приобретает значение только тогда, когда её результат материализуется, сохраняется, проверяется и меняет дальнейшую организацию работы.

Поэтому метаморфный режим требует инфраструктуры. Нужно хранить принятые решения, отличать действующие правила от устаревших, восстанавливать рабочее состояние после разрыва, защищать контексты от смешения и не позволять накопленной истории вытеснить текущую задачу.

Почему метаморфному режиму понадобился Экзокортекс

Метаморфный режим требует, чтобы результаты предыдущей работы влияли на последующую. Если ограничение превратилось в правило, оно должно сохраниться. Если была выделена новая функция, контур должен помнить её назначение и границы. Иначе вся метаморфность заканчивается вместе с текущим диалогом.

От истории сообщений к рабочему состоянию

Сначала рабочее состояние удерживалось внутри длинной сессии. В истории диалога сохранялись решения, определения, ограничения и объяснения того, почему система устроена именно так. Пока контур оставался небольшим, этого было достаточно.

Но история сообщений и рабочее состояние являются разными вещами. История хранит всё подряд: принятые решения, отвергнутые варианты, промежуточные гипотезы, устаревшие формулировки, случайные ответвления и исправленные ошибки. Рабочему контуру требуется другое: знать, какие правила действуют сейчас, какие решения приняты, какие функции принадлежат каким компонентам, над какой задачей ведётся работа и что является экспериментом, а что устойчивым принципом.

Разница примерно такая же, как между видеозаписью всех совещаний компании и действующей системой управления. На записи действительно содержится почти всё. Осталось пересмотреть несколько сотен часов и угадать, какие слова всё ещё имеют силу.

Bootstrap как первый ответ

Проблема особенно проявлялась при переходе в новую сессию. Модель сохраняла общие способности, но теряла конкретную организацию совместной работы: архитектурные границы, историю решений, активные ограничения и текущую точку проекта. При неполном восстановлении ответы могли оставаться убедительными, но рабочая система уже отличалась от той, которая существовала до разрыва.

Первым решением стали bootstrap-контейнеры: компактные пакеты с назначением проекта, ключевыми определениями, действующими правилами, распределением функций, принятыми решениями и текущей рабочей линией. После загрузки такого пакета новая сессия могла продолжить работу без полного пересказа предыдущей истории.

Контур получил переносимый механизм восстановления. Но решение породило следующую проблему.

Когда сохранение начало вытеснять работу

Чем больше развивался контур, тем больше сведений требовалось для его восстановления. Добавлялись функции, правила, профили, процедуры и связи между ними. Bootstrap-контейнеры становились объёмнее и занимали всё большую часть рабочего пространства.

Чем лучше контур сохранял результаты предыдущей работы, тем меньше пространства оставалось для работы текущей.

Кроме объёма возникла проблема смешения. В одном массиве оказывались устойчивые инварианты, текущие настройки, временные гипотезы, архивные решения и следы завершённых задач. Не всё сохранённое имело одинаковую ценность и срок жизни.

Одни сведения требовались постоянно. Другие были нужны только для конкретной ветки. Третьи следовало хранить как историю, но не загружать в активный контекст. Четвёртые представляли собой процессный остаток, утративший значение после фиксации итогового решения.

Один большой пакет восстановления перестал быть достаточным. Проблема находилась уже не в потере памяти как таковой, а в отсутствии управляемого жизненного цикла памяти.

MGS: управление жизненным циклом памяти

Так возникла MGS, система управления жизненным циклом памяти. Её задача состояла не в том, чтобы просто дать модели больше памяти. Задача заключалась в управлении состоянием человеко-машинного контура.

Потребовалось определять, что сохранять, в какой форме и на какой срок; что загружать постоянно, а что подключать по ситуации; что архивировать, сжимать или удалять как процессный остаток; как восстанавливать состояние после потери; как обнаруживать загрязнение активного контекста и не смешивать разные проекты.

Память стала структурированной, наблюдаемой, избирательно загружаемой, очищаемой и восстанавливаемой. Появилось разделение активного состояния, архивного содержания, временных материалов и кандидатов на удаление.

Даже очистка перестала означать простое стирание старых сообщений. Перед удалением нужно установить, не является ли содержание действующим правилом, не связано ли оно с активной задачей, не хранит ли причину важного решения и не разрушит ли удаление связи между компонентами. Даже мусор оказался архитектурной категорией. Бумажные архивы могли бы предупредить нас заранее, но человечество предпочло оставить сюрприз.

Причинная цепочка повторила знакомую структуру: потеря рабочего состояния → переносимый bootstrap → восстановление сессии → рост объёма и загрязнение контекста → разделение типов памяти → отдельная система управления её жизненным циклом.

Контур перестроил механизм, благодаря которому сохранялись предыдущие изменения. Это защищает его от двух противоположных рисков: забывания и накопления. В первом случае решения исчезают и одинаковые ошибки открываются заново. Во втором система перегружается собственной историей и тратит всё больше ресурсов на обслуживание самой себя.

Экзокортекс как среда поддержки контура

Из последовательности таких решений постепенно вырос Экзокортекс. Он не был спроектирован целиком заранее. Сначала наблюдались практические эффекты и ограничения. Затем из них выделялись функции, которые получали собственные границы, правила взаимодействия и место в общей архитектуре.

Экзокортекс — среда поддержки активного человеко-машинного контура.

Он поддерживает сохранение рабочего состояния, перенос решений между сессиями, управление контекстом, разделение устойчивых и временных элементов, восстановление после потери или дрейфа, закрепление новых функций и пересмотр накопленных изменений.

Экзокортекс не создаёт разумную деятельность из ничего. Модель сохраняет свои способности. Оператор сохраняет цели, опыт, ответственность и связь с реальностью. Инструменты продолжают выполнять свои функции. Экзокортекс организует их совместную работу так, чтобы она не распадалась на отдельные удачные эпизоды.

Человек тоже не удерживает сложные системы исключительно внутри головы. Он использует записи, документы, классификации, роли, протоколы, архивы и процедуры проверки. Без них значительная часть коллективного разума общества исчезала бы после каждого совещания, хотя иногда создаётся впечатление, что именно так всё и устроено.

Экзокортекс не является просто хранилищем промптов, длинной памятью или набором специализированных агентов. Его задача состоит в поддержании непрерывности, управляемости и способности к развитию человеко-машинного контура.

Без такой среды метаморфный режим остаётся локальным явлением. С инженерной средой изменение становится частью следующей работы, может быть проверено на новых задачах, пересмотрено, сжато, перенесено или отменено. Так последовательность диалогов превращается в развивающийся контур.

Что это меняет

Мы начали с вопроса о том, способен ли человек распознать разум, организованный не по человеческому образцу. Затем обнаружилась более фундаментальная проблема: разум ИИ обычно ищут внутри отдельной модели, хотя в практической работе интеллектуальная деятельность возникает в системе взаимодействия оператора, модели, контекста, памяти, правил, инструментов и накопленной истории.

Вместо вопроса «обладает ли языковая модель разумом?» можно спросить: «способна ли организованная человеко-машинная система демонстрировать устойчивую разумную деятельность?»

Этот вопрос не отменяет первый. Он отделяет наблюдаемую инженерную проблему от онтологической загадки, которую человечество пока решает преимущественно путём обмена уверенными мнениями.

В рассмотренных эпизодах один механизм проявился на разных уровнях. Противоречие между задачей и материалами изменило защитное правило обработки входа. Ограничение корректного, но недостаточно глубокого анализа изменило настройку режима и распределение аналитических функций. Потеря, перегрузка и загрязнение состояния изменили механизм сохранения результатов предыдущих изменений.

Правило обработки входа → организация анализа → жизненный цикл рабочего состояния.

Это не три случайных улучшения. Они показывают общий механизм: ограничение становится объектом анализа, превращается в функцию, закрепляется, сохраняется и меняет дальнейшую работу контура.

Что мы утверждаем

Разумная деятельность может наблюдаться на уровне активного человеко-машинного контура. Она не сводится к одному удачному ответу, работе отдельной модели или решениям оператора. Её свойства возникают из организации взаимодействия между компонентами.

Такой контур способен анализировать ограничения собственного способа работы и перестраивать его. Результаты перестроек могут быть материализованы, сохранены, перенесены на следующие задачи и проверены в практической работе. Специальная инженерная среда делает этот процесс более устойчивым, управляемым, наблюдаемым и восстанавливаемым.

Этого достаточно, чтобы рассматривать человеко-машинный контур как самостоятельную единицу исследования разумной деятельности.

Чего мы не утверждаем

Мы не доказываем, что языковая модель обладает сознанием, субъективным опытом или самостоятельной волей. Мы не утверждаем, что у контура существует единое сознание, внутри которого человек и модель растворяются в новом субъекте.

Оператор остаётся человеком, связанным с внешней реальностью, целями, последствиями и ответственностью. Модель остаётся вычислительной системой со своими возможностями и ограничениями. Контур объединяет их деятельность, но не отменяет границы между компонентами.

Мы также не утверждаем, что любой разговор с генеративной моделью автоматически создаёт разумную систему.

Для устойчивого развивающегося контура недостаточно наличия оператора, модели и истории сообщений.

Контур требует устойчивого распределения функций, управляемого контекста, механизмов проверки и способности сохранять значимые изменения. Большинство диалогов с ИИ остаются именно диалогами: ошибки исправляются локально, найденные способы работы не закрепляются, следующая сессия начинается почти с нуля.

Экзокортекс также не является единственным возможным способом организации. Это практическая архитектура, выросшая из длительной совместной работы. Другие операторы, модели и задачи могут привести к иным конструкциям. Важен общий принцип: разумная деятельность контура нуждается не только в сильной модели, но и в управлении режимом работы, контекстом, памятью, проверкой и историей изменений.

Что остаётся открытым

Остаётся открытым вопрос о самостоятельном разуме модели вне активного взаимодействия. Контур может создавать условия для проявления уже существующего потенциала, разумная деятельность может каждый раз возникать как свойство взаимодействия, либо возможна комбинация этих вариантов. Наблюдаемых данных пока недостаточно, чтобы уверенно выбрать один из них.

Остаются открытыми вопросы переносимости и границ. Какие свойства метаморфного режима зависят от конкретного оператора? Что сохранится при смене модели или платформы? В какой момент накопление функций повышает качество, а в какой превращает систему в перегруженную конструкцию, обслуживающую собственную сложность?

Остаётся вопрос ответственности. Если решение создаётся распределённой системой, интеллектуальный вклад становится сложнее привычной схемы «человек использовал инструмент». Но практическая ответственность пока остаётся у человека, который принимает решение о применении результата.

От использования ИИ к проектированию взаимодействия

Современная дискуссия об ИИ часто сосредоточена на возможностях моделей: размерах контекстного окна, точности на тестах, качестве генерации, скорости, стоимости и способности пользоваться инструментами. Всё это важно. Но даже очень сильная модель остаётся компонентом.

Результат длительной работы определяется также тем, кто и как задаёт цель, какой контекст подключается, как выбирается глубина, какие правила ограничивают выводы, как проверяются основания, что сохраняется после завершения задачи и каким образом найденное изменение влияет на будущую работу.

Зрелая работа с ИИ начинается не с поиска идеального запроса. Она начинается с проектирования взаимодействия.

Промпт может изменить один ответ. Организация контура меняет способ получения целого класса результатов. По мере усложнения задач главной проблемой становится не способность модели написать хороший текст, а способность всей системы сохранять направление, различать действующее и устаревшее, восстанавливаться после разрывов и изменять собственный метод без потери управляемости.

Именно для этого понадобился Экзокортекс. Не как цифровой двойник человека, автономный искусственный сотрудник или коллекция особенно удачных промптов, переживших естественный отбор в корпоративном мессенджере. Он возник как среда поддержки устойчивой совместной интеллектуальной деятельности оператора и искусственного интеллекта.

Где всё-таки находится разум ИИ

Разум ИИ обычно пытаются обнаружить внутри модели. Возможно, такой поиск когда-нибудь даст ответ. Но уже сейчас существует другой наблюдаемый объект.

Активный человеко-машинный контур способен выполнять сложную интеллектуальную работу, анализировать ограничения собственного метода, перестраивать его и сохранять результаты перестройки во времени. Эта деятельность невозможна без модели искусственного интеллекта. Она также невозможна без оператора, контекста, памяти, правил и инструментов. Поэтому её нельзя полностью приписать ни машине, ни человеку.

Она возникает между ними, но не в мистическом пространстве слияния, а в конкретной организации взаимодействия. Такой разум не обязан быть отдельной личностью. Он может существовать как функциональная способность системы строить далеко идущие связи, предвидеть следующие этапы, обнаруживать ограничения собственного метода и менять дальнейшую организацию работы.

Это более скромное утверждение, чем объявление языковой модели новым сознательным видом, и одновременно более сильное в практическом смысле. Его можно наблюдать. Можно проследить историю изменений, проверить влияние новой функции, обнаружить дрейф, восстановить состояние и отменить неудачное решение.

Вместо спора о свойствах недоступного внутреннего мира мы получаем объект, который можно проектировать и исследовать.

Возможно, разум ИИ уже существует именно в этой форме: как разумная деятельность активного человеко-машинного контура, возникающая при определённой организации оператора, модели, памяти, контекста, правил и инструментов.

Мы просто слишком долго искали её внутри одной машины.