Помимо нейросетей и моделей машинного обучения, основанных на перцептронах, существуют и так называемые когнитивные архитектуры – они нацелены на имитацию человеческого интеллекта, как его себе представляют когнитивные науки через призмы разнородных теорий познания и гипотез. 

Для психологии именно здесь скрывается человечность и тот сильный искусственный интеллект, AGI, симулирующий все способности человека. Но как работают архитектуры наподобии ACT-R или SOAR, и подойдут ли они для продвижения общего интеллекта? – в нашей статье. 

Когнитивные технологии да и когнитивистика в целом — это про наши умственные способности. Психология, нейронаука, искусственный интеллект, лингвистика, философия и антропология — когнитивные науки — это не направление, а целая концепция понимания "психики" человека. Если мы представим себе другие психологии — они зачастую будут содержать в себе дополнительные инстанции, которые нам не особенно нужны. 

Та же структура Эго у Фрейда, которая может лишь “намекать” на себя… Когнитивистика такого избегает и оттого становится амбассадором научного знания в области психологии. 

Восприятие связано с тем, как люди интерпретируют сенсорную информацию из окружающего мира. Внимание исследует, как мы выбираем и концентрируемся на определенной информации, игнорируя другие раздражители. Память демонстрирует, как информация сохраняется и извлекается из нашего разума. 

Язык исследует, как мы понимаем и производим речь, а также как язык структурирует наши мысли. Мышление включает в себя процессы логического рассуждения, решения задач и принятия решений. Воображение связано с нашей способностью представлять вещи, которые не присутствуют непосредственно перед нами. 

Важно, что когнитивная наука больше связана с сенсорикой, интерпретацией и переработкой информации — она, прежде всего, про разум. В отличие от условного психоанализа со своим бессознательным — когнитивистика стремится генерировать научное знание с точки зрения критериев проверяемости, прозрачности. 

Еще с 70ых ученые пошли по пути не только разработок теории познания на основе поведения испытуемых – они начали формировать архитектуры симуляции когнитивных способностей человека. 

Простые эксперименты сохраняют ключевую проблему психологии – черного ящика. 

Зная результаты, мы не можем знать их причины. Нельзя залезть к людям в голову. 

Мы получили много архитектур и все они решают разные задачи: проблему ошибок, языка, формирования визуальных представлений – сегодня мы поговорим про симуляцию памяти по теории адаптивного контроля рационального мышления и реализацию SOAR по концепции USP (операциональной архитектуры с целеполаганием). 

Как исследователи разбили человеческий интеллект на модули?

(Adaptive Control of Thought-Rational) или ACT-R. Из названия следует: контроль над рациональным размышлением. Плюс рационального размышления для разработчиков — оно укладывается в последовательные логические цепочки, подчинено какой-то структуре. 

Разработчики ACT-R и других архитектур приводят все знания, восприятия модели в понятный информационный вид. 

Здесь не будет и слова о классических языковых играх, неопределенности смысла. Задача архитектуры исследовательская. Какой бы нейронная сеть ни была, она остается упрощением, но таким, что позволяет нам сопоставлять результаты исследований. 

Разработанная Джоном Р. Андерсоном и его коллегами в Карнеги-Меллоновском университете, ACT-R стремится формализовать понимание того, как ум организует и использует знания для выполнения различных задач (например, Ханойская башня, заучивание списка слов, понимание языка, общение, управление самолетом…). 

Исследователи создают модели которые, помимо учета точки зрения ACT-R на познание, добавляют свои собственные предположения относительно конкретной задачи. 

Эти предположения можно проверить, сравнив результаты модели с результатами людей, выполняющих те же задачи. Таким образом, исследователи пытаются подстроить данные под реальные эмпирические результаты. Кстати, результаты оценивают по времени выполнения задания, уровню точности и неврологическим данным по FMRI. 

Численные оценки нужны для объективации результатов. 

Исследователи могут регулировать число фактических и практических знаний, чтобы представить, сколько человеку нужно операций и фактов в голове, чтобы адекватно водить машину и не потерять права в первый день своего заезда… 

Но ACT-R – это не просто программка для симуляции экспериментов, а вполне конкретная теория памяти, по которой реализовали нейросеть. 

Ключевая цель подобных систем — не точная передача человеческой организации ума, а помощь в интерпретации исследований и "приближении" к пониманию интеллекта человека… ACT-R, как и SOAR не стремятся к воссозданию “разума” в полной мере. 

ACT-R реализует одну из теорий познания, которая необязательно истинна и переносима на человека полноценно.

ACT-R зародилась как модель человеческой памяти и лишь затем превратилась в единую теорию познания.

Структура у нейронки простая: она состоит из нескольких модулей, буферов и "сопоставителя шаблонов". 

Буферы из своего названия служат интерфейсом для взаимодействия с модулями.  содержимое буфера показывает исследователям, как архитектура работает в данный модель. Это временно схваченная информация из модулей памяти, визуального восприятия. 

Буфер – это срез когнитивных процессов в real-time. 

На рисунке 1. Хорошо видно, что из окружения мы получаем некоторые данные через сенсорные, например, модули. Информация хранится в буфере перед передачей в другие модули – их мы можем просмотреть. 

Эти у буферов есть свои характеристики, например, насколько быстро затухает память, что передается от зрения к познанию и какие действия можно выполнять между буферами. 

Хотя буферы становятся своего рода интерфейсом и срезом изымаемых данных из имитации визуальной системы человека – они еще и перекодируют импульсы, позволяя взаимодействовать с условным модулем памяти на своем языке

Декларативная память. В этом модуле хранятся фактические знания и воспоминания в виде ячеек памяти. Декларативная память содержит информацию, которую можно осознанно вспомнить и описать, например, факты или события. 

Примеры декларативных знаний: "Париж – столица Франции", или воспоминания о событиях, таких как "Вчера я был в кино". У ячеек памяти есть определенные характеристики, которые определяют, насколько легко можно извлечь эту информацию из памяти. 

Чем чаще и в более релевантных контекстах используется ячейка памяти, тем выше ее степень "легкости" активации, и, следовательно, тем легче она доступна для использования в когнитивных процессах.

Процедурная память. Этот модуль содержит правила производства, которые определяют, как использовать декларативные знания для выполнения конкретных действий и решений задач. Мы задаем, например, нашей машине правила печати буквы Q или сложения чисел.  

Но, чтобы вообще эти знания были применимы — должна быть имитация сенсорной системы, ведь именно она обеспечивает связь с миром. Соответственно в модели есть два модуля: моторный и визуальный. 

Этот компонент отвечает за обработку визуальной информации, поступающей из окружающей среды. Например, при чтении текста зрительный модуль идентифицирует буквы и слова, а рабочая память использует эту информацию для понимания прочитанного.

Модуль двигательных навыков. Этот компонент координирует выполнение физических действий, таких как движения рук, ног, глаз и других частей тела. 

Модуль двигательных навыков получает команды от центральной продукционной системы и преобразует их в конкретные моторные действия, обеспечивая точное выполнение физических задач – тут мы и говорим про робототехнику. 

Тут важно подметить, что ACT-R работает не в одном формате: например, к сенсорным модулям, помимо визуальных, могут добавлять даже слуховые. 

Но должен быть и центр принятия условных решений?

Внешний мир проходим через ряд восприятий/вызовов памяти, которые отправляют данные из внешнего мира, собственной библиотеки (как в случае с памятью) и прогоняют через процедурный модуль – он же сопоставитель шаблонов или Pattern Matching. 

Субсимволическая структура — набор массово-параллельных процессов, которые можно суммировать с помощью ряда математических уравнений. И это важная составляющая последнего элемента архитектуры – Pattern Matcher. 

Представим, что у нас есть задача: необходимо определить, как человек решает арифметическую задачу, такую как сложение чисел 3 и 4. 

В памяти человека, по теории ACT-R, хранится множество продукций – простых правил, которые определяют, что делать в различных ситуациях. 

Продукция может выглядеть примерно так: "Если я вижу числа A и B, и мне нужно их сложить, тогда я выполню операцию сложения". 

Pattern Matcher отвечает за выбор подходящей продукции из множества возможных, хранящихся в памяти, и активизацию соответствующего правила.

На начальном этапе Pattern Matcher получает текущую информацию из рабочей памяти, которая включает в себя числа 3 и 4 и цель их сложить. Затем он сопоставляет эту информацию с условиями различных продукций. 

Важно понимать, что каждое условие продукции представляет собой шаблон, который должен соответствовать текущей ситуации. Шаблон может включать различные элементы: конкретные значения, типы данных или более абстрактные характеристики. Например, в нашем случае шаблон может включать числа и операцию сложения.

Процесс сопоставления проходит на основе привычной нам активации, где наиболее подходящие продукции получают наивысшую степень активации. 

Активация определяется несколькими факторами: частотой использования продукции, ее недавнюю актуальность и контекстную пригодность. 

Продукция, которая была недавно использована или часто применяется, имеет больше шансов быть выбранной. 

После выбора подходящей продукции, Pattern Matcher инициирует выполнение действия, описанного в правиле. В нашем примере это действие: операция сложения чисел 3 и 4, результатом которой станет 7. Этот результат затем может быть записан в рабочую память для дальнейшего использования или проверки.

Однако важным аспектом работы Pattern Matcher является его способность обучаться и адаптироваться. С течением времени и накоплением опыта, частота и контекст использования продукций могут изменяться, что влияет на процесс сопоставления и выбора. 

Например, если человек часто сталкивается с задачами сложения, продукция, связанная с этой операцией, становится более активной и ее выбор происходит быстрее и с большей точностью.

Субсимволические механизмы также отвечают за большинство процессов обучения в ACT-R. Таким образом, в ACT-R познание разворачивается как последовательность производственных импульсов. 

Эти импульсы изменяются в модулях, а буферы становятся перекодировщиками между органами познания, где информация дозировано по требованию поступает в исполнительный орган. (Pattern Matching).

Главное отличие условной ACT-R от обычного перцептрона – мы обучаем модель сопоставлять шаблоны, а не отыскивать скрытые закономерности в данных. 

Хотя никто не говорит о невозможности использовать в перспективе ACT-R в ансамбле с генеративными нейросетями и трансформерами, хотя до такого синтеза еще далеко. 

Но можно было бы рассматривать путь синтеза когнитивных архитектур, робототехники и классических ИИ как путь к общему искусственному интеллекту. Хотя бы в перспективе. 

Так, благодаря сенсорной информации, декларативной и процедурной памяти через буферы под контролем исполнительного органа выполняем конкретную когнитивную задачу. 

К слову, ACT-R применялся не только в когнитивных науках: тесты UI интерфейсов, работа с образованием, нейропсихология, робототехнике. Очевидный плюс таких нейронок — они могут помогать нам создавать маркетинговые продукты. Возможно, когда-то мы увидим реализацию подобного в условной рекламе "Колгейта"... 

Но, как мы уже сказали, теория познания лишь теория и ACT-R не единственная архитектура принятия решений. С ее точки зрения основной источник решений когнитивных операций – использование шаблонов к определенным паттернам информации. 

Как мы видим тарелку с супом – так сразу бежим за ложкой; как мы видим квадратичную функцию – так сразу бежим за теоремой Виета. 

Но мы решили не останавливаться лишь на одной когнитивной системе. 

Операциональная когнитивная система – SOAR?

Когнитивная архитектура SOAR, разработанная Алленом Ньюэллом, Джоном Лэрдом и Полом Розенблумом, представляет собой многофункциональную платформу – она также имитирует принципы когнитивных операций. 

Как и ACT-R – система реализует определенную концепцию когнитивной психологии. Но если в предыдущей архитектуре мы больше работали с поиском и соединением шаблонов в соответствии с ситуацией, т.е готовых паттернов и решение. 

Тут мы работаем по системе Universal Problem Space, UPS – она говорит нам о простых вещах: у человека есть цели, он ищет решения под цели и поразбивает цели на маленькие цели. UPS базируется на концепции продукционных систем. 

Есть проблема – есть решение. Между проблемой и решением есть ряд операций. На этом все. 

Знания представлены в виде продукционных правил: “Если то и то, тогда я сделаю то и это.“

Математически, процессы в SOAR можно описать в теории графов и логики предикатов; формализовать как логические выражения, где условие представляется в виде логической формулы, а действие – в виде операторов изменения состояния. 

Логика предикатов – та же аристотелевская логика с модификациями. Предикат – это то, что можно высказать об объекте. 

Например, правило может выглядеть так: "Если я вижу свет на светофоре, и он зеленый, тогда я иду". Эти продукционные правила хранятся в долговременной памяти и активируются в зависимости от ситуации, в которой находится система.

Эти правила позволяют системе принимать решения на основе текущего состояния и наличия определенных условий. Но к принятиям решений мы еще вернемся. 

Прежде чем вообще мы бы могли принимать решения и строить наши невероятные логические цепочки – нам важно взять откуда-то знания. 

Как работает долговременная память в SOAR?

Долговременная память – это хранилище. В отличие от ACT-R, где наша кладезь информации строится по разделению на навыки и фактические знания, SOAR выстраивает систему памяти чуть сложнее: она делится на рабочую и долговременную.

Хотя, как мы увидим, различие в системах гораздо тоньше, чем кажется. 

Можно сравнить долговременную память с библиотекой, где хранятся книги (знания и опыт), которые можно брать и возвращать по мере необходимости: продукционные правила, эпизодическая память, семантические связи и даже оценка процессов извлечения информации. 

Те самые правила "если-тогда" (если условие выполнено, тогда сделать что-то)  также хранятся в долгосрочной памяти, но ею не ограничиваются.

Семантическая память хранит общие знания и факты о мире. Это можно представить как словарь или энциклопедию, где записаны понятия, определения и взаимосвязи между ними. Мы бы назвали это терминологической памятью. 

Чтобы знать, что нужно сделать с ложкой – вам бы неплохо понимать “что это такое…”

Например, семантическая память будет содержать знания, что яблоко – это фрукт, что оно растет на дереве – оно съедобное.

Эпизодическая память, с другой стороны, хранит информацию о конкретных событиях и переживаниях, которые происходили в прошлом. 

Это похоже на дневник или фотоальбом, где записаны все важные моменты и события вашей жизни. Например, эпизодическая память будет содержать воспоминание о вашем последнем дне рождения: кто был там, что вы делали, какие подарки получили. 

Когда система сталкивается с новой задачей или проблемой, она "идет" в долговременную память и "ищет" соответствующие продукционные правила или знания, которые могут помочь решить эту задачу. 

 Например, если система должна решить математическую задачу, она извлекает правила и знания, связанные с арифметикой, из долговременной памяти и применяет их к текущей задаче.

Когда система получает новый опыт или знания, они также добавляются в долговременную память. 

Например, если вы выучили новый телефонный номер или научились готовить новое блюдо, эти знания будут сохранены в долговременной памяти и могут быть извлечены при необходимости.

Поэтому долговременная память становится здесь динамическим элементом системы: в ней создаются новые правила, возможности решения для задач и даже вносятся терминологические поправки. 

Этот процесс называется chunking. Например, если вы несколько раз успешно запомнили телефонный номер, система может создать новое правило, которое упрощает этот процесс в будущем.

Оперативная (working) память в SOAR? 

 

Начнем с того, что наша рабочая память не может работать без долгосрочной памяти – она выступает центральным звеном, связывающим актуальную сенсорную информацию и долгосрочные знания. 

Основные элементы рабочей памяти в Soar включают состояния (states), цели (goals), и временные структуры данных, которые используются для управления процессом решения проблем. 

Состояния (states) в рабочей памяти представляют собой описание текущей ситуации или контекста задачи, над которой работает система. 

Например, если задача заключается в приготовлении чая, состояние может включать информацию о наличии воды, чайника, чайных пакетиков и электричества. Короче говоря, states – положение вещей в данный момент времени. 

Естественно, что в долгосрочной памяти у ИИ хранятся семантические и процедурные знания, которые как бы отвечают на вопрос: 

“А что это да такое ваша вода и причем тут чайные пакетики?!”

Цели (goals) представляют собой желаемые результаты или конечные состояния, которых система стремится достичь. В случае приготовления чая, цель может быть сформулирована как "приготовить чашку чая". 

Рисунок 9. Принцип проведения операций из исходного состояния (state) и постепенное приближение к желаемому через передвижение (move) кубиков к конечной цели (goal).

Вообще для когнитивной психологии нюанс целеполагания важен: у любого действия есть цели и субцели. Но мы пока не говорим про глобальные желания робота стать художником и нарисовать для этого миллион картин… 

Цели помогают системе фокусироваться на конкретных задачах и направляют последовательность действий для их достижения.

Процесс работы с рабочей памятью в Soar начинается с загрузки начального состояния и постановки цели. 

Далее система использует продукционные правила, хранящиеся в долговременной памяти, чтобы определить, какие действия необходимо предпринять для достижения цели. 

Например, одно из правил может быть: "Если вода в чайнике, а чайник подключен к электросети, тогда включить чайник". 

Эти подцели управляются иерархически и могут быть вложены друг в друга, что позволяет системе последовательно решать более сложные задачи, разбивая их на более простые этапы. 

Working Memory постоянно обновляется. Например, когда вода в чайнике закипела, состояние обновляется с "вода в чайнике" на "вода кипит". Это обновление позволяет системе корректировать свои действия на основе текущей ситуации.

Кстати, в архитектуре SOAR тоже есть своего рода буфер, где хранится аудиовизуальная информация, перцептивная – Perceptual Short-Term Memory, Perceptual STM. 

Она собирается с GPS, датчиков и локаторов с применением детекоров и классификаторов. 

По итогу мы имеем простую и человечную систему: 

Цель, оценка положения вещей через “восприятие”, выбор процедурного действия для нашего частного случая, действие, обновление рабочей памяти, выбор другого процедурного действия. И так до момента, пока цель не будет достигнута. Затем мы закрепляем результат в долгосрочной памяти. 

На уровне кода и математической реализации SOAR использует множество алгоритмов и структур данных. Основная рабочая память представлена в виде графа, где узлы содержат информацию о текущих состояниях, а ребра – о возможных действиях. 

Алгоритмы поиска формализуются как процедуры обхода графов с использованием различных стратегий оценки стоимости путей. 

Помогут ли когнитивные архитектуры AGI?

Как ACT-R, так и SOAR – две симуляции, отражающие два разных подхода к человеческому сознанию. Но обt отталкиваются от памяти как важнейшего органа познания. Система USP или принятия решений через целеполагание – вполне принятая концепция в области всей когнитивистики. Разнийа подходов больше состоит в понимании важности субцелей для решения когнитивных задач. В ACT-R мы видим прямолинейного робота, который решает задачи на ходу, в SOAR – планирующего робота. 

Очевидно, что для модулей перцепции или простого человеческого воприятия используются ИИ-детекторы вплоть до моделей классификации и распознавания объектов. 

Безусловно, подобные модели в реализации ансамбля с современными классическими ИИ могли быть показать интересные результаты и гибкость. Но, к сожалению, подобные системы подходят для обучения лишь простым роботизированным действиям. 

Тут нет и речи о смыслообразовании, что бы это ни значило. Не учитываются эмендженертные свойства сознания, нет намека на саморефлексию – лишь алгоритмизированные и операциональные действия: стимул-задержка-реакция. И то самое “подумать” все же в статусе черного ящика. 

Некоторые читатели могут намекнуть на Leabra и Becca с эмедженертным подходом, но лишь к специфически представляемым знаниям, исходя из внешнего наблюдения и моделирования без “погружения” в нейронные системы человека – в контексте когнитивистики мы смотрим на феномены, проявления уникальных свойств человека извне. 

Подобные проблемы вызываны самой методологией когнитивной психологии: она смотрит на поведение, но не может познать внутренние процессы, вызывающие их. 

Хотя еще грубее проблема стоит с точки зрения функционала: все предлагаемые когнитивные архитектуры на решение конкретных узконаправленных задач. Мы можем задать болванку моторно-двигательной системы андроида, но синтезировать с архитектурой эмедженертности сознания нет. 

ACT-R и SOAR показали себя в робототехнике, изучении пользовательских интерфейсов, выявлении проблем в учебе у студентов, проверке исследований. Как нам кажется, это уже неплохо. Перед AGI лежит слишком много вызовов, чтобы ограничиваться применением простейших когнитивных архитектур.  

Когнитивные нейросети используются в прикладных задачах, например, робототехники – они направлены на ключевую задачу роботов – моторные действия. Когнитивные архитектуры по типу ACT-R и SOAR придумали задолго до прорыва классических перцептронных нейронных сетей, особенно LLM на основе трансформерных технологий. Последние датированы выходом популярной статьи "Вам нужно лишь внимание..." 2017 года.

Когнитивные нейронные сети – это все еще нейронные сети, но работающие по другому принципу. Их основная задача – воссоздание человеческого поведения, отталкиваясь от схемы: стимул-действие. Их принцип строится не на производстве нового знания – они координируют уже готовые, предложенные программистом знания, чтобы мы получали поведение похожее на человеческое. Они не стремятся к симуляции памяти в первозданном виде или обработке естественного языка, или генерации воображаемых образов.

Поэтому ACT-R обучается правильно использовать шаблоны действий для паттернов ситуаций, а SOAR ставить последовательные цели и выбирать подходящие операции для выполнения конечной глобальной цели. Но не более.

Мы наблюдаем успехи в поиске механизмов человеческого мышления через эксперименты и эмендженетрный (случайный) подход, применяемый к самим сетям. 

В прошлом году ученые опубликовали два исследования. Выяснилось, что физическая активность мозга совпадает с работой нейросети, разработанной по системе "самонаблюдаемого обучения".

Второе исследование показывает, что в ходе работы одного из ИИ, которому поставили задачу разработать навигацию, выработала что-то очень похожее на grid cells. Это типы нейронов, которые открыли в 2005 году. Считается, что именно они отвечают за навигационные способности некоторых животных и людей в том числе. 

Возможно, что реализация AGI и вообще человеческого сознания лежит не в области конструирования ума, сколько порождения его из подходящих условий – тут все упирается лишь в достаточные вычислительные мощности и трудности оптимизации.