Продолжаю цикл «Память и мозг». И, видимо, это статья будет завершать этот цикл и открывать новый про управление вниманием.

Когда я говорю, что «У меня сейчас десять задач в голове», это не означает, что все десять задач одинаково и одновременно находятся в фокусе внимания».

Часть задач обдумываю. Часть поддерживаю в фоновом режиме. Одна задача может постоянно возвращаться из‑за риска или приближающегося срока. Другая привлекает внимание из‑за эмоциональной значимости. Третья связана сразу с несколькими проектами и поэтому активируется каждый раз, когда человек сталкивается со смежной информацией.

Память, а точнее рабочую память в этом контексте рассматриваю как временно поддерживаемую систему представлений, необходимых для текущего поведения:

  • цели;

  • незавершённые задачи;

  • текущая деятельность;

  • контекст;

  • ограничения;

  • ожидаемые события;

  • поощрения и наказания;

  • сигналы риска.

Эти представления не хранятся в одной области мозга. Их удержание и обработка обеспечиваются взаимодействием нескольких функциональных систем. И у этих систем есть ограничения 7±2 (которое потом окажется 4±1) элемента, которые может удерживать наш мозг. Мне стало интересно с этим глубже разобраться, поэтому я засел за научные статьи и попробовал на Python немного помоделировать графы.


В прошлой статье я попробовал применить осцилляторы Курамото, чтобы смоделировать синхронизацию нейронных ансамблей, а ещё раньше — разбирали статью в Nature и мои попытки моделирования в Python работы механизма внимания и того, как мозг формирует память и решили визуализировать популяции осцилляторов графами. Именно на этом графе я и споткнулся: если состояние нейронного ансамбля — это граф, то у графа должна быть какая‑то мера того, «куда» и «сколько» внимания распределяется между узлами. И можно ли вообще как‑то моделировать то самое пресловутое внимание?

И вот какую гипотезу я попробовал применить: из практики известно сколько объектов может одновременно удерживать в фокусе наш мозг - вот это и будет границей. Теперь, зная эту границу, попробуем обратным ходом смоделировать граф нейронной сети и посмотрим что из это получится.

Магическое число: от семи к четырём

Джордж Миллер в 1956 году свёл воедино данные об «абсолютных суждениях» и объёме кратковременной памяти и получил ёмкость канала около 7±2 элементов. Статья настолько разошлась по учебникам, что число «семь» стало почти культурным мемом задолго до того, как кто‑то стал проверять его строго экспериментально.

Miller GA. The magical number seven, plus or minus two: some limits on our capacity for processing information. Psychol Rev. 1956 Mar;63(2):81–97. doi: 10.1037/h0043158. PMID: 13310704.

Статья безспорно стала культовой настолько, что в UX‑дизайне появился даже одноименный закон — вот здесь в этой статье на Habr “Восемь именных законов в UX дизайне (часть 2)” всё по полочкам разложено.

Почему раньше было 7, а теперь 4 элемента, которые можно держать в памяти

Возможно, это связано с эффектом «зазубривания». Есть два классических трюка, которые давно применяли, а часто и просто не осознавали, испытуемые в прошлых экспериментах на объём памяти. 

1) Репетиция (rehearsal) - это субвокальное проговаривание элементов «про себя» по кругу, которое постоянно освежает след в кратковременном хранилище и не даёт ему угаснуть, фактически растягивая эффективное время удержания далеко за пределы «сырой» ёмкости. 

2) Чанкинг (chunking) - это упаковка нескольких элементарных единиц в один осмысленный блок (тот самый приём, который ещё Миллер описывал на примере того, как последовательность цифр превращается в одну знакомую дату или номер), и тогда человек как бы обманывает счётчик: элементов в блоке много, а сам блок один.

Коуэн (2001) сконструировал экспериментальные парадигмы так, чтобы обе лазейки оказались недоступны одновременно: материал предъявлялся достаточно быстро и с подавлением артикуляции, чтобы репетиция физически не успевала происходить, а сами стимулы подбирались заведомо не группируемыми в знакомые единицы. Когда обе «подпорки» убрали, оценка ёмкости рабочей памяти просела с привычных 7±2 до 4±1  и именно это число, освобождённое от стратегий заучивания, я и беру дальше как граничное условие для графовой модели внимания.

Cowan N. The magical number 4 in short‑term memory: a reconsideration of mental storage capacity. Behav Brain Sci. 2001 Feb;24(1):87–114; discussion 114–85. doi: 10.1017/S0140525×01003922. PMID: 11515286.

Эта статья не единичный эксперимент. Судя по метрикам в Behavioral and Brain Sciences она пользуется неизменной популярностью уже на протяжении более десяти лет. И количество цитирования достаточно большое.

Причём тут графы и как от памяти перейти к понятию «внимание»

Память это не хранилище (как совершенно правильно в своём комментарии к моей статье указал участник Habr‑сообщества @harikein70). Современная нейронаука описывает её иначе, как нейронный ансамбль (engram) - это множество нейронов, которое активируется совместно.

Если память можно попытаться описать множеством ансамблей, то как описать их отношения? Можно перечислить ансамбли списком, но список ничего не говорит: кто с кем взаимодействует; через кого проходит информация; какие области координируют остальные. Поэтому математической моделью становится граф.

Внимание - это динамическое распределение весов передачи информации в графе памяти.

Отдельное воспоминание, образ, правило или текущая цель не локализованы в одной точке мозга. Они поддерживаются согласованной активностью множества нейронов, распределённых между гиппокампом, таламусом и корой. Вот здесь это достаточно хорошо описано: Buzsáki G, McKenzie S, Davachi L. Neurophysiology of Remembering. Annu Rev Psychol. 2022 Jan 4;73:187-215. doi: 10.1146/annurev-psych-021721-110002. Epub 2021 Sep 17. PMID: 34535061; PMCID: PMC9241447.

Здесь у меня и возникла гипотеза, ради которой всё затевалось: а что если 4±1 ограничение одновременных элементов не столько свойство «хранилища» памяти, сколько граничное условие механизма внимания как такового, и его можно смоделировать через attention score на графе (по аналогии с тем, как это устроено в Graph Attention Networks), где каждый узел‑«воспоминание» получает коэффициент внимания от соседей через softmax по ограниченному числу связей?

В модели (я тут код на Python написал и попытался промоделировать эту гипотезу) такие ансамбли представлены узлами графа:

  • HPC - гиппокампальный узел, связанный с контекстом и памятью;

  • Thalamus- взял четыре таламических реле;

  • Cortex - взял двадцать кортикальных ансамблей, способных представлять отдельные объекты или элементы текущей деятельности.

Аналогия механизма внимания в искусственных нейронных сетях

Косвенное подтверждение, что ограничение ёмкости действительно может рождаться именно из механизма внимания, а не из объёма «хранилища», получили и на трансформерах:

Gong D, Zhang H. Self‑Attention Limits Working Memory Capacity of Transformer‑Based Models. arXiv:2409.10715 [cs.CL]. 2024. doi: 10.48550/arXiv.2409.10715.

В этой статье авторы обучили декодер‑трансформер на задаче N‑back (вот, кстати, примеры этих задач https://brainworkshop.sourceforge.net) и показали, что деградация точности при росте N сопровождается ростом энтропии матрицы attention‑весов — то есть механизм self‑attention сам по себе, без какой‑либо явной модели «памяти», воспроизводит поведенческий паттерн ограничения ёмкости, похожий на человеческий.

Суммарная энтропия в этой статье - это мера того, насколько размазаны веса внимания по всей последовательности.

  • Низкая энтропия = внимание сфокусировано на одной нужной позиции и модель работает точно.

  • Высокая энтропия = внимание рассеяно по множеству позиций и модель не может выделить нужную и ошибается.

Простыми словами: чем больше энтропия, тем хуже модель концентрируется, и тем ниже её «рабочая память». Сразу оговорюсь — здесь «рабочая памаять» это вот это определение вот отсюда:

The term working memory refers to a brain system that provides temporary storage and manipulation of the information necessary for such complex cognitive tasks as language comprehension, learning, and reasoning. 

Alan Baddeley. Working memory. Science, 255(5044):556–559, 1992

вот как выглядит результат:

This is analogous to the mechanism of selective attention in the human brain, which prioritizes relevant information and filter out the rest to ensure effective task performance, but also restricts our information processing by imposing neural and cognitive bottlenecks

источник: рис. 5 из статьи https://arxiv.org/pdf/2409.10715. Тут видно, что чем выше порядок N, тем ниже точность и увеличивается энтропия. Подробнее про N-back задачу см. там же на рисунке 1.
источник: рис. 5 из статьи https://arxiv.org/pdf/2409.10715. Тут видно, что чем выше порядок N, тем ниже точность и увеличивается энтропия. Подробнее про N‑back задачу см. там же на рисунке 1.

Это не доказывает мою гипотезу напрямую, да тут и объект исследования другой: трансформер там какой‑то ванильный, а не мозг), но даёт основание не отбрасывать саму идею: если attention‑механизм структурно порождает ограничения в системе искусственной нейронной сети, есть смысл проверить, не работает ли похожая математика и в биологическом графе внимания в реальном устройстве головного мозга.

Значит, задача у меня обратная: не строить граф и смотреть, что получится, а взять готовое граничное условие 4±1 и подобрать под него с архитектурой графа нейронной сети правило attention score. Её пробую решить путем моделирования: вот в репозиторий с кодом.

Поехали!

Формируем математическую модель на основе графов

Вот так представлю основные элементы мозга с точки зрения графового подхода. Такой граф не является полным анатомическим описанием мозга. Это редуцированная модель связности элементов атласа мозга, участвующих в рабочей памяти, выборе целей, переключении и оценке значимости. Дополнительное надо сказать, что MD - это mediodorsal nucleus of the thalamus (медиодорсальное ядро таламуса). Это одно из ядер таламуса, тесно связанное с префронтальной корой и участвующее в когнитивных функциях, особенно в рабочей памяти и контроле поведения.

Узел

Роль

dlPFC

поддерживает и преобразует содержание рабочей памяти

vmPFC

связывает текущие решения с контекстом и значимостью

ACC

отслеживает конфликт и необходимость дополнительного когнитивного усилия

PPC

участвует в целенаправленном отборе информации

TPJ

реагирует на неожиданные внешние события и может переключать внимание

Thal

поддерживает и регулирует префронтальные состояния

MEC+ dCA1

обеспечивают доступ к эпизодическому и контекстному опыту

Amyg

усиливает представления с эмоциональной (мотивационной) значимостью

Сгененировал в chatgpt такую картинку, чтобы показать структуру графа с локализацией на атлас мозга
Сгененировал в chatgpt такую картинку, чтобы показать структуру графа с локализацией на атлас мозга
Вот так это выглядит в модели (https://github.com/D2718281828nis/Neuro-Neuron_Models/blob/master/assets/Brain-Atlas-Graph-Attention-Model.ipynb)

Кратко надо рассказать про GAT (graph attention network) - математическую модель внимания из мира искусственных нейронных сетей

Подробно вот здесь описано и я учился на этой статье «Под капотом графовых сетей»‑ спасибо автору. Базовые навыки работы с графом вот здесь есть в этой статье на Habr, также спасибо автору.

Используем направленный граф

Например, TPJPPC означает сигнал переориентации, а не симметричную анатомическую связь.

Двустороннее взаимодействие задаётся двумя отдельными рёбрами: dlPFCPPC и PPCdlPFC. Это позволит позже назначать направлениям разные:

  • задержки;

  • коэффициенты связи;

  • частотные диапазоны

Thal не просто передаёт содержимое 'памяти' из одной области в другую. Экспериментальные работы показывают, что MD‑thalamus может поддерживать рабочую память и усиливать функциональную связность PFC. Вот здесь это есть:

Авторы прямо пишут, что эти данные «indicate a role for MD in sustaining prefrontal activity during working memory maintenance» и что повышение возбудимости MD улучшало performance

Bolkan SS, Stujenske JM, Parnaudeau S, Spellman TJ, Rauffenbart C, Abbas AI, Harris AZ, Gordon JA, Kellendonk C. Thalamic projections sustain prefrontal activity during working memory maintenance. Nat Neurosci. 2017 Jul;20(7):987–996. doi: 10.1038/nn.4568. Epub 2017 May 3. Erratum in: Nat Neurosci. 2018 Aug;21(8):1138. doi: 10.1038/s41593-018-0132-2. PMID: 28481349; PMCID: PMC5501395.

MEC и dCA1 образуют отдельный memory loop = medial entorhinal cortex (MEC) и dorsal CA1 (dCA1) входят в замкнутую entorhinal‑hippocampal memory circuit, где MEC обеспечивает вход в гиппокамп, а CA1 участвует в обратной передаче и координации памяти.

Это показано в работе https://www.nature.com/articles/nature13162. Она за пейволом, но у меня к ней есть доступ благодаря академической учётке - если нужно, пишите в личку - выгружу и вышлю.

Igarashi, K., Lu, L., Colgin, L. et al. Coordination of entorhinal‑hippocampal ensemble activity during associative learning. Nature 510, 143–147 (2014). https://doi.org/10.1038/nature13162

vmPFC → MEC ⇄ dCA1

При этом прямое взаимодействие на графеdCA1vmPFC отметим как hypothesis, то есть как эффективная модельная связь, а не обязательно прямой моносинаптический путь.

Рёбра имеют весовой коэффициент как гипотеза для модели связей:

  • strong - хорошо обоснованное взаимодействие;

  • moderate- функционально правдоподобное, но упрощённое;

  • hypothesis - эффективная связь, введённая для проверяемой модели.

Для моей модели эти значения не следует считать готовыми биологическими константами. Они выступают начальными коэффициентами, которые затем оптимизируются по EEG/поведенческим данным. В этой статье я беру пример синтезированной ЭЭГ (сам сделал Virtual EEG процедуру, о ней ниже).

Ключевой момент моделирования: W и a - это обучаемые параметры (та самая архитектура GAT), которые подгонял под attention‑loss.

Wh = self.W(x)          # линейно преобразуем признаки каждого узла
e_ij = LeakyReLU(a · [Wh_i || Wh_j])   # "похожесть" пары (i, j)
e_ij = -inf, если (i, j) не связаны структурно   # маскируем несуществующие рёбра
alpha[i, :] = softmax(e[i, :])          # нормируем по соседям узла i

Heatmap внимания. Как устроено распределение внимания внутри модели

Рабочая память ограничена не только количеством представлений. Её работа зависит от того, насколько селективно мозг поддерживает одни представления и подавляет конкурирующие. Когда человек сосредоточен на одной задаче, связанное с ней представление получает относительно устойчивую поддержку:

цель → рабочая память → выбор информации → действие

Но по мере увеличения числа одновременно актуальных задач возникает конкуренция за ресурсы мозга.

Каждая задача требует:

  • удержания своего контекста;

  • контроля срока;

  • выбора следующего действия;

  • мониторинга риска;

  • ожидания ответа другого человека;

  • реакции на новые события.

Поэтому проблема состоит не просто в количестве задач. Она состоит в том, что каждой задаче требуется часть общей системы ресурсов на координацию.

В модели это представил динамическими коэффициентами:

alpha[i, :] = softmax(e[i, :])          # нормируем по соседям узла i

где alphaij показывает, насколько сильно узел (i) в текущий момент учитывает информацию от узла (j). Совокупность этих коэффициентов вывожу как attention heatmap. Таких узлов для модели взял 20. Наверное, можно и больше брать, но я пока так сделал.

Результат моделирования графа, который сделал в модели: Граф: HPC → 4 реле таламуса → 20 кортикальных узлов. Динамика построена на нелинейной модели Хиндмарша‑Роуза, диффузия идёт через выученныю матрицу весов внимания, которую на каждом шаге вычисляет GATController. Формально alpha[i, j] — это число от 0 до 1, отвечающее на вопрос: «насколько сильно узел i сейчас слушает узел j». Видим как начальная симметричная картина распределяется по весам неравномерно, отдавая предпочтения задачам в зависимости от контекста внимания.
Результат моделирования графа, который сделал в модели: Граф: HPC → 4 реле таламуса → 20 кортикальных узлов. Динамика построена на нелинейной модели Хиндмарша‑Роуза, диффузия идёт через выученныю матрицу весов внимания, которую на каждом шаге вычисляет GATController. Формально alpha[i, j] — это число от 0 до 1, отвечающее на вопрос: «насколько сильно узел i сейчас слушает узел j». Видим как начальная симметричная картина распределяется по весам неравномерно, отдавая предпочтения задачам в зависимости от контекста внимания.

Строки heatmap показывают узлы, распределяющие внимание, а столбцы — узлы, которым оно передаётся. Чем выше значение в ячейке, тем сильнее текущая связь.

Роль VTA (вентральная область)

Мозг должен дополнительно определить, имеет ли происходящее достаточную новизну, мотивационную значимость или ценность, чтобы затратить ресурсы на закрепление соответствующего опыта. Такой разрешающий сигнал во многом связан с дофаминергической модуляцией. Активность вентральной области (VTA) и поступление дофамина в гиппокамп и связанные кортикальные области способны усиливать пластичность, связанную с новизной, вознаграждением и значимостью события. 

Локальная кортикальная или гиппокампальная активность формирует потенциальный след, а нейромодуляторные системы определяют вероятность того, что этот след будет стабилизирован и сохранён.

VTA является важным элементом этой системы, но не единственным возможным источником разрешающего сигнала. Перед мозгом стоят две разные, но связанные задачи.

Первая задача

Вторая задача

Стоит ли сохранять эту информацию?

Стоит ли продолжать удерживать и обрабатывать её прямо сейчас?

VTA участвует в первой задаче, повышая вероятность консолидации важных, новых или вознаграждающих событий (вот здесь этот вопрос изучали, но если честно надо бы глубже это прокопать).

Механизмы внимания и рабочей памяти решают вторую задачу: определяют, какие представления должны оставаться активными, получать доступ к обработке и влиять на текущее поведение.

Эти процессы нельзя полностью отождествлять.

Не всё, что привлекает внимание, будет сохранено надолго. И не всё, что впоследствии хорошо запоминается, должно постоянно находиться в центре внимания.

В модели рабочей памяти нейронные представления конкурируют не только по причине ограниченного количества релейных каналов. Они также имеют разную субъективную значимость.

Одна задача может быть объективно важной, но не вызывать сильной эмоциональной реакции. Другая может быть второстепенной, но связанной с угрозой, конфликтом, ожидаемым вознаграждением или новизной. Такая задача получает повышенную вероятность повторной активации и захвата внимания.

Именно поэтому в модели графе присутствует Amyg - узел, представляющий мотивационную значимость. Его связи с ACCvmPFC и Thal моделируют влияние на:

  • оценку необходимости поддержания когнитивной нагрузки;

  • контекстную ценность представления;

  • устойчивость объекта в рабочей памяти.

При этом vmPFC → Amyg представляет обратную регуляцию: текущие цели и контекст могут снижать или переопределять эмоциональную значимость сигнала.

специально подсветил как работает граф с дофамином
специально подсветил как работает граф с дофамином

Тут дальше сложно, но в конце будет практический пример

ASI (attention stability index) - это то, как я предлагаю измерять внимание (с позиции нейронауки)

Построение модели рабочей памяти и графового механизма внимания само по себе ещё не доказывает правильность предложенной гипотезы. Необходимо придумать измеряемую величину, которая отражала бы последствия изменения распределения внимания и позволяла сравнивать различные режимы работы модели.

Attention Stability Index (ASI) - вот его я предлагаю как количественную оценку. ASI - это интегральный показатель, вычисляемый по данным виртуальной EEG, генерируемой в результате симуляции нейронной активности модели. Он не измеряет внимание напрямую, а количественно оценивает, насколько устойчиво и эффективно система поддерживает распределение внимания при возрастающей когнитивной нагрузке.

После завершения симуляции Hindmarsh‑Rose каждый узел графа формирует виртуальный EEG‑сигнал, вот так сформировал там спектральную плотность ритмов:

так задал в коде виртуальный ЭЭГ из своего репозитория пример распределения спектров по классам target и non-target при нагрузке на память критическим числом элементов 4
так задал в коде виртуальный ЭЭГ из своего репозитория пример распределения спектров по классам target и non-target при нагрузке на память критическим числом элементов 4

По этим сигналам рассчитываются несколько независимых нейрофизиологических характеристик.

1. Spectral Engagement (спектральная вовлечённость): показывает, насколько активно мозг вовлечён в выполнение текущей задачи. Компонент рассчитывается по соотношению мощности диапазонов EEG: beta, theta и alpha. При эффективной работе рабочей памяти возрастает вклад диапазонов, связанных с активной обработкой информации, а избыточная синхронизация или снижение активности приводят к уменьшению этого показателя.

Вот здесь в этой статье это можно подробнее посмотреть:

Alhothali AS, Attar ET. Validation of EEG mental workload markers using integrated statistical and machine learning analyses. Appl Neuropsychol Adult. 2026 Jul 8:1–13. doi: 10.1080/23279095.2026.2686957. Epub ahead of print. PMID: 42418665.

Фактически этот компонент отвечает на вопрос:

Насколько интенсивно система обрабатывает текущую задачу?

2. Alpha Gating (альфа‑гейтинг): одной из функций внимания является не только усиление нужной информации, но и подавление ненужной. Известно, что альфа‑ритм участвует именно в таком механизме селективного торможения. Если нерелевантные области эффективно подавляются, а необходимые остаются активными, показатель Alpha Gating возрастает. Если же мозг перестаёт различать полезную и отвлекающую информацию, значение компонента уменьшается.

Вот в этой статье я это нашёл:

Jensen O, Mazaheri A. Shaping functional architecture by oscillatory alpha activity: gating by inhibition. Front Hum Neurosci. 2010 Nov 4;4:186. doi: 10.3389/fnhum.2010.00186. PMID: 21119777; PMCID: PMC2990626.

Он отвечает на вопрос:

Насколько хорошо система умеет игнорировать лишнее?

3. Phase Organization (фазовая организация): рабочая память требует согласованной работы нескольких областей мозга. Поэтому важна не только сила активности отдельных участков, но и синхронность их взаимодействия. Для этого анализируется фазовая согласованность тета‑ритма между ключевыми областями модели:

  • гиппокампом;

  • таламусом;

  • кортикальными ансамблями, представляющими текущие объекты внимания.

Высокая фазовая организация означает, что распределённая сеть работает согласованно, а низкая, что взаимодействие между областями становится хаотичным.

4. Spatial Selectivity (пространственная селективность) — этот компонент оценивает, насколько хорошо внимание действительно сосредоточено на целевых представлениях.

Для этого сравнивается активность высокочастотных диапазонов (beta/gamma):

  • в ансамблях, связанных с текущими объектами внимания;

  • в остальных областях сети.

Если энергия концентрируется преимущественно в целевых ансамблях, пространственная селективность остаётся высокой. Если возбуждение начинает распространяться практически по всей сети, показатель уменьшается.

Он отвечает на вопрос:

Насколько точно внимание выделяет нужные объекты?


Даже если все четыре компонента находятся на хорошем уровне, остаётся главный вопрос, который лежит в основе всей модели. Согласно моей гипотезе, ограничение внимания возникает возникает потому, что таламическая система постепенно теряет способность поддерживать селективное распределение внимания и граница потери наступает когда количество объектов внимания 4 плюс/минус 1.

После каждого шага GAT рассчитывает матрицу attention‑весов alphaij которая показывает, насколько сильно каждый узел учитывает информацию от своих соседей.

Для каждого таламического реле вычисляется энтропия этого распределения. Затем определяется эффективное число одновременно обслуживаемых направлений через паременную Relay Attention Span, рост которой считаю причиной перегрузки:

relay_{span} = \exp(H(\alpha))

Если почти всё внимание сосредоточено на одном направлении, то relaуspan примерно 1.

Измерение ASI подтверждает гипотезу возможности построения нейросетевой модели внимания с использованием графов

В формуле ASI используется измеренный relay attention span, который возникает как следствие динамики Graph Attention Network. Если внимание остаётся селективным, relay span практически не изменяется, и ASI сохраняет высокие значения. Если же таламические реле начинают одновременно обслуживать слишком много конкурирующих направлений, relay span увеличивается. Только после этого уменьшается ASI.

Следовательно, снижение индекса происходит не потому, что модель заранее «знает», сколько объектов человек способен удерживать. Оно является следствием внутренней динамики самой сети. ASI является ещё одной характеристикой EEG (да, в моём примере ЭЭГ я сам синтезировал) - его основная задача - проверить вычислительную гипотезу модели.

Логическая цепочка выглядит следующим образом:

увеличение количества одновременно активных объектов
                ↓
рост конкуренции между нейронными ансамблями
                ↓
расширение распределения GAT attention
                ↓
увеличение relay attention span
                ↓
ухудшение организации (синхронизации) на виртуальной EEG
                ↓
снижение ASI

Hindmarsh‑Rose Graph Simulator: динамическая модель рабочей памяти, внимания и дофаминовой модуляции

Класс HindmarshRoseGraphSimulator в моей модели (вот напоминаю, ссылка на репозиторий) объединяет в одной вычислительной системе четыре уровня модели:

  1. нелинейную нейронную динамику Hindmarsh‑Rose;

  2. структурный граф взаимодействия областей мозга;

  3. динамическое перераспределение связей с помощью GAT;

  4. дофаминергическую модуляцию, связанную с новизной и значимостью.

Его задача состоит не просто в генерации нейронной активности. Симулятор проверяет гипотезу о том, что устойчивость рабочей памяти определяется взаимодействием трёх механизмов:

  • локальной активности нейронных ансамблей;

  • селективной маршрутизации информации между ансамблями;

  • модуляторного сигнала значимости, усиливающего выбранные состояния.

В модели внимание не существует отдельно от нейронной динамики. Вычисленные GAT‑веса непосредственно изменяют межансамблевый ток, а дофаминовый сигнал дополнительно усиливает влияние гиппокампа и целевых кортикальных ансамблей.

Вот как всё устроено:

При создании объекта симулятор получает:

brain: BrainGraph
controller: nn.Module
controller_mask: torch.Tensor

BrainGraph задаёт структурную организацию сети: какие узлы существуют и какие связи между ними разрешены.

controller определяет способ динамического управления графом. Использую GATController - контроллер с индивидуальными attention‑весами для каждого ребра.

controller_mask интерпретируется как маска существующих структурных связей.

Каждый узел графа представлен не одним нейроном, а ансамблем из нескольких Hindmarsh‑Rose‑осцилляторов:

neurons_per_ensemble: int = 12

Переменная x соответствует быстрому мембранному потенциалу. Переменная y описывает быстрые восстановительные процессы. Переменная z отражает медленную адаптационную динамику.

Начальные состояния задал с небольшим случайным разбросом (вот здесь есть основа моделирования: Barrio R, Shilnikov A. Parameter-sweeping techniques for temporal dynamics of neuronal systems: case study of Hindmarsh-Rose model. J Math Neurosci. 2011 Jul 11;1(1):6. doi: 10.1186/2190-8567-1-6. PMID: 22656867; PMCID: PMC3365907):

x = -1.55 + 0.08 * random
y = -10.0 + 0.15 * random
z = 2.8 + 0.08 * random

Это означает, что нейроны внутри ансамбля изначально похожи, но не полностью синхронны. Такой подход позволяет моделировать не только среднюю активность области, но и внутреннюю вариабельность ансамбля.

На каждом временном шаге сначала вычисляется средний потенциал каждого ансамбля:

ensemble_mean_x = x.mean(axis=1)

После этого строится текущая взвешенная матрица связей:

weighted_adj = alpha_np * brain.adjacency

Здесь:

  • brain.adjacency задаёт существующие структурные связи;

  • alpha_np задаёт текущую силу передачи по этим связям.

Для каждого узла рассчитывается диффузионный ток:

diffusive = (
    weighted_adj
    * (
        ensemble_mean_x[None, :]
        - ensemble_mean_x[:, None]
    )
).sum(axis=1)

Этот ток затем масштабируется. Вот за счет параметра da_boost можно потом моделировать воздействие дофамина.

graph_current =
    coupling_strength
    * gain
    * da_boost
    * diffusive

Межансамблевое взаимодействие зависит сразу от трёх факторов:

  1. существования структурной связи;

  2. текущего attention‑веса;

  3. текущей дофаминовой модуляции.

Одним из главных дополнений класса является дофаминовая модуляция:

use_vta_modulation = True

VTA‑модуль учитывает текущую активность гиппокампа и активность ансамблей. Дофаминовая система реагирует быстрее, чем GAT‑контроллер, который использует более длинное скользящее окно спайковой активности.

Дофамин у меня в модели усиливает не общий ток всех узлов, а графовое влияние - VTA‑модуль не создаёт память и не выбирает объекты вместо GAT. Он меняет gain уже активных и значимых представлений.

Attention‑механизм определяет маршрутизацию информации, а дофаминергическая система изменяет вероятность усиления и устойчивого поддержания выбранных состояний.16. Связь с гипотезой статьи

Итого - такой подход является математической основой для модели:

Устойчивость рабочей памяти (оцениваем по ASI метрике) зависит не только от локальной активации представлений, но и от способности таламической системы селективно распределять информационные потоки, тогда как дофаминергическая система усиливает состояния, получившие сигнал значимости.

  • Hindmarsh‑Rose описывает локальную нейронную динамику;

  • BrainGraph задаёт возможные маршруты взаимодействия;

  • GAT выбирает относительную силу этих маршрутов;

  • таламический relay span измеряет ширину распределения;

  • VTA‑модуль усиливает значимые целевые состояния;

  • виртуальная EEG показывает системные последствия;

  • ASI оценивает устойчивость получившейся конфигурации.


Практический пример: руководитель с большим количеством задач (менеджер‑снежинка)

сгенерировано нейронной сетью QWEN
сгенерировано нейронной сетью QWEN

Представим руководителя, у которого одновременно открыты следующие вопросы:

  1. переговоры с ключевым клиентом;

  2. кассовый разрыв;

  3. задержка релиза;

  4. конфликт между сотрудниками;

  5. найм нового руководителя отдела;

  6. подготовка совета директоров;

  7. семейный вопрос;

  8. срочное сообщение от партнёра;

  9. новая коммерческая возможность;

  10. текущие операционные согласования.

Формально это десять задач.

Однако внимание распределяется между ними неравномерно.

Например:

  • кассовый разрыв имеет высокую значимость и постоянно возвращается в рабочую память;

  • сообщение партнёра вызывает внешнее переключение;

  • конфликт сотрудников создаёт эмоциональное напряжение;

  • подготовка совета директоров требует удержания большого контекста;

  • задержка релиза связана сразу с командой, клиентами и финансами;

  • коммерческая возможность выглядит привлекательной, хотя объективно может быть менее важной;

  • семейный вопрос периодически прерывает рабочий контур.

Субъективно человек может считать, что занят «главной задачей дня». Но фактическое распределение внимания может выглядеть иначе:

35% — финансовый риск;
20% — конфликт;
15% — входящие сообщения;
10% — релиз;
8%  — совет директоров;
7%  — новая возможность;
5%  — заявленная главная задача.

Это условный пример, а не буквальное измерение ресурсов мозга. Он показывает главное расхождение:

Намерение человека и фактическое распределение его внимания - не одно и то же.

Человек знает список задач, но обычно не видит структуру их конкуренции.

Он не видит:

  • какая задача чаще других захватывает рабочую память;

  • какие темы связаны и активируются совместно;

  • что постоянно вызывает переключения;

  • где внимание распределено слишком широко;

  • какие важные задачи почти не получают когнитивной поддержки;

  • какие эмоционально значимые вопросы подавляют формально приоритетные;

  • в какой момент количество одновременно поддерживаемых объектов стало чрезмерным.

Как такой менеджер управляет вниманием

To‑do list или Task Manager показывает, какие задачи существуют.Календарь показывает, когда запланирована работа. Мессенджер показывает новые входящие события.

Проектная система управления показывает «колбаски» плана, ресурсы и сроки. Но ни один из этих инструментов сам по себе не отвечает на вопрос:

Как сейчас должно быть распределено внимание человека между всеми этими объектами?

Список задач обычно плоский. Даже если задачи имеют приоритеты, это приоритеты, которые человек назначил сознательно.

Нужен какой‑то внешний стимул для управления вниманием, так как мозг не предоставляет человеку собственного интерфейса наблюдения за рабочей памятью - своего рода зеркало рабочей памяти.

Такой инструмент не должен пытаться буквально читать мозг. Он может строить прикладную модель на основании наблюдаемых данных:

  • активных задач и проектов;

  • маркеров внимания;

  • календаря;

  • переписки;

  • запросов и поручений;

  • сроков;

  • изменений статусов;

  • частоты возвращения к теме;

  • пользовательских комментариев;

  • эмоциональной и организационной значимости;

  • фактов переключения между объектами.

И этих приоритетов не должно быть больше 4±1.

Заключение

На модели мы посмотрели, что помогает мозгу решить, какие связи в графе стоит усилить и сохранить. Система внимания определяет, какие представления необходимо поддерживать и обрабатывать сейчас. Внешний инструмент нужен для того, чтобы человек мог увидеть и скорректировать это распределение, поскольку собственные механизмы приоритизации остаются для него в значительной степени непрозрачными.

Современные обзоры действительно рассматривают память как распределенную систему, где гиппокамп, таламические структуры и кора работают совместно, а не как один изолированный «центр памяти».

Вывод 1: Дофамин в моей модели выступает как сигнал подкрепления, облегчающий выбор и стабилизацию тех представлений, которые в данный момент воспринимаются как значимые. Поскольку дофаминергическая активность связана с новизной, ожиданием вознаграждения и мотивационной значимостью, биологическая система внимания изначально смещена в сторону наиболее заметных и эмоционально насыщенных стимулов, даже если они не связаны с долгосрочными целями.

Поэтому удержание внимания на стратегически важных, но слабо вознаграждающих задачах требует дополнительных механизмов, компенсирующих этот нейробиологический перекос.

вот так я попробовал промоделировать оценку количества задач и среднего уровня дофамина. Из графика видно, что даже если положительное подкрепление работает, что даже при увеличении нагрузки что хвали, что не хвали сотрудника - мозг просто не вывозит больше работать.
вот так я попробовал промоделировать оценку количества задач и среднего уровня дофамина. Из графика видно, что даже если положительное подкрепление работает, что даже при увеличении нагрузки что хвали, что не хвали сотрудника - мозг просто не вывозит больше работать.

А если фокусировать внимание на задачах и не перегружать мозг, то такое впечатление, что если чувствовать себя не винтиком в системе, а частью одного большого дела и знание, что руководитель обязательно увидит результаты твоего труда, то мозг подсознательно такие задачи лучше выполняет, нежели чем рутину никому не нужную. И лучше всего работать (судя по графику и по моему опыту) близко к границе устойчивости (3-4 задачи активно делать) - так успеешь больше и награда (дофамин) выше.

В повседневной деятельности такую компенсирующую функцию выполняют внешние когнитивные опоры: календари, напоминания, чек-листы, системы управления проектами и интеллектуальные помощники. Они независимо от кратковременных колебаний мотивации и дофаминергической активности повторно возвращают в фокус представления, связанные с долгосрочными целями. В рамках предложенной модели такие системы можно рассматривать как внешние модуляторы, которые периодически усиливают активацию целевых ансамблей и тем самым помогают поддерживать устойчивость внимания в тех случаях, когда внутренних нейромодуляторных сигналов недостаточно.

Вывод 2: модель подтвердила границу 4 плюс/минус 1 объект, удерживаемый в памяти.

При 1–4 объектах сеть удерживает различимые зоны активности.

При 5–7 объектах начинается переходная зона.

После 8–9 объектов активность расползается по графу: сеть еще активна, но уже хуже различает, что именно важно.

Ограничение внимания - это не нехватка нейронов. Это ограничение устойчивой координации распределенной сети.

вот, что получилось в результате моделирования на настроенной модели GAT. Показатель Attention Score не растет после того, как мозг перегружают и эта граница получилась исходя из гипотезы, которую я установил и попытался проверить в самом начале.
вот, что получилось в результате моделирования на настроенной модели GAT. Показатель Attention Score не растет после того, как мозг перегружают и эта граница получилась исходя из гипотезы, которую я установил и попытался проверить в самом начале.

В моём практическом примере компания может иметь много людей, отделов, данных и связей. Но это не значит, что она способна одновременно удерживать много объектов в управленческом фокусе. Нужен механизм оркестрации внимания. Мне кажется, с помощью механизма графов мне удалось показать Вам как это работает. И сделать это не просто опираясь на опыт, а ещё и попробовать подкрепить это нейро-моделью.

Комментарии (0)