Здравствуй, Geektimes! В ранее опубликованной статье, была представлена модель нервной системы, опишу теорию и принципы, которые легли в её основу.

Теория основана на анализе имеющейся информации о биологическом нейроне и нервной системе из современной нейробиологии и физиологии мозга.

Сначала приведу краткую информацию об объекте моделирования, вся информация изложена далее, учтена и использована в модели.

НЕЙРОН


нейрон

Нейрон является основным функциональным элементом нервной системы, он состоит из тела нервной клетки и её отростков. Существуют два вида отростков: аксоны и дендриты. Аксон – длинный покрытый миелиновой оболочкой отросток, предназначенный для передачи нервного импульса на далекие расстояния. Дендрит – короткий, ветвящийся отросток, благодаря которым происходит взаимосвязь с множеством соседних клеток.

ТРИ ТИПА НЕЙРОНОВ


Нейроны могут сильно отличаться по форме, размерам и конфигурации, не смотря на это, отмечается принципиальное сходство нервной ткани в различных участках нервной системе, отсутствуют и серьезные эволюционные различия. Нервная клетка моллюска Аплизии может выделять такие же нейромедиаторы и белки, что и клетка человека.

В зависимости от конфигурации выделяют три типа нейронов:


а) рецепторные, центростремительные, или афферентные нейроны, данные нейроны имеют центростремительный аксон, на конце которого имеются рецепторы, рецепторные или афферентные окончания. Эти нейроны можно определить, как элементы, передающие внешние сигналы в систему.

б) интернейроны (вставочные, контактные, или промежуточные) нейроны, не имеющие длинных отростков, но имеющие только дендриты. Таких нейронов в человеческом мозгу больше чем остальных. Данный вид нейронов является основным элементом рефлекторной дуги.

в) моторные, центробежные, или эфферентные, они имеют центростремительный аксон, который имеет эфферентные окончания передающий возбуждение мышечным или железистым клеткам. Эфферентные нейроны служат для передачи сигналов из нервной среды во внешнюю среду.

Обычно в статьях по искусственным нейронным сетям оговаривается наличие только моторных нейронов (с центробежным аксоном), которые связаны в слои иерархической структуры. Подобное описание применимо к биологической нервной системе, но является своего рода частным случаем, речь идет о структурах, базовых условных рефлексов. Чем выше в эволюционном значении нервная система, тем меньше в ней превалируют структуры типа «слои» или строгая иерархия.

ПЕРЕДАЧА НЕРВНОГО ВОЗБУЖДЕНИЯ


Передача возбуждения происходит от нейрона к нейрону, через специальные утолщения на концах дендритов, называемых синапсами. По типу передачи синапсы разделяют на два вида: химические и электрические. Электрические синапсы передают нервный импульс непосредственно через место контакта. Таких синапсов в нервных системах очень мало, в моделях не будут учитываться. Химические синапсы передают нервный импульс посредством специального вещества медиатора (нейромедиатора, нейротрансмиттера), данный вид синапса широко распространен и подразумевает вариативность в работе.
Важно отметить, что в биологическом нейроне постоянно происходят изменения, отращиваются новые дендриты и синапсы, возможны миграции нейронов. В местах контактов с другими нейронами образуются новообразования, для передающего нейрона — это синапс, для принимающего — это постсинаптическая мембрана, снабжаемая специальными рецепторами, реагирующими на медиатор, то есть можно говорить, что мембрана нейрона — это приемник, а синапсы на дендритах — это передатчики сигнала.

СИНАПС





При активации синапса он выбрасывает порции медиатора, эти порции могут варьироваться, чем больше выделится медиатора, тем вероятнее, что принимаемая сигнал нервная клетка будет активирована. Медиатор, преодолевая синоптическую щель, попадает на постсинаптическую мембрану, на которой расположены рецепторы, реагирующие на медиатор. Далее медиатор может быть разрушен специальным разрушающим ферментом, либо поглощен обратно синапсом, это происходит для сокращения времени действия медиатора на рецепторы.
Так же помимо побудительного воздействия существуют синапсы, оказывающие тормозящее воздействие на нейрон. Обычно такие синапсы принадлежат определенным нейронам, которые обозначаются, как тормозящие нейроны.
Синапсов связывающих нейрон с одной и той же целевой клеткой, может быть множество. Для упрощения примем, всю совокупность, оказываемого воздействия одним нейроном, на другой целевой нейрон за синапс с определённой силой воздействия. Главной характеристикой синапса будет, является его сила.

СОСТОЯНИЕ ВОЗБУЖДЕНИЯ НЕЙРОНА


В состоянии покоя мембрана нейрона поляризована. Это означает, что по обе стороны мембраны располагаются частицы, несущие противоположные заряды. В состоянии покоя наружная поверхность мембраны заряжена положительно, внутренняя – отрицательно. Основными переносчиками зарядов в организме являются ионы натрия (Na+), калия (K+) и хлора (Cl-).
Разница между зарядами поверхности мембраны и внутри тела клетки составляет мембранный потенциал. Медиатор вызывает нарушения поляризации – деполяризацию. Положительные ионы снаружи мембраны устремляются через открытые каналы в тело клетки, меняя соотношение зарядов между поверхностью мембраны и телом клетки.


Изменение мембранного потенциала при возбуждении нейрона

Характер изменений мембранного потенциала при активации нервной ткани неизменен. Независимо от того кокой силы воздействия оказывается на нейрон, если сила превышает некоторое пороговое значение, ответ будет одинаков.
Забегая вперед, хочу отметить, что в работе нервной системы имеет значение даже следовые потенциалы (см. график выше). Они не появляются, вследствие каких-то гармонических колебаний уравновешивающих заряды, являются строгим проявлением определённой фазы состояния нервной ткани при возбуждении.

ТЕОРИЯ ЭЛЕКТРОМАГНИТНОГО ВЗАИМОДЕЙСТВИЯ


Итак, далее приведу теоретические предположения, которые позволят нам создавать математические модели. Главная идея заключается во взаимодействии между зарядами формирующихся внутри тела клетки, во время её активности, и зарядами с поверхностей мембран других активных клеток. Данные заряды являются разноименными, в связи этим можно предположить, как будут располагаться заряды в теле клетки под воздействием зарядов других активных клеток.



Можно сказать, что нейрон чувствует активность других нейронов на расстоянии, стремится направить распространения возбуждения в направлении других активных участков.
В момент активности нейрона можно рассчитать определённую точку в пространстве, которая определялась бы, как сумма масс зарядов, расположенных на поверхностях других нейронов. Указанную точку назовем точкой паттерна, её месторождение зависит от комбинации фаз активности всех нейронов нервной системы. Паттерном в физиологии нервной системы называется уникальная комбинация активных клеток, то есть можно говорить о влиянии возбуждённых участков мозга на работу отдельного нейрона.
Нужно представлять работу нейрона не просто как вычислителя, а своего рода ретранслятор возбуждения, который выбирает направления распространения возбуждения, таким образом, формируются сложные электрические схемы. Первоначально предполагалось, что нейрон просто избирательно отключает/включает для передачи свои синапсы, в зависимости от предпочитаемого направления возбуждения. Но более детальное изучение природы нейрона, привело к выводам, что нейрон может изменять степень воздействия на целевую клетку через силу своих синапсов, что делает нейрон более гибким и вариативным вычислительным элементом нервной системы.



Какое же направление для передачи возбуждения является предпочтительным? В различных экспериментах связанных с образованием безусловных рефлексов, можно определить, что в нервной системе образуются пути или рефлекторные дуги, которые связывают активируемые участки мозга при формировании безусловных рефлексов, создаются ассоциативные связи. Значит, нейрон должен передавать возбуждения к другим активным участкам мозга, запоминать направление и использовать его в дальнейшем.
Представим вектор начало, которого находится в центре активной клети, а конец направлен в точку паттерна определённую для данного нейрона. Обозначим, как вектор предпочитаемого направления распространения возбуждения (T, trend). В биологическом нейроне вектор Т может проявляться в структуре самой нейроплазмы, возможно, это каналы для движения ионов в теле клетки, или другие изменения в структуре нейрона.
Нейрон обладает свойством памяти, он может запоминать вектор Т, направление этого вектора, может меняться и перезаписываться в зависимости от внешних факторов. Степень с которой вектор Т может подвергается изменениям, называется нейропластичность.
Этот вектор в свою очередь оказывает влияние на работу синапсов нейрона. Для каждого синапса определим вектор S начало, которого находится в центре клетки, а конец направлен в центр целевого нейрона, с которым связан синапс. Теперь степень влияния для каждого синапса можно определить следующим образом: чем меньше угол между вектором T и S, тем больше синапс будет, усиливается; чем меньше угол, тем сильнее синапс будет ослабевать и возможно может прекратить передачу возбуждения. Каждый синапс имеет независимое свойство памяти, он помнит значение своей силы. Указанные значения изменяются при каждой активизации нейрона, под влиянием вектора Т, они либо увеличиваются, либо уменьшаются на определённое значение.

МАТЕМАТИЧЕСКАЯ МОДЕЛЬ





Входные сигналы (x1, x2,…xn) нейрона представляют собой вещественные числа, которые характеризуют силу синапсов нейронов, оказывающих воздействие на нейрон.
Положительное значение входа означает побудительное воздействие, оказываемое на нейрон, а отрицательное значение – тормозящее воздействие.
Для биологического нейрона не имеет значение, откуда поступил возбуждающий его сигнал, результат его активности будет идентичен. Нейрон будет активизирован, когда сумма воздействий на него будет превышать определённое пороговое значение. Поэтому, все сигналы проходят через сумматор (а), а поскольку нейроны и нервная система работают в реальном времени, следовательно, воздействие входов должно оцениваться в короткий промежуток времени, то есть воздействие синапса имеет временный характер.
Результат сумматора проходит пороговую функцию (б), если сумма превосходит пороговое значение, то это приводит к активности нейрона.
При активации нейрон сигнализирует о своей активности системе, передовая информацию о своём положении в пространстве нервной системы и заряде, изменяемом во времени (в).
Через определённое время, после активации нейрон передает возбуждение по всем имеющимся синапсам, предварительно производя пересчет их силы. Весь период активации нейрон перестает реагировать на внешние раздражители, то есть все воздействия синапсов других нейронов игнорируются. В период активации входит так же период восстановления нейрона.
Происходит корректировка вектора Т (г) с учётом значения точки паттерна Pp и уровнем нейропластичности. Далее происходит переоценка значений всех сил синапсов в нейроне(д).
Обратите внимание, что блоки (г) и (д) выполняются параллельно с блоком (в).



ЭФФЕКТ ВОЛНЫ


Если внимательно проанализировать предложенную модель, то можно увидеть, что источник возбуждения должен оказывать большее влияние на нейрон, чем другой удалённый, активный участок мозга. Следовательно возникает вопрос: почему же все равно происходит передача в направлении другого активного участка?
Данную проблему я смог определить, только создав компьютерную модель. Решение подсказал график изменения мембранного потенциала при активности нейрона.


Усиленная реполяризация нейрона, как говорилось ранее, имеет важное значение для нервной системы, благодаря ей создается эффект волны, стремление нервного возбуждения распространятся от источника возбуждения.
При работе с моделью я наблюдал два эффекта, ели пренебречь следовым потенциалом или сделать его недостаточно большим, то возбуждение не распространяется от источников, а в большей степени стремится к локализации. Если сделать следовой потенциал сильно большим, то возбуждение стремится «разбежаться» в разные стороны, не только от своего источника, но и от других.

КОГНИТИВНАЯ КАРТА


Используя теорию электромагнитного взаимодействия, можно объяснить многие явления и сложные процессы, протекающие в нервной системе. К примеру, одним из последних открытий, которое широко обсуждается в науках о мозге, является открытие когнитивных карт в гиппокампе.
Гиппокамп – это отдел мозга, которому отвечает за кратковременную память. Эксперименты на крысах выявили, что определённому месту в лабиринте соответствует своя локализованная группа клеток в гиппокампе, причем, не имеет значение, как животное попадает в это место, все равно будет активирован соответствующий этому месту участок нервной ткани. Естественно, животное должно помнить данный лабиринт, не стоит рассчитывать на топологическое соответствие пространства лабиринта и когнитивной карты.



Каждое место в лабиринте представляется в мозге, как совокупность раздражителей различного характера: запахи, цвет стен, возможные примечательные объекты, характерные звуки и т. д. Указанные раздражители отражаются на коре, различных представительствах органов чувств, в виде всплесков активности в определённых комбинациях. Мозг одновременно обрабатывает информацию в нескольких отделах, зачастую информационные каналы разделяются, одна и та же информация поступает в различные участки мозга.


Активация нейронов места в зависимости от положения в лабиринте (активность разных нейронов показана разным цветом). источник

Гиппокамп расположен в центре мозга, вся кара и её области удалены от него, на одинаковые расстояния. Если определить для каждой уникальной комбинации раздражителей точку масс зарядов поверхностей нейронов, то можно увидеть, что указанные точки будут различны, и будут находиться примерно в центре мозга. К этим точкам будет стремиться и распространятся возбуждение в гиппокампе, формируя устойчивые участки возбуждения. Более того, поочередная смена комбинаций раздражителей, будет приводить к смещению точки паттерна. Участки когнитивной карты будут ассоциативно связываться друг с другом последовательно, что приведет к тому, что животное, помещенное в начало знакомого ей лабиринта, может вспомнить весь последующий путь.

Заключение


У многих возникнет вопрос, где в данной работе предпосылки к элементу разумности или проявления высшей интеллектуальной деятельности?
Важно отметить, что феномен человеческого поведения, есть следствие функционирования биологической структуры. Следовательно, чтобы имитировать разумное поведение, необходимо хорошо понимать принципы и особенности функционирования биологических структур. К сожалению, в науке биологии пока не представлен четкий алгоритм: как работает нейрон, как понимает, куда необходимо отращивать свои дендриты, как настроить свои синапсы, что бы в нервной системе смог сформироваться простой условный рефлекс, на подобие тех, которые демонстрировал и описывал в своих работах академик И.П. Павлов.
С другой стороны в науке об искусственном интеллекте, в восходящем (биологическом) подходе, сложилось парадоксальная ситуация, а именно: когда используемые в исследованиях модели основаны на устаревших представлениях о биологическом нейроне, консерватизм, в основе которого берётся персептрон без переосмысления его основных принципов, без обращения к биологическому первоисточнику, придумывается все более хитроумные алгоритмы и структуры, не имеющих биологических корней.
Конечно, никто не уменьшает достоинств классических нейронных сетей, которые дали множество полезных программных продуктов, но игра с ними не является путем к созданию интеллектуально действующей системы.
Более того, не редки заявления, о том, что нейрон подобен мощной вычислительной машине, приписывают свойство квантовых компьютеров. Из-за этой сверхсложности, нервной системе приписывается невозможность её повторения, ведь это соизмеримо с желанием смоделировать человеческую душу. Однако, в реальности природа идет по пути простоты и элегантности своих решений, перемещение зарядов на мембране клетки может служить, как для передачи нервного возбуждения, так и для трансляции информации о том, где происходит данная передача.
Несмотря на то, что указанная работа демонстрирует, как образуются элементарные условные рефлексы в нервной системе, она приближает к пониманию того, что такое интеллект и разумная деятельность.

Существуют еще множество аспектов работы нервной системы: механизмы торможения, принципы построения эмоций, организация безусловных рефлексов и обучение, без которых невозможно построить качественную модель нервной системы. Есть понимание, на интуитивном уровне, как работает нервная система, принципы которой возможно воплотить в моделях.
Создание первой модели помогли отработать и откорректировать представление об электромагнитном взаимодействии нейронов. Понять, как происходит формирование рефлекторных дуг, как каждый отдельный нейрон понимает, каким образом ему настроить свои синапсы для получения ассоциативных связей.
На данный момент я начал разрабатывать новую версию программы, которая позволит смоделировать многие другие аспекты работы нейрона и нервной системы.

Прошу принять активное участие в обсуждении выдвинутых здесь гипотез и предположений, так как я могу относиться к своим идеям предвзято. Ваше мнение очень важно для меня.

Модель(Windows PC) + туториал

Комментарии (19)


  1. tzlom
    13.09.2015 14:44
    +1

    В вашем изложении отсутствует какой-либо материал для обсуждения, вы что-то сделали, но не изложили что, это всё равно что Ньютон сказал бы что его 2й закон выглядит так: a(F,m) вроде как даже правда но яснее не стало. Касательно изложенного — непонятно откуда вывод что реполяризация влияет на что-то, волну у вас и так можно задать вектором T, может быть вы и правы однако обоснования нет.


    1. aigame
      13.09.2015 16:28

      То, что реполяризация играет роль информационного канала в нервной системе является всего лишь предположением, на основе этого создана модель. В работе готовой модели проявляются признаки биологического аналога (образование ассоциативных связей, условных рефлексов), что говорит о верности предположения.
      Вектор Т это результат вычислений нейрона, он определяется при каждой новой активации нейрона. Только детальным с учётом графика изменения заряда мембраны, модель работает в соответствии с биологическим аналогом, что опять же указывает на близость модели к реальности.


      1. tzlom
        13.09.2015 17:27
        +3

        Всё что вы пишете выше — только слова не подтверждённые никакими данными, ваша задача как исследователя модели не только составить модель, но и протестировать, описать и объяснить её, хотя бы на уровне феноменологии.
        Вы говорите «проявляются признаки биологического аналога (образование ассоциативных связей, условных рефлексов)» — покажите, это не видно из вашего видео (демку не запускал, у меня линукс и вообще исследователь вы), то что сигнал бегает по сети от нейрона к нейрону ещё не признак нейросети, это может быть хаотическое мигание лампочками, два выхода из неё во всяком случае мигают совершенно случайно, если это не так — покажите закономерность.
        «Вектор Т это результат вычислений нейрона, он определяется при каждой новой активации нейрона» — как определяется?
        То, что вы используете график активации как у нейрона ещё не указывает на близость модели к реальности, тем более что реальность всё равно сложнее.
        И ещё раз — у вас в статье не описана модель, вы ссылаетесь на какие-то зависимости но не одной формулы не показали, собственно тогда обсуждать тут нечего.

        P.S.
        Без обид, но вы неграмотно пишете. В вашем комментарии на который я отвечаю последнее предложение не согласованно и понять что вы хотели сказать не реально.


  1. n00ker
    13.09.2015 22:12

    красивая… мм… игрушка =)


    1. MiXaiL27
      14.09.2015 09:51

      Тоже в этом направление подумал. Довести до ума, добавить красочности и в стим.


  1. Anc
    14.09.2015 12:42

    у Jeff Hawkins в книге «Об интелекте» приводится забавный факт, что гиппокамп в каком-то смысле является еще одним слоем неокортекса, самым наивысшим. Свежие паттерны на верхушке иерархии нейросети потом упаковываются в соответствующие места в неокортексе.


    1. whileNotFalse
      14.09.2015 13:32
      +1

      Больше всего в его модели нравится, что логическое построение нейронов(и логическое мышление) вытекает из предположении о разреженном кодирование(sparse coding) так как наилучший метод для такого кодирования — нахождение ассоциаций, то есть нейронов которые можно связать обычным AND. Автору же этого поста рекомендую обратить внимание на уже известные методы нахождение ассоциативных правил и больше практиковаться на dataset'ах(например на задачах классификации).


      1. aigame
        14.09.2015 13:59

        Пока о решении логических задач и речи не шло.


        1. whileNotFalse
          14.09.2015 15:01
          +1

          Больше всего в его модели нравится
          Под «его» я имел ввиду Джефа Хокинза =)


    1. aigame
      14.09.2015 13:57

      Не смотря на то, что здесь приведён пример про когнитивные карты, всё таки главная функция гиппокампа — это кратковременная память, если быть точнее перевод кратковременную память в долговременную. Перевод осуществляется из префронтальной коры в неокортекс и в другие области коры.
      За упоминание книги, спасибо, обязательно ознакомлюсь.


  1. kasperos
    14.09.2015 13:18
    -7

    1) тут «Клеток в мозге человека гораздо меньше, чем прежде считалось», считают что клеток в мозге человека порядка 100 миллиардов а то и меньше.
    2) опыты с гипнозом насколько слышал позволяют заключить что если человека особо не били по голове то он в состоянии вспомнить практически любой момент из своей памяти.
    3) человеческий глаз воспринимает движение с частотой до 12 кадров в секунду как различные картинки.

    возьмем человека с 30 годами осмысленного существования
    «100 000 000 000 клеток» / «30 лет»/ «365 дней в году» / «12 часов активного видео наблюдения» / «в каждом часе по 60 минут» / «60 секунд» / «12 кадров в секунду» = около 18 клеток на картинку.
    если взять расчеты телевизионщиков про область четкого зрения (~640 по горизонтали 525 по вертикали), не считая периферийного.
    получается плотность записи: 672 000 байт на 18 клеток
    и это еще не считая аудио информации, а также от датчиков «позиционирования» и «сервоприводов».

    может все-же мозг не совсем то, за что его принимают, либо архиваторам и кодекам есть куда стремиться!?


    1. aigame
      14.09.2015 14:15
      +1

      Большую часть информации мозг просто игнорирует, часть забывает сразу, часть забывает потом, да и вообще работает не точно и с ошибками, и на всю жизнь его ресурсов не хватает, что приводит к тремору и склерозу, а под гипнозом и алкоголем вообще может выдать что угодно.)


    1. MiXaiL27
      14.09.2015 14:24
      +5

      Опыты с гипнозом хорошо проходят у тех, у кого с фантазией порядок. Мелкие детали дорисовываются рандомно исходя из привычного окружения.


  1. lavmax
    14.09.2015 15:45

    Очень хотелось бы увидеть ссылки на список использованной литературы. Особенно в части классификации нейронов, т.к. ваше описание расходится с той же Википедией. Пример:
    «Безаксонные нейроны — небольшие клетки, сгруппированы вблизи спинного мозга в межпозвоночных ганглиях, не имеющие анатомических признаков разделения отростков на дендриты и аксоны. Все отростки у клетки очень похожи. Функциональное назначение безаксонных нейронов слабо изучено.»
    Вы же пишете, что таких клеток большинство, что вызывает некоторые сомнения.


    1. aigame
      14.09.2015 16:53

      Признаю своё заблуждение и не точность. В нервной системе большинство вставочных нейронов, а не безаксонных. Вставочный нейрон может иметь аксон. Спасибо, за дельное замечание.



  1. Gorthauer87
    15.09.2015 13:13

    Кстати, тут недавно нейросеть учили рисовать, а нет ли возможности научить рисовать нейросеть из модели?


    1. aigame
      15.09.2015 14:16

      Только в перспективе, но это будет не как Deep Dreem, а скорее как человек рисующий в каком нибудь графическом редакторе, мазок за мазком. Но до этого еще далеко, еще много работы.


  1. ronzhin
    28.09.2015 15:47

    «К сожалению, в науке биологии пока не представлен четкий алгоритм: как работает нейрон, как понимает, куда необходимо отращивать свои дендриты»

    Почитайте это исследование Blue Brain Project: как все связано?, biomolecula.ru/content/1171
    Вырезка из заключения: «Получается, что значительная часть синапсов образуется просто там, где отростки разных нейронов встречают друг друга.» Данные выводы были сделаны при использовании модели головного мозга крысы, но от этого не менее интересны.