Рассказываем, кто и почему ими занимается.


/ фото Pawel Czerwinski Unsplash

Что такое нейроморфный чип


Это — процессор, работа которого основана на принципах действия человеческого мозга. Такие устройства моделируют работу нейронов и их отростков — аксонов и дендритов — отвечающих за передачу и восприятие данных. Связи между нейронами образуются за счет синапсов — специальных контактов, по которым транслируются электрические сигналы.

Одна из задач нейроморфных устройств — ускорить обучение сверточных нейронных сетей для распознавания изображений. Системам искусственного интеллекта на базе этой технологии не нужно обращаться к массивному хранилищу с тренировочными данными по сети — вся информация постоянно содержится в искусственных нейронах. Такой подход дает возможность реализовывать алгоритмы машинного обучения локально. Поэтому ожидается, что нейроморфные чипы найдут применение в мобильных устройствах, IoT-гаджетах, а также дата-центрах.

Почему инженеры вдохновляются человеческим мозгом


Инженеры, занимающиеся разработкой нейроморфных чипов (подробнее о них мы поговорим далее), в первую очередь отмечают высокие вычислительные способности человеческого мозга.

По данным ряда исследований, наш мозг обладает потенциальной производительностью в один эксафлопс. Традиционные суперкомпьютеры такой вычислительной мощности пока только разрабатываются — первые машины ожидают не раньше 2021 года.

При этом мозг обладает крайне высокой энергоэффективностью, что является вторым важным фактором для тех, кто занимается разработкой нейроморфных систем.


/ фото jesse orrico Unsplash

Конечно, искусственные системы обладают существенными ограничениями. Нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Алгоритм, натренированный на распознавание собак, не сможет различать людей. Но эксперты из этой сферы надеются, что нейроморфные чипы откроют новые возможности для обучения «многозадачных» нейронных сетей и решат подобные проблемы.

Первые нейроморфные чипы


Первые попытки создать искусственные нейроны предпринимались еще в 60-х годах прошлого века. Тогда один из будущих изобретателей микропроцессора Тэд Хофф (Ted Hoff) вместе с профессором из Стэнфорда Бернардом Уидроу (Bernard Widrow) создали одноуровневую нейросеть на основе мемисторов — электрохимических резисторов с функцией памяти. Считается, что эта разработка положила начало нейроморфной инженерии.

В 80-х годах инженер Карвер Мид (Carver Mead) предложил использовать транзисторы в качестве аналоговых компонентов, а не цифровых переключателей. В 90-х команда во главе с Мидом представила искусственный синапс, способный хранить информацию продолжительное время, и нейроморфный процессор на основе транзисторов с плавающим затвором.

В то же время американский президент Джордж Буш-старший объявил о начале «Десятилетия мозга» и призвал спонсировать программы, направленные на изучение этого органа. Все это дало толчок к развитию нейроинформатики и вычислительной нейробиологии и привело к созданию инфраструктуры для дальнейшего изучения темы.

За последние десять лет знания человечества о работе мозга достигли новых высот. С 2013 года Швейцария занимается развитием проекта Human Brain Project (HBP). В том же году Америка запустила программу BRAIN Initiative. Эти инициативы оказали серьезное влияние на сферу систем искусственного интеллекта и привели к появлению новых нейроморфных технологий.

Что разрабатывают сегодня


Сегодня над созданием нейрочипов работают в IBM. Еще в 2008 году инженеры компании при поддержке DARPA приняли участие в программе SyNAPSE, в рамках которой разрабатывались компьютерные архитектуры, отличные от фон Неймановских. За три года IBM удалось разработать ядро с 256 искусственными нейронами (у каждого из них были 256 синапсов). Еще через три года компания представила процессор TrueNorth, состоящий из 4096 таких ядер — это более миллиона нейронов. И его уже применяют в задачах распознавания жестов и речи. Разработчики компании заявляют, что вычислительные системы на основе TrueNorth смогут успешно смоделировать работу мозга кошки. Однако ряд экспертов считает такие заявления явным преувеличением.

Еще одна крупная ИТ-компания, занимающаяся разработкой нейроморфных вычислительный систем, — это Intel. В прошлом году они представили чип Loihi. В его составе имеются 128 нейроморфных ядер, каждое из которых симулирует 1024 нейрона. Программировать процессор можно с помощью API, написанного на Python. Первые экземпляры этих устройств уже отправили в дата-центры нескольких ведущих университетов для проведения тестов на реальных задачах.

К слову об университетах, над нейроморфными чипами работают и инженеры из Манчестерского вуза. В прошлом году они представили архитектуру SpiNNaker, состоящую из миллиона ядер, способных эмулировать работу ста миллионов нейронов. Потребляет такая установка 100 кВт. Программировать компьютер можно с помощью языка PyNN. На сегодняшний день машина используется для симуляции процессов, происходящих в мышином мозге.


Несмотря на прогресс последних лет, можно сказать, что нейроморфное железо находится на ранних этапах своего развития. Задачи, которые ставят перед системами ИИ на его основе в основном ограничиваются распознаванием объектов. Тем не менее представители ИТ-индустрии убеждены, что в будущем нейроморфное аппаратное обеспечение позволит проводить полноценные симуляции и откроет совершенно новые вычислительные возможности.



О чем мы пишем в нашем блоге:

Комментарии (6)


  1. Baigildin
    25.06.2019 23:57

    По данным ряда исследований, наш мозг обладает потенциальной производительностью в один эксафлопс.

    Как-то скептически к этому отношусь. Это что-то из разряда «мы используем всего 10% своего мозга»? Просто взяли количество нейронов в мозге сделали корреляции между современными компьютерными нейронными сетями?


    1. mediaman
      26.06.2019 08:33

      В разное время разные исследователи оценивали количество операций, которые наш мозг воспроизводит за секунду. Кто-то пришел к выводу, что это число равно 1018, у кого-то оно получилось больше или меньше. В итоге средним значением остается эксафлопс (1018).


    1. worldmind
      26.06.2019 10:47

      Я так понял, что там много нюансов, поэтому оценки очень грубые и могут быть недоценены на порядки, я не спец, но помню были новости про то что некоторые части нейрона которые раньше считались просто проводящими оказались участвующими в формировании сигнала, плюс про влияние астроцитов что-то было.


  1. VDG
    26.06.2019 04:02

    Такие устройства моделируют работу нейронов и их отростков — аксонов и дендритов

    Никакие нейроморфные чипы не моделируют дендритное дерево.


    1. mediaman
      26.06.2019 08:34

      Компоненты, которые называются дендритами и аксонами, фигурируют даже на схеме TrueNorth в патенте IBM. Еще в прошлом году представили чип, который эмулирует дендритные спайки.


      1. VDG
        26.06.2019 20:21

        Компоненты, которые называются дендритами и аксонами

        60 лет назад сумматор назвали «нейроном». Тоже самое через 50 лет произошло и с «синапсом». Люди любят выдавать желаемое за действительное. Этот новый чип тоже некоторое приближение, — имитируются веточки дерева. Для имитации всего дерева (а я писал именно о дереве, а не коротких его отдельных линейных участках) нужно повторить морфологию со всеми её распределёнными параметрами.