Исследователи использовали чип для испытания простой нейросети, сумевшей определить цифры со 100% точностью

В начале декабря 2018 на выставке IEEE International Electron Devices Meeting в Сан-Франциско IBM показала новый 8-битный аналоговый чип. Однако основной инновацией стало не то, что аналоговые чипы догоняют своих цифровых собратьев, а радикальное переосмысление архитектуры. Этот чип стал первым чипом, производившим 8-битные вычисления там же, где хранится информация.

В традиционной компьютерной архитектуре фон Неймана данные постоянно передаются между памятью и процессором, что потребляет много ценных энергии и времени, говорит Абу Себастиан, главный исследователь в данной работе из IMB Цюрих. Подсчёты в памяти – следующий логический шаг по уменьшению потребления энергии и увеличению быстродействия. А это необходимо для того, чтобы оборудование поспевало за продвижениями в области искусственного интеллекта.

Новый аналоговый чип IBM основан на памяти с изменением фазового состояния. Ключевой его ингредиент – это материал, способный менять фазу в ответ на электрический ток. Обычно это сплавы германия, теллура и сурьмы, В одной из фаз, являющейся проводящей, атомы выстраиваются ровно. В другой фазе, не проводящей ток, атомы двигаются, разогреваемые током, и перемешиваются.

Материал, меняющий фазу, находясь между двумя электродами, не полностью переключается между упорядоченным и хаотическим состояниями, что соответствовало бы переключениями между нулём и единицей. Вместо этого в каждый момент времени существует смесь обоих состояний. Общее сопротивление материала определяется размером участков с перемешанными атомами.

«Мы кодируем информацию через расположение атомов», — говорит Себастиан. К примеру, веса в нейросети можно хранить и обращаться к ним, как к сопротивлению устройства с изменяемой фазой.

Однако эти сопротивления плавают и колеблются. Поскольку во время чтения информации через материал проходит ток, перемешанные участки каждый раз немного меняются со временем – и это ограничивало точность и практическое применение подобных устройств.

Чтобы обойти эту проблему, исследователи из IBM ввели в устройство с изменением фазового состояния т.н. проецирующий сегмент. Впервые его предложили использовать в 2015 году, причём это сделала та же самая команда. Это проводящий слой нитрида металла, обёрнутый вокруг центра меняющего фазу материала и идущий параллельно его электродам, между ними. Он разделяет процессы чтения и записи информации.

Проецирующий сегмент ничего не делает в момент записи. Весь ток проходит через меняющий фазу материал и подстраивает перемешанные участки. Но когда информацию считывают, ток проходит через проецирующий сегмент, обходя перемешанные участки, они остаются нетронутыми и предохраняют хранящуюся в них информацию. «Это ключевая инновация», — говорит Себастиан.

Исследователи испытали однослойную сеть на 8-битном чипе, состоящем из 30 меняющих фазу устройств, чтобы распознать изображения цифр 1, 0 и 4, и достигли 100% точности. И хотя это пока предварительный анализ, Себастиан оценивает, что подобный прорыв способен уменьшить потребление энергии устройствами будущего в 100-1000 раз по сравнению с традиционными компьютерными системами.

В традиционных вычислениях ценилась точность, а в области искусственного интеллекта наблюдается противоположная тенденция. IBM также рассказала о цифровом чипе, работающем с 8 битами и сохраняющем точность при тренировке нейросетей. Это приближает модель к тому, как работает человеческий мозг, способный делать правильные выводы при недостатке информации.

Вице-президент IBM по исследованиям, Джефф Велзер, сравнивает это с ситуацией, в которой вы смотрите через затуманенное окно и видите размытый силуэт человека, подходящего к вашему дому. «Как только вы поймёте, что это ваша мама, точность изображения уже не будет иметь значения, — говорит Велзер. – У вас будет верная информация».