2 ноября исследователи Манчестерского университета запустили самый мощный суперкомпьютер, архитектура которого моделирует человеческий мозг. В нем работает миллион ядер ARM9, которые могут обрабатывать 200 триллионов операций в секунду. Компьютер проектировали 20 лет, и еще 10 лет собирали. Работы по конструированию начали в 2006 году, а всего на проект потратили ?15 000 000.
Как он устроен
Главная сложность такого проекта — создать железо, которое может справиться со множеством параллельных процессов примерно так же, как это делает биологический мозг. Например, мозг человека состоит приблизительно из 100 млрд нейронов. Количество связей между этими нейронами — астрономическое. Исследователи планируют создать с помощью своего суперкомпьютера модель из одного миллиарда нейронов, которые будут обрабатываться в реальном времени. Несмотря на то, что это всего один процент от человеческого мозга — шаг для компьютерных наук огромный. Пока что ни один суперкомпьютер не мог справиться с такой задачей.
Основные решения в суперкомпьютере связаны с архитектурой железа. Она называется SpiNNaker (Spiking Neural Network Architecture). В ней миллион ядер разбит на 57 тысяч узлов. В каждом по 18 ядер и 128 мегабайт SDRAM памяти, которая размещена отдельно от матрицы с чипами. Между ядрами несколько способов передачи информации, но основной — пакетами по 5–9 килобайт.
Все узлы связаны в асинхронную инфраструктуру. Мобильные процессоры и память выбраны из соображений энергопотребления — в такой мощной системе это один из главных ресурсов, ради которого пришлось пожертвовать производительностью.
Как говорят исследователи, с задачей мог справиться и узел из 16 ядер, но количество увеличено для отказоустойчивости.
Принципы взаимодействия между процессорами опиралась на нейробилогию. В обычных компьютерах объем пересылаемых данных значительно выше, поскольку в них записана информация, как и куда система должна доставлять информацию.
В архитектуре SpiNNaker этого удалось избежать. Пакеты данных содержат только информацию об источнике, а инфраструктура пересылает их по назначению. Как объясняет издание Motherboard, такая инфраструктура, все равно что работа почты без почтовых отделений — у каждого есть личный почтальон, который сам знает, по какому адресу доставить посылку.
Стив Фурбер, профессор компьютерной инженерии и один из исследователей проекта говорит: «SpiNNaker полностью переизобретает способ работы компьютеров. Нам удалось создать машину, которая работает больше как мозг, нежели компьютер, и это просто невероятно».
Для чего будет использоваться
Сейчас компьютер будет применяться для академических и научных исследований. Например, ученые уже воссоздали участок коры головного мозга состоящий из 80 тысяч нейронов, которые отвечают за обработку сенсорной информации. Эта модель помогла роботу в реальном времени обрабатывать видеоинформацию, чтобы ориентироваться на сложной местности.
Робот на архитектуре SpiNNaker, разработанный в Университете Мюнхена.
Также суперкомпьютер может моделировать базальные ганглии — участок мозга, который страдает при развитии болезни Паркинсона. Вполне вероятно, модель поможет нейробиологам продвинуться в борьбе с этим недугом.
Как добавил в своем заявлении Фурбер, «с помощью SpiNNaker ученые могут раскрыть многие секреты мозга, исследуя огромные по своим масштабам симуляции. Робототехники смогут создавать мощнейшие нейронные сети для мобильных роботов, чтобы они могли передвигаться, говорить, работать гибко и менее энергозатратно».
Комментарии (121)
glioma
08.11.2018 18:15В норме в человеческом мозге происходит постоянное уничтожение одних синапсов и связей и возникновение других, отмирают аксоны и появляются новые, это как волнующееся море, постоянное изменение архитектоники. Как такую специфику нейронов возможно реализовать в железе.
alfixer
08.11.2018 19:39+5Программно.
barbanel
09.11.2018 11:57Дать абстрактному дяде Васе в руки молоток и сказать «иди, почини там что-нибудь».
Ну или раз в неделю приглашать батюшку и брызгать на сервера «святой водой».
/ЗлойСарказмCerberuser
09.11.2018 13:46Первую половину задачи решили, а вот для второй, по ходу, нужна система саморемонта. А мы ещё из Master of Orion знаем, какой это чит…
vowantuz
08.11.2018 19:39+1Может использовать масштабную систему со слоем ПЛИС как симуляцию нейронов и отельным слоем контроллеров которые будут по необходимости пересобирать связи ПЛИС. Сгореть всё это может, относительно, быстро, но за то можно смоделировать это самое «море».
Mad__Max
08.11.2018 23:08+1Что значит невозможно? Вся описанная вами «специфика» это всего-лишь возникновение и уничтожение связей между нейронами (а так же изменение их «силы»). Это давно реализовано практически во всех нейроморфных архитектурах. Включая эту — связи по мере надобности создаются, стираются, настраиваются их «веса».
oldboyii
08.11.2018 18:26+1на этом можно майнить или уже тоже не прибыльно )
Domork
09.11.2018 10:05не позволит архитектура :)
Mad__Max
10.11.2018 01:47Вполне позволит, архитектура условно универсальная (хоть и оптимизированная под одну конкретную задачу). Т.е. может исполнять любой произвольный код если он и нужные данные умещаются в небольшую локальную память. Но при майнинге они (и код и данные) совсем небольшие, так что написать нужный софт тоже можно.
Другое дело что по эффективности это примерно как майнить на миллионе старых смартфонов. Это возможно, но очень неэффективно и бессмысленно, если только эти смартфоны и питание к ним не достались тебе совершенно бесплатно. Типа ботнета из зараженных мобилок, на которых украсть нечего, но хоть тогда по несколько копеек из каждой выжать майнингом.
Pre_fect
09.11.2018 18:02Да 50% мощностей в идиологии блокчейна
смертныйприговор, бери и коси себе транзакции с маленькиx проектов построеных на задумках крипти.
*Как сказано ниже при осуществлении подходящего софта, ну и дела всегда если наживное, то интересное. Если не прав поправте)
MonkeyD
08.11.2018 19:23+8Извините за петросянщину, но стоит ему попытаться обработать женскую логику и он сгорит от перегрузки)))
Чую кучу дизлайков опять.
Кстати, у меня вопрос. Тут написано что с поставленной задачей может справится и 16 ядер, а остальные это для отказо-устойчивости. Вопрос, а миллиона не многовато для таких целей? Или я чего-то не понимаю?Maximuzzz
08.11.2018 19:33+3Имеются ввиду справиться с задачами в рамках одного модуля, а не в глобальном смысле. Таких же модулей в формате 16+2 всего 57 тысяч. 114 тысяч избыточных ядер на всю систему.
Mad__Max
09.11.2018 00:03Все верно. Единственно что модуль (нода) в данном случае это всего один чип (SoC).
А на одну плату (которые тут модулями как раз называют) размещается несколько десятков таких чипов (в стандартном варианте — 48 чипов на плату) и сеть для связи между ними и с соседними подобными платами.
В результате суперкомпьютер получается очень компактным относительно традиционных — в одной стандартной серверной стойке умещается машина на ~ 100 000 ядер.
А на КДПВ собственно весь компьютер с миллионом ядер целиком уместился (10 серверных стоек) с очень скромным по меркам суперов потреблением энергии (~100 кВт).arheops
09.11.2018 03:00Но ведь и ядра у него тоже очень скромные для супера. и общая мощь.
Mad__Max
09.11.2018 03:45+1Ядрышки действительно очень простые, но так специально сделано. Т.к. не сами вычисления являются узким местом при моделировании нейронных сетей приближенных к биологическим.
А общая мощь это смотря на чем сравнивать — с точки зрения универсальных (общих) вычислений 200 триллионов операций в секунду это действительно относительно немного. Такой супер окажется где-нибудь во 2й тысяче суперкопьютеров если попытаться решать какие-то общие задачи на нем. И эффективность использования энергии тоже получится заурядная.
Но вот на конкретных задачах моделирования нейронов под которую он оптимизирован ситуация совершенно другая: чтобы крутить модель на 1 миллиард нейронов в реальном времени нужен «обычный» суперкомпьютер ближе к началу первой сотни, занимающий небольшое здание (сотни стоек набитых железом) и потребляющий несколько МВт мощности. Причем еще далеко не на каждом это выйдет в принципе — классическому суперу проще смоделировать более крупную или более сложную (с большей детализацией) сеть, но медленнее (например тратя по 1 минуте расчетов на 1 секунду смоделированного времени). А вот 1 млрд. в реалтайме многим будет не по силам — шины памяти и сеть между нодами окажутся перегружены, а процессоры будут наоборот большую часть времени простаивать ожидая поступления данных.
Или вот такая относительно скромная машинка, помещающаяся в одной комнате и потребляющая ~0.1 МВт.
И это при том, что процессоры тут сделаны по очень сильно устаревшему процессу — 130нм. Простой перенос этой же архитектуры на современные производственные возможности даст скачок выч. мощности и эффективности больше чем на порядок.arheops
09.11.2018 04:26Ну так и не стоит тогда сравнивать мощность, не?
Простой перенос не пройдет. Потратится сравнимое время, надо будет все перепоэктировать.
alexhott
09.11.2018 14:26Я думаю Британские ученые все это знают, но не хотят еще 10 лет проектировать под новое железо.
Если на данном железе будет результат, то это выльется в новый проект на новом железе. может даже спроектированном специально под эту задачу на этом компьютере.
Grox
08.11.2018 21:36+2Женская логика, такая же, как и мужская, просто базис, на котором она строится отличается. Как только вы примете это к сведению, всё становится значительно яснее.
justme
09.11.2018 13:46А можно чуть детальнее? Очень интересная мысль, хотелось бы понять разницу базиса как вы ее видите
Grox
09.11.2018 13:54Есть разница между мужским и женским мышлением. Она основана на физиологических отличиях и социальных. Физиология, как мы понимаем, это эволюционный характер отличий. Например, преобладание другого гормонального фона. Социальные отличия это в первую очередь воспитание и ценности, которые устанавливает социум для женщин. Следом идут реакции общества на поведение женщин. Это всё и устанавливает с самого рождения разницу базисов, которая влияет на ход мыслей и принятие решений.
Сейчас, например, для женщин многое значительно проще и доступнее, чем было раньше, менее ста лет назад. То, что уже веками было доступно мужчинам. Социум будет перестраиваться под это ещё долго.
Для примера. В нашем социуме, отношение к женщине, у которой в 25 лет нет мужа и детей, у многих будет жалеющее. В 30 лет — как же так, что с тобой не в порядке? Т.е. женщина без определённого «стандартного» социального положения считается неполноценной. При приёме на работу им постоянно приходится обговаривать, когда они планируют иметь детей, ибо работодателю важно понимать, когда будет декрет. Мои знакомые чайлдфри девушки натыкаются, иногда, на недоверие в этом отношении. И этот список отличий в ожиданиях можно долго продолжать. То, о чём многие мужчины просто не задумываются, ибо никогда в жизни не сталкивались.justme
09.11.2018 15:26+1Спасибо за развернутый ответ
В принципе обо всех проблемах описанных в примере известно, да и их куда больше чем только это. Но пока что громче всего обсуждают только вопросы неравной ЗП и условий труда, хотя проблема куда шире
К сожалению есть и обратная сторона монеты, как мне кажется — попытка уровнять неуравниваемое (например кол-во девушек разработчиков в open source среде или вообще в любой IT компании)
К слову — социальные отличия сильно разнятся в разных странах (не сочтите за капитана очевидность). Из того что слышал на западе куда проще относятся и к child free и к девушкам в 25 без пары и в 30 без семьи. А в СНГ до сих пор для девушек рожающих после 30 используют весьма неприятное слово «старороженица». Сразу ощущение будто обвиняют в неполноценности или болезненностиcyberly
09.11.2018 16:19А в СНГ до сих пор для девушек рожающих после 30 используют весьма неприятное слово «старороженица». Сразу ощущение будто обвиняют в неполноценности или болезненности
Тут не в «традициях» дело, а, скорее, в статистике. Возраст за тридцать увеличивает вероятность проблем со здоровьем у ребенка и матери, особенно если это первые роды. По методичке из женской консультации, ЕМНИП, это примерно так же нехорошо, как курить во время беременности (там было что-то около 10 негативных факторов с указанием баллов, в том числе эти). Тем, у кого риски выше, могут назначить дополнительные анализы/исследования или положить на сохранение. Слишком юный возраст по той же методичке — тоже не гуд.justme
09.11.2018 16:31+2Ну вот, опять эти методички
Есть два показателя из этих методичек к которым аппелируют чаще всего:
1. Фертильность после 35 уменьшается на 35%
2. Риск врожденных дефектов у ребенка при родах около 40 возрастает в два раза
Проблема с утверждением #1 состоит в том что данные «исследования» основаны на переписи Французского населения 17го века. Как вы понимаете в те времена было очень много других факторов влияющих на проблемы с рождаемость и здоровье в целом. Да и попросту после 35 их мужья уже могли умереть. По современным данным у современной женщины в 27 вероятность забеременеть составляет 86% в течении года попыток. В 37 лет эта вероятность снижается… аж до 82%. Фертильность реально падает только после 40, но не 30
Проблема с утверждением #2 в том что оно… строго говоря полностью честное. Только не полное. Полное утверждение звучит как «Вероятность дефектов увеличивается с 0.5% до 1%». Просто разница в 0.5% никого не пугает, а вот «удваивается» и правда звучит устрашающе
К слову: ситуация с «запугиванием» девушек на тему того что после 35 они не смогут родить не присуща только СНГ, на западе она также существует и поддерживается многими компаниями снимающими с этого сливки (например клиники по заморозке яицеклеток, чтоб «вы все еще могли иметь детей после 35»)cyberly
09.11.2018 17:11«Вероятность дефектов увеличивается с 0.5% до 1%». Просто разница в 0.5% никого не пугает, а вот «удваивается» и правда звучит устрашающе
Ну, вероятность надо рассматривать в контексте серьезности негативного исхода. А в данном случае он вполне серьезен — куча нервов и денег в течение нескольких лет. Не сказал бы, что это прям пустяки.
Про уменьшение фертильности — да, снижение вроде бы небольшое, но есть anecdotal evidence в виде историй людей, которые долго откладывали, а потом не смогли (хотя, противоположные примеры тоже имеются). Ну и, помимо фертильности, есть еще фактор уменьшения пула возможных отцов, например.
Да, каждый волен строить свою жизнь, как считает нужным. Однако, учитывая тяжесть последствий неправильного выбора, я все же считаю, что не стоит смотреть на риски позднего рождения детей как на «миф и ерунду».justme
09.11.2018 17:19+1Пожалуй я не верно выразился. Естественно любое повышение шансов на такие исходы весьма пугающи и если вы станете тем самым 0.5% — то на шансы вообще будет наплевать, т.к. это проблема на всю жизнь и вам с ней жить
Я лишь хотел сказать, что все не ТАК страшно как пишут в методичках. Там ведь вообще все описано дико пугающе. Точные и реальные данные дают возможность более точно оценивать для себя готовы ли вы идти на такие риски. ИМХО, в большинстве случаев (и я знаю такие примеры), стараться родить «пораньше до 35 хоть от кого» приводят к куда большим проблемам и с более высокими рисками чем реальные проблемы с рождаемость после 35. Т.е. излишнее запугивание может быть губительнее незнания
Chaos_Optima
09.11.2018 16:38Dозраст за тридцать увеличивает вероятность проблем со здоровьем у ребенка и матери, особенно если это первые роды.
На самом деле это миф который тянется аж из 17 века (насколько я помню), риск проблем увеличивается после 40 лет причём с 0.1% до 0.2% тема неплохо освещена в Адам портит всё 2 сезон 1 серия (там же пруфы на научные статьи)justme
09.11.2018 16:49+1скажу честно — мое сообщение выше практически полностью основано на этой серии ))
Хотя пруфы я просматривал на всякий случай. Там куда больше данных, хотя и воспринимаются сложнее
mAAriellla
09.11.2018 16:55Можно спросить, как риски рождения детей после 30 лет, связаны с женской логикой и с мужской логикой в данном контексте? Есть объективное утверждение, что после 30 лет появляются подобные риски у женщин. Мужская и женская логика по-разному «смотрят» на этот факт?
P.S. В принципе, склоняюсь к тому, что когда человек заявляет о женской логике, он просто пытается в шутливой форме обидеть женщину, подменяя поднятие «глупость» на вышеназванный эвфемизм. То есть под женской логикой человек просто намекает на отсутствие всякой логики.justme
09.11.2018 17:09+1>То есть под женской логикой человек просто намекает на отсутствие всякой логики.
Далеко не всегда. Хотя я и согласен что это уже настолько часто используется как синоним женской глупости, что стоит такие шутки употреблять аккуратно. Однако для меня «женская логика» как раз таки больше описывает то о чем писал выше Grox. Т.е. именно различия в принятии тех или иных решений (или в получении иных выводов из той же ситуации), основанные на различии в биологии и разных социальных нормах которые обоснованно и не очень навязываются обществом. Т.е. я действительно считаю что модель поведения (и как результат получаемые выводы из одной и той же информации) у мужчин и женщин часто не совпадают. Это не говорит о преобладании одного пола над другим, не говорит о их мыслительных способностях, лишь говорит что «они разные». Точно также как и темнокожие и светлокожие имеют несколько больше отличий (как минимум биологических), чем только объем пигмента в коже. Также это не значит что нужно освещать эти различия при любом споре и делать утверждения основываясь на них. Это не делает одних лучше других, но отрицать разницу тоже не стоит. Биологическая разница между рассами помогает ученым создавать лекарственные препараты которые лучше подходят для каждой отдельной рассы.
Вероятно более глубокое понимание разницы между мужчиной и женщиной в будущем поможет организовать более продуктивное и здоровое общество. Как минимум мы проходим этап «женщина — не человек» и приходим к насаживанию икуственного равенства. Еще не идеально, но уже прогресс
Chaos_Optima
09.11.2018 19:01Можно спросить, как риски рождения детей после 30 лет, связаны с женской логикой и с мужской логикой в данном контексте?
Да никак, я просто миф прокомментировал. С точки зрения логики я честно говоря не вижу особых различий, если и есть то чисто культурные\социальные. Для девушек в основном создаётся психологическое\социальное давление в виду существования стереотипов что профессии\занятия где превалирует логическое и критическое мышление не подходят для девушек (IT, инженерия, наука и тд). В силу такого давления и того что девушки на уровне биохимии менее агрессивные и менее конкурентные (много меньше тестостерона) и более эмоционально восприимчивые, они предпочитаю не бороться против стереотипов и навязанных «ценностей» и тем самым поддерживают их, но как мне кажется девушек, с подобными ярко выраженными механизмами не так чтобы и много.mAAriellla
09.11.2018 22:36Chaos_Optima
Женщины по темпераменту также отличаются как и мужское население, существуют классификации психотипов.
Эмоциональная восприимчивость, на мой взгляд, зависит от сочетания биологически активных и химических веществ в каждом организме.
А способность к критическому аналитическому мышлению, к логике, к конкуренции, к противодействию «Домострою» зависит от количества нейронов и нейронных связей у организма, а также от того, насколько активно происходит нейрогенез у конкретного организма. Благодаря этому формируется/повышается (или понижается в случае сокращения нейронных связей) интеллект, способность к самоорганизации, самообучению, выстраиванию адекватной модели поведения.
Chaos_Optima
10.11.2018 02:06Женщины по темпераменту также отличаются как и мужское население, существуют классификации психотипов.
Эмоциональная восприимчивость, на мой взгляд, зависит от сочетания биологически активных и химических веществ в каждом организме.
Я про это и говорю. За конкуренцию и агрессивность в основном отвечает тестостерон, а за эмоциональность отвечают в основном эстрогены. Очевидно что в основном у мужского пола Тестостерон превышает количество эстрогенов. Агрессивные женщины с сильными признаками конкуренции это скорее исключение.
А способность к критическому аналитическому мышлению...
Я с этим никак не спорил (ну разве что конкуренция больше зависит от гормонов), я лишь сказал что социальные условия создают определённое психологическое давление на девушек, в следствии чего эти навыки девушки развивают слабо.mAAriellla
10.11.2018 12:27Не пытаюсь вас переспорить ни в коем разе. Просто высказываюсь.
Контекст про тестостерон и эстрогены… Имела в виду под веществами важнейшие нейромедиаторы.
Адреналин — возбуждающий. При его избытке появляется агрессивность, усиленная активность как мозговая так и физическая, выносливость, отсутсвие сна и усталости ---> желание конкурировать (как следствие).
Избыток адреналина может быть как у мужчины так и у женщины, либо выработку адреналина можно подпитать дополнительными препаратами (например, адреномиметики).
Далее возьмем ГАМК — тормозной нейромедиатор. При его избытке человек проявляет спокойствие, минимум реакции на раздражители, крепкий сон, некоторая пассивность/медлительность в действиях/реакции (так называемые флегматики).
Избыток/недостаток ГАМК (либо природный либо искусственный как эффект от приема лекарств)также может быть как у женщин так и мужчин. Соответственно, при избытке у женщин ГАМК, они не проявляет эмоциональность, спокойные, вдумчивые, неимпульсивные.
Grox
09.11.2018 18:51«Адам портит всё» это развлекательное шоу. У него часто нестыковки, недостоверные сведение и прочая развлекательная ерунда. То, что там показывается, нужно несколько раз перепроверять, не только «факты», но и его «логику» и выводы.
Chaos_Optima
09.11.2018 19:06Я опирался только на факты предоставленные в том виде.
Несмотря на то что шоу развлекательное, факты приведённые там взяты из научных рецензируемых работ.
mAAriellla
09.11.2018 16:02-1Grox
Вы, видимо, не вполне четко понимаете, что такое логика, и потому выдаете запутанные рассуждения о социуме и социальных заблуждениях.
Понятие логика легко объясняется термином бинарная логика, а именно.
Это формальная система, основанная на двух утверждениях: истина и ложь.
Так вот товарищ выше, написавший о женской логике, имел в виду, что мужская логика — это всегда истина, которая дает правильный ответ.
А женская логика — это всегда глупость, которая дает неправильный ответ.
Выражаясь простым языком, в окружении товарища, видимо, одни прелестные круглые «мурочки», логика которых — всегда ложь, т.е. ложный ответ, т.е. глупость. На основании чего он приписал подобную логику абсолютно всем женщинам и обозвал ее «женской логикой».
mAAriellla
09.11.2018 13:46Если человека окружают наркозависимые, он делает вывод, что все употребляют. В среде заключенных тоже как говорится своя культура. А вот вам приходится жить среди мурочек, и вы приписываете глупость всем женщинам подряд, называя эту самую глупость «женской логикой». Зачем вы выбрали окружении непроходимых мурочек для общения?
MonkeyD
09.11.2018 19:18+1Mad_Max, спасибо за Ваши коментарии, интересно было почитать, и ответило на некоторые вопросы.
Остальным товарищам, устроившим обсуждение женской логики, поведения и окружения, я бы посоветовал бы не относится так ко всему серьезно. И уж тем более разводить полемику на пустом месте. В мире хватает «равноправия», «феминизма» и прочей бесполезной ерунды, которую можно бесконечно обсуждать и устраивать крики. Если на простую шутку (старую как 80386) вы реагируете ТАК остро, то не уверен что вам следует что-либо читать на этом сайте.
В любом случае, сколько людей, столько и мнений, и не стоит навязывать свое остальным.
Mad_max. Еще раз спасибо.
w1ld
08.11.2018 20:30Как-то сразу не ясен маштаб. Создали суперкомпьютер с 1 миллионом ядер и только планируют на 1 миллиард, а у человека 100 миллиардов нейронов, т.е. 0.1% от человеческого. Но все равно работа впечатляет.
SergeyMax
08.11.2018 20:50Один процент же) Сто миллиардов нейронов, а поделить не можете)
w1ld
08.11.2018 21:060.1% = 100*1e6/1e9? От 1 млр человеческого или 0.001% от 100.
huhen
08.11.2018 21:21+4Планируют миллиард не ядер, а нейронов с текущего миллиона ядер.
Т.е. на ядро по 1000 нейронов.
Ahineys
09.11.2018 13:46100*1e6\1e9 не будет 0.1%, т.к. 1e8(100*1e6)\1e9 это 10%(0.1, если без процентов). И если 100% это 100 миллиардов, то и 1 миллиард это 1%)
Volutar
09.11.2018 07:30+1Полагаю, нейроны мозжечка можно не учитывать, а это 2/3 всех. В коре человеческого мозга под 20 млрд + подкорковые структуры (гиппокамп, амигдала, ограда, и т.д) где-то ещё 10 млрд.
SergeyMax
08.11.2018 21:38всего на проект потратили ?15 000 000.
Интересно, можно ли сделать компьютер в сто раз мощнее, если потратить полтора миллиарда?Mad__Max
09.11.2018 00:14Вполне, архитектура хорошо практически линейно масштабируется. Причем тут из этих 15 Млн большая часть ушла на исследования и проектирование, а не на саму машину.
Причем и пара миллиардов уже есть — на проект Human Brain Project в рамках которого они работают выделено по-моему 5 или 10 миллиардов. Но это делится на множество научных групп и подпроектов и конкретно этой пока досталось совсем немного.
Nashev
08.11.2018 22:29+2Они там 30 лет делают нечто, а AlexeyR тут на хабре нынче очень интересно и убедительно расписывает, как все их представления далеки от реальности работы мозга… Грустно, столько усилий и денег потрачены боитанскими учёными на столь безосновательном фундаменте…
SADKO
09.11.2018 00:07+3Ну, эти-то ребята играют в спайковые сети, а у них есть совершенно замечательные математические свойства качественно отличающие их от более примитивных моделей, так-что надежда получить гешефт с масштаба там не нулевая…
При всём уважении к Редозубу, идеи которого мне искренне нравятся, даже если они не верны окажутся по факту, со спайковыми сетями у него явно не сложилось, он как то мельком от них отмахивается, мол есть ещё и такие чудики :-)
Но дело в том, что идти можно как от физиологии, так и от математики, а лучше делать это как-то сообща, и спайковые сети это как раз то…
DaneSoul
08.11.2018 22:53+1А почему нельзя использовать виртуализацию? Зачем на каждый нейрон целое ядро?
Насколько я знаю (с нейробиологией не особо знаком), сам по себе нейрон реализует довольно простую логику, вся сложность за счет их колличества и связей между ними — зачем в таком случае привязка нейрона к железному ядру?SADKO
09.11.2018 00:15«Все, что ты знаешь — ложь!» © Илья Кормильцев
Спайковики используют весьма сложные модели нейронов и даже связей между ними.
И виртуализацию использовали за долго то того как это стало мэйнстриом.
Смысл всей этой физической вундервафли в том, что бы иметь возможность исследования самых различных моделей без ущерба производительности, которая обычно становится камнем преткновения…
Mad__Max
09.11.2018 01:31+2А кто сказал что тут по выделенному ядру на каждый нейрон?
Или вы тоже миллионы с миллиардами спутали? Машина с ~1 миллионом ядер (57 тыс. процессоров/чипов) моделирует до миллиарда нейронов. В среднем по 1000 нейронов на ядро.
Как раз за счет «виртуализации» — за счет того, что электронные схемы работают намного быстрее биологических одно ядро успевает моделировать ~1000 нейронов параллельно.
А самое большое ограничение даже не сама скорость обсчета работы нейрона, а память (где хранить все состояния) и шин данных (обмен сигналами между нейронами).
Mad__Max
08.11.2018 23:33+3Наконец-то его достроили.
Я про прототипы суперкомпьютеров (на несколько сотен чипов и соответственно неск. тысяч ядер) на этой архитектуре (SpiNNaker) читал еще лет 10 назад. Она появилась «в железе» еще до того как нейроморфными чипами занялись в IBM и Intel.
И уже тогда он показывал очень хорошие результаты, особенно по энергоэффективности вычислений по сравнению с классическими компьютерами.
И только сейчас появилась полномасштабная машина на подобной архитектуре.
Плохо что сами чипы до сих пор используют старой архитектуры — первая версия этого чипа создана почти 15 лет назад и спроектирована была под давно и сильно устаревшие нормы 130нм тех. процесса.
Но судя по описанию за все это огромное по меркам IT прошедшее совершенно ничего не изменилось:
— те же 18 (16 основных + 2 служебных) ядра на чип
— те же 96(64+32) КБ быстрой SRAM памяти на каждое ядро (в основном цикле работы все основные данные, т.е. программа моделирования и все параметры всех моделируемых нейронов и «веса» всех синапсов полностью умещаются в ней — это один из принципиальных моментов дающих многократное преимущество над традиционными архитектурами — почти все данные локальны, обмена с памятью практически нет, обмен с другими ядрами асинхронный и идет так же минуя память — пакеты бегают напрямую из ядра в ядро по мesh-сети).
— те же 128 МБ SDRAM памяти на один чип (разделяемой между 18 ядрами), для хранения вспомогательной информации, не требующей сверх быстрого доступа
— то же моделирование 1000 нейронов / 256К синапсов на ядро в реальном времени (=со скоростью не ниже биологических аналогов)
Похоже финансирования и времени перепроектировать все это дело под возможности современной полупроводниковой индустрии ученым так и не выделили. А очень жаль, разница могла бы быть кардинальной.
Ядра там очень простые, но зато очень компактные и эффективные, в современный чип уровня современных старших GPU или серверных CPU можно было уместить до 1000 подобных ядер с сохранением приемлемого потребления энергии и нагрева (даже на древних 130нм чип потреблял всего около 1 Вт имея 18 ядер — почти на 2 порядка меньше чем одноядерные x86 того времени и на 3 порядка в расчете на 1 работающее ядро).
И соответственно из таких можно было бы строить машину с десятками миллионов ядер, моделирующую работу десятков миллиардов нейронов в реальном времени. Например способную моделировать в реальном времени весь неокортекс человека целиком.
1Fedor
08.11.2018 23:51-11Сделали большой комп и хорошо, причем тут человеческий мозг?
Намедни слушал передачу о человеческом мозге, так признают, что адекватно понять не могут как устроен и как работает.
Тупая машина.Caseor
09.11.2018 00:27+7понять не могут как устроен и как работает
А это совершенно нормально. Мы многими вещами пользуемся без понимания как устроено и как работает. Хотя бы та же квантовая механика. Но модели построены, формулы написаны, они работают. Так же и с мозгом. Есть модель, по ней построили железку, включили — изучили как работает. Сравниваем с оригиналом. Уточняем модель, строим новую железку, которая будет работать ещё лучше. Так работает научный метод.third112
09.11.2018 05:56Есть модель, по ней построили железку, включили — изучили как работает. Сравниваем с оригиналом. Уточняем модель, строим новую железку, которая будет работать ещё лучше. Так работает научный метод.
ИМХО научный метод работает не всегда так. Нпр., была модель флогистона, одно время она работала и ее пытались улучшать, а потом пришлось отказаться.
Dr_Faksov
09.11.2018 11:41+1Мы многими вещами пользуемся без понимания как устроено и как работает. Хотя бы та же квантовая механика.
Зачем так глубоко нырять, подымемся на уровень выше. Обыкновенная радиосвязь. Никто не знает что есть радиоволна. Но все пользуются.
Tarson
09.11.2018 01:10+1С учетом того, что в одном мозжечке 50 % нейронов головного мозга, а за разумную деятельность мозжечок не отвечает, то я думаю даже миллиарда смоделированных нейронов хватит для серьезного прорыва. И вообще если мы возьмем только доли мозга отвечающие за самосознание и мышление, то еще может и миллиард за глаза сойдет для 90% людей:D
Mad__Max
09.11.2018 01:56+1Минимально нужно моделировать хотя бы неокортекс, отвечающий за почти всю высшую нервную деятельность. А это где-то 15-20 миллиардов нейронов.
Grox
09.11.2018 14:15Они могут начать с малого. Как уже начали с моделированием зрения. Часть за частью.
alexhott
09.11.2018 14:31Если получится смоделировать хотя бы мышь или морскую свинку это уже будет анриал
buzzi888
09.11.2018 18:24хотя бы мышь или морскую свинку
Ну, червячка с его 302 нейронами и 95 клетками мышечного волокна так и не осилили, а это очень простой и хорошо изученный организм. Не видать нам скайнетов.
Armavir
09.11.2018 02:20Как-то смотрел выступление, где предметом исследования был «мозг» насекомых, в частности пчел и тараканов. Так вот до недавнего времени ~2012г. считалось, что интеллект насекомого это конечный автомат с жесткой логикой, но оказалось что это не так. Он подвержен обучению и эволюции. И одним из выводов было отсутствие полного понимания его функционирования. Так что уж говорить про человеческий мозг.
Arxitektor
09.11.2018 09:18в современный чип уровня современных старших GPU или серверных CPU можно было уместить до 1000 подобных ядер
А ведь это целая индустрия. Интересно а какому нибудь миллиардеру такая задача под силу?
Нанять команду которая спроектирует такой чип и заказать производство? Сам чип делать как ADM свои новые процы. Центральный кристалл память и шины к другим кристаллам и кристаллы сателлиты. Ведь ASIC для крипты успешно делают.
И как можно применять такой чип в повседневных задачах?
MrG00dman
09.11.2018 10:07+12 ноября исследователи Манчестерского университета запустили самый мощный суперкомпьютер, архитектура которого моделирует человеческий мозг. В нем работает миллион ядер ARM9, которые могут обрабатывать 200 триллионов операций в секунду. Компьютер проектировали 20 лет, и еще 10 лет собирали. Работы по конструированию начали в 2006 году, а всего на проект потратили ?15 000 000.
Прочитал и невольно вспомнил новость о ней:
Супруга бывшего главы Международного банка Азербайджана Замира Гаджиева была арестована полицией Великобритании. Её планируют экстрадировать в Азербайджан, если она не подтвердит законное происхождение своих доходов. Гаджиева умудрилась спустить в самом известном универмаге Лондона Harrods 16 миллионов фунтов стерлингов (около 1 миллиарда и 380 миллионов рублей) за несколько лет, сообщает Би-би-си.
Кто на что деньги тратит...?(Dr_Faksov
09.11.2018 11:46Блин, тут комп, для реалтайм взлома 128-битного шифрования, лет 10 назад заценивали в 2,5 миллиарда. Говорили, дорого, даже для США. А тут 1,5 на комп портратили.
nkie
09.11.2018 10:16+1Я удивлен, что в комментариях так и не было ни одной шутки про Скайнет.
solariserj
09.11.2018 15:23А Скайнет ничего не имеет общего с человеческим мозгом. Там просто холодная машинная логика.
Dioxin
09.11.2018 10:36-3Хочу такую же работу — с дедлайном через 30 лет.
Дурака поваляю 29 лет, поиграюсь в конструктор и уволюсь.
Ну или сдохну.Alex_Q
09.11.2018 12:50+1Там поэтапное финансирование. Вам придётся как минимум каждый год публиковать что по текущим результатам. Видимо, что бы избежать подобной схемы :)
Mad__Max
10.11.2018 02:15Там не только отчеты, но и «железо» создавалось и демонстрировалось по этапам.
— спроектировали чип, провели валидацию — следующий кусочек
— заказали, получили, протестировали и продемонстрировали первые рабочие чипы в кремнии — следующий
— создали большие «системные платы» под такие чипы, довели их до ума, продемонстрировали работу
— решили вопросы поиска оптимальной топологии сети(у них получилась одноранговая mesh сеть в форме тора) и взаимодействия подобных плат, создали работающий первый мультимодульный блок (блок состоящий из нескольких плат, на каждой по 48 процессоров и пачка сетевых интерфейсом) работающий как одно целое
— создали первый большой компьютер (на 100 000 ядер), продемонстрировали, что применяемый подход хорошо масштабируется на большие системы.
— тогда только получили деньги на заказ производства большой партии чипов и плат под них и строительство полномасштабной системы на 1 миллион ядер
ris58h
09.11.2018 10:53Надеюсь, не получится как с японцами.
DelphiCowboy
09.11.2018 12:44Не боитесь, что фанаты Функционально Программирования и фанаты Пролога сольют вам карму за то, что по ссылке написанно?
Неудачи проекта объясняются сочетанием целого ряда объективных и субъективных факторов:
…
— ошибочный выбор языков типа Лисп и Пролог для создания базы знаний и манипулирования данными. В 1980-е годы эти системы программирования пользовались популярностью для САПР и экспертных систем, однако эксплуатация показала, что приложения оказываются малонадёжными и плохо отлаживаемыми по сравнению с системами, разработанными обычными технологиями, отчего от этих идей пришлось отказаться. Кроме того, трудность вызвала реализация «параллельного Пролога», которая так и не была успешно решена.
gban
09.11.2018 11:25-3Тут у людей на 32 ядрах мышка не двигается и почта не ходит, а с миллионом они вообще просто воздух греют
MaxxONE
09.11.2018 12:13А в оригинале речь о человеческом мозге? По количеству нейронов модель соответствует мозгу птицы, наподобие сороки или больших попугаев, если верить Википедии.
P.S. правда, в статье о мозге человека на Вики упоминается цифра в 100 млрд. нейронов для человека. А в списке животных по количеству нейронов у человека всего лишь 16 млрд. И оба факта подтверждаются пруфами…
dubakov
09.11.2018 12:47Большой процент мозга тратится на функции обеспечения жизнедеятельности тела, а не на интеллектуальные задачи. Так что может и 1% хватить.
MasteR_GeliOS
09.11.2018 13:46Интересно как в будущем, подводя процент моделирования человеческого мозга все ближе к 100%, будут смотреть на проблему отсутствия у суперкомпьютера человеческого тела и исходящие из этого уже психологические различия.
Static_electro
09.11.2018 15:27Тут в комментариях, шутя, упоминают скайнет, а стоило бы — Crystal Society
Там как раз тельце добавили из похожих соображений.
javamain
09.11.2018 16:28Ну да, ИИ, еще бы к нему базу данных прикрутить нормальную… А то вся мощность будет простаивать из-за выборки из БД. Собственно финишь… Лучше бы рассказали как к ИИ прикручивается БД с разно-сложной информацией. А то Обработка информации с камер — не очень интересная история. Про это уже писали.
Mad__Max
10.11.2018 02:28БД для настоящего нейроморфного ИИ нужны в основно для обучения — подойдут и любые обычные.
Все «усвоенные» (изученные) данные у нейронных хранятся в самой структуре сети, а не в каком-то отдельном выделенном хранилище, доступ к которому обязательно стал бы узким местом.
В этом плане у НС вообще нет жесткого разделения на собственно программу (алгоритмы) и данные. И то и другое смешано и распределяется по всей структуре.
buzzi888
09.11.2018 18:05-1Как помню, проекты железногомозга так все и заканчивались ничем. Вспоминаются моделирование червя и ярды в никуда на проект human brain project.
Что в этом проекте такого инновационного, кроме «еще больше ядер»?Mad__Max
10.11.2018 02:29Червя таки смоделировали.
А этот проект — это и есть одна из нескольких составных часть проекта human brain project, который якобы ушел в никуда.buzzi888
10.11.2018 06:35Все успехи проекта — сайт сделали и червяка в 3д нарисовали. Там уже пару лет как нет новостей и вообще какой-то активности.
А с этим миллионом ядер еще печальнее будет. Когда речь идет про human brain, то это значит, что все закончится срачем и скандалом.
uhf
10.11.2018 07:19-1Недостаточно наклепать много искусственных нейронов — нужно соединить их нужным образом, задать веса всех связей. Т.е. вложить в железо данные и алгоритмы. И вот этого как раз нет, и особо не предвидится. Надеяться на возможности обучения, как сейчас обучают искусственные нейросети распознавать котиков? Для этого понадобится громадный датасет, и вообще очень сомнительная затея.
buzzi888
10.11.2018 18:40-1Бессмысленный и беспощадный миллион ядер. Древняя архитектура на мобильных процах, отсутствие задачи(вообще. полное. от слова..) и участие в мегамутном проджекте — успех гарантирован.
ИИ прям ждет не дождется заселения в это нейроморфное чудо из говна и палок. Даже обидно за нейроночку
Mad__Max
10.11.2018 23:22+1Один из других подпроектов human brain project, в котором якобы «деньги уходят в никуда» занимается как раз этим — изучает живые мозги (пока мышек), включая сканирование и «оцифровку» связей с рекордным разрешением. Запуск моделей на полученных связей (а модели в будущем будет в т.к. на описанном в этой статье компе крутиться), сравнение полученной картины работы нейросети (например реакция на электрические импульсы) с таковой реакций в живых мозгах.
А вообще их таких подпроектов целых 10
— в одном строят такие вот нейроморфные компьютеры
— в другом занимаются моделированием на традионных компьютерах
— еще одном изучают живые мозги и разрабатывают способы «считывания» информации с них
— еще в одном пилят специализированное ПО
— в другом занимаются изучением, систематизацией и обобщением всех исследований работы мозга ведущихся по всему миру другими учеными не входящими в проект
и так далее
buzzi888
10.11.2018 20:50-2Есть данные о производительности этого поделия? Что-то мне подсказывает, что штук 10 карточек gpu или tpu обгонят это чудо на мобильных процессорах, а лет через пять — любой тостер.
И как может придти в голову ученым использовать процы общего назначения? Из всей этой коробочки нужно всего с десяток операций, а не все полтыщи. Для спайков же не нужна магия arm?
В 2018 ожидаешь движений в сторону tpu и asic всяких, а тут британские ученые мобильным процессором в матрицы блеать. Заведи они акк где-нибудь в облаках и сотня инстансов tpu выдадут те же флопсы.
buzzi888
10.11.2018 21:25-2Если посчитать, a9 352 — 655 MFlops/core. Пусть будет 1 гигафлопс. Миллион ядер = 1 петафлопс.
64 TFLOPs — NVIDIA Tesla T4 GPU
180 TFLOPs — tpu 3 gen
Итого, вместо миллиона говноядер можно был взять пять карточек tpu или 15 карточек gpu, или 60 штук геймерских nvidia 2080. Стоит это всё $50 тыс. БггChaos_Optima
11.11.2018 03:31что штук 10 карточек gpu или tpu обгонят это чудо на мобильных процессорах
Ну если вы найдёте 10 карточек которые в сумме будут давать 7 терабайт оперативной памяти + 96 гигов быстрой кэш памяти, и с шириной шины в 5 миллиардов пакетов (пакеты 40 — 72 бита). То да наверно карточки смогут работать быстрее.
Проблема не в скорости вычислений, самое проблемное место в таких проектах это память и передача информации. пруф по числам тут apt.cs.manchester.ac.uk/projects/SpiNNaker/architecturebuzzi888
11.11.2018 06:05Что-то я смотрю по arm a9 и вижу 1600 MB/s. А это точно суперкомп, а не sd-карта? Это примерно в 2000 раз медленнее tpu.
Cloud TPU v3 Beta
420 teraflops
128 GB HBM 2.4TB/sec
7 терабайт = всего лишь 50 таких карточек, а не млн недоядер
При этом вы получаете какую надо память(HBM), а не это чудо прошлого века.
Ну а то, что всего 2 карточки выдают столько же флопсов — это фейл для вот этой херни, что нагородили британские ученые. За $15 млн можно было арендовать железо на 100 лет или просто купить за $50тыс полсотни геймерских карт(с такой же охренительной памятью).
Cast_iron
Первые 2 слова в названии как демотиватор.
achekalin
Да, заставили критически отнестись к остальному.
Heian
Но без ошеломительных открытий британских ученых вы никогда не смогли бы приготовить идеальный сэндвич с беконом! А это, согласитесь, многого стоит.
Kain_Haart
Последние 2 тоже «желтоваты», раз уж моделируется всего 1млрд нейронов. Не лучше ли в заголовке так и указать: «1% человеческого мозга»
DelphiCowboy
Для мотивации нужно было, как любит знакомый ватник, написать «святые старцы»?
buzzi888
на мове пишите, не стесняйтесь. еще можно кастрюлю на голову и скакать. в этой помойке теперь можно всё
Stan_1
Так может они мозг британских ученых моделируют. Это легче технически…
Alex_Q
Почему это легче технически?
Fly3110
Нейронов меньше.
Alex_Q
Есть результаты исследований, доказывающих это?
4410
Доказывающих отсутствие у вас чувства юмора?
Alex_Q
К счастью, под мои критерии юмора не подпадают жалкие потуги унижать людей по национальному признаку. Тем более, что, по моему мнению, качество научной работы и высшего образования там на данный момент выше, чем в современной России.
С уважением, выпускник the University of Edinburgh.
4410
Шутка, даже если она несмешная или неуместная, это всего лишь шутка. Хорошего вам дня.
YemSalat
"Британские ученые" — это мем, расслабьтесь.
SanekPlus
Он не умеет.
0o0
/шёпотом/ возможно, он наполовину учёный ...