Как массивное распараллеливание возвышает эффективность мозга над возможностями ИИ
Мозг – устройство сложное; у людей он содержит порядка 100 млрд нейронов и около 100 триллионов соединений между ними. Его часто сравнивают с другой сложной системой с огромными возможностями решения задач: цифровым компьютером. В мозге и компьютере содержится большое количество элементарных единиц – нейронов или транзисторов, соответственно – подключенных к сложным схемам, обрабатывающим информацию, передаваемую электрическими сигналами. На глобальном уровне архитектуры мозга и компьютера немного похожи, поскольку состоят из практически отдельных контуров для ввода, вывода, центральной обработки, и памяти.
Кто лучше справляется с решением проблем – мозг или компьютер? Учитывая быстрое развитие компьютерных технологий в последние десятилетия, можно решить, что побеждает компьютер. И действительно, компьютеры разрабатывают и программируют с целью победы над человеческими мастерами в сложных играх, таких, как шахматы в 1990-х, и го, совсем недавно – а также в конкурсах на энциклопедические знания, таких, как телевикторина "Jeopardy!" Но пока что люди побеждают компьютеры во множестве задач, связанных с реальным миром – от способности различить на дороге велосипедиста или пешехода до поднятия со стола чашки с чаем и аккуратного перемещения её ко рту – не говоря уже о концептуализации и творчестве.
Почему же компьютер хорошо справляется с определёнными задачами, а мозг – с другими? Сравнения компьютера с мозгом помогали инженерам и нейробиологам разбираться в этом вопросе. Следующее сравнение было проведено на заре современной эры компьютеров, в небольшой, но влиятельной книге «Компьютер и мозг» [The Computer and the Brain] Джона фон Неймана, специалиста во многих областях науки, в 1940-х первым разработавшего схему компьютерной архитектуры, до сих пор служащую основой современных компьютеров. Давайте посмотрим на числа в этих сравнениях.
| Свойства | Компьютер | Мозг |
|---|---|---|
| Количество элементарных элементов | До 10 млрд транзисторов | ? 100 млрд нейронов и 100 трлн синапсов |
| Скорость базовых операций | 10 млрд/сек | < 1000 / сек |
| Точность | 1 на 4,2 млрд (у 32-битного процессора) | 1 к 100 |
| Энергопотребление | 100 Вт | 10 Вт |
| Метод обработки информации | В основном последовательный | Последовательный и массивно параллельный |
| Количество входов и выходов у каждого элемента | 1-3 | ? 1000 |
| Режим работы | Цифровой | Цифровой и аналоговый |
У компьютера есть огромные преимущества над мозгом в скорости базовых операций 1. Сегодня персональные компьютеры способны выполнять такие элементарные арифметические операции, как сложение, со скоростью в 10 млрд операций в секунду. Скорость элементарных операций мозга мы можем оценить по элементарным процессам, при помощи которых нейроны передают информацию и общаются друг с другом. К примеру, нейроны активируют потенциалы действия – всплески электрических сигналов, запускающихся поблизости от клетки нейрона, и передающихся по его длинным ответвлениям, аксонам, связывающих его со следующими нейронами. Информация кодируется в частоте и времени начала этих всплесков. Максимальная частота активации нейрона составляет порядка 1000 всплесков в секунду. В другом примере нейроны передают информацию связанным с ними партнёрским нейронам, испуская химические нейромедиаторы в специальных структурах на концах аксонов, синапсах, а партнёрские нейроны превращают присоединение нейромедиаторов обратно в электрические сигналы, и этот процесс называют синаптической передачей. Самая быстрая синаптическая передача происходит за 1 мс. Поэтому, путём всплесков и синаптических передач, мозг способен выполнять максимум тысячу базовых операций в секунду, что в 10 млн раз медленнее компьютера. Предполагается, что арифметические операции должны преобразовывать ввод в вывод, поэтому скорость работы ограничена базовыми операциями коммуникаций нейронов, таких, как потенциалы действия и синаптическая передача. Но у этих ограничений бывают исключения. К примеру, нейроны с электрическими синапсами (связями между нейронами, не использующие химических нейромедиаторов) не выдающие всплески, в принципе способны передавать информацию быстрее, чем за миллисекунду; также на это способны события в дендритах, происходящие локально.
У компьютера также есть серьёзные преимущества перед мозгом в точности базовых операций. Компьютер способен представлять числа с любой нужной точностью при помощи битов, нулей и единиц, назначенных каждому числу. К примеру, 32-битное число имеет точность 1 к 232, или 4,2 млрд. Эмпирические свидетельства говорят о том, что большая часть чисел в нервной системе (к примеру, частота активации нейронов, которую часто используют как оценку интенсивности стимула) колеблется на величину в несколько процентов из-за биологического шума, то есть точность, в лучшем случае, равняется 1 к 100, что в миллионы раз хуже, чем у компьютера. Кстати, шум может служить индикатором того, что многие нервные процессы являются по сути вероятностными. Одни и те же стимулы могут вызывать разные последовательности всплесков электрической активности нейронов.
Однако подсчёты, осуществляемые мозгом, нельзя назвать медленными или неточными. К примеру, профессиональный теннисист может следить за траекторией мяча, летящего со скоростью до 260 км/ч, переместиться на оптимальное место на корте, поставить руку в нужную позицию и махнуть ракеткой, возвращая мяч на половину соперника – и всё это за несколько сотен миллисекунд. Более того, мозг способен на все эти задачи (с помощью тела, которое он контролирует), потребляя в десять раз меньше энергии, чем персональный компьютер. Как мозгу это удаётся? Важное отличие между компьютером и мозгом – это режим, в котором каждая из этих систем обрабатывает информацию. Компьютер выполняет задачи по большей части по последовательным шагам. Это можно видеть по тому, как программисты пишут код, создавая поток последовательных инструкций. Для каждого шага этой последовательности требуется высокая точность, поскольку ошибки накапливаются и усиливаются на каждом шаге. Мозг также использует последовательные шаги при обработке информации. В примере с теннисом информация переходит от глаз к мозгу, а затем в спинной мозг для управления сокращениями мускулов ног, туловища, руки и запястья.
Но мозг также использует и массивную параллельную обработку данных, пользуясь преимуществом в виде огромного количества нейронов и связей между ними. К примеру, движущийся теннисный мяч активирует множество клеток сетчатки, фоторецепторов, которые преобразовывают свет в электрические сигналы. Эти сигналы передаются множеству различных типов нейронов сетчатки. К тому времени, когда сигналы фоторецепторов пройдут через два-три синаптических соединения в сетчатке, информация о положении, направлении и скорости мяча уже извлечена параллельными нейронными контурами, и передана мозгу. Точно так же двигательная кора (часть коры мозга, отвечающая за сознательную моторику) параллельно отправляет команды для контроля сокращения мускулов ног, туловища, рук и запястья, так, что тело и руки одновременно занимают нужно положение, оптимальное для приёма мяча.
Эта массивно параллельная стратегия работает, поскольку каждый нейрон собирает входные данные и отправляет выходные множеству других нейронов – в среднем для млекопитающих по 1000 входящих и исходящих связей у каждого нейрона. А у каждого транзистора в сумме есть только три узла для входа и выхода. Информация от одного нейрона может идти по множеству параллельных путей. И в то же время, множество нейронов, обрабатывающих информацию, могут соединить свои выходные данные, направив их одному последующему нейрону. Это свойство особенно полезно для увеличения точности обработки информации. К примеру, информация, представленная единственным нейроном, может содержать шум (то есть, её точность порядка 1 к 100). Воспринимая входные данные от 100 нейронов, обрабатывающих одинаковую информацию, следующий по очереди нейрон уже может представлять информацию с более высокой точностью (в данном случае, 1 к 1000). Допустим, среднеквадратичное отклонение ?сред для каждой единицы входных данных примерно соответствует шуму. Для среднего количества независимых входов n ожидаемое отклонение средних ?сред = ? / v n. В нашем примере ? = 0,01, а n = 100, поэтому ?сред = 0,001.
У компьютера и мозга есть сходства и различия также в представлении их элементарных единиц. Транзистор использует цифровое представление информации с дискретными значениями (0 или 1). Всплеск аксонов – это тоже цифровой сигнал, поскольку нейрон в каждый момент времени либо активируется, либо не активируется, а когда он активируется, почти у всех всплесков оказываются примерно одинаковые величина и форма. Это свойство позволяет надёжно передавать всплески на большие расстояния. Однако нейроны также используют возможности аналоговых сигналов, представляющих информацию при помощи непрерывных значений. Некоторые нейроны (большинство нейронов сетчатки) не дают всплески, и их выходная информация передаётся ступенчатыми электрическими сигналами (которые, в отличие от всплесков, могут варьироваться по величине), которые способны передавать больше информации, чем всплески. Принимающий конец нейрона (обычно находится в дендритах) также использует аналоговые сигналы для интегрирования до тысячи входных сигналов одновременно, что позволяет дендритам выполнять сложные вычисления.
Ещё одно заметное свойство мозга, которое явно задействовано в примере с игрой в теннис, заключается в том, что силу связей между нейронами можно изменять в результате действий и опыта – этот процесс, как считается нейробиологами, является основой обучения и запоминания. Повторяющиеся тренировки позволяют нейронным контурам лучше настраиваться под выполнение задач, что серьёзно увеличивает скорость и точность.
За последние десятилетия инженеры вдохновлялись мозгом, чтобы улучшать компьютеры. Принципы параллельной обработки и модификации весов связей, зависящие от использования, включены в современные компьютеры. К примеру, в разработке компьютеров современной тенденцией служит увеличение параллелизма, например, использование нескольких процессоров (ядер) в одном компьютере. Ещё один пример — глубинное обучение, наука о машинном обучении и искусственном интеллекте, достигшая огромных успехов в последние годы, и отвечающая за быстрый прогресс в распознавании объектов и речи у компьютеров и мобильных устройств, было вдохновлено открытиями, связанными со зрительной системой млекопитающих. 2
Глубинное обучение, подражая зрительной системе млекопитающих, использует несколько слоёв, каждый из которых представляет всё более абстрактные свойства объекта (визуального или речевого), а веса связей между различными слоями подстраиваются при помощи обучения, а не за счёт инженерных усилий. Эти недавние подвижки расширили список задач, подвластных компьютерам. И всё же у мозга остаётся превосходящая компьютеры гибкость, обобщаемость и способность к обучению. По мере того, как нейробиологи будут открывать всё больше секретов мозга (чему помогает всё более активное использование компьютеров), инженеры смогут брать больше примеров для вдохновения у мозга, чтобы и дальше совершенствовать архитектуру и быстродействие компьютеров. Кто бы ни оказался победителем в выполнении конкретной задачи, это взаимное междисциплинарное оплодотворение несомненно продвинет как нейробиологию, так и вычислительную технику.
1. Patterson, D.A. & Hennessy, J.L. Computer Organization and Design (Elsevier, Amsterdam, 2012), 4th ed.
2. LeCun, Y. Bengio, Y., & Hinton, G. Deep learning. Nature 521, 436–444 (2015).
Ликан Люо – профессор Школы гуманитарных и точных наук, а также профессор нейробиологии в Стэнфордском университете.
Sdima1357
Заинтересовался, а где у компьютера рот?
Интересно что примерно с конца 70-х, когда я начал программировать на БЭСМ-6, все говорили — ну еще 10 лет и компьютеры догонят человека. Ждем-с…
wasign
Там же не написано «к своему рту», просто «ко рту» — значит речь может идти не о рте компьютера, а о произвольном )
Sdima1357
К произвольному рту, как правило, в комплекте идут руки с головой.И компьютер в данном случае — совсем лишняя деталь.
ApeCoder
Можно пруф, как мне кажется, к большинству ртов присобачена какая-нибудь головогрудь или кольчатое тело :)
Sdima1357
Вы предлагаете поить их чаем из чашки, с помощью компьютера?
ApeCoder
Да! И снять об этом фильм.
Вообще чаем из чашки при помощи компьютера я предлагаю поить тех, у кого руки не действуют, например. Какого-нибудь Стивена Хоккинга, мир его праху.
Popadanec
Это был сферический рот в вакууме, а вы не поняли.
tvr
Чеширский?
Popadanec
Метафорический.
anprs
У обладателя произвольного рта может быть паралич конечностей или деменция с
выраженной утратой практических навыков.
И и пока робот такому обладателю рта сиделку заменить не может (см. ниже пост mbait)
Alexeyslav
Не всегда. Есть ещё люди на планете по тем или иным причинам лишившиеся конечностей.
mbait
Fracta1L
Кошмар будущих поколений: робонянечка в детском саду…
mxuser
Надеюсь, что, все-таки, не о произвольном, а заранее заданном). Ох уж эта фантазия…
VnNort
Или рту людей, которые в силу физичес4их ограничений не могу кормить себя самостоятельно
khim
Курцвейл, который это всё оценивал (а не просто «чуйкой» прикидывал) говорил о 2030х-2040х ещё в конце прошлого века. При этом он ещё и «вешек» понаставил разных на промежуточные события, чтобы можно было оценивать как мы к этой точке движемся. Почти все вещи, которые должны были случиться между 1990м и 2010м таки произошли — правда кое-что пораньше, кое-что — попозже…
khim
Первая точка — это когда компьютеры будут обладать достаточной мощностью, чтобы решать все задачи, которые, в принципе, может решать человеческий мозг. Но это, само по себе ничего не гарантирует. CGA может весьма цветную графику, но чтобы реально запрограммировать это потребовались десятилетия!
Вторая точка — это когда компьютеры смогут достаточно достоверно эмулировать человека. После этого уже неважно — какие хитрые приёмы нужны природе, чтобы мозг стал так эффективно работать: вы можете запустить любую игру NES на эмуляторе — и вам совершенно не нужно для этого знать какие хитрые приёмы применяли разработчики… с человеческим мозгом — та же история…
ChePeter
По теореме Гёделя о неполноте и согласно тезису Чёрча у дискретных компьютеров шансов нет.
В переборе, в решении перечислимых задач только могут победить. Типа шахмат, шашек, го и т.д.
Sdima1357
У человека, согласно тем же посылкам, тоже нет шансов. Если конечно не предполагать наличия божественной души.
demimurych
В Го выиграли у человека не перебирая решения. Даже если объединить все существующие вычислительные мощности на земле их не хватит для того чтобы играть в Го методом перебора.
nezlobnyj
Вот только недавно посмотрел документалку об этой игре (кстати, не понравилась) и после почитал немного.
Я не изучаю и не обучаю никакие ИИ на данный момент, равно как и нейробиологом не являюсь, поэтому поправьте если неправ, но мне кажется, что большую роль сыграла возможность просчитывать варианты на 50-60 ходов вперёд. Почему-то мне кажется что Ли Седол не мог такое осилить и ограничился цифрой в 2-3 раза меньше и интуицией (опыт был у обоих, поэтому его опускаю).
То есть мне тяжело было восхищаться тем, что ИИ обыграл человека, т.к. этот ИИ есть кластер из Х серверов с пространством вариантов и решений намного превышающим по размеру то, что может удержать человеческий мозг ввиду «архитектуры».
А то, что ИИ вдруг делал непредсказуемые ходы мне кажется было просто результатом недостатка обучения или неудовлетворительной оценки шансов на выигрыш в рамках глубины просчёта.
Парни, что его спроектировали, тем не менее молодцы.
sumanai
Странно, ведь AlfaGo уверенно выигрывал, и опыта у него было в сотню тысяч раз больше человеческого.
khim
Точно. А то, что эти ходы использует в своих матчах Кэ Цзе — это просто показатель того, что молодой он, неопытный.
nezlobnyj
Сарказм уместен если общение проходит на тему, которая одинаково понятна обоим собеседникам. Я поделился мнением и уточнил что от ИИ далёк. Посему сарказм, хоть и вполне безобидный, не совсем уместен.
За ссылку спасибо, интересно. Правда 4TPU это уже какой-то непростой компьютер (допускаю, что я неправильно выразился изначально, говоря о кластере).
Про «непредсказуемые ходы» — почти цитата из документалки, сами разработчики сидели изумлялись (могу найти таймкод). Тогда выходит они ошибались (для большего драматизма) и ходы были выбраны не «интуитивно».
khim
Да нет — всё проще: как новичку с опытом игры в шахматы в полгода сложно оценить игру гроссместера, так и нам всем, мешкам с костями, сложно оценить игру Alpha Go. После анонимного матча где AlphaGo выиграла все партии против практически всех чемпионов (разных годов и стран) это стало достаточно очевидно (единственная ничья там случилась из-за технического сбоя, так-то в Го ничьей не бывает).
Но более интересная вещь — это не AlphaGo, а шахматная версия AlphaZero. То, что она «вынесла» Stockfish (неоднократный чемпион мира среди шахматных программ) — это даже не самое главное (шахматные программы уже давно обыгрывают чемпионов, это не новость). Главное — что она буквально очаровала всю шахматную общественнось: позиционная, яркая, реально красивая игра — до Alpha Zero компьютеры так не умели.
Там, правда, много мелких нареканий по форме (это был ни разу не оффициальный турнир, а просто статья в журнал, так что над тюнингом обоих систем особо никто не работал… в частности оказалось что разработчики Stockfish представить себе не могли что кто-то будет её пускать на системе с 64 процессорными ядрами), так что шахматная ощественность ждёт чего-то более официального… но, с другой стороны, большинство доводов — почти дословно повторяют критику посла «внутреннего» матча между AlphaGo и Фань Хуэем, так что тут скорее вопрос не о том «есть у нас новый шахматный чемпион», а скорее «так ли крут этот чемпион как его малюют» (в матче со StockFish'ем внутри Гугла AlphaZero ни разу не проиграла и интрига заключается примерно в этом: смогут ли «традиционные» движки вырвать хоть одну победу).
nezlobnyj
Спасибо, очень познавательно. Плюсанул бы, да не могу пока.
fivehouse
Почитайте что нибудь про теорему Гёделя. И теперь ответте на вопрос: Что такое «исчисление предикатов первого порядка» и какое отношение это имеет к ИИ? Ну и у школьника умеющего программировать спросите, как от дискретного перейти к почти непрерывному (когда шум дискретности на многие порядки ниже имеющегося в реальности шума).
sved
Теорема Гёделя не говорит ничего о шансах дискретных компьютеров. Она оперирует чисто абстрактными понятиями без привязки к «естественному» или «искусственному» интеллекту.
Задача же ИИ же гораздо проще: не решить любую абстрактно сформулированную задачу (что невозможно, возьмите парадокс всемогущества, к примеру). Задача ИИ — решить задачи решаемые человеком
Femistoklov
Как уже подметили, теорема Гёделя — она про «божественность», а не про ИИ. И причём здесь вообще тезис Чёрча?
sved
Очень странно видеть от профессора столько неточностей, что лишний раз подтверждает без работы в индустрии представление о жизни становятся оторванными от реальности.
Во первых, после передачи сигнала нейрон должен отдыхать 200 ms, так что реальная производительность нейрона — 5 операций в секунду.
Во-вторых, непонятно почему считаются только транзисторы. Ведь вполне можно считать и конденсаторы в оперативной памяти.
В-третьих представление об процессоре как о последовательном устройстве устарело лет на 20 как минимум, не говоря уж о таких вещах как видеокарты, которые используются в том числе и в задачах ИИ
Alexeyslav
Видеокарты тоже последовательны. Только последовательных цепочек больше одной, что создаёт видимость параллельности, но всеравно там слишком много узких мест — общая шина и общее ОЗУ которое не может быть распараллелено. Какой-то эффект от такой параллельности всё же получается, но отнюдь не кратный и сильно зависящий от способа задания решения — не все задачи вообще в принципе можно распараллелить.
Подумайте… есть видеокарты, а есть отдельные мат.сопроцессоры, которые построены по такой же архитектуре но гораздо эффективней видеокарт именно в вычислениях.
Для ИИ нужна вовсе не видеокарта, а нечто её напоминающее только заточенное под реализацию ИИ гораздо более параллельное чем всё что ныне существует, возможно для этого понадобится делать чипы по технологии 7нм и толщиной в 1000+ слоёв.
RomanArzumanyan
Иерархия памяти у GPU сложнее, чем у CPU. Есть не только кэш и RAM, но и участки локальной памяти на кристалле, разделяемые кластерами потоковых процессоров. DMA Engine'ы тоже устроены нетривиально, и могут выполнять многие операции без участия потоковых процессоров (например, фильтрацию, транспонирование, ресэмплинг и т. п.)
Оч. много научных работ на тему параллельного доступа к памяти со стороны множества центральных процессоров. Эту тему развивают годов с 70х, как появились векторные процессоры. Параллельный доступ к памяти — это вообще хлеб и соль НРС.
Frankenstine
Речь об активных элементах. Оперативная память, как правило, недоступна процессору напрямую, данные из неё для обработки загружаются в регистры и выгружаются обратно. Как организована память у человека в точности не известно, но полагается считать её распределённой по связям между нейронами. То есть не существует (вероятно) отдельных нейронов памяти и нейронов «действия», или других каких-то клеток памяти. Поэтому конденсаторы оперативки не учитываются в данном сравнении, так же как транзисторы, скажем, северного моста или звуковой карты.
dimchik_b
Судя по инерционности зрения, нейрон отдыхает несколько быстрее. Да и просто считать я могу с какой-то такой же скоростью.
DagothNik
На стороне Природы играет время. На создание человеческого мозга ушли несколько сотен млн лет. Ну и перебор огромного количество вариантов в процессе эволюции и конкуренция этих вариантов между собой. Всё просто — ты либо эффективный, либо мёртвый. На стороне человека же только то, что он работает в конкретном направлении, а не тыкается в случайных, как эволюция. По этому появление компьютеров, эффективнее человеческого мозга — вопрос времени.
Wizard_of_light
Я бы сказал, что не только время, но и экологическая (или уже правильнее говорить технологическая) ниша. Компьютеры развивались именно как дополнение к человеку и прикрывают его слабые места — неумение быстро и точно считать и проводить логические операции. И современный перекос в их развитии логичен — любое повышение характеристик в целевой области (то есть там, где человек пасовал) давало мгновенный выигрыш, а в «областях силы» прогресс тормозился как раз суперэффективностью человека. Старый перцептрон распознаёт 1% объектов, новый перцептрон 1,5%, а человек распознаёт 99,999% — и всё, перцептроны-малоперспективная область, специалисты уходят, денег не дают. Старый автопереводчик переводит слова, новый фразы, а человек синтаксические структуры и фразеологизмы, и может дополнить по аналогии и ещё скорректировать ошибки в оригинале — машинный перевод тоже в топку до лучших времен. После общения с чат-ботом только у 20% людей складывается мнение, что они общались с человеком? Да ну, этим никого не обманешь. Поэтому компьютеры в традиционно считающиеся человеческими области деятельности заползают сильно со стороны и с костылями.
uvelichitel
Если сравнивать вычислительную мощность подсчитывая элементы (вообще любые счетные метрики), то победа очевидно будет за компьютером. Компьютер постоянно и быстро усложняется и теоретического предела нет, а мозг не очень совершенствуется/эволюционирует. Самообучение мозга ограничено по времени пределами человеческой жизни, у компьютера такого ограничения нет. Компьютеры способны к эффективным распределенным вычислениям, уже сегодня можно выделить в облаках вычислительную мощность превосходящую мозг по любым счетным параметрам, метрикам.
Sdima1357
Проскакивала версия, что живые нейроны реализуют квантовый компьютер. Если это правда, то компьютеры отстают на очень много порядков. К примеру все сегодняшние компьютеры, вместе взятые будут медленнее одного на 256 кубитов.
Frankenstine
Чушь. Квантовые вычисления способны дать прирост быстродействия только в весьма небольшом классе задач, хорошо распараллеливающихся. Алгоритмов таких вычислений на сегодняшний день разработано вообще всего парочка. И в традиционных вычислениях квантовые компьютеры вообще бесполезны. Они никогда не заменят полностью традиционные компьютеры во всех сферах.
Sdima1357
мы просто пока не умеем их готовить. Дайте мне машину способную в один такт найти одно оптимальное решение из 2^256 вариантов и большинство реальных задач легко переформулируются в параллельные. просто в сегодняшних алгоритмах вариант рапараллеливария на 2^256 сразу отбрасывается как нереальный
Frankenstine
С точностью до наоборот — довольно немного реальных задач распараллеливается.
Дайте, например, квантовый алгоритм вычисления энного знака числа пи.
Sdima1357
Он Вам нужен? И для какой практической задачи? Мне ни разу не понадобился за 30+ лет практического программирования.Большинство реальных задач — именно задачи перебора с некоей несложной оценочной функцией. Если перебор параллельный, без ограничения размерности, то все задачи оптимизации сводятся к нему.
Frankenstine
Смотрите работы Ozhigov Y.I. «Quantum computers speed up classical with probability zero» и «Lower bounds of a quantum search for an extreme point» где сравниваются теоретические возможности скорости работы квантовых систем с произвольными функциями.
Проблема лишь в том, что к квантовому описанию 1) сводимы довольно небольшие реальные задачи 2) перенастройка квантового компьютера на решение другой задачи требует работы математиков и программистов, это совсем не универсальное устройство, и 3) есть технические трудности в фактической реализации, см. habr.com/post/410777Между прочим, решение квантовых уравнений для системы 2^256 не такая уж неразрешимая для классических компьютеров задача, просто памяти не хватит :)
Я думаю, что квантовых компьютеров никогда не будет. Будут традиционные компьютеры с квантовым сопроцессором для тех немногих случаев, когда он нужен.
Sdima1357
Вы немного отклонились. Начальная посылка была что допустим они уже существуют:
habr.com/post/416435/#comment_18860421
И это не моя идея,cмотрите например здесь:
hi-news.ru/research-development/uchenye-xotyat-vyyasnit-yavlyaemsya-li-my-kvantovymi-kompyuterami.html
Как именно мозг мапирует на него задачи, никто не знает. Просто если это так, то совсем неочевидно, что можно заменить симуляцией на классических компьютерах и реальном времени.
Frankenstine
Разумеется, в мозгу происходят квантовые явления. Однако, к квантовым вычислениям они, по видимому, не имеют никакого отношения. Потому что нейроны не являются объектами с квантовыми свойствами. И искусственные нейронные сети со всей убедительностью доказывают, что квантовые эффекты не играют существенной роли в работе мозга.
См. так же ru.wikipedia.org/wiki/Квантовое_сознание
Akon32
Для некоторых систем счисления есть обычный, неквантовый алгоритм. Так ли нужно искать квантовый?
Orcus13
Ну это зависит от того как считать.
Отсюда: www.fhi.ox.ac.uk/brain-emulation-roadmap-report.pdf
alexeykuzmin0
По большей части из этих оценок получается, что обогнали уже. Одна стойка (pod, не уверен, как перевести) Dragonfish TPU выдает до 10^17 операций в секунду.
phenik
В таблице сравнения компьютера и мозга написано мощность потребляемая мозгом 10 вт, обычно в состоянии бодрствования указывается цифра раза в два больше. Раз речь зашла о сравнении энергопотребления, то скопировал свой коммент, более уместный в этой статье, и связанный с утверждением, что мозг составляя всего 2% массы нашего тела потребляет 20% энергоресурсов. Параллелей в сравнении с энергопотреблением процессорами больше, чем кажется на первый взгляд.
«Речь идет об энергозатратах, может и больше 20% потреблять. Но дело не в этом, если эта деятельность полезна, то организм будет предоставлять энергии мозгу столько, сколько нужно. С физической нагрузкой также, если вы бежите ото льва, который желает вас отобедать, то организм выделит на мышечную работу столько энергии, сколько сможет. Проблема возникает в другом — в теплоотводе и удалении продуктов метаболизма. Если использовать компьютерную терминологию, то нет проблем с ростом производительности процессоров и их загрузкой, они будет выдавать такую производительность, кот. требует выполняемая задача. Есть проблема с теплоотводом, которая ограничивает его производительность. Аналогию можно продолжить, мозг отключается при перегреве, это называется тепловым ударом, с процессором происходит нечто похожее — троттлинг, пропускаются циклы. Можно считать это своеобразными «тепловыми микроударами» процессора. Таким образом, ближайшая цель не экономия энергии ради ее экономии, а минимизация ущерба от ее использования, а для организма — деструктивных последствий.»
9660
Так тротлинг это защита не допускающая перегрев, а не последствия оного. Что-то вроде обмахивания головы веером.
phenik
9660
Порядок разный. Один не работает получив тепловой удар.
Другой на работу не вышел со словами — да ну нафик там жара такая.
Итог один — работа не сделана.
Но одному херово и может плохо закончиться.
Другой просто бездельничал. Не пострадав совсем.
phenik
Оценил))
sumanai
Троттлинг был не всегда, раньше процессор мог перегреться и выйти из строя, как минимум временно.
sshmakov
На текущий момент компьютеры можно считать способом моделирования мозга, и довольно примитивным. Разумеется, для полного воссоздания работы мозга нам понадобится параллельная архитектура. И эту архитектуру мы скорее всего можем сделать прямо сейчас, все технологии изготовления у нас есть, но мы ещё не знаем, как именно она должна работать, поэтому симулируем ее на той технике, что имеем, и постепенно приближаемся, я надеюсь, к пониманию.
А в конце либо мы сможем понять человеческий мозг и создать мозг искусственный, либо придем к выводу, что без души это технически невозможно. Загадывать пока рано.
Frankenstine
Нет таких технологий. Не существует транзисторов с тысячей эмиттеров, никто даже не пытался такие делать из-за бесполезности в практическом смысле: непонятно, как сделать функционирующее устройство на 100 миллиардов таких транзисторов, его архитектура просто выходит за рамки возможностей инженеров-конструкторов.
Проект Human Brain Project за пять лет фактически не ушёл дальше прототипирования.
sshmakov
Я согласен с первой частью фразы:
и не согласен со второй:
Действительно, вкладываться в разработку устройства, повторяющего архитектуру мозга на нынешнем этапе нашего понимания, именно с практической точки зрения сейчас бессмысленно — мы же не знаем, как он должен работать. Все равно, что тратить время на постройку самолетов из пальм и соломы — внешне похоже, а не летает.
Со второй частью я не согласен по той же причине — мы не знаем, так ли необходимы для реализации мозга 100 миллиардов транзисторов с тысячами эмиттеров. Может да, а может нет. Лично мне представляется, что инженеры-конструкторы придумают, как сделать нужную архитектуру, как только у нас будет ясное представление о ней, и будет понятно, каких результатов от нее ждать. Ну будет не 1000 эмиттеров на одном транзисторе, а 111 по 10 в каскадах (хотя почему нет, существует же 2П828А). Или это будет вообще не полупроводниковая техника, а фотонная.
Frankenstine
Дык вы уж определитесь — либо
либо
А то у вас получается, что как работает мозг не знаем, а как сделать его аналог — знаем. Всё равно что пытаться сделать электронный калькулятор, не зная как он работает, чисто по внешнему виду и реакции на кнопочки. «Инженеры что-то придумают», ага.
Вообще фейспалм. Во-первых такой техники нет и пока не предвидится. Никто не говорит за фотонные вычисления вообще, речь разве что о новом классе мониторов. Во-вторых, ну какая разница с какой технологией делать модель того, работу чего плохо понимаешь?
sshmakov
Я не знаю, как сказать ещё понятнее. Жирнее, что ли выделить — когда поймём, как работает мозг, какие элементы архитектуры в нем являются ключевыми, как только у нас будет ясное представление о ней, вот тогда надо смотреть, какими технологиями мы этого сможем достичь. Чего сейчас-то об этом рассуждать?
Frankenstine
Вот это может вам выделить жирнее?
Нету технологий, нету. Сейчас ничего достичь мы не можем, есть целых два крупных проекта которые пытаются: ru.wikipedia.org/wiki/Blue_Brain_Project начатый в 2005-м году (13 лет назад!) и ru.wikipedia.org/wiki/Human_Brain_Project начатый в 2013-м. Оба проекта очень далеки от конечной цели, несмотря на годы работ. Польза от них, разумеется, есть — большое количество научных проектов на стыке наук, но практическая реализация полноценной модели мозга на данное время — фантастика.
Там, кстати, есть ещё и ссылка на статью на хабре по этому проекту: habr.com/post/214123
sshmakov
Ясно. Ну тогда обратите внимание на оговорку «скорее всего» в процитированном вами тексте.
В любом случае, спасибо за ссылки.
sumanai
А зачем один транзистор? Не существует транзистора, занимающимся сложением или вычитанием, но их можно скомбинировать для выполнения этих действий.
Frankenstine
А как вы собираетесь в железе моделировать нейрон, у которого 1000 синапсов? У некоторых даже до 20000.
alexeykuzmin0
Здесь все же сложность не в количестве синапсов, а в том, как сам нейрон работает. Вон в типичной ИНС нейрон соединен со всеми нейронами следующего слоя, и обычно имеет куда больше, чем 1000 соединений.
sumanai
Так же, как и сумматор моделируется при помощи простых вентилей.
Frankenstine
Вы плохо представляете себе работу нейрона. Это не простой сумматор. Сейчас в проекте Human Brain Project на симуляцию работы одного нейрона «расходуется» целое процессорное ядро.
Не стоит забывать, что нейроны, фактически, аналоговые устройства, а не цифровые, как наивно можно подумать.
alexeykuzmin0
tarasovsk
Существование души подразумевает мышление на ином уровне, т.е. НЕ в мозге, что является основой вспоминания прошлых жизней и т.п. Т.е. память и мышление находятся не на биологическом уровне. Сюда же телепатия, пожалуй…
Мозг в этой версии служит для:
1. управления телом посредством передачи электрических, по сути, сигналов к его элементам (руки, ноги).
2. гашении электрических импульсов идущих от элементов тела при травмах и т.п. (чтоб не гуляли по всему телу) и вследствии симметричности тела, не образовывали в центре ЦНС (позвоночник) стоячие волны. Этакий конденсатор, биологического типа. Они (волны) там всё равно от разных травм постепенно образовываются (боль — суть электрический импульс от места травмы в мозг), создают спазмы мышц и прочие штуки. Спазмы успешно разрабатывают массажисты, но т.к. стоячие волные никуда при этом не деваются, то со временем стоячая волна вновь создает мышечный спазм.
Возможно, мозг участвует в формировании чего-то устойчивого при проработке «технических» навыков тела, типа техники прыжка в высоту или иной другой.
Это так… мысли вслух… :-)
JC_IIB
Я знал людей, которые объясняли мышление и душу тем, что мозг — это не более, чем широкополосный модем к ноосфере :)
tarasovsk
почему бы и не существовать и такой версии… :-)
ApeCoder
Она должна объяснять все проведенные эксперименты и наблюдения с мозгом (типа тыкаешь электродом в определенное место и человеку или крысе становится хорошо, стукаешь по другому и человек теряет определенный вид памяти). Также она должна предсказывать эксперименты, которые противоречат теории о том, что мозг принимает решения сам.
Popadanec
Ну это можно объяснить тем что разные отделы мозга отвечают за разный функционал. Параллельные передача потоков информации. И разные отделы мозга являются двусторонним конвертером «тонкая материя»-материальное тело. Нарушил работу отдела. Поток криво конвертируется, а то и вовсе прекращает работу. Вот и не работает память.
Сюда вписываются и осознанные(ОС)/обычные сновидения протекающие гораздо быстрей(минуты в реальном мире- часы дни в сне) относительно теоретической скорости вычислений мозга. Сам невольно испытал. Пролежал для всех где то неделю в коме, а для меня в частично ОС(полное осознание себя, но статичный мир) прошло где то четыре года. Успел родственников подзабыть.
Сейчас экспериментирую с ОС. Технику входа по команде уже освоил(но пока работает если организм хоть немного устал). Работаю с подключением органов чувств находясь в ОС. Если подключаю только уши, звук сильно замедлен. А вот при подключении зрения(даже одного глаза) скорость сразу выравнивается.
Тут кстати возникает интересная идея по играм с полным подключением. Но если ввод информации относительно прост, то вывод заметно затруднен. Я пробовал активировать мышцы чтобы двигать руками/ногами находясь в ОС(без подключения кожных сенсоров), но сильно упрощается картинка, а то и выбивает вовсе. Видимо не хватает вычислительных ресурсов мозга/ширины канала. Либо мешает сам мозг, т.к. при переходе в сон он глушит двигательные функции.
Wizard_of_light
С такой структурой сети наблюдались бы бы сбои не только типа «несколько сознаний в одном теле», но и «одно сознание в нескольких телах» и «не туда подключился». А такого вроде никто не видел.
khim
А «не туда подключился» — предполагает, что в соединение нет ну совсем никакой защиты вообще. Что уже даже в более простых вещах типа дактилоскопического датчика iPhone не так.
То есть да — такая идея имеет право на жизнь, но она умножает сущности без необходимости.
Wizard_of_light
Дело в том, что сбои типа «несколько в одном теле» наблюдаются, а вот других типов — нет, что и говорит о локальности процесса.
khim
Нет, это говорит всего лишь у том, что в процессе участвует «TPM-чип», не позволяющий использовать «чужое» сознание в другом теле.
Wizard_of_light
ТРМ-чип же не объясняет, почему в игре «реальность» один игрок несколько аккаунтов не может завести и почему не может перейти с одного на другой. При этом несколько игроков сидеть на одном аккаунте могут, что как бы намекает на проблемы с аутентификацией в системе.
khim
Объясняет. Если «ключ» для подключения к «высшей сфере» генерируется в теле человека и не копируется (например из-за квантовых эффектов), то вы получите ровно то, что наблюдаете.
Несколько игроков не могут сидеть на одном аккаунте потому что ключ не копируется и по той же причине нельзя «перебросить» сознание из одного тела в другое. В то же время никто не запрещает вам сгенерировать несколько ключей и, тем самым, подключить к одному телу несколько сознаний.
Wizard_of_light
Нет же. Если даже два тела-«аккаунта» генерируют два уникальных ключа, этим ключам в теории ничего не мешает оказаться у одного пользователя. Механизм изоляции неясен, который в модели локального сознания изначально объясняется.
khim
Так «ключи» в этой модели локальные и некопируемые. Если они представляют собой квантовые объекты — то принципиально не копируемые.
Wizard_of_light
Ну так мы их и не копируем, просто генерируем несколько штук. Что мешает «клиенту» иметь несколько разных ключей?
phenik
Это иллюзия, все с точностью до наоборот, ноосфера, коллективный разум и тп, это совокупность знаний и навыков в мозгах всех людей, просто мозги отлично синхронизируются между собой благодаря различным линиям коммуникации. Даже однотипная деятельность людей приводит к хорошей синхронизации, проверялось опытами с помощью фМРТ, когда коллектив работал над одной задачей.
sshmakov
Гипотеза существования души вовсе не исключает мышление в мозге. Возьмите тот же компьютер — логика работает в ОЗУ, а долговременная память на жестком диске.
tarasovsk
Тогда мы говорим о разных гипотезах. Та, о которой говорю, подразумевает, что не у человека есть душа, а что человек и есть эта самая душа, которая мыслит, создаёт идеи, способна ВОСПРИНИМАТЬ что-то, СОЗДАВАТЬ что-то, ну и конечно ПОМНИТЬ всё, что восприняла или создала. Оставив «за бортом повествования» причины массового забывания прошлых жизней (ПЖ) :-) и единичные случаи вспоминания ПЖ, проверки и подтверждения правдивости, можно сказать, что будучи, по сути «ничем», души с помощью тел создают всё вокруг, созидают и всё такое. Любой самый навороченный комп с самой навороченной программой был создан КЕМ-ТО! Любые результаты их работы так и останутся не используемыми и не нужными, если на них НИКТО не взглянет, оценит и РЕШИТ, куда это дальше применить. И так (с точки зрения данной гипотезы) будет и дальше :-)
sshmakov
Значит, у нас разные гипотезы.
sumanai
Я иногда офигеваю, сколько логов пишет винда. И никто на них не смотрит в 99,999% случаев.
chuikoffru
Спасибо за статью. Сделал выводы относительно возможности «случайного появления мозга», или же его постепенного развития из одной клетки.
bfDeveloper
Не поделитесь выводами? Я не смог из этой статьи сделать никаких выводов относительно эволюции мозга.
Fracta1L
Подозреваю что-то вроде «это всё не могло образоваться само собой, нас создал бог/анунаки!!111»
Fracta1L
Не понимаю этой склонности обожествлять мозг, считать его каким-то чудом. Да, в узком диапазоне повседневных задач мозг необычайно эффективен. Но стоит только выйти за рамки повседневности, как начинаются проблемы. Легко ли человеку понять, например, общую теорию относительности или квантмех? Да что там квантмех — даже на бытовом уровне вылезает куча когнитивных искажений и прочих корявостей. Подавляющее большинство людей даже со статистикой не дружат (считают, что двух-трёх примеров достаточно для доказательства или опровержения чего угодно).
Так что даже и не знаю, есть ли смысл создавать искусственный мозг. Разве что с целью избавиться от косяков естественного.
khim
Это просто уже данность, с которой спорить бессмысленно. Вопрос в другом: дорастёт ли когда-либо искусственный мозг до состояния, когда естественные, биологические мозги ему будут не нужны? К сожалению узнать это иначе, как проведением эксперимента невозможно…
Fracta1L
Что-то не вижу ничего общего между мозгом и Интернетом.
khim
Вы, наверное, понимаете под интернетом исключительно его «синапсы» — оптоволоконные каналы и роутеры. А я говорю именно о «сети сетей» — обьединении электронных устройств, которые уже давно решают задачи, которые 100 или 1000 лет назад решали человеческие мозги. И чем дальше — тем больше задач перекладывается на «бездушные железки».
Nubus
Только одно мааленькое
, эти железки не могут придумывать себе новые задачи на основе старых данных или вообще с потолка. А люди могут.khim
Я бы сказал осторожнее: им пока не позволяют придумывать себе задачи. А не то, что они не могут этого делать.
Nubus
Да ладно? А корреляции данных тоже сами обьясняют?
Wizard_of_light
Сегодня если железка начинает себе задачи придумывать, то её обычно для начала проверяют антивирусом с внешнего носителя, а если не помогает, то переустанавливают систему :\
Frankenstine
И какие же задачи Интернет решает самостоятельно, без участия человека?
Вы так и калькулятору интеллект припишите, ведь он умеет считать логарифмы без логарифмической линейки, «в уме».
khim
Вы путаете интеллект и свободу воли.
Интеллектом современный интернет обладает (в отличие от калькулятора), а вот свободой воли — пока нет. Временное ли это явление или так всегда будет — мы пока не знаем.
Frankenstine
Пруфы будут?
Даже есть ли свободная воля у человека, вопрос философский и неоднозначный, я бы вам не рекомендовал его трогать пока не разберётесь с более простыми.
И мне что, повторить предыдущий вопрос, штоле?
Назвался груздём — полезай в кузовок. Ну или признай, что фигню сморозил :)
sshmakov
Создание искусственного мозга, как минимум, поможет научиться лечить заболевания и травмы человеческого мозга.
Как максимум — находить решения, недостижимые человеку самостоятельно. Но тут возникает много вопросов…
Sdima1357
«много вопросов»
которыми которыми машины не заинтересуются, поскольку будут задавать себе вопросы сами :)
dimchik_b
Сложно компьютеру догнать человека, который сам не осознает природу своего интеллекта. Размеры мозга и количество связей мало что решают. У дельфина мозг больше человеческого. Умная зверушка, но по интеллекту до человека далекооо! Да и сам человек еще 100000 лет назаз мало отличался от современного по анатомии и от животных — по образу жизни. Какое изменение дало ему интеллект?
Shadow_Runner
«На планете Земля люди всегда предполагали, что они разумнее дельфинов, потому что они придумали так много: колесо, Нью-Йорк, войны и т. д., а дельфины всегда только плескались в воде и развлекались. Дельфины же, напротив, всегда считали себя разумнее человека — причем, по той же самой причине.»
Дуглас Адамс.
Popadanec
При этом человеческий мозг может еще и симулировать мир(причем огромных размеров и с детализацией лучше, чем у современных «тяжелых» в плане вычислений игр), оставляя ресурсы для работы сознания. Если кто не понял, я говорю про осознанные сновидения.
ivanchumak
Проблема сравнения мозга и современным компьютером заключается в самой сути их работы, мозг электро-химический, а компьютер чисто электрический. Нейрон за раз обрабатывает не одно значение. Мозг сильно параллельный и многоядерность ему не конкурент.
Stiger_slan
1. как сказали выше — нечестно считать только транзисторы.
2. скорость одного синапса измеряется герцами. А транзистора (группы транзисторов) — гигагерцами. Перемножить количество транзисторов на разницу в скорости — получится примерно похожее соотношение.
Частота компенсирует параллельность. Например так произошло с внешними шинами в компьютерах.
DGN
Во первых, человеческий мозг потребляет не 10 Вт, а в среднем за сутки по разным оценкам 20-30 Вт. Предположительно, в пиках более 50…
Во вторых, почему нейроны изо дня в день, из материала в материал, сравнивают с транзисторами? Функционально, это компаратор с программируемой логикой. Куда сложнее не только транзистора, но и логического элемента.
OneType
Сравнивать нейрон с транзистором не корректно, как минимум нужно сравнивать с количеством транзисторов в логических элементах составляющих модель нейрона, и в сложных моделях нейрона это не меньше ста транзисторов.
nochnoj
Чтобы сравнивать мозг и компьютеры нужно понимание как работает и то и другое. Если с компьютерами все понятно, то с мозгом очень далеко до даже примерного понимания.
Например представления о том как работает память меняются кардинально каждый десяток лет. И оказывается что она работает совершенно не так как работает компьютерная. То же самое скорее всего и насчет остального. Мы сравниваем совершенно несравнимые вещи, проецируя технологические принципы на мозг.
Особенно интересны различные исследования животных в этом смысле, например математика у муравьев, у которых вся нервная система это три несчастных ганглия.