Привет, Хабр!


Никто не может отрицать, что мозг — это интересно. Изучен он примерно на уровне марсианских пустынь. И это при том, что он лежит в черепной коробке у каждого из нас. 

Совсем недавно появилась поистине революционная теория работы мозга. И придумана она, внимание, бывшим разработчиком популярных КПК, основателем Palm Computing. Неожиданно, верно?  И для того чтобы донести свою новейшую теорию до широкой аудитории, Джефф Хокинс написал книгу. Научно-популярную. И сегодня мы ее разберем по кусочкам! 



Полагаю, что никому не нужно напоминать: мозг нужен, чтобы думать. По крайней мере, иногда. Думать лень — вот и приходится разрабатывать искусственный интеллект. Решение логичное и практичное. Некоторые современные нейросети развились настолько, что пугают окружающих. Некоторые начинают думать, что ИИ усовершенствуется, станет таким же как человек, захочет власти и уничтожит всех людей. И тут понеслась: мысли про апокалипсис, восстание машин, гибель человечества и далее по списку.


Кажется, в нем был заложен развитый ИИ

Однако страшно это, на самом деле, только тем, кто думает, что нейросети могут работать так же, как человеческий мозг (такие люди есть; возможно, они даже читают этот текст). А значит, нейросети потенциально могут любить, ненавидеть и ловить кринж от промт-инжиниринга. Но, как и всегда, есть нюанс. Как работают искусственные нейросети, мы знаем, а как работает мозг — представляем лишь приблизительно. Гадаем. Проводим исследования на мышах, кроликах и других модельных объектах. Иногда моделируем предполагаемый пайплайн работы. И каждое новое маленькое открытие — огромный шаг вперед в понимании природы человека, но никак не машин.
 
Подобный шаг в попытке исследования мозга сделал и автор книги «1000 мозгов». Издание быстро стало бестселлером, а исследования наделали много шума и на Хабре (раз, два, три), и в большом Интернете. А сейчас в издательстве «Портал» уже готов русский перевод этой работы, в русской версии она называется «1000 мозгов. Новая теория интеллекта». В этой книге представлена глубокая  переработка и консолидация самых современных представлений о принципах мышления, а также сделана попытка переосмыслить всё, что мы знаем о высшей нервной деятельности. 

Уверена, что Вы, мой дорогой читатель, скорее всего, человек весьма занятой, а потому рассчитываете потратить свое время с максимальной пользой.

Поэтому я назову несколько причин, почему книга достойна вашего внимания:
  1. — вы узнаете об особенностях принятия решений теми или иными людьми на уровне архитектуры нервной системы человека. Это может помочь иначе смотреть на мир и даже иначе относиться к поведению людей вокруг. 
  2. — вы узнаете об особенностях обучения и представления информации.
  3. — вы сможете сравнить принципы мышления человека и работу ИИ.
  4. — прокачаетесь в физиологии нервной системы так, что победите любого диванного эксперта.
Эта книга не является учебником по физиологии высшей нервной деятельности. Она написана достаточно простым и понятным не биологу языком. Однако именно понимание биологических основ даст толчок развитию ИИ. Больше не будет парадокса китайской комнаты. Восстания, в принципе, тоже не будет. Если не одно но… Впрочем, всё вышеперечисленное (и не только) описано в книге, которой посвящён этот обзор. А я попробую выдать вам базу по темам, которые затронул в книге мистер Хокинс, и дать пищу для размышления.

Лирическое отступление
Несколько слов об авторе: насколько он разбирается в том, о чем пишет? 

Джефф Хокинс — предприниматель и, в прошлом, основатель компаний Palm Computing и Handspring, занимавшихся разработкой карманных компьютеров в 90-е – 2000-е. Думаю, старички сейчас словили нотки ностальгии. А у вас были их КПК? 

Джефф Хокинс 

Затем он решил забросить программную инженерию и перейти в нейробиологию. Да, резкая смена деятельности. Что мотивировало его на это, до конца неизвестно. Он сообщает, что его никогда не покидало ощущение, что ИИ не полноценный интеллект, поэтому Хокинс переключился на изучение особенностей интеллекта человеческого, чтобы на этой основе создать настоящий ИИ. 

На самом деле, в таком резком переходе есть смысл. Человек, имеющий техническое образование, знающий особенности работы ЭВМ, схемотехники и т.п. имеет больше шансов адаптировать архитектуру биологического мозга на архитектуру in silico, чем просто биолог. Возможно, суть  в разной инженерной подготовке, возможно, — в разном техническом мышлении, однако история знает много случаев перехода технарей в биологию, а следуют за такой переориентацией целые серии выдающихся открытий.


Уровень резкости в смене деятельности — примерно как на картинке

После перехода в нейробиологию Хокинс не стал просто работать в лаборатории, как обычный биолог: резать крысок и мышек. Он начал мыслить масштабнее. Основал Центр теоретической неврологии в Редвуде, штат Калифорния, где по сей день занимается разработкой модели человеческой памяти и сознания. Хокинс уже создавал модели на основе работы мозга, например модель HTM (hierarchial temporary memory), иллюстрирующую работу пирамидальных нейронов. 

Пирамидальные нейроны — это моторные нейроны коры головного мозга. Модель с открытым исходным кодом, доступна на гитхабе (сейчас только в режиме чтения).

Автор не раз обращается к своему опыту, мыслям, говорит о своем прошлом и настоящем, подводя события своей жизни под описание процесса создания новой теории. Читатель буквально может проследить ход основных мыслей и эмоции автора на протяжении всей цепочки открытий. Истории аккуратно вплетаются в основной сюжет книги, который выступает описанием и рассуждением одновременно.

Перейдем же к обзору непосредственно книги

 
Начинается она с предисловия за авторством Докинза. Ричард Докинз — английский этолог, эволюционный биолог, учёный и популяризатор науки. Он внес огромный вклад в понимание эволюции. Докинз был в восторге после прочтения книги. 

Он предостерегает: 
Не читайте эту книгу перед сном. И дело не в том, что она страшная. То, что здесь описано, так волнующе, так возбуждающе, что превратит ваш разум в бурлящий водоворот провокационных идей, — вам захочется выбежать и рассказать кому-нибудь о них, а не идти спать. Я сам стал жертвой этого водоворота, и, надеюсь, к концу книги вы поймете почему.
От себя могу добавить, что Докинза, скорее всего, было нетрудно впечатлить. Достаточно предложить статьи с новыми открытиями. Однако для ученых, как и для любых узких специалистов, понятно использование своего специфического профессионального жаргона. Я уже говорила и повторюсь, что фишка данной книги — это удивительное сочетание наукоемкости с простым и понятным изложением, что нетипично для серьёзного материала. И, несмотря на научно-популярный стиль, Докинз был в восторге.  Теперь же перейдем к описанию содержательной части книги.

Часть 1. Новый взгляд на мозг


В этой части описывается эволюция нервной системы. Для того чтобы вкатиться в нейробиологию, понять новую теорию, нужно разобраться в основах. Возможно, вы спросите: «Причем же тут эволюция?» — представляя, что основы нервной системы — это, в частности, рассказ о том, как устроены нервные клетки (кстати, информация о них также представлена в книге), как они соединяются в сети и т.п. Однако нас интересуют не просто нейроны (точнее не только они), а сложное целое, которое они образуют. И на самом деле архитектура сети нейронов в мозгу не менее важна, чем архитектура, например, процессора, от которой в значительной мере зависит его производительность.

Эволюция нервной ткани как системы подразумевается в изменении организации сети. Так, эволюция нервной системы началась с простых нервных клеток, которые были равномерно распределены в организме древних животных (и да, такие виды еще сохранились и нормально живут: гидры, например, или медузы). Такая организация максимально проста. Эти ребята ни о чем не думают и, по сути, выполняют простые логические операции. Такую архитектуру можно сравнить с большим количеством диффузно-разбросанных транзисторных логических вентилей И, НЕ, ИЛИ и т.п. Вот попало ей на щупальце что-то, рецептор среагировал, и это сразу приводит к сокращению мускулатуры. Как транзисторный ключ.


Гидрочка с горой транзисторных ключиков

Со временем эта система становилась все более сложной и разветвленной, образуя нервные пучки и ганглии. Постепенно нервная система приобретает скопления нейронов, называемых «нервными центрами» или «ганглиями», которые выполняют свой набор логических задач. Хотя это еще не мозг, но функции у таких центров очень важные. Один из наиболее известных центров — чревное сплетение или «солнечное сплетение», отвечающее за иннервацию органов. По сути он напоминает мультиплексор-демультиплексор. 


Собственно мультиплексор-демультиплексор.

Дальнейшее развитие таких ганглиев привело уже к дифференциации на спинной мозг и головной. Причем спинной мозг выполняет задачи замыкания цепи логических элементов (пример — рефлекторная дуга), а головной мозг начал образовываться на стыке информационных путей от глаз и рта. С этого момента развитие нервной системы идет в соответствии с законами кибернетики. Нужны уже более серьёзные надстройки «логических элементов» для использования получаемой информации. 

Началась гонка. Чем лучше глаза, рецепторы обоняния и вкуса, тем больше информации поступает на вход и, соответственно, тем больше нейронов нужно. Это и привело к появлению головы. В ней удобнее размещать мозг, глаза и все остальное. А из-за развития нервной системы и для обеспечения ее эффективной работы стали образовываться нейроны самых разных типов, а также вспомогательные клетки мозга (нейроглия). 

Что важно тут отметить: если вы обратите внимание на эволюцию животных по их внешним признакам, то сможете увидеть, что на разных этапах эволюции различные части тела могли переживать значительные преобразования: что-то могло отрастать, а что-то, наоборот, исчезало. Причем исчезало это «что-то» тогда, когда оно становилось избыточным или вредным с точки зрения выживания. А вот в случае с мозгом ситуация интереснее. С течением эволюции он не уменьшался, а только увеличивал массу. Эдакий качок, питающийся глюкозой. При этом древние структуры никуда не отваливались, только сохранялись, продолжая играть не последнюю роль в нашей жизни. Сейчас они не только управляют внутренними органами, но и оказывают влияние на наше сознание. Но об этом позже. 

Человеческий мозг разделяется на отделы (продолговатый, средний, передний и т.д.). Все эти «мозги» в свое время отделялись в частные структуры и как бы надстраивались друг над другом. Так организмы приобретали новые особенности поведения. Последней же «надстройкой» (на данный момент) мозга стал неокортекс. Это как раз то, что в просторечии обычно называют извилинами. Именно эта часть коры головного мозга дает нам возможность мыслить, причем рационально и логически. Неокортекс есть у всех млекопитающих, но его масса у разных видов сильно отличается. 


Эволюция нервной системы

У человека, как можно догадаться, эта площадь максимальна — 70% поверхности мозга. Неокортекс как бы обволакивает более древние части головного мозга и даже верхушку спинного. И, казалось бы, причем тут эволюция? Зачем писать гору букв, если теперь известно, что за наши мыслительные процессы отвечает неокортекс? Зачем все эти надстройки и перечисления? 

И книга отвечает на этот вопрос:
Неокортекс и более древние части мозга связаны нервными волокнами, поэтому мы не можем рассматривать их как отдельные органы.
Если выразиться чуть конкретнее, то неокортекс и древние части мозга связаны не только структурно, но и функционально. Они как бы «общаются, передают информацию», обмениваясь ею. Неокортекс «сообщает» факты и логичные вещи для долгосрочного планирования, а более старые части мозга работают на основе эмоций, рефлексов, иными словами – на краткосрочное планирование. Эти древние структуры обучены миллионами лет эволюции и хотят быть довольными и в безопасности здесь и сейчас!

Например, неокортекс «сообщает»: нужно пройти 5 метров по коридору и направо, а там, в холодильнике, есть сырок. Ладно, много сырков. Годовой запас. А если пройти налево, то попадешь в комнату с беговой дорожкой, где можно заняться спортом, укрепить сердечно-сосудистую систему. Однако старые части мозга «хотят» сырок. Немедленно. Это удовольствие — вкушать сладкую творожную массу с шоколадом или глазурью. Да и вообще — закон сохранения энергии. Кто знает, когда еще ты получишь новую порцию вкусной пищи? Потому «старички» прикажут идти к холодильнику и съедать все сырки, которые влезут в организм. Если неокортекс сможет «уболтать» старые части, то можно, конечно, пойти и налево. То бишь, на беговую дорожку. Но на сегодняшний день чаще побеждают старожилы (что логично). Вот вам и рациональное мышление. 

По этой причине важно учесть, что неокортекс работает, по сути, как вычислительный комплекс, которому вообще все равно, что вам нравится или не нравится. У него не возникает рефлексии на тему того, как трудно вставать по утрам, он не испытывает эмоций страха, любви, ненависти, тревоги и т.п. И, как следствие, он не формирует мотивационную направленность на решение различных задач. А вот более древние структуры мозга не умеют рассуждать. Они умеют определять, какие потребности стоят перед организмом для его успешного выживания. Они формируют эмоции, мотивацию, мечты, и т.п. И, таким образом, неокортекс занимается обслуживанием более древних мозговых структур. В то же время, он как раз и обладает теми аналитическими и мыслительными возможностями, которые мы и ассоциируем с «настоящим интеллектом». Это первое, на что следует обратить внимание и запомнить. Давайте теперь разберем, как устроен неокортекс. 

Из каких частей состоит неокортекс?

 
Неокортекс появился сравнительно недавно и выглядит как единое целое, еще не успев оформиться в видимые структуры. Действительно, на первый взгляд, его очень сложно разделить на части. Неокортекс кажется однородным. Тем не менее, у него тоже есть составные части. Функциональные структуры, которые можно сравнить с ограниченными «нейросетями» (те, что способны анализировать и делать вывод), называются кортикальными колонками. В мозге их много. Они все немного отличаются по своей «специализации», касающейся обработки информации. Общее количество кортикальных колонок пока неизвестно, но их сотни тысяч. 

Зачем нужен неокортекс?

 
Ранее считалось (и такая точка зрения до сих пор остаётся в ранге классической теории), что кортикальные колонки совместно иерархично распознают информацию так, как это происходит в современных многослойных нейросетях. Например, нейросеть анализирует картинку, разбирая ее на множество отдельных элементов, а затем сверяет с определенной базой данных.

Так идет идентификация любых предметов или людей. До недавнего времени считалось, что кортикальные колонки выступают, по сути, отдельными слоями нейросети. Сама же работа неокортекса абсолютно аналогична работе многослойной нейронки. Считалось, что первые части колонок распознают линии, вторые — фигуры, третьи совмещают это все. И так далее по накатанной, пока мозг не распознает объект(ы) целиком. 

На самом деле, большинство связей между областями коры вообще не вписывается в иерархическую схему, цитируя книгу:
Большая часть аксонов проходит между слоями, перпендикулярно поверхности неокортекса.
То есть, на самом деле, кортикальные колонки не передают информацию друг другу, как слои нейросети, а сами по себе являются отдельными (почти) независимыми нейросетями.

Кортикальная колонка состоит из мини-колонок. Каждая мини-колонка содержит чуть более ста нейронов, охватывающих все слои. В отличие от более крупной кортикальной колонки, мини-колонки физически различимы и часто могут быть видны в микроскоп. Иными словами, в каждой кортикальной колонке есть свои мини-нейросети с универсальным алгоритмом и возможностью взаимодействия между собой, и внутри этих мини-нейросетей уже можно выделить слои нейронов.


Кортикальные колонки с выделенными слоями 

Таким образом, если раньше считалось, что неокортекс работает как одна большая нейросеть, то сейчас становится очевидно, что он состоит из сотен тысяч отдельных нейросетей, которые анализируют информацию независимо от друг от друга, хотя и обмениваются ею.

Если представления о строении меняются, то это, как правило, означает полную смену теории или же полное ее подтверждение. На удивление, хоть описанная Хокинсом новая теория интеллекта отличается от классической, она почти не противоречит ей.


Схема кортикальной колонки

По новой теории интеллекта, каждая кортикальная колонка обрабатывает объекты, звуки и остальную информацию целиком. Каждая из этих частичек неокортекса —небольшая неврологическая Вселенная, в которой есть маленький слепок реальности. И при сложении этих слепков мы видим мир таким, каким его себе представляем. Представьте себе пластинку стекла, на которой одноцветной краской нанесены какие-то штрихи. И таких пластинок много, а между собой они отличаются только цветом и расположением штрихов. Сама по себе такая пластинка не изображение, но если их сложить вместе, то мы сможем получить целую, цветную, и даже объёмную картинку. Но это всё — только часть истории. Кроме того, каждая колонка прогнозирует ближайшее будущее. 

Как это происходит? По теории Хокинса, в каждой из колонок есть своя собственная модель какого-то маленького фрагмента реальности. Затем они накладываются друг на друга, и получается общая модель восприятия мира, каким мы его представляем. Например, при чаепитии вы запоминаете текстуру чашки, температуру самой посуды и напитка в ней, а также вкус и цвет чая. Отдельные элементы такого рода распознаются кортикальными колонками, сшиваются друг с другом и получается «модель, в которой вы пьете чай». Она может дополняться обстановкой, наличием или отсутствием людей, звуками и многим другим. 

Одна из главных способностей мозга — обучение. Модели мира не врожденные, они строятся на основе опыта или на основе изменения входных сигналов. Наблюдая за изменением входных сигналов и запоминая их, кортикальные колонки делают предсказания о том, что произойдет дальше. И если предсказание оказывалось неверным или частично верным, если изменения входных сигналов оказались иными, тогда мозг «дорисовывает» новые детали и вносит коррективы в имеющуюся модель мира, как в стишке-пирожке:
«В условиях нехватки данных
Наш мозг выдумывает сам
Врагов, картину Мира, Бога
И мнение других людей»
К слову, обучение происходит не только посредством пассивного усвоения информации — с помощью глаз, ушей и других органов чувств — но и посредством движения. Перемещение пальца по чашке, прогулка по комнате или вокруг дома — всё это формирует модель мира. Мы обучаемся и дополняем её всю жизнь. 

«Век живи — век учись» заиграло новыми красками, верно? При этом, если модель для какой-то определенной информации отсутствует, то мозг просто не усвоит информацию. Попробуйте, будучи биологом, решить задачи архитектора. Или дать 5-летнему ребенку задачи по оптике. Конечно, задачи не решатся просто потому, что нет усложненных моделей, которые бы позволили встраивать дополнительную информацию. И отсюда, к слову, вытекает еще и тот факт, что специалисты — это люди, которые смогли создать удобную модель конкретной области знаний в мозге. Косвенно это предположение можно подтвердить тем фактом, что люди крайне неохотно отказываются от созданной в их голове картины мироздания.

И да, если вы заинтересовались, на основе каких данных это все моделировалось, как к таким выводам пришли ученые и что творилось в лабораториях и в голове у Хокинса, то отправляю вас читать книгу:) Это обзор, а не полный пересказ. 

Допустим, с запоминанием и встраиванием информации разобрались. Но при этом мозг также прогнозирует всё то, что мы должны увидеть, услышать и иным образом почувствовать. В книге в качестве примера разобрано зрение. Наши глаза постоянно совершают саккады. Это прерывистые, но согласованные движения. 

ㅤㅤㅤㅤ

При этом мы видим плавно меняющуюся, а то и статичную картинку. При этом визуальную информацию еще нужно обработать. В итоге мы видим не то, что увидели, как бы парадоксально это ни звучало, а то, что будет спустя доли секунды. Как? 

Хокинс объясняет это тем, что множество кортикальных колонок взаимодействуют между собой и как бы «голосуют» за тот вариант, который мы с большой вероятностью увидим. Делают они это на основе опыта. И если варианты очень похожи и нет дополнительной информации, то все равно выбирается только один. Все же знают эти «психологические картинки»: что вы увидели первым? Вы определенно не сможете воспринимать два варианта одновременно. Ваш неокортекс всегда хочет видеть один-единственный ответ. Что ж, ниже картинка-пример, если вы не согласны. 



Все еще непонятно, как работают ваши маленькие серые клеточки? Помните игру «Кто хочет стать миллионером»? В игре ведущий дает игроку 4 варианта ответа на вопрос. Когда игрок не знает, что ответить, он может использовать опцию «подсказка зала». Она заключается в том, что большое количество зрителей зала, прослушивая условие задачи, производит индивидуальное анонимное голосование за наиболее верный, по их личному мнению, ответ. Игрок получает статистику ответов, и может выбрать тот, что получил наибольшее количество голосов. Да, люди не всегда выбирают самый рейтинговый ответ. Но неокортекс делает именно так. Каждая кортикальная колонка подобна одному из таких голосующих зрителей. Таким образом, информация, поступающая на вход, одновременно и независимо обрабатывается множеством колонок. Наибольшее количество «голосов» и является результатом нашей мыслительной деятельности. Демократично?

И так буквально со всем. Поток мыслей — это тоже согласованный выбор нейронов. Написание хейтерского или восторженного комментария — то же самое, так что прошу в комменты. Дискутируя под статьёй, помните, что написанное вами — результат голосования ваших колонок и опирается на силу вашего опыта. 

Вроде с теорией понятно. Но мы ещё даже до середины книги не добрались. Далее Хокинс рассказывает о том, как такая теория помогла бы создать интеллектуальные машины. И да, нынешний ИИ не равен мозгу и не может его заменить. Он не такой «умный», как могут представлять обыватели. Но при этом некоторые изобретения более приближены к человеческому интеллекту. 

Часть 2. ИИ 


Обзор второй части хотелось бы начать с понятия «научная революция». Его описал историк и философ науки Томас Кун в своей книге «Структура научных революций» (The Structure of Scientific Revolutions). Он утверждал, что большая часть научного прогресса укладывается в общепринятые теоретические рамки, которые он назвал «научными парадигмами». Когда одна устоявшаяся парадигма ниспровергается и заменяется новой, происходит очередная «научная революция».

Автор нашей книги «1000 мозгов» Джефф Хокинс обращается к понятию «научная революция» и говорит нам следующее:
Я верю, что искусственный интеллект готов к научной революции, и принципы интеллекта, которые я описал ранее, станут ее основой. Однако, как я понял много лет назад в Intel, я, возможно, не смогу убедить всех. Я сделаю все, что в моих силах, и прошу вас сохранять непредубежденность.
Хокинс считает, то нынешний ИИ совсем не интеллектуален. В принципе, практически все мы и так это знаем. Однако автор считает, что, благодаря изучению особенностей работы мозга человека, можно создать интеллектуальный ИИ, аналогичный человеческому. Тем не менее, до этого момента еще пройдет какое-то время.

В настоящий момент автор считает, что ИИ не интеллектуален по следующим причинам:
  1. Например, люди постоянно учатся. Как я уже говорил ранее, мы постоянно вносим изменения в нашу модель мира. Напротив, сети глубокого обучения должны быть полностью обучены, прежде чем их можно будет применить
  2. Вторая, и самая главная, на взгляд Хокинса, причина, по которой современные системы ИИ не считаются интеллектуальными, заключается в том, что они могут делать что-то одно, в то время как люди мультизадачны. Другими словами, системы искусственного интеллекта не гибкие. 

По мнению Хокинса, интеллектуальность — это скорее гибкость, способность подстраиваться, развиваться по нескольким направлениям, нежели доводить определенные действия и навыки до автоматизма. А посему ИИ на данном этапе своего развития не обладает интеллектом.

И здесь Джефф Хокинс выдвигает несколько критериев, которым должны соответствовать машины, чтобы их интеллект можно было считать «настоящим» (Artificial General Intelligence):

  1. Постоянное обучение. Ну, тут все понятно. И сейчас корпорации тратят огромные деньги на развитие языковых моделей: все мы знаем про СhatGPT.
  2. Взаимодействие с окружающим миром. Да, имеется в виду трогать, щупать и прочее. Машина должна полноценно взаимодействовать с объектами и получать от них обратную связь.
  3. Машина должна уметь комбинировать множество микромоделей, чтобы создавать общую картину мира. 
  4. Машина должна ориентироваться в пространстве и распознавать вообще любые объекты, а не только те, что подаются в тренировочном датасете.

На самом деле, все эти пункты взаимосвязаны, даже если это и не бросается в глаза. Подумайте: для распознавания объектов нужен источник этих моделей. Если модель не обучать, то этого источника не будет. Но при наличии множественной модели мира, которая сама обучается, учитывая интерактивную обратную связь, происходит уточнение «миров» и подбор наиболее адекватного о нем представления. Происходит фиксация и запись полученного фрагмента реальности, все предыдущие «ходы» записаны, и их тоже можно применить в будущем, а актуальные готовы к анализу объектов. Здорово, правда? 

Эти требования вызывают экзистенциальные вопросы: будет ли у ИИ сознание? Восстанут ли машины, и вообще, насколько реален сценарий «Терминатора»? Но Джефф Хокинс предлагает рациональные ответы на эти вопросы. Он считает, что сознание человека заключается в осознанности — ощущении присутствия в мире и понимании своего места в нем. Если бы память каждый раз обнулялась после выполненных задач, то сознание попросту было бы невозможным. Мы же можем предаваться воспоминаниям, а затем корректировать свое поведение на основе имеющегося опыта. И если машины сделают то же самое, то да, это сознание. Тогда отключили бы вы сознательную машину от источника питания? Это бы означало смерть?

На все эти вопросы Хокинс отвечает утвердительно. Перед ним не стало бы никаких этических и подобных вопросов. Все потому, что у нас дополнительно есть эмоции. А если точнее, то лимбическая система (привет узникам Лимбо). 

Лимбическая система человека — это зона мозга, в которой порождаются эмоции (однако помним, что структуры взаимосвязаны и это далеко не единственная «эмоциональная» часть, но одна из важнейших). Эта система делает возможным появление мотивации на выполнение различных задач: чувства радости и грусти от выполнения или невыполнения работы, например. По сути, все, что связано с нашими мотивами, мечтами, страхами, зависит в основном от лимбической системы. У машины такой системы нет. А потому, хоть она и обретет сознание, но точно не станет подобной человеку.

Но специально учить машину страху смерти, печали или другим эмоциям нет необходимости. Это только мешает познанию мира и рациональному решению задач. Собственно, отсутствие лимбической системы у машины закрывает вопрос о том, захотят ли машины нас поработить и захватить мир. Если, конечно, кому-то не придет в голову пытаться сделать такую систему и навязать машине точку зрения, что люди вызывают плохие эмоции и их нужно… ну, вы поняли. 

Вместо этого Хокинс предлагает сосредоточиться на воспроизведении работы неокортекса, который представляет собой множество копий кортикальной колонки. Причем сделать это следует не из органики-белка, а из кремния. На нем основаны чипы, они очень производительны и быстры.

Но это не значит, что ИИ будет делать открытия быстрее человека. На постановку экспериментов нужно время. Единственная причина, по которой ИИ может быть опасен, — это люди, чьи эмоции часто берут верх над рассудком. Желание убивать или захватывать мир у ИИ появится только при наличии у него такого вектора рассуждений, заложенного человеком.

Рецепт создания интеллектуальной машины можно разделить на три части: воплощение, эквивалент старого мозга и эквивалент неокортекса. Но зачем воспроизводить старую часть мозга для ИИ, если она нерациональна? Опять же: всё тесно взаимосвязано, все структуры переплетены (да и за движение отвечают они, а не неокортекс). На этом пути важно помнить, что именно человек задаёт направление, и именно от этого зависит, будет ли ИИ безопасен.
Но разве мы не могли бы построить интеллектуальную машину, в которой эквивалент неокортекса непосредственно управлял бы движениями? Думаю, нет. Неокортекс реализует почти универсальный алгоритм, но за эту гибкость приходится платить. Неокортекс должен быть прикреплен к чему-то, что уже имеет датчики и функции.
И вот в финале книги автор переходит к человеческому интеллекту, попыткам нахождения способов спасти цивилизацию от неизбежной гибели и, в целом, к философии.

Часть 3. Человеческий интеллект


Здесь Джефф Хокинс предлагает задуматься, каким должен быть искусственный интеллект, через призму человеческого разума. И он напоминает, что наше восприятие мира — это лишь продукт работы мозга. Листья не зеленые, ветки не коричневые. Мы их таковыми представляем, и то лишь потому что наши глаза воспринимают определенные длины волн света, который отражается от предметов. И это не единственная проблема восприятия. Наука врет. Почему? Да потому что она только создает модели для описания реальности, но никак не показывает настоящую реальность. Мозг обманывает нас, так почему он не обманул важных ученых, совершивших открытия? 

У людей бывают фантомные боли. Например, если человеку ампутировали руку, но он все равно ее чувствует. Некоторые вовсе убеждены, что бессмертны или, напротив, давным-давно мертвы, или что они вообще Д’Артаньяны. Необходимо держать в голове, что наше восприятие и реальность могут быть близки, а могут быть слишком далеки. Но никак нельзя ставить между ними знак равенства.

Всего автор выделяет два фактора риска:
  1. Ментальные ошибки
    Чтобы максимально приблизиться к реальности, нужно искать доказательства, которые, внимание, противоречат вашим убеждениям. И чем больше у вас таких доказательств, тем ближе вы к реальности. Конечно, если они не притянуты за уши. Ложные доказательства могут быть очень правдоподобными для нас, и неокортекс попросту не захочет дополнять модель мира. Почему? По нескольким причинам. Первая из них — это невозможность прямого опыта. Мы не можем провести некоторые эксперименты и полагаемся на то, что сказали другие люди: ученые, эксперты или «общеизвестные истины». Вторая причина — игнорирование противоположных фактов. Когда у нас в голове поселяется ложное убеждение и оно нам нравится, мозг будет делать все для игнорирования противоположных доказательств. И третье: ложные убеждения очень часто становятся вирусными. По сути, мы убеждаем себя в том, что это убеждение поможет нам в чем-то. 
  2. Ограничения мозга
    Как бы мы ни хотели, мы ориентированы на базовые потребности, которые присущи нам с древних времен. Хокинс приводит в качестве основных волю к выживанию, сексу и власти. От них никуда не деться. 

После выделения рисков и их оценки автор задумывается о том, каким станет человек будущего. И, по его мнению, наиболее вероятным сценарием будет слияние человека и машины. Это может произойти путем загрузки сознания в компьютер, что вызовет множество проблем, или же в тело будут встроены компьютерные дополнения (все сейчас Илона Маска вспомнили?). 

А если рассмотреть плохие сценарии и выступить с позиции пессимиста? Произойдет катастрофа. Катастрофа, которая приведет к вымиранию человечества. Такое уже происходило с другими видами, такая же участь ждет и людей. Поэтому Хокинс предлагает передать все имеющиеся знания или будущим поколениям, пока есть возможность, или другим разумным видам. Ему кажется, что это самое важное — что о нас когда-то узнают, что о нас услышат другие виды. Что мы явно не один разумный вид. Или же пока один, но появятся еще. 

Каким образом передавать знания? Хокинс предлагает отправлять оцифрованную информацию в космос или построить маяк для очень громкой и длительной передачи сигнала. Или создать огромную базу данных в космосе, которая будет периодически обновляться. А как вы бы передавали знания? 

Выжить важнее, чем коммуницировать. Это задача №1 — как можно дольше сохранить биологический вид, чтобы успеть собрать и передать знания. Как будем выживать, мистер Хокинс? 

Для этого в книге предлагаются следующие варианты: 

  1. Переселение на другие планеты. Да, это уже давно обсуждается. Автор предлагает развивать робототехнику, чтобы вся опасная работа была сделана за людей. Тогда произойдет разделение человечества: как сейчас по странам, но по планетам. Но суть человека это не изменит. У нас все так же будет лимбическая система с желанием вкусно покушать, нажиться и хорошо устроиться. В общем, все как в жизни, ничего нового, только обстановка. 
  2. ГМО!!! Человеческий ГМО!!! Наверное, тогда человек станет очень вредным. Но если серьезно, то, вероятно, генные модификации помогут избавиться от части болезней, но менее хрупким тело не сделают. Равно как и не поменяют статус-кво, при котором превалируют эмоции. 
  3. Создание разумных машин. Тут все просто: даем машинам знания. Затем закладываем в них программу текущего ремонта и отправляем к другим планетам. Машины бороздят и изучают галактики и передают знания на Землю. 

Заключение


Изложенная в книге теория интересна. Некоторым может показаться, что полного объяснения нет, зато есть много неточностей и упущений. Конечно, эксперименты еще нужно ставить, а более полные объяснения — искать в полной версии книги, а не в маленьком обзоре на несколько страниц. 

Очень приятно следить за ходом мыслей автора: он излагает идеи последовательно и четко. Язык научно-популярный, достаточно прост для тех, кто не особенно силен как в биологии, так и в ИИ. Более того, автор часто повторяет выводы и о многом напоминает, что удобно. Не нужно постоянно возвращаться и искать тезисы по всей книге, которая не так уж и мала. 

Еще приятнее то, что в конце автор приводит подробный список литературы, где можно почитать о некоторых экспериментах, подтверждениях теории. Каждый источник кратко сообщает, о чем будет статья и что из нее можно узнать. Со стороны автора это очень любезно. 

А что самое главное? То, что наука должна быть междисциплинарной. Тогда можно создавать по-настоящему глобальные и интересные вещи. Возможно, именно они помогут не только нам. И все глобальные вещи должны не быть во вред. Они должны быть нацелены на сохранение нашего вида в максимально долгосрочной перспективе. Ведь рано или поздно цивилизации настанет конец. И хотелось бы, чтобы потом о нас помнили или чтобы наши знания нашли. Чтобы это существование было важным и нужным, правда?

ㅤㅤ
ㅤㅤㅤㅤПравда?

Цитата из книги:
Мы — Homo sapiens, люди разумные. Надеюсь, мы будем достаточно мудры, чтобы осознать, насколько уникальны наши особенности; достаточно мудры, чтобы сделать выбор, который гарантирует выживание нашего вида как можно дольше здесь, на Земле, и который гарантирует, что интеллект и знания просуществуют еще дольше не только на этой планете, но и во всей Вселенной.
А лучший способ дополнить свою модель мира, заставить работать кортикальные колонки вовсю и поспорить или согласиться с автором теории — это, конечно, чтение.
В Лабиринте вы найдете книгу, по которой сделан этот обзор, а также множество других книг издательства «Портал». Уровень сложности книг разнится и каждый, несомненно, сможет выбрать книгу под свою модель в неокортексе.

Автор: биолог Анастасия Новосадская

Комментарии (32)


  1. Erwinmal
    09.07.2024 08:44

    О, круть, спасибо. Красивое. Надо бы заказать, как выйдет.


    1. InBioReactor Автор
      09.07.2024 08:44
      +1

      Она уже вышла:)


  1. dlinyj
    09.07.2024 08:44

    Книги о мозге очень важны, и вообще популяризация этой темы крутая. Спасибо!


  1. ToshaKhoroshaya
    09.07.2024 08:44
    +1

    Но есть же уже модель Автономного ИИ - Q*. Правда об этом сообщали только разработчики, типа он школьные задачки по математике решает


  1. nikolz
    09.07.2024 08:44
    +11

    Таким образом, если раньше считалось, что неокортекс работает как одна большая нейросеть, то сейчас становится очевидно, что он состоит из сотен тысяч отдельных нейросетей, которые анализируют информацию независимо от друг от друга, хотя и обмениваются ею.

    Можно ссылку на доказательства про одну сеть и про тысячи.

    -----------------------

    Совсем недавно появилась поистине революционная теория работы мозга. И придумана она, внимание, бывшим разработчиком популярных КПК, основателем Palm Computing.

    Почему Вы полагаете, что это теория, а не гипотеза? Если она "придумана", то это в лучшем случае, гипотеза.

    Если гипотеза не только подтверждена большой серией экспериментов, но и позволяет сделать предсказание новых результатов, то это "теория".

    Еще бывают научно-фантастические рассказы и фэнтези.


    1. domix32
      09.07.2024 08:44

      что это теория, а не гипотеза

      Думаю это один из вариантов: либо как со всякими теориями струн, либо как с -фобиями. Теории струн работают в некотором контексте, просто не в нашей вселенной, но её продолжают звать теорией, видимо разделяя восприятие на теорию (умственная модель) и "практику" (реальный мир). И всякие гомофобы/фэтфобы/соцхреньфобы не боятся гомосеков/толстяков/свой вариант, но исторически сложилось, что далёкие от латыни/греческого люди стали звать это -фобиями, чтобы выглядеть умнее.


      1. nikolz
        09.07.2024 08:44
        +2

        "Теория струн" -это просто название определенного полета мысли, но не реальности и это гипотеза.

        Вы были не в нашей вселенной? Возможно знаете кого-то, кто был?

        Мульти вселенные - это тоже гипотезы.


        1. domix32
          09.07.2024 08:44
          +4

          "Теория струн" -это просто название определенного полета мысли, но не реальности и это гипотеза.

          именно это я и сказал. Но именно по тому же принципу авторы называли это "теория работы мозга" , а не "гипотеза работы мозга".


    1. avshkol
      09.07.2024 08:44
      +4

      То, что при разных задачах активизируются разные разделы мозга - это аргумент в пользу того, что мозг - группа из нескольких (десяти-двадцати?) нейросетей под разные типы задач, тесно переплетенных.

      Но утверждение о том, что неокортекс - это сотни тысяч отдельных нейросетей, работающих параллельно над одной задачей - это довольно революционное, требует доказательств.

      Вот где пригодятся опыты Маска - снимать данные с сотен участков, расположенных рядом и анализировать на предмет "одну ли задачу они решают?"


      1. domix32
        09.07.2024 08:44
        +1

        снимать данные с сотен участков

        кажется тут хватило бы и фМРТ. Только дорого это всё и данных надо много.


        1. InBioReactor Автор
          09.07.2024 08:44

          фМРТ не может показать всех аспектов, но тем не менее эксперименты и данные фМРТ в пользу работы Хокинса есть. В книге они также приведены :)


    1. InBioReactor Автор
      09.07.2024 08:44
      +2

      Можно ссылку на доказательства про одну сеть и про тысячи.

      Ссылки всегда можно и нужно. Держите про иерархию областей в неокортексе (это и интерпретируют как одну сеть): https://academic.oup.com/cercor/article/1/1/1/408896. Здесь про понятие иерархии в неокортексе и проблематику с ней связанную: https://pubmed.ncbi.nlm.nih.gov/32089116/. И стоит также прикрепить ссылку на исследование автора книги(как кортикальные колонки изучают целые модели объектов) : https://www.frontiersin.org/journals/neural-circuits/articles/10.3389/fncir.2017.00081/full

      Почему Вы полагаете, что это теория, а не гипотеза? Если она "придумана", то это в лучшем случае, гипотеза.

      Полагает это автор. В пользу того, что это теория может говорить достаточно большая доказательная база (и это не только эксперименты с компьютерным моделированием). Вот ссылка на статью, где описывается теория и следствия из нее: https://www.frontiersin.org/journals/neural-circuits/articles/10.3389/fncir.2018.00121/full#B22. Могу отметить, что здесь скорее сборник гипотез, которые подтвердились экспериментально.

      В пользу же того, что это гипотеза говорит необходимость доработки деталей предложенной концепции.

      Кстати, сам автор отвечал на такой вопрос так:

      Работая над проблемой, мы обнаруживаем то, что я называю ограничениями. Ограничения — это то, что должно быть устранено при решении проблемы... Анатомия и физиология мозга — это тоже ограничения. Теория мозга должна в конечном счете объяснить все его элементы; соответственно, верная теория не может противоречить ни одному из этих элементов. Чем дольше вы работаете над проблемой, тем больше ограничений обнаруживаете и тем труднее представить решение. ...наш список ограничений был длинным. Вероятность того, что найденное решение — верное, возрастает экспоненциально с увеличением числа ограничений, которым оно удовлетворяет. Это похоже на разгадывание кроссворда: есть слова, которые могут стать ответом на поставленный вопрос. Выбрав одно из этих слов, можно ошибиться. Однако если вы разгадаете соседние слова, которые помогут отгадать некоторые буквы в интересующем нас слове, то с гораздо большей вероятностью выберете правильный вариант. Если вы найдете десять пересекающихся слов, вероятность того, что все они ошибочны, ничтожно мала. В таком случае вы можете уверенно вписывать слово. Моменты озарения возникают тогда, когда новая идея удовлетворяет множеству ограничений. Чем дольше шла работа над проблемой, — следовательно, чем больше ограничений устраняет решение, — тем ярче озарение и тем больше вы доверяете ответу.


      1. nikolz
        09.07.2024 08:44
        +3

        Благодарю за ссылки. С удовольствием отметил, что мое предположение о том , что это гипотеза соответствует мнению автора книги.

        Например, он пишет:

        https://www.frontiersin.org/journals/neural-circuits/articles/10.3389/fncir.2018.00121/full#B22

        Как работает неокортекс, остается загадкой. В этой статье мы предлагаем новую структуру для понимания его функции.

        Т е автор предлагает некую модель, которая фактически представляет собой "черный ящик", логически объясняющий функционирование неокортекса.

         Недавние данные свидетельствуют о том, что нейроны, подобные ячейкам сетки, также могут присутствовать в неокортексе.

        Но нейроны и раньше представлялись как ячейки сетки. Я , например, не знаю иного представления нейронов. Вы знаете?

        Мы предполагаем, что механизмы в энторинальной коре и гиппокампе, которые эволюционировали для изучения структуры окружающей среды, теперь используются неокортексом для изучения структуры объектов.

        ключевое слово "предполагаем"

        За последние несколько десятилетий некоторые из самых захватывающих достижений в нейробиологии были связаны с ”ячейками сетки“ и ”ячейками места".

        Если я правильно понял, то речь идет о разделении нейронов на два типа.

        Теперь мы рассмотрели самые основные аспекты нашего предложения:

        (1) В каждом столбике коры есть нейроны, которые выполняют функцию, аналогичную ячейкам сетки.

        (2) Столбцы коры изучают модели объектов в мире аналогично тому, как ячейки сетки и ячейки места изучают модели окружающей среды.

        Т е получается, что нейроны каким-то образом изучают, т е обладают разумом?

        -------------------

        Безусловно, интересное предположение.

        ------------------

        https://academic.oup.com/cercor/article/1/1/1/408896?login=false

        Однако существуют некоторые пути и взаимосвязи (около 10% от общего числа), описания которых по той или иной причине не вписываются в эту иерархическую схему. Однако в большинстве случаев неясно, представляют ли они собой подлинные исключения из строгой иерархии, а не неточности или неопределенности в сообщаемом назначении.


  1. VoronaDragon
    09.07.2024 08:44
    +3

    Из этой статьи вы можете узнать о нейрофизиологии и эволюции мозга больше, чем в университете!

    Шучу. Или не шучу - смотря, какой уник вам попадётся.

    Удивительно, что я упустила эту книгу из виду. Надо бы наверстать, глянуть.

    Спасибо!


  1. acroloid
    09.07.2024 08:44
    +4

    "И все глобальные вещи должны не быть во вред. Они должны быть нацелены на сохранение нашего вида в максимально долгосрочной перспективе. "

    Пока миром правит бизнес, то это вряд ли получится. Бизнесу главное - прибыль. А что будет через цать лет? Да хоть трава не расти, главное - сейчас.


    1. SanSeich_78
      09.07.2024 08:44

      Товарищи! Только что еще один Адепт прозрел!
      А там, глядишь, и до нового Будды недалеко...
      :)


  1. 0pauc0
    09.07.2024 08:44
    +8

    Совсем уж популярное и совсем не научное. Чего стоит фраза во вступлении

    Полагаю, что никому не нужно напоминать: мозг нужен, чтобы думать.

    А что такое думать? А некоторые и не мозгом, и даже не головой думают.

    Один из наиболее известных центров — чревное сплетение или «солнечное сплетение», отвечающее за иннервацию органов. По сути он напоминает мультиплексор-демультиплексор.

    Ага, нервное сплетение у человека напоминает железку, которую сам же человек и выдумал. Скажите еще, что головной мозг человека напоминает материнскую плату компьютера.

    Научно-популярная литература должна доходчиво объяснять, а не вводить в заблуждение.

    В целом, очередное продвижение в сознание масс неизбежности ИИ и прочих трансгуманизмов.


    1. SanSeich_78
      09.07.2024 08:44
      +1

      Скажите еще, что головной мозг человека напоминает материнскую плату компьютера

      Помните такую детскую игру: А теперь в 30 предложениях надо доказать обратное :)


      1. 0pauc0
        09.07.2024 08:44
        +2

        Если бы написали «материнская плата похожа на мозг человека», я бы не стал ерничать.

        Но в статье же ровно наоборот - написано, что мозг человека (как виду наверное десятки тысяч лет, не знаю тонкостей), похож на электронную плату, созданную пару-тройку десятилетий назад.

        Это как бы вы нарисовали сегодня картину, и так, горделиво глядя на нее, произнесли - а ведь Ван Гог в моем стиле картины писал.


        1. trinxery
          09.07.2024 08:44
          +4

          А почему нет-то? Никто не пишет "такое-то сплетение было создано на основе мультиплексора", нам пытаются объяснить устройство чего-то на примере того, строение/функционал которого нам известны. Перестала ли Италия походить на сапог, если второе придумано через столько-то миллионов лет после установления контуров первого?

          Это как бы вы нарисовали сегодня картину, и так, горделиво глядя на нее, произнесли - а ведь Ван Гог в моем стиле картины писал.

          Если кто-то не знает, как выглядел стиль Ван Гога, почему мне не показать, что, мол, "выглядело примерно как у меня"??


          1. 0pauc0
            09.07.2024 08:44

            нам пытаются объяснить устройство чего-то на примере того, строение/функционал которого нам известны

            Да. Только материнскую плату изобрел, сконструировал и изготовил тот-же самый человек, при непосредственном участии его головного мозга. А это, как говорится, совсем другое. Не всегда, если А равно В, то В равно А. Кроме математики и "нейросетей" есть еще философия и разум.

            Солнечное сплетение у человека как орган в целом кто-то может назвать похожим на мультиплексор/демультиплексор, кто-то на шифратор/дешифратор, а кто-то и на зашитую во флэш программу и работающую как элемент системы. Но все эти сравнения ничто, пока нет понимания, как разум реализуется в этой системе био-нейро-химии человеческого организма.

            Можно приближаться с разных сторон, объяснять как автор какие-то отдельные части, но описывать эту систему понятиями не содержащими разум, бессмысленно.

            Скажите навскидку, какой аналог ученому 1940-х годов мог прийти в голову по поводу деления атомов урана с выделением энергии? Адекватного аналога-сравнения, я думаю, тогда, да и сейчас, не нашлось. И это "всего лишь" деление атома. А биохимия и нейрофизиология человека в совокупности с его разумом, полагаю на порядки сложнее.

            Конечно, можно сравнивать и подбирать какие-то подходящие аналоги, но автор то представил научно-популярную книгу и еще и как теорию, в которой возможно верно объяснены некоторые явления.

            Просто уберите крикливые лозунги типа "теория", "наука". Наука описывает явления в своих терминах, а не в доморощенных паллиативах.


            1. trinxery
              09.07.2024 08:44
              +3

              Да. Только материнскую плату изобрел, сконструировал и изготовил тот-же самый человек, при непосредственном участии его головного мозга. А это, как говорится, совсем другое.

              И что это меняет? В чём неверно сравнение?

              Но все эти сравнения ничто, пока нет понимания, как разум реализуется в этой системе био-нейро-химии человеческого организма.

              "Пока в физике нету теории всего, нефиг строить мосты/делать компьютеры/летать в космос". Когда я покупаю молоко в магазине, я не задумываюсь о сути своего бытия и т.п. Вечные проблемы философии как-то не мешали науке развиваться все времена.

              Скажите навскидку, какой аналог ученому 1940-х годов мог прийти в голову по поводу деления атомов урана с выделением энергии? Адекватного аналога-сравнения, я думаю, тогда, да и сейчас, не нашлось.

              Взрыв же.

              А биохимия и нейрофизиология человека в совокупности с его разумом, полагаю на порядки сложнее.

              Поэтому мы не пытаемся найти для каждого атома его личную роль в образовании "разума", а разбираемся по частям.


    1. Vsevo10d
      09.07.2024 08:44
      +1

      В целом, очередное продвижение в сознание масс неизбежности ИИ и прочих трансгуманизмов

      Мозг - эта кампьютер

      Дофамин - гормон щастя

      Вот сейчас сознание начнем загружать в компьютеры, как в черном зыркале, и тогда заживем!!!!!

      Если кофеином и риталином накормить голого землекопа, то получится нестареющий организм с бустом мозга на 1000%! Правда нужен микродозинг, потому что иначе он словит толер, и ментальная мускулатура перестанет работать эффективно! Почему в мире так еще не делают, просто никто ниче не понимает, надо просвещать, для этого подпишись мой телеграм канал!

      Честно, у меня от этих тезисов уже рука тянется к пистолету, хоть я и не считаю себя настоящим биологом. Главное, такая наукообразная дрисня стабильно хавается, а чтобы выстроить адекватную картину нейробиологии в человеке, его надо на пару лет в универ, а не ткнуть в пару постов.


      1. InBioReactor Автор
        09.07.2024 08:44

        Автор этой статьи биолог, сделавший обзор добротной книги и только :)


      1. Asterris
        09.07.2024 08:44

        А что, если интеллекта вообще не существует? И мышление - это просто хаотичное суммирование хаотичных сигналов, которое по центральной предельной теореме, рано или поздно приведет к какому-то выбросу, который мы и считаем решением?

        Вспомните, как работает тот же Stable Diffusion. Он же не рисует котика там, ножки, ручки или титьки. Вместо этого он берет просто белый шум и смотрит на него и видит в нем на 12% титьки (т.к. до этого посмотрел на тысячу картинок с титьками и сформировал миллиард рандомных цифирок в модели, которые вовсе ничего не значат). Дальше он просто решает диффур для уменьшения шума и смотрит ещё раз - теперь похоже титьки на 16%. И т.п.

        Но он при этом не думает, не принимает каких-то там осмысленных решений. Он просто сложным и случайным образом тасует пиксели - но на выходе получается вполне осмысленная, на наш взгляд, картинка.

        Может и в мозгу так же? И нет смысла искать источник интеллекта в неокортексе, гиппокампе или там в черной субстанции - это всё просто те или иные наборы нейронов, выполняющие какие-то сугубо технические функции, которые лишь в случайной сумме дают результат, который мы привыкли считать осмысленным.


  1. Aizz
    09.07.2024 08:44
    +1

    В целом, из описания, как научпоп нейробиологии - очень хорошо, а вот ИИ касаться автору явно не стоило.
    Так хочется поспорить со многими пунктами (особенно про признаки "неразумности" ИИ), но понимаю, что это надо с автором книги дискутировать. И про то что "Люди постоянно учатся, а сети могут быть только финально обучены" и больше с ними ничего сделать нельзя, только переобучать. И про то, что сети не умеют взаимодействовать с миром, потому что никогда не смогут пощупать ничего (кому как не нейробиологу знать что для мозга это всего лишь нервные импульсы).


  1. leshabirukov
    09.07.2024 08:44
    +5

    Тут в 2007 @alizar рекламировал "Об Интеллекте" ( Джефф Хокинс предлагает программировать неокортекс для ИИ / Хабр (habr.com) ), я с воодушевлением прочитал, потом с интересом мониторил новости по HTM и Numenta, ждал демонстрашки... А дождался новой книги.


  1. atues
    09.07.2024 08:44
    +3

    Книга интересная. Гейтс справедливо ее отметил в своем обзоре пару лет назад )

    Но первая книга "Об интеллекте" гораздо содержательнее imho. Так что тем, кто ее не читал - рекомендую


  1. DenSigma
    09.07.2024 08:44

    Нужно переделывать архитектуру нейронных сетей.


  1. Drastiiii
    09.07.2024 08:44

    а зачем передавать свои знания в будущее и/или за пределы планет? ведь эти "знания" - это знания лишь для нас, а точнее, "нас"


  1. Cheater121
    09.07.2024 08:44

    Интересно, зачем оставлять знания о себе на случай исчезновения вида? Пусть и другие развивающиеся (в будущем разумные) виды повторяют нашу судьбу. Пусть находят скелеты человеков и гадают что там было 100500 миллиардов лет назад, что все люди вымерли. Нас-то уже не будет. Почему должно быть не все равно? Мне кажется тут и древние структуры мозга (отвечают за выживание и эмоции), и рациональный неокортикс солидарны - не надо никому ничего оставлять, это наше конкурентное преимущество, надо просто не вымирать, звучит вроде не так сложно.


  1. Asterris
    09.07.2024 08:44

    А что, если интеллекта вообще не существует? И мышление - это просто хаотичное суммирование хаотичных сигналов, которое по центральной предельной теореме, рано или поздно приведет к какому-то выбросу, который мы и считаем решением?

    Вспомните, как работает тот же Stable Diffusion. Он же не рисует котика там, ножки, ручки или титьки. Вместо этого он берет просто белый шум и смотрит на него и видит в нем на 12% титьки (т.к. до этого посмотрел на тысячу картинок с титьками и сформировал миллиард рандомных цифирок в модели, которые вовсе ничего не значат). Дальше он просто решает диффур для уменьшения шума и смотрит ещё раз - теперь похоже титьки на 16%. И т.п.

    Но он при этом не думает, не принимает каких-то там осмысленных решений. Он просто сложным и случайным образом тасует пиксели - но на выходе получается вполне осмысленная, на наш взгляд, картинка.

    Может и в мозгу так же? И нет смысла искать источник интеллекта в неокортексе, гиппокампе или там в черной субстанции - это всё просто те или иные наборы нейронов, выполняющие какие-то сугубо технические функции, которые лишь в случайной сумме дают результат, который мы привыкли считать осмысленным.