Примечание переводчика: В нашем блоге мы рассказываем об облачных сервисах, хостинге и соответствующих технологиях. Почерпнуть что-то интересное можно не только из опыта работы с инфраструктурными проектами, но и из теоретических работ, направленных далеко в будущее. Сегодня мы представляем вашему вниманию адаптированный перевод материала ученого Майкла Нилсена о том, существует ли простой алгоритм интеллекта.



В этой книге мы рассматриваем устройство нейронных сетей: как они работают, как можно использовать их для решения задач распознавания образов. У этого материала множество актуальных практических применений. Но, конечно, основная причина исследования нейронных сетей кроется в надежде, что однажды с их помощью мы сможем выйти далеко за рамки таких базовых задач распознавания образов. Возможно, они, или иной подход, основанный на цифровой обработке данных, в конце концов, будут использованы для создания машин с искусственным интеллектом, которые будут соответствовать или даже превосходить человеческий интеллект.

Это предположение выходит далеко за пределы содержания этой книги – и всего, что известно кому-либо в мире. Но строить домыслы забавно. Вопрос о возможности компьютеров соответствовать уровню человеческого интеллекта породил множество споров. Я не стану в них ввязываться. Несмотря на идущие споры, я не сомневаюсь, что создание «умного» компьютера реально – хотя и чрезвычайно сложно, и, вероятно, не под силу современным технологиям, а сегодняшние скептики в один прекрасный день будут похожи в своих суждениях на виталистов.

Вопрос, который я ставлю в своем исследовании – существует ли простой набор принципов, с помощью которых можно объяснить, что такое интеллект? В частности, существует ли простой алгоритм работы интеллекта?

Очень смело выдвигать идею о том, что существует по-настоящему простой алгоритм работы интеллекта. Уж слишком оптимистично это звучит, чтобы быть правдой. Многие люди пребывают в уверенности, что интеллект обладает нечленимой сложностью. Они настолько поражены удивительным разнообразием и гибкостью человеческой мысли, что приходят к выводу о том, что простой алгоритм работы интеллекта просто невозможен. Но несмотря на эти предположения, я бы не спешил с выводами. В истории науки неоднократно встречались случаи, когда явление, представляющееся чрезвычайно сложным, в итоге объяснялось набором простых, но фундаментальных идей.

Рассмотрим, к примеру, астрономию на ранних этапах. С древних времен человечество наблюдало за небесным «зверинцем»: Солнце, луна, планеты, кометы и звезды. Каждый из этих объектов ведет себя по-разному – звезды, например, двигаются медленно и закономерно, в то время, как кометы появляются из ниоткуда, пролетают по небу, оставляя лишь след, а затем исчезают. В 16 веке только глупый оптимист мог предположить, что эти траектории движения объясняются набором элементарных принципов. Но в 17 веке Ньютон выдвинул свою теорию всемирного тяготения, которая не только объяснила передвижения небесных тел, но и такие земные явления, как приливы и отливы, а также траектории полёта снарядов. Таким образом, глупый оптимист 16-го века в ретроспективе выглядит, как пессимист, который просит о малом.



Исаак Ньютон

Конечно, можно привести множество примеров из науки. Рассмотрим бесчисленное множество химических веществ, из которых состоит наш мир, так прекрасно упорядоченных Менделеевым в его периодической таблице, которая, в свою очередь, объясняется лишь несколькими простыми законами квантовой механики. Или загадка о том, насколько сложен и разнообразен биологический мир, в основе которого, как оказалось, лежит принцип естественного отбора. Эти и многие другие примеры дают основание полагать, что неразумно было бы исключить простое объяснение интеллекта лишь исходя из того, что наш мозг – лучший пример интеллекта на сегодняшний день – представляется очень сложным*.

*В этом дополнении я предполагаю, что для того, чтобы считать компьютер разумным, его способности к мышлению должны совпадать с человеческими или превосходить их. Поэтому под вопросом: «Существует ли простой алгоритм работы интеллекта?» я подразумеваю: «Существует ли простой алгоритм, который способен «думать» так же, как человеческий мозг?» Однако, стоит отметить, что вполне вероятно существование таких форм интеллекта, которые не обладают человеческим образом мышления, но, тем не менее, превосходят его в том или иной направлении.
С другой стороны, несмотря на все эти оптимистичные примеры, логично предположить, что интеллект можно объяснить только огромным количеством принципиально разных механизмов. В случае с нашим мозгом, вышеуказанные механизмы могли появиться в результате различных проявлений отбора в истории эволюции нашего вида. Если данная точка зрения верна, то интеллект обладает нечленимой сложностью, а существование простого алгоритма работы интеллекта невозможно.

Так которая из двух точек зрения правильна?

Чтобы получить ответ на этот вопрос, давайте зададим другой, близкий по смыслу: «Существует ли простое объяснение работы человеческого мозга?» В частности, давайте рассмотрим несколько способов количественной оценки сложности мозга. При нашем первом подходе мозг рассматривается с позиции коннектомики. Это наука всецело посвящена построению связей: сколько нейронов существует в мозге, сколько глиальных клеток и сколько соединений наблюдается между нейронами. Вероятно вы уже слышали эти цифры – в нашем мозге насчитывается порядка 100 млрд нейронов, 100 млрд глиальных клеток и 100 трлн соединений между нейронами. Ошеломляющие числа, и при этом пугающие. Если для того, чтобы понять, как работает наш мозг, нам нужно разобраться в механизмах всех этих соединений (не говоря уж о нейронах и глиальных клетках), то в результате мы явно не придем к простому алгоритму работы интеллекта.

При втором, более оптимистичном подходе, мозг рассматривается с точки зрения молекулярной биологии. Смысл подхода в том, чтобы выяснить, какое количество генетической информации необходимо для описания архитектуры мозга. Чтобы разобраться в данном вопросе, мы начнем с обнаружения различий в геноме человека и шимпанзе. Возможно, вы слышали выражение «люди – это на 98 процентов шимпанзе». Существуют различные вариации этого высказывания, иногда приводятся значения 95 или 99 процентов. Такие вариации появились, поскольку изначально ученые сравнили только образцы геномов человека и шимпанзе, а не геномы полностью. Однако в 2007 году весь геном шимпанзе был секвенирован (об этом подробнее здесь), и теперь мы знаем, что геномы человека и шимпанзе отличаются примерно на 125 миллионов пар оснований ДНК. При этом в каждом геноме насчитывается около 3 млрд пар оснований ДНК. Таким образом, неправильно считать, что сходство человека с шимпанзе составляет 98 процентов – скорее уж 96 процентов.



Так сколько же информации содержится в этих 125 миллионах пар оснований? Каждую пару оснований можно обозначить одной из четырех «букв» генетического кода, соответствующих основаниям: аденину, цитозину, гуанину и тимину. То есть каждую пару оснований можно описать двумя битами информации – этого достаточно, чтобы указать один из четырех типов оснований. Таким образом, 125 миллионов пар оснований равны 250 млн битов информации. Такова разница между геномами человека и шимпанзе!

Конечно эти 250 млн бит приходятся на общую генетическую разницу человека и шимпанзе. Нас же интересует только разница, относящаяся к мозгу. К сожалению, неизвестно, какая доля общей генетической разницы касается различий мозга. Но давайте допустим в интересах дискуссии, что около половины из этих 250 млн бит приходится на отличия между мозгом человека и шимпанзе. А это в общей сложности 125 млн бит.

125 млн бит – это внушительное число. Чтобы лучше осознать, насколько оно велико, давайте переведем его в более привычные нам значения. Например, каково эквивалентное этому количество текста на английском языке? Известно, что текст на английском языке содержит oколо 1 бита информации на букву. Казалось бы, не так уж много – как-никак, в английском алфавите целых 26 букв – но тексты на английском языке содержат огромное количество избыточности. Конечно, вы можете возразить, что и в наших геномах тоже содержится избыточность, так что два бита на базовую пару – это слишком высокая оценка. Но мы проигнорируем этот факт, потому что в худшем случае мы переоцениваем генетическую сложность нашего мозга. Исходя из этих предположений, мы видим, что генетическая разница между мозгом человека и мозгом шимпанзе равна 125 миллионам букв, или примерно 25 миллионам английских слов. Это примерно в 30 раз больше Библии короля Якова.

Бесспорно, это большое количество информации. Но не беспредельно большое. Оно находится в рамках человеческого измерения. Может быть, в одиночку ни одному человеку не удастся понять все, что заложено в этом коде, но для группы взаимодействующих людей, имеющих соответствующую специализацию это возможно. И несмотря на большой объем информации, она ничтожно мала по сравнению с информацией, необходимой, чтобы описать 100 млрд нейронов, 100 млрд глиальных клеток и 100 трлн соединений в нашем мозгу. Даже при простом, грубом описании – скажем, 10 чисел с плавающей точкой на обозначение каждого соединения – потребовалось бы 70 квадриллионов бит. Это значит, что генетическое описание в полмиллиарда раз менее сложное, чем целый коннектом человеческого мозга.

Таким образом, мы выяснили, что наш геном не может содержать подробное описание всех наших нейронных связей. Скорее, он должен определять общую архитектуру и основные принципы, лежащие в основе работы мозга. Однако, похоже, этой архитектуры и принципов достаточно, чтобы люди, вырастая, становились разумными. Разумеется, есть и дополнительные факторы – растущим детям необходима здоровая, благоприятная среда и правильное питание для раскрытия своего интеллектуального потенциала. Но в подходящей среде здоровый человек будет обладать незаурядным интеллектом. В некотором смысле, в наших генах заложена сущность нашего мышления. Кроме того, принципы, содержащиеся в этой генетической информации, по-видимому, доступны нашему коллективному осмыслению.

Все вышеуказанные цифры очень приблизительны. Вполне возможно, что 125 млн бит – слишком завышенное число, и существует более сжатый набор основных принципов, лежащих в основе человеческого мышления. Может быть, большинство из этих 125 млн бит – это просто тонкая настройка мельчайших деталей. А возможно, мы слишком занизили цифры при подсчётах. Конечно, было бы здорово, если бы они оказались точными! Для наших текущих целей ключевым моментом является следующее: архитектура мозга сложна, но далеко не настолько, насколько вы можете подумать, исходя из количества соединений в нем. Точка зрения, рассматривающая мозг с позиции молекулярной биологии, предполагает, что мы, люди, в определённый момент сможем понять базовые принципы, лежащие в основе его архитектуры.

В последних абзацах я не учитывал факт, что эти 125 миллионов бит выражают лишь разницу между мозгом человека и шимпанзе. Но эти 125 миллионов бит отвечают не за все функции мозга. Шимпанзе по праву приписывается незаурядное мышление. Так может ключ к интеллекту лежит по большей части в тех умственных способностях (и генетической информации), которыми обладают как люди, так и шимпанзе? Если это действительно так, то человеческий мозг представляет собой лишь незначительно усовершенствованный мозг шимпанзе, по крайней мере, в части сложности базовых принципов. Тогда распространенная идеология об уникальности человеческих способностей ошибочна: генетические линии человека и шимпанзе разошлись всего 5 миллионов лет назад – мгновение по временным масштабам эволюции. Но за неимением более убедительного аргумента, я являюсь сторонником общепринятого человеческого шовинизма: я полагаю, что самые значимые принципы, лежащие в основе человеческого интеллекта, находятся в этих 125 миллионах бит, а не в той части генома, которую мы разделяем с шимпанзе.

Представление о мозге с точки зрения молекулярной биологии упрощает сложность нашего описания примерно на девять порядков. Хотя это и вдохновляет, мы всё равно не получаем ответа на вопрос о возможности существования по-настоящему простого алгоритма работы интеллекта. Можем ли мы сделать это описание еще более простым? И, что важнее, можем ли мы найти ответ на вопрос о существовании простого алгоритма работы интеллекта?

К сожалению, мы до сих пор не располагаем достаточно убедительными доказательствами, чтобы ответить на этот вопрос. Позвольте мне представить некоторые из доступных доказательств. Сразу оговорюсь, что это очень краткий и поверхностный обзор, предназначенный для передачи лишь главной сути одной из недавних работ, а не для полного исследования всего известного материала по этой теме.

К свидетельствам, предполагающим существование простого алгоритма работы интеллекта, относится эксперимент, опубликованный в апреле 2000 года в журнале Nature. Группа ученных под руководством Мриганка Сюра (Mriganka Sur) «перенастроила» мозг новорожденных хорьков. Обычно глаз хорька посылает сигнал в часть мозга, известную как зрительная кора. Но ученым удалось направить сигнал от глаз в зону коры головного мозга, отвечающую за слуховое восприятие.

Чтобы понять, что произошло при этом эксперименте, нам нужно подробнее узнать о зрительной коре. В ней находится множество ориентационных колонок. Это маленькие пластины нейронов, каждая их которых отвечает за визуальные стимулы из определенного направления. Вы можете представить ориентационные колонки в виде маленьких сенсоров направления: когда от какого-то конкретного направления исходит яркий свет, то активируется соответствующая ориентационная колонка. Если свет движется, активируется другая ориентационная колонка. Одной из наиболее важных высокоуровневых структур в визуальной коре является ориентационная карта, в которой обозначено расположение ориентационных колонок.



Оказалось, что, когда ученые перенаправили зрительный сигнал от глаз хорьков в слуховую кору, она изменилась. В ней начали появляться ориентационные колонки и ориентационная карта. Несмотря на то, что эта карта не была настолько упорядоченной, как в зрительной коре, она была очень похожа на нее. Более того, ученые провели ряд простых тестов на то, как хорьки реагируют на зрительные раздражители, приучив их по-разному реагировать на свет из разных направлений. Эти тесты показали, что хорьки все равно могут научиться «видеть» с помощью слуховой коры, по крайней мере, на элементарном уровне.

Это поразительный результат. Данные тесты дают основания полагать, что в основе разных зон мозга заложены общие принципы восприятия сенсорной информации. Такая общность, в свою очередь, является аргументом в пользу идеи о существовании набора простых принципов в основе работы интеллекта. Однако мы не можем знать, насколько хорошо видели хорьки при этом эксперименте. Поведенческие тесты затрагивают только очень примитивные аспекты зрения. И, естественно, мы не можем спросить у хорьков, действительно ли они «научились видеть». Таким образом, эти эксперименты не доказали, что вследствие изменения слуховой коры хорьки получали полноценное зрение. Исходя из этого, мы получили лишь незначительные доказательства того, что в основе обучения разных частей мозга заложены общие принципы.

А какие факты свидетельствуют об отсутствии простого алгоритма работы интеллекта? Некоторые из них получены при изучении эволюционной психологии и нейроанатомии. С 1960-х годов эволюционными психологами был открыт широкий спектр человеческих универсалий, общих норм поведения для всех людей, независимо от их культурной принадлежности или воспитания. Эти человеческие универсалии подразумевают запрет инцеста между матерью и сыном, назначение музыки и танцев, а также сложную лингвистическую структуру, включающую в себя употребление ненормативной (т.е запретной) лексики, местоимений и даже таких основных структур, как глагол. Помимо этих результатов при проведении нейроанатомических исследований было выяснено, что за многие человеческие нормы поведения отвечают конкретные зоны мозга, которые схожи у всех людей. В совокупности эти результаты показывают, что многие отдельные нормы поведения напрямую связаны с определенными зонами нашего мозга.

Исходя из вышесказанного, некоторые люди делают выводы, что для каждой из мозговых функций нужно отдельное объяснение, и как результат, что мозговая функция обладает нечленимой сложностью, которая, в свою очередь, исключает простое объяснение работы мозга (и, возможно, простой алгоритм работы интеллекта). Такой точки зрения придерживается исследователь искусственного интеллекта Марвин Минский (Marvin Minsky).



Марвин Минский

В 1970-1980-х годах Минский разрабатывал теорию под названием «Общество разума», в основе которой лежит идея о том, что человеческий разум – это результат взаимодействия индивидуально простых (но очень разных) вычислительных процессов, которые Минский назвал агентами. Изложив свою теорию в одноименной книге, Минский приходит к следующему выводу:

В чем заключается секрет нашего интеллекта? Секрет в том, что никакого секрета нет. Сила нашего интеллекта исходит не из одного совершенного принципа, а из их [принципов] совокупности.

В ответ* на рецензии к своей книге, Минский подробнее обосновал мотивацию, стоящую за «Обществом разума», приведя аргумент, аналогичный вышеизложенному, основываясь на нейроанатомии и эволюционной психологии:

*Из книги «Созерцая разум: Форум по искусственному интеллекту» под ред. Уильяма Дж. Кленси (William J. Clancey), Стефана У. Смолиара (Stephen W. Smoliar) и Марка Стефика (Mark Stefik) (изд. MIT Press, 1994)

Теперь мы знаем, что мозг сам по себе состоит из сотен различных отделов и ядер, обладающих существенно различными архитектурными элементами и механизмами, и что многие из них связаны с явно разными аспектами нашей умственной деятельности. Этот современный объем знаний показывает, что многие явления, традиционно описываемые общеупотребимыми терминами вроде «интеллекта» и «понимания», на самом деле включают в себя сложные системы механизмов.

Минский, безусловно, не единственный, кто придерживается этой точки зрения. Его я привожу просто как пример человека, поддерживающего эту линию доказательств. Я нахожу этот аргумент интересным, но недостаточно убедительным. Бесспорно, наш мозг состоит из огромного количества разных отделов с различными функциями, это не значит, что простого объяснения работы мозга не существует. Возможно, в основе всех этих архитектурных различий лежат общие принципы, подобно тому, как одна гравитационная сила движет кометами, планетами, Солнцем и звездами. Ни Минский, ни кто-либо другой не обосновали отсутствие таких основополагающих принципов.

В силу собственных предубеждений я больше склоняюсь к тому, что простой алгоритм работы интеллекта существует. И главная на то причина, помимо всех вышеперечисленных (недоказанных) аргументов, заключатся в оптимистичности самой идеи. Когда дело доходит до исследования, неоправданный оптимизм зачастую более продуктивен, чем, казалось бы, лучше обоснованный пессимизм. Оптимист не боится выдвигать новые идеи и изучать что-то новое. Это верный путь к открытиям, пусть даже и не тем, к которым оптимист стремился изначально. Пессимист может быть прав в каком-то узком смысле, но, в конце концов, он совершит гораздо меньше открытий, чем оптимист.

Эта точка зрения кардинально отличается от нашего привычного подхода к идеям: мы пытаемся причислить их к правильным либо неправильным. Такая стратегия хорошо подходит для рутинных незначительных исследований, но никак не для грандиозных смелых идей, определяющих целую программу исследования. Иногда мы располагаем слишком слабыми доказательствами, чтобы судить о правильности идеи. В таком случае мы можем покорно отказаться от нее, вместо этого потратив все свое время, пытаясь изучить те немногие доступные доказательства, которые у нас есть. Либо мы можем принять эту неизвестность и усердно работать над этой грандиозной смелой идеей, понимая, что только так мы продвинемся в наших знаниях.

Принимая во внимание все вышеизложенное в самой оптимистичной форме, я не верю, что нам удастся когда-либо обнаружить простой алгоритм работы интеллекта. Точнее говоря, я не верю, что мы найдем действительно короткую программу на языке Python (или С, или Lisp, не суть важно) – скажем, где-то до тысячи строк кода – которая будет реализовывать искусственный интеллект. Я также не думаю, что мы сможем найти просто описываемую нейронную сеть, с помощью которой реализуется искусственный интеллект. Но я верю, что не стоит прекращать попытки, как если бы такой язык или сеть существовали. Это путь к прозрению, и следуя по нему, в один прекрасный день мы, вероятно, сможем написать более длинную программу или построить более сложную сеть, демонстрирующую работу искусственного интеллекта. И поэтому нужно действовать так, словно чрезвычайно простой алгоритм работы интеллекта существует.

В 1980-х выдающийся математик и ученый Джек Шварц (Jack Schwartz) принимал участие в дискуссии между сторонниками и противниками искусственного интеллекта. Разгорелся нешуточный спор, сторонники искусственного интеллекта настаивали, что изумительные вещи ждут нас уже в ближайшем будущем, а противники с удвоенным пессимизмом утверждали, что создание искусственного интеллекта абсолютно невозможно. Шварц не участвовал в этом споре и хранил молчание, в то время, как обстановка накалялась. Во время затишья его попросили высказать свое мнение касательно обсуждаемых вопросов. Он сказал: «Что ж, от некоторых из этих событий нас возможно отделяет сотня Нобелевских премий». По-моему, это отличный ответ. Ключ к искусственному интеллекту – в простых, фундаментальных идеях, и мы можем и должны с оптимизмом относиться к их поиску.

Только вот понадобится еще много этих идей, ведь нам предстоит пройти долгий путь!