Примерно неделю назад я прочитал эссе The Empty Brain («Пустой мозг») Роберта Эпштейна, доктора наук Гарвардского Университета и ведущего психолога-исследователя в Американском Институте Поведенческих Исследований и Технологий в Калифорнии. Несмотря на то, что мне это не свойственно, я решил написать ответ и утверждаю, что оригинальное эссе вовсе не отражает реального положения вещей.

Краткое введение


В своём эссе Роберт Эпштейн утверждает, что ментальная модель человеческого мозга и процессы мышления не могут быть сравнены с ИП — информационным процессингом — происходящим внутри компьютера.

Кажется, что автор описывает ИП всего лишь как набор предопределённых алгоритмов, заложенных программистами, или как процесс записи фотографий на жёсткий диск. Поэтому, утверждает он, мы ошибаемся, когда используем эту абстракцию для описания нашего мозга.

Роберт Эпштейн также приводит примеры, которые поначалу выглядят весьма убедительно, но, на самом деле, вводят читателя в заблуждение, поскольку трудно представить, чтобы человек думал таким образом (и я не знаю ни одного учёного, чьё мнение напоминало бы это):

Взгляд со стороны ИП требует от игрока в бейсбол прикидывать множество начальных условий полёта мяча: силу удара, угол траектории, такого рода вещи — чтобы затем создать и проанализировать внутреннюю модель пути, по которому мяч будет двигаться, и затем использовать эту модель, постоянно корректируя свои движения, чтобы поймать мяч.

Ну, нет. Это так не работает.

Примитивные алгоритмы


У человеческого мозга нет научной степени по физике. Он развивается на основе того, что человек воспринимает, использует входные данные, получаемые от органов чувств, и совершенствуется посредством бесчисленных попыток делать что-то, получая позитивную или негативную обратную связь.

Очевидно, что физические и математические алгоритмы не предназначены для использования внутри мозга, поскольку они изобретены для моделирования мира в очень точной манере, тогда как мы очень хороши в приблизительных вычислениях.

Однако, тот факт, что в голове игрока в бейсбол — не математические формулы, не значит, что алгоритмы не участвуют в принятии решений.

Но почему стандартные компьютерные алгоритмы? Ведь у нас есть собственные, растящие сами себя внутри нашего мозга, те, что опираются на широкий спектр воспринятой информации, а не на физико-математическую модель мира.

Нейронные сети


За этим термином — много разных технологий, и, что важно, работа мозга не ограничивается работой нейронных сетей, однако я кратко опишу их. Базируясь на обычной низкоуровневой компьютерной логике, нейронные сети создают абстракцию, которая совершенно отличается от сохранения фотографий или создания презентаций в PowerPoint.

В общем, нейронные сети пытаются найти решение сложной функции, не зная самой этой функции. Например, функция — ответить Да, если объект присутствует на фотографии, и Нет, если его там нет.

Поскольку нейронная сеть не знает, какова функция, единственный способ заставить её работать — обучить с помощью набора подписанных фотографий. Каждый раз, когда нейронная сеть получает фотографию, она отвечает Да или Нет с некоторой степенью уверенности, а мы — подтверждаем или отвергаем ответ. Если сеть ответила правильно — всё ОК, в ином случае — она изменяет себя, чтобы найти способ давать верные ответы.

Если мы взглянем на нейронную сеть поближе, мы увидим множество простых математических уравнений, каждое из которых отвечает определённым образом на полученную часть входных данных. Каждый отдельный нейрон не имеет представления о том, что происходит в целой сети.

В очень упрощённом виде, вот как эта метафора работает. Видите? Это далеко от точки зрения автора. Никаких заранее заложенных алгоритмов, только те, что были сгенерированы естественным образом, и которые, кстати, по большей части, уникальны…

Уникальность опыта


Дальше в своей статье Роберт Эпштейн говорит, что "нет никаких причин верить, что двое из нас изменятся одинаково, получив одинаковый опыт". Я полностью согласен с этим утверждением, правда. Но здесь же кроется и то, что поразило меня так сильно, что я начал писать этот пост:

Если вы и я присутвуем на одном концерте, изменения, происходящие в моём мозге, когда я слушаю 5-ю симфонию Бетховена, будут почти наверняка полностью отличаться от изменений в вашем. Эти изменения, какими бы они ни были, опираются на уникальную нейронную структуру, которая уже существует, и каждая из структур развивалась в течение целой жизни, состоящей из уникального опыта.

Если мы запустим две идентичные нейронные сети на двух идентичных компьютерах, а затем дадим им разные входные данные (в качестве их «жизней»), в итоге мы получим две разные нейронные сети. После этого, если мы дадим им ещё входных данных, идентичных в этот раз, они отреагируют по-разному, и изменения, произошедшие с ними, также буду различаться.

Ошибочно думать, что компьютеры не способны работать с нечёткой логикой и зашумлёнными данными. Это всего лишь вопрос размера и организации, и широко известно, сколько нейронов в человеческом мозге, и как много связей между ними.

Озарения


И, хотя весь пост был неагрессивным, теперь я немного взбешусь. Последний абзац возбудил во мне почти святой гнев. Только посмотрите на это:

Мы организмы, не компьютеры. Смиритесь с этим. Давайте продолжим попытки понять себя, но не будучи обременёнными ненужным интеллектуальным грузом. Метафоре ИП вот уже полвека, и она спровоцировала мало озарений, если они вообще были. Пришло время нажать на клавишу DELETE.

Мало озарений, если они вообще были? Неужели? Добрая часть машинного обучения опирается на эту метафору, огромное количество исследований ИИ основываются на исследования человеческого мозга, и это что — мало озарений?

Это последнее утверждение выглядит для меня как предложение сдаться в исследованиях мозга. Зачем беспокоиться? Мы же не компьютеры, что там!

Это правда, что человеческий мозг намного сложнее и загадочнее, чем самые совершенные современные компьютеры. Его структура и процессы ещё не познаны, но — как и многие другие феномены — не непознаваемы.

И даже если наш мозг — компьютер, он красивый. Смиритесь с этим, пожалуйста. Нет ничего уродливого или плохого в том, чтобы быть одновременно компьютером и организмом.

PS. Я знал о нейронных сетях, но не о том, как они работают. Поэтому, спасибо Алану за объяснения и исправление ошибок.
Поделиться с друзьями
-->

Комментарии (11)


  1. Doktor_Gradus
    12.06.2016 12:55
    +1

    Вся работа в области создания ИИ — это как раз и есть попытка ответить на вопрос «возможно ли смоделировать разум человека»?

    В настоящее время ответ на этот вопрос звучит как «неизвестно».

    Однако, есть и ещё один вопрос «а зачем это надо?». Мы, человечество — инструменталистская цивилизация. Для решения тех или иных задач мы создаём инструменты. Мы не бегаем быстрее всех, но мы создали транспорт, который позволяет нам перемещаться в пространстве быстрее всех. Мы довольно фиговенько считаем, но мы создали разнообразнейшую вычислительную технику, позволяющую выполнять невообразимые вещи.

    А для чего мы будем создавать сильный ИИ? Просто потому что этого кому-то хочется? Или какие задачи мы хотим на него возложить? Будет ли достаточно для подавляющего числа задач слабого ИИ, а тем, что останется займутся уже люди?

    Или нам всё таки нужен сильный ИИ, чтобы к тому времени, как он превзойдёт людей по суммарному интеллекту, сказать ему «ну, мы двенадцать тысяч лет надрывались, чтобы создать тебя, теперь ты давай нас вези»?


    1. CrazyViper
      12.06.2016 13:59

      А для чего мы будем создавать сильный ИИ?
      Проблема старения, например.

      Вообще на тему сильного ИИ есть отличная статья Революция Искусственного Интеллекта.


    1. avost
      12.06.2016 20:42

      >Вся работа в области создания ИИ — это как раз и есть попытка ответить на вопрос «возможно ли смоделировать разум человека»?

      Нет, конечно. Такие работы, безусловно, есть, но, думаю, куда больше работ сугубо прагматичных. «Можем ли мы решить эту задачу каким-либо из методов так называемого ИИ».


    1. Symphel
      14.06.2016 11:46

      >А для чего мы будем создавать сильный ИИ?
      Ну например, чтобы он поставил нам новые задачи.


  1. invekc
    12.06.2016 13:13
    +2

    Возможно, Эпштейн и разбирается в психологии, но он абсолютно ничего не смыслит в нейронных сетях.


  1. zirix
    12.06.2016 19:58

    Спасибо за перевод.
    Маленькая рекомендация: не пропускайте непонятные вам слова.


    1. xenohunter
      12.06.2016 19:59

      Всегда пожалуйста.
      Расскажите, а о каких словах речь?


      1. zirix
        12.06.2016 20:46

        In the essay, Robert Epstein states that both the mental model of human brain and the process of thinking can’t be compared to the IP?—?information processing?—?running inside a computer.
        — mental model = модель мышления/мыслительная модель.

        Фразу Although, the fact that a baseball player doesn’t run math formulas in his head does not mean that no algorithms are involved in his decision making.
        Можно было ближе к оригиналу перевести.

        Мелочи, но смысл уплывает.


        1. xenohunter
          12.06.2016 20:51

          В певом случае — моё упущение. Поправил публикацию, спасибо. Во втором я так перевёл намеренно. Забавно то, что оригинал статьи — за моим авторством, но спасибо за замечания, постараюсь в следующий раз точнее перевести.


          1. zirix
            12.06.2016 21:11

            > Забавно то, что оригинал статьи — за моим авторством
            Тогда извините за «непонятные вам слова» :)


  1. taujavarob
    14.06.2016 16:59

    Хм. Неоднократно читал, что ИИ (в том числе и нейронные компьютерные сети) и мыслительная деятельность человека — это совершенно разные понятия. Совсем не совместимые.

    Ну не мыслит человек так как работает ИИ. — Аналогично — не считаем мы так же как это происходит в компьютере.
    Да, внешне это похоже иногда — но внутри всё иначе.