Сейчас у нас есть много алгоритмов, выполняющих те или иные (отдельные) когнитивные функции. Одни обыгрывают нас в игры, другие водят машины, третьи… Не мне вам рассказывать. Мы создали программы компьютерного зрения, которые различают дорожные знаки лучше, чем мы сами. Программы, которые рисуют и пишут музыку. Алгоритмы ставят медицинские диагнозы. Алгоритмы могут заткнуть нас за пояс в распознавании котиков, но… конкретно этот, который для котиков, ни в чем ином, кроме распознавания котиков. А мы-то хотим такую программу, которая решала любые задачи! Нам нужен «сильный» или «универсальный ИИ», но без собственного сознания, чтоб не смог отказаться решать поставленную задачу, верно? Где нам его взять?
Чтобы понять, как работает интеллект, мы обращаемся к единственному примеру, который у нас есть. К человеческому мозгу, в котором, как мы считаем, «живет» интеллект. Кто-то возразит – мозги есть у многих живых существ! Давайте начнем с червяков? Можно и с червяков, но нам нужен алгоритм, который решает не червяковые, а наши, человеческие задачи, верно?
Наш мозг. Представьте его себе. Два кило (по максимуму) податливого розовато-серого вещества. Сто миллиардов (тоже возьмем по максимуму) нейронов, каждый из которых готов отрастить до десяти тысяч динамических связей – синапсов, которые могут то появляться, то исчезать. Плюс несколько типов сигналов между ними, да еще и глия сюрприз подкинула — тоже что-то проводит, помогает и способствует. (Для справки: нейроглия или просто глия — совокупность вспомогательных клеток нервной ткани. Составляет около 40% объёма ЦНС. Количество глиальных клеток в среднем в 10-50 раз больше, чем нейронов). Дендриты недавно удивили — оказывается, они выполняют куда больше функций, чем считалось ранее (1). Мозг — очень сложная штука. Если не верите — спросите у Константина Анохина. Он подтвердит.
Человек все делает с помощью мозга. Собственно, мы — это и есть он. Отсюда совершенно неудивительным является представление человека о том, что «мозг = интеллект» и еще более неудивительна идея скопировать устройство мозга и — вуаля! — получить искомое. Но мозг — это не интеллект. Мозг — это носитель. «Железо». А Интеллект — это алгоритм, «софт». Попытки повторить софт через копирование железа — это провальная идея. Это культ карго (2). Вы же знаете, что такое «культ карго»?
Аборигены островов Меланезии (увидев во время WWII, как самолеты привозят оружие, продовольствие, медикаменты и многое другое), соорудили из соломы копии самолетов и будку диспетчера, но никак не помогли себе в получении товаров, потому что не имели никакого представления о том, что скрывается за внешним видом самолетов. Так и мы, разобрав до винтиков калькулятор, не найдем внутри ни одной цифры. И, тем более, никакого намека на какие-либо операции с числами.
Пару лет назад Андрей Константинов в одном из номеров журнала «Кот Шрёдингера» (№1–2 за 2017 г.), в своей колонке «Где у робота душа», написал: «Со времён Лейбница мы так и не нашли в мозге ничего, кроме „частей, толкающих одна другую“. Конечно не нашли! И не найдем. По компьютерному „железу“ мы пытаемся восстановить программу, а это невозможно. В качестве подтверждающего аргумента приведу длинную цитату (3):
»…нейробиологи, вооружившись методами, обычно применяемыми для изучения живых нейроструктур, попытались использовать эти методы, чтобы понять, как функционирует простейшая микропроцессорная система. «Мозгом» стал MOS 6502 — один из популярнейших микропроцессоров всех времён и народов: 8-битный чип, использованный во множестве ранних персональных компьютеров и игровых приставок, в том числе Apple, Commodore, Atari. Естественно, что мы знаем об этом чипе всё — ведь он создан человеком! Но исследователи сделали вид, что не знают ничего — и попытались понять его работу, изучая теми же методами, которыми изучают живой мозг.
Химически была удалена крышка, под оптическим микроскопом изучена схема с точностью до отдельного транзистора, создана цифровая модель (тут я немного упрощаю, но суть верна), причём модель настолько точная, что на ней оказалось возможно запускать старые игры (Space Invaders, Donkey Kong, Pitfall). А дальше чип (точнее, его модель) был подвергнут тысячам измерений одновременно: во время исполнения игр измерены напряжения на каждом проводке и определено состояние каждого транзистора. Это породило поток данных в полтора гигабайта в секунду — который уже и анализировался. Строились графики всплесков от отдельных транзисторов, выявлялись ритмы, отыскивались элементы схемы, отключение которых делало её неработоспособной, находились взаимные зависимости элементов и блоков и т. п.
Насколько сложной была эта система по сравнению с живыми? Процессор 6502, конечно, и рядом не стоит с головным мозгом даже мыши. Но он приближается по сложности к червю Caenorhabditis elegans — ломовой лошадке биологов: этот червь изучен вдоль и поперёк и уже предпринимаются попытки смоделировать его полностью в цифровом виде (…) Таким образом, задача анализа системы на чипе 6502 не является чрезмерным упрощением. И результаты имеют право быть экстраполированы на системы in vivo.
Вот только исследователи… потерпели поражение! Нет, какие-то результаты, конечно, получены были. Анализируя чип, удалось выделить функциональные блоки, набросать схему их вероятных взаимосвязей, получить некоторые интересные подсказки насчёт того, как, вероятно, работает микропроцессор в целом. Однако понимания в том смысле, в каком его требует нейробиология (в данном случае: быть способным исправить любую поломку), достигнуто не было".
В какой-то момент появились исследователи, которые стали говорить примерно то же самое — что надо изучать алгоритмы, что нужно понять, какую функцию выполняет интеллект. К примеру, Демис Хассабис (DeepMind), готовясь к выступлению на Singularity-саммите в Сан-Франциско (2010 г.), сказал следующее: «В отличие от других выступлений на саммите по теме AGI, мой доклад будет другим, так как я интересуюсь системным уровнем нейронауки – алгоритмами мозга – а не деталями, как они реализуются мозговой тканью в виде спайков нейронов и синапсов или специфической нейрохимией и т. д. Я интересуюсь, какими алгоритмами мозг пользуется для решения проблем, и которые нам нужно найти, чтобы добраться до AGI».
Однако, спустя 10 (!!!!!) лет, все идет по-прежнему: ученые исследуют мозг и пытаются из внешних проявлений физиологической активности и его внутреннего устройства вычислить, как происходит интересующий процесс. Сколько задач — столько процессов. Люди все разные. Мозги у всех немного, но отличаются. Некая усредненная картина, конечно, имеется, однако… Представьте себе, что в любой произвольный момент времени мозг решает массу, в том числе и «подсознательных» задач, отслеживает и контролирует внутреннее состояние организма, воспринимает и интерпретирует сигналы внешней среды (и это мы не говорим о многочисленных петлях обратной связи). Сможем ли мы уверенно выявить, надежно идентифицировать и четко отделить эти «активности» одну от другой? Возможно ли это в принципе? Честно говоря, сомневаюсь. Не говоря уже о воспроизводимости этих процессов на небиологических носителях…
Просмотрим на ситуацию иначе. Что такое «задача» вообще? Это затруднительная ситуация, с которой сталкивается, и которую пытается разрешить человек. Как показали в середине прошлого века американские математики Герберт Саймон и Аллен Ньюэлл, любая задача в общем виде может быть описана как переход из состояния «Система с проблемой» в состояние «Система без проблемы». Они разработали компьютерную программу, назвав её «General Problem Solver» (Универсальный решатель задач), но дальше решения задач специфического вида они не продвинулись, поэтому универсальность именно их алгоритма осталась под вопросом. Но формула «Система с проблемой» --> «Система без проблемы» оказалась абсолютно верна!
Преобразование Системы — это процесс ее перевода из исходного состояния «с проблемой» в желаемое состояние «без проблемы» (4). В процессе преобразования, (т. е. решения задачи) проблемная система становится беспроблемной (ну или менее проблемной), улучшается, избавляется от своих недостатков и «выживает», т. е. продолжает использоваться. Ой, погодите, что это мы сейчас сказали? Избавление от недостатков? Выживание? Хм… Что-то знакомое. Где-то мы это… Ах, ну да. Эволюция! Чем меньше недостатков — тем больше шансы выжить!
Давайте проверим себя, вспомним и повторим основной постулат: в живой природе бОльшие шансы на выживание имеют организмы, обладающие бОльшим числом полезных свойств (ну, условно — рога ветвистее, хвост пышнее). Если же у организма перья бледнее, а голос противнее (вредные свойства), то, скорее всего, жизнь его будет недолгой и пройдет в одиночестве. В итоге, давление отбора ведет к тому, что организмы избавляются от недостатков и становятся все более и более жизнеспособными. Если не верите — спросите у сэра Чарльза Дарвина. Он подтвердит.
Итак, мы принимаем как факт, что
а) функцией интеллекта является решение задач (любых) и
б) решение задачи — это улучшение Системы (любой), в ходе которого она избавляется от недостатков, становится более жизнеспособной. Иными словами — эволюционирует.
Слышите треск? Это наши представления о сложности интеллекта начинают трещать по швам. Получается, что бытовавшие ранее понятия «сложность мозга» и «сложность интеллекта» перестают быть тождественными. Что если для «получения Интеллекта» не надо проводить «реверс-инжиниринг» нейрофизиологического процесса решения задачи, ловя призрачные тени мышления в коннектоме (тем более, что у каждого человека он уникален) или заниматься глубоким обучением сетей? Что если… нам нужно алгоритмизировать процесс эволюции системы, т. е. путь ее преобразования из менее совершенного состояния в более совершенное с помощью известных нам законов эволюции? Что если до сегодняшнего дня мы, действительно, решали не ту задачу?
При этом я вовсе не хочу сказать, что обучением сетей заниматься не надо. У этого и прочих направлений огромные перспективы. И тем более я не хочу сказать, что глубокие исследования физиологии мозга – это бессмысленная трата времени. Изучение мозга — это важная и нужная задача: мы лучше поймем, как мозг устроен, научимся его лечить, восстанавливать после травм и делать другие потрясающие вещи, вот только к интеллекту мы не придем.
Кто-то мне сейчас наверняка возразит: задачи, которые решает человек, связаны с миллионами самых разных систем — природными, общественными, производственными, техническими… Материальными и абстрактными, находящимися на разных уровнях иерархии. И развиваются-де они каждая по-своему, а дарвиновская эволюция — это про живую природу. Зайчики, цветочки, рыбки, птички… Но исследования показывают, что законы эволюции универсальны.
Доказательства долго искать не надо – они все перед глазами. Имеющие их да увидят. Что ни возьми — от спички до «Боинга», от танка до… контрабаса — везде (5) мы видим наследственность, изменчивость и отбор! А все многообразие эволюционных изменений (кажущаяся сложность которых связана с тем, что все системы очень разные по своей природе и находятся на разных уровнях иерархии) можно выразить единственным циклом. Вы же помните, да? «Система с проблемой» --> «Система без проблемы».
Что такое «Система с проблемой»? Это Система (материальная и абстрактная, социальная, производственная и техническая, научная и… любая – объект, идея, гипотеза – всё, что угодно), в которой обнаружены какие-то недостатки, влияющие (внимание!) на наше желание и возможность её использования. Система недостаточно хороша. Система недостаточно эффективна. У неё низкое соотношение «польза / затраты». Мы хотим, можем и готовы от нее отказаться, и часто отказываемся. Но нам нужна другая (выполняющая нужную нам полезную функцию), но уже «без проблем» — более эффективная, без недостатков (или с меньшим их количеством). Ну, вы видели эту картинку выше… Конечно, одной «стрелочки» между двумя крайними состояниями (исходным и желаемым) нам мало. Нам нужен тот самый «оператор», «преобразователь», верно? Попробуем его найти? Вы же согласитесь, что в случае успеха мы получим описание (хотя бы, для начала и упрощенное) так нужного нам универсального алгоритма?
Исходная точка – «Система с проблемой». Мы начинаем задумываться о том, чтоб отказаться от её использования. Момент, который мы называем (или ощущаем) «Надо что-то делать!»
Причина, угрожающая выживанию системы – низкая идеальность, выражающаяся в пониженной величине отношения полезных функций системы к функциям затратным (вредным).
Что мы делаем дальше? Мы либо а) создаем новую систему (если система с нужной функций либо не существует, либо у существующей системы нет ресурсов для улучшения) или же б) улучшаем, дорабатываем, существующую (если ресурсы еще есть). Мы изучаем внутреннее устройство и разбираемся с внешним окружением — выявляем внешние и внутренние недостатки Системы и после их устранения получаем улучшенную Систему. Систему с повышенной идеальностью и повышенной жизнеспособностью!
В связи с тем, что представленная выше Схема описывает процесс развития, улучшения или, если хотите, эволюции любых систем (в чем легко убедиться, подставив вместо слова «Система» любое иное по желанию – от «Абажур» до «Якорь»), я думаю, ее смело можно… и даже – нужно! назвать «Универсальной Схемой Эволюции». И обратите внимание — она абсолютно алгоритмична, т. е. полностью подпадает под определение алгоритма: Алгоритм — точное предписание о выполнении в определённом порядке некоторой системы операций, ведущих к решению всех задач данного типа. значит — может быть реализована в виде компьютерной программы).
В представленном виде Универсальная Схема Эволюции:
- естественная — законы эволюции выявлены в системах самого разного типа, и их действие проверено в технике, производстве, обществе, природе и мышлении;
- объективная – законы эволюции не зависят от мнения исследователя и/или пользователя;
- логичная и непротиворечивая – законы эволюции вытекают один из другого;
- полная — набор законов эволюции достаточен для описания любой системы;
- жесткая — законы эволюции нельзя переставлять и
- замкнутая – законы эволюции образуют цикл: система, пройдя один цикл изменений, тут же начинает новый.
Что у нас получается в итоге: Эволюция системы (представленная в виде Универсальной Схемы) — это путь её улучшения, избавления от недостатков. Иными словами, это алгоритм решения задачи. А решение задачи — это именно то, чем занимается интеллект. Упрощаем и получаем: Универсальная Схема = описание функции интеллекта.
Конструктивная критика приветствуется.
1. «Дендриты важнее для мозга, чем ранее считалось» chrdk.ru/news/dendrity-vazhnee-chem-schitalos
2. ru.wikipedia.org/wiki/Карго_культ
3. Е. Золотов. «Пойми меня! Как неживое помогает разбираться в живом» www.computerra.ru/161756/6502
4. Chapter 6. Problem Solving. Artificial Intelligence. A Knowledge-Based Approach by Morris W.Firebaugh University of Wisconsin – Parkside PWS-Kent Publishing Company Boston 1988, p. 172.
5. Дарвиновская эволюция в мире техносферы. Мир вещей, создаваемый человеком, развивается по тем же законам, что и живая природа. www.ng.ru/science/2017-01-11/14_6899_evolution.html
ni-co
По мне, основная ошибка современных горе — пессимистов это попытка взвалить на плечи искусственного интеллекта неимоверную задачу. Решать ЛЮБУЮ задачу. А ведь ни ОДИН человек на это не способен. Многое решается даже в самом лёгком случае на коллективном опыте предшествующих поколений. Дайте машине нормальную возможность доступа к знаниям и все сдвинется
Pavel_Zak Автор
Доступ к знаниям… То есть вы предлагаете огромную БД, из которой Машина (напишем с большой буквы) будет черпать? Но ни одна БД, даже самая большая, по умолчанию, не может быть полной, поэтому это очередной тупиковый путь. В качестве контраргумента приведу всем известную формулу Виета. До момента ее появления как решали квадратные уравнения, как находили корни? Сначала методом тыка (читай — МПиО), потом решили записывать результаты и копить библиотеки с сотнями и сотнями томов. Но количество корней — бесконечно. И тут появился Виет со своей формулой. И всё! БД не нужны. Применяй короткую формулу — и любое уравнение из прошлого, настоящего и будущего будет гарантированно решено. И — да, ни один человек не способен решить любую проблему, я не спорю. Но нам же надо их решать, верно?