В чем различие человека и программы
Нейронные сети, которые и составляют сейчас практически всю область искусственного интеллекта, могут учитывать в принятии решения гораздо больше факторов, чем человек, делать это быстрее и в большинстве случаев более точно. Но программы действуют только так как их запрограммировали или обучили. Они могут быть очень сложными, учитывать много факторов и действовать очень вариативно. Но все равно не могут заменить человека в принятии решений. Чем же отличается от такой программы человек? Здесь надо отметить 3 ключевых отличия, из которых вытекают все прочие:
- Человек обладает картиной мира, которая позволяет ему по части информации дополнять картину такими данными, которые не прописаны в программе. Кроме того, картина мира структурно устроена так, что позволяет нам иметь хоть какое-то представление обо всем. Даже если это нечто круглое и светится в небе (НЛО). Обычно для этого строят онтологии, но онтологии не обладают такой полнотой, плохо учитывают многозначность понятий, их взаимное влияние и пока применимы только в строго ограниченных темах.
- Человек обладает логикой, которая учитывает эту картину мира, что нами называется здравым смыслом или common sense. Любое утверждение обладает смыслом, и учитывает скрытые недекларированные знания. Несмотря на то, что законам логики много сот лет, никто до сих пор не знает, как функционирует обычная, не математическая, логика рассуждений. Мы по сути не знаем как запрограммировать даже обычные силлогизмы.
- Произвольность. Программы не обладают произвольностью. Это пожалуй самое сложное из всех трех отличий. Что мы называем произвольностью? Возможность построить новое поведение, отличное от того, что мы выполняли при тех же обстоятелствах ранее, или построить поведение в новых, не встречавшихся ранее обстоятелствах. То есть по сути это создание на ходу новой программы поведения без проб и ошибок с учетом новых, в том числе внутренних, обстоятельств.
Произвольностью пока является неизведанным полем для исследователей. Генетические алгоритмы, способные породить новую программу поведения интеллектуальных агентов, не являются выходом, так как они порождают решение не логично, а путем «мутаций» и решение находится «случайно» в ходе отбора этих мутаций, то есть путем проб и ошибок. Человек находит решение сразу, выстраивая его логично. Человек может даже объяснить, почему выбрано такое решение. Генетический алгоритм не обладает аргументами.
Известно, что, чем выше животное на эволюционной лестнице, тем более произвольным может быть его поведение. И наибольшую произвольность проявляет именно у человека, так как человек обладает способностью принимать во внимание не только внешние обстоятельства и свои выученные навыки, но и скрытые обстоятельства – личные мотивы, сообщенные ранее сведения, итоги действия в схожих обстоятельствах. Это сильно увеличивает вариативность поведения человека, и, по моему мнению, к этому причастно именно сознание. Но об этом чуть позже.
Сознание и произвольность
Причем тут сознание? В психологии поведения известно, что привычные действия мы осуществляем автоматически, машинально, то есть без участия сознания. Это примечательный факт, означающий, что сознание причастно к созданию нового поведения, связано с ориентировочным поведением. Это также значит, что сознание подключается именно тогда, когда надо изменить привычный паттерн поведения, к примеру, отреагировать на новые запросы с учетом новых возможностей. Так же некоторые ученые, например, Докинз или Метцингер, указывали, что сознание как-то связано с наличием у людей образа себя, что модель мира включает и модель самого субъекта. Как тогда должна выглядеть сама система, которая бы обладала такой произвольностью? Какой структурой обладать, чтобы она могла построить новое поведение для решения задачи в соответствии с новыми обстоятельствами.
Для этого нам надо сначала вспомнить и уточнить некоторые известные факты. Все животные, обладающие нервной системой, так или иначе содержат в ней модель среды, интегрированной с арсеналом своих возможных действий в ней. То есть это не только модель среды как пишут некоторые ученые, а модель возможного поведения в той или иной ситуации. И одновременно это модель предсказания изменений в среде в ответ на какие-либо действия животного. Это не всегда учитывают когнитивные ученые, хотя на это прямо указывают открытые зеркальных нейронов премоторной коре, а также исследования активации нейронов макак, в ответ на восприятие банана у которых активируется не только области банана в зрительной и височной коре, но и руки в соматосенсорной, потому что модель банана непосредственно связана с рукой, так как обезьяне интеерсен только тот фрукт, что она может взять его и съесть. Мы просто забываем, что нервная система появилась не для отражения мира животными. Они не софисты, они просто хотят есть, поэтому их модель – это в большей степени модель поведения, а не отражения среды.
Такая модель уже обладает определенной степенью произвольности, которая выражается в вариативности поведения в схожих обстоятельствах. То есть у животных есть некоторый арсенал возможных действий, которые они могут осуществить в зависимости от ситуации. Это могут быть боле сложные временные паттерны (условно-рефлекторные), чем непосредственная реакция на события. Но все равно это не полностью произвольное поведение, что позволяет нам дрессировать животных, но не человека.
И здесь есть важное обстоятельство, которое нам надо учесть – чем более известные обстоятельства встретились, тем менее вариативно поведение, так как у мозга есть решение. И наоборот, чем обстоятельства новее, тем больше вариантов возможного поведения. И весь вопрос в их отборе и комбинации. Животные это делают, просто проявляя весь арсенал своих возможных действий, как показал в своих экспериментах еще Скинер.
Нельзя сказать, что произвольное поведение является полностью новым, оно состоит из ранее выученных паттернов поведения. Это их перекомбинация, инициируемая новыми обстоятельствами, не полностью совпадающими с теми обстоятельствами, на которые уже есть готовый паттерн. И в этом как раз есть точка разделения произвольного и машинального поведения.
Моделирование произвольности
Создание программы произвольного поведения, умеющей учитывать новые обстоятельства, позволило бы сделать универсальную «программы всего» (по аналогии с «теорией всего») хотя бы для определенного домена задач.
Чтобы могло сделать их поведение более произвольным, свободным? Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирет первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.
Первая модель реагирует на обстоятельства среды. И если активированный ею паттерн оказался новым, вызывается вторая модель, которая научена искать решения в первой модели, распознавая все возможные варианты поведения в новой обстановке. Напомню, что в новой обстановке вариантов поведения активируется больше, поэтому вопрос именно в их отборе или комбинации. Это происходит потому, что в отличие от знакомой обстановки, в ответ на новые обстоятельства активируется не один паттерн поведения, а сразу несколько.
Каждый раз, когда мозг встречается с чем-то новым, он осуществляет не один, а два акта – распознавание ситуации в первой модели и распознавание уже осуществленных или возможных действий второй моделью. И вот в этой структуре проявляется много возможностей, схожих с сознанием.
- Эта двухактная структура позволяет учитывать не только внешние, но и внутренние факторы – во второй модели могут запоминаться и распознаваться итоги предыдущего действия, отдаленные мотивы субъекта и т.п.
- Такая система может строить новое поведение сразу, без долгого обучения, инициируемого средой согласно эволюционной теории. Например, вторая модель имеет возможность трансфера решений с одних подмоделей первой модели на другие ее части и много других возможностей метамодели.
- Отличительным свойством сознания является наличие знание о своем действии, или автобиографической памяти, как показано в статье (1). Предложенная двухактная структура как раз обладает такой способностью – вторая модель может хранить данные о действиях первой (ни одна модель не может хранить данные о собственных действиях, так как для этого она должна содержать непротиворечивые модели своих действий, а не реакций среды).
Но как именно происходит построение нового поведения в двухактной структуре сознания? У нас в распоряжении нет мозга и даже его правдоподобной модели. Мы стали экспериментировать с глагольными фреймами как прототипами моделей, которые содержатся в нашем мозге. Фрейм представлет из себя набор вариантов актантов глагола для описания ситуации, а комбинация фреймов может служить для описания сложного поведения. Фреймы описания ситуаций – это фреймы первой модели, фрейм описания своих действий в ней – это фрейм второй модели с глаголами личных действий. У нас часто они смешаны, потому что даже одно предложение – это смесь нескольких актов распознания и действия (речевого акта). А само построение длинных речевых выражений – лучший пример произвольного поведения.
Когда первая модель системы распознает новый паттерн, на который у нее отсутствует запрограммированный ответ, она вызывает вторую модель. Вторая модель собирает активированные фреймы первой и ищет более короткий путь в графе связных фреймов, который наилучшим способом как бы «замкнет» паттерны новой ситуации комбинацией фреймов. Это достаточно сложная операция и мы еще не достигли в этом результата, претендующего на звание «программы всего», но первые успехи обнадеживают.
Экспериментальные исследования сознания путем моделирования и сравнения программных решений с данными психологии дает интересный материал для дальнейших исследований и позволяет проверить некоторые плохо проверяемые в экспериментах над людьми гипотезы. Это можно назвать моделирующими экспериментами. И это только первый результат в этом направлении исследования.
Библиография
1. Двухактная структура рефлексивного сознания, А. Хомяков, Academia.edu, 2019.
Комментарии (31)
codecity
03.10.2019 07:13Чем же отличается от такой программы человек?
3. Произольность. Программы не обладают произвольностью.
Человек не обладает произвольностью. Попробуйте провести эксперимент: выбирайте в течение целого дня числа от 0 до 9 — т.е. сделайте из себя ГСЧ. Потом проанализируйте результаты и не увидите нормального распределения. Да, есть некий слабенький ПГСЧ, но не более того.
Xom Автор
03.10.2019 07:20Ну вот психологи с вами не согласится. И в тексте есть определенные произвольности, которая имеется ввиду в статье.
TimsTims
04.10.2019 23:48выбирайте в течение целого дня числа от 0 до 9 — т.е. сделайте из себя ГСЧ
Это был бы некорректный эксперимент. Очень близкая аналогия: спрашивайте у прохожих, сколько денег они хотели бы получать в месяц. В таком «ГСЧ» будут отсутствовать числа до 10 000. Суть в том, что числа в человека вдалбливают с детства со школы, потом всякие «гороскопы», «счастливые числа» итд итп. Поэтому у людей особое отношение к некоторым числам. Я уж молчу про китайцев, которые ненавидят 4, но обожают 8. С буквами примерно то же самое, мало людей вспомнит про букву Ъ.codecity
05.10.2019 04:35Суть в том, что числа в человека вдалбливают с детства со школы, потом всякие «гороскопы», «счастливые числа» итд итп.
Ну вот об этом и речь — попробуйте произвольно, силой лишь своей мысли и желания — избавиться от этих вдалбливаний и делайте выбор независимо.
kapas19
03.10.2019 07:35Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирует первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.
Могли бы вы подробнее рассказать о своих экспериментах?
Xom Автор
03.10.2019 09:54Конечно, но только в переписке. Напишите мне, чтобы я мог понять, с кем общаюсь.
ertegix
03.10.2019 10:58+1Коль вы написали заметку на Хабр, почему бы не описать свои исследования здесь же? В чём проблема? Вам запрещено это делать?
Xom Автор
03.10.2019 11:14Есть некоторые ограничения, я могу писать о теоретической части, но не о практической реализации. И в общем-то и цель моя была именно в изложении теоретической, чтобы ее покритиковали.
kapas19
03.10.2019 11:49Что критиковать? Где основные положения и выводы, которые бы позволили понять суть вашей гипотезы, проанализировать ход ваших рассуждений. Представления о необходимости многоуровнего управления/контроля (моделей, моделей моделей и т.д. и т.п.) для «реализации» человеческого поведения (наличия сознания) существуют давно (см. например: Амосов Н.М., Касаткин А.М., Касаткина Л.М., Талаев С.А. Автоматы и разумное поведение. Опыт моделирования. — Киев, Наукова думка, 1973 — если я правильно понял вашу «теоретическую» часть это, то что вы делаете, но работы группы Амосова — это доведенные до «железа» эксперименты, ух ты — практически 50 летней давности, которое с моей точки зрения не потеряли актуальности), а также (др. работы Амосова Н.М. и не только его), обучение с подкреплением (Reinforcement Learning, а точнее – модели адаптивных критиков, см. например: см. изложения этого метода у Редько В.Г.); нейросетевой подход – в каком-то смысле современные архитектуры типа LSTM воспроизводят многоуровнее управление/контроль.
Что касается вашей статьи: интересна конкретика – например: как в вашем случае реализуется взаимодействие разноуровневых (?) моделей и т.п.Xom Автор
03.10.2019 12:02За ссылку на Амосова спасибо, почитаю. Обучение с подкреплением и LSTM не является двухуровневым. На это больше похожи сети с вниманием.
В статье же я пытаюсь психологическую "произвольность" как то определить для программируемости. Вот цель, не более. И показал какая может быть архитектура произвести. Эксперименты вообще имеют другую заплачу, конечно, мысли в статье — это побочный эффект так сказать )
Как происходит взаимодействие уровней вроде и написал — активированные фреймы первой идут на вход второй. Но даже есть варианты.kapas19
03.10.2019 12:41Модель адаптивных критиков — двухуровневая с явно выделенным модулем (моделью) определения стратегии (критиком).
На мой взгляд, LSTM — по своей сути это развернутая во «времени» (а можно и понимать и в других смыслах) рекурсивная сеть в которой более «старые» уровни отвечают за управление / контроль более высокого уровня, уровень общности «растет» от уровня к уровню. LSTM-модуль уже, изначально — «по умолчанию» может иметь вентиль внимания (focus gate, attention gate).
kapas19
03.10.2019 10:591.
но только в переписке
Почему? В чем цель вашей статьи? Или ваша статья — просто изложение собственных размышлений. Ок. Так сказать, для фиксации приоритета.
2. Вы сами поставили вопрос:
Чтобы могло сделать их поведение более произвольным, свободным?
Но ответа на него я думаю никто, из читавших вашу статью, не увидел. Далее идет ссылка на ваш эксперимент. Возможно, в его постановке и программной реализации содержится ответ.
Судя по всему, вы строите семантическую сеть и систему вывода на ней. Фактически «руками» «обучая» (не в прямом смысле) ее тому, что от нее требуется. Исходя из ваших же предварительных рассуждений – скорее всего это не то, что вы хотели получить. И полученный вами результат – артефакт (эффект, вызванный случайным или преднамеренным влиянием экспериментатора на ход эксперимента).
3.Напишите мне, чтобы я мог понять, с кем общаюсь.
Гик, просто гикXom Автор
03.10.2019 11:18По то, что могло сделать из поверните более произвели я как раз и пишу — про двухуровневую систему фреймов. Фреймы над фреймами ее и обеспечивают.
Не могу описывать всю реализацию (есть ограничения), но по способу это близко к FrameNet. Наполнение фреймов готовиться по статистике паркинга больших лит. текстов. Но вы правы, пока сами фреймы делаются ручными правилами. Здесь есть статье место (в продакт такое не запустить на произвольный домен). Проблемы пока сзади с созданием онтологий. Но мы надеемся из преодолеть )
Xom Автор
03.10.2019 11:25Про то, что могло сделать поведение более произвольным я как раз и пишу про двухуровневую систему фреймов. Фреймы над фреймами ее и обеспечивают.
Не могу описывать всю реализацию (есть ограничения), но по способу это близко к FrameNet. Наполнение фреймов готовиться по статистике парсинга больших лит. текстов. Но вы правы, пока сами фреймы и граф делаются ручными правилами. Здесь есть узкое место (в продакт такое не запустить на произвольный домен). Проблемы пока такие же как с созданием онтологий. Но мы надеемся их преодолеть ) Извините за ошибки, пишу с телефона.
headfire
03.10.2019 11:25Думаю, что Вы правы, и двухконтурная система будет демонстрировать более сложное поведение, чем одноконтурная. И вообще, чем больше контуров, тем сложнее поведение. Но вот будет ли это поведение, как Вы выражетесь, произвольным:).
И вообще… Вы оперируйте нечеткими и необщепринятыми терминами произвольность, свобода поведения. Думаю, что нужно сделать следующий логичный шаг и назвать все это известным термином — свободой воли (корни слов — те же и смысл тот-же). Но думаю Вы этот шаг не сделайте, потому, что статья претендует на научность, а ученые боятся этого термина, как черт ладана :)
Таким образом главный вопрос, который следует задать — является ли свобода воли вычислимой функцией, или все-таки нет.Xom Автор
03.10.2019 11:31Хороший вопрос ) Я действительно избегал бы лучше такого определения, оно не определим алгоритмически. Но у меня есть статья на academia.edu о свободе воли, где поясняется, что это такое с точки зрения когнитивной психологии. Кратко, это проблема "черного ящика", который мы называем "я". Если его раскрыть, никакой проблемы как и "свободы" нет. Свобода — это ощущение, а не реальность.
Xom Автор
03.10.2019 11:35Я как раз и пытаюсь определить произвольность и даже экспериментально проверить. Произвольность тоже ощущение, ака непредсказуемость. Алгоритмически это создание нового поведения "на лету". Я так определил это в статье. И прошу критики )
headfire
03.10.2019 14:38Немного критики по Вашей просьбе:)
Действительно — сведение свободы воли к субъективному ощущению — это основная линия проводимая современной наукой в этом вопросе. Биология и психология уже давно пытаются, и иногда не безуспешно, низвести человека до биологического автомата, так как это основная их задача. Ваша статья — это еще одно ведро воды на эту мельницу.
Основная моя претензия — это использование в статье фраз «произвольное поведение» и «свободное поведение». Я думаю, что по смыслу Ваших исследований правильнее было бы использовать фразу «адаптивное поведение». Тогда бы все встало на свои места. Но конечно потерялся бы броский, цепляющий, противоречивый заголовок, и статья стала бы обычной публикацией по исследованию адаптивного поведения, коих со времен создания кибернетики вышло уже не мало.
phenik
05.10.2019 18:08Все животные, обладающие нервной системой, так или иначе содержат в ней модель среды, интегрированной с арсеналом своих возможных действий в ней. То есть это не только модель среды как пишут некоторые ученые, а модель возможного поведения в той или иной ситуации. И одновременно это модель предсказания изменений в среде в ответ на какие-либо действия животного. Это не всегда учитывают когнитивные ученые, хотя на это прямо указывают открытые зеркальных нейронов премоторной коре, а также исследования активации нейронов макак, в ответ на восприятие банана у которых активируется не только области банана в зрительной и височной коре, но и руки в соматосенсорной, потому что модель банана непосредственно связана с рукой, так как обезьяне интеерсен только тот фрукт, что она может взять его и съесть. Мы просто забываем, что нервная система появилась не для отражения мира животными. Они не софисты, они просто хотят есть, поэтому их модель – это в большей степени модель поведения, а не отражения среды.
Чтобы могло сделать их поведение более произвольным, свободным? Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирет первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.
В когнитивной психологии и нейрофизиологии сейчас набирает популярность подход основанный на предсказании восприятия и поведения, см. этот обзор. Упор именно на предсказании, причем изменение восприятия и поведения, которые определяет верхний иерархический уровень управления (или модель), корректируется только переменной частью (новизной) потока информации поступающего с сенсорного уровня. Для этого обычно используется байесовская процедура минимизации ошибок предсказания. Фактически это развитие представлений Бруннера о перцептивной готовности, и проверяемых гипотез Грегори, кот. появились еще в прошлом веке. Такой подход, вероятно, оптимален по критериям максимума эффективности механизма восприятия и управления поведением и минимума энергозатрат в мозге, как биологической структуре.Но как именно происходит построение нового поведения в двухактной структуре сознания? У нас в распоряжении нет мозга и даже его правдоподобной модели. Мы стали экспериментировать с глагольными фреймами как прототипами моделей, которые содержатся в нашем мозге. Фрейм представлет из себя набор вариантов актантов глагола для описания ситуации, а комбинация фреймов может служить для описания сложного поведения. Фреймы описания ситуаций – это фреймы первой модели, фрейм описания своих действий в ней – это фрейм второй модели с глаголами личных действий. У нас часто они смешаны, потому что даже одно предложение – это смесь нескольких актов распознания и действия (речевого акта). А само построение длинных речевых выражений – лучший пример произвольного поведения.
Это не семантические сети? Пусть даже иерархически организованные.
Xom Автор
05.10.2019 22:40Спасибо за комментарий, на счет предсказаний, конечно, я в курсе. В этом собственно задача мозга — предсказать результат действия (движения), чтобы подготовить к нему организм. Для этого и нужна модель. Но вопрос в том, как мы (люди) можем создавать новое (произвольное) поведение и предсказывать его результат. Не адаптироваться как тут некоторые предположили, а создавать как артефакт. Вот что «чудесно».
Нет, это не семантические сети в том виде как они приняты в психологии и семиотике. Тут нет связки слов со словами в прямом виде. Но есть алгоритм составления цепочек, если говорить коротко.kapas19
06.10.2019 07:58Нет, это не семантические сети в том виде как они приняты в психологии и семиотике. Тут нет связки слов со словами в прямом виде. Но есть алгоритм составления цепочек, если говорить коротко.
Хорошо. В чем отличие от подхода Роджера Шенка (Шенк Р. Обработка концептуальной информации)?
Xom Автор
06.10.2019 09:42Я уже писал тут, что подход больше похож на FrameNet Филмора. Никаких смыслов и онтологий мы не придумываем ) Все очень конкретно — парсинг, фреймы, статистика.
iskateli
это же противоречит определению машинного обучения:
так что вы не правы.
Подтяните пожалуйста основы, а то так и останетесь подвергнутыми эффекту Даннинга — Крюгера
Xom Автор
Вы наверно не поняли правильно слово «обучили». На какой выборке обучили, то и распознает. А то что фичи NN выбирает непредстказуемо — это не произвольность ее поведения.
Xom Автор
И вы видимо совсем не поняли слова Самуэля. Имеется ввиду, что в машобе происходить самообучение (самопрограммирование), а не явно заложенный вами алгоритм. Но я же не об этом. Так что подтянуть основы надо вам.
iskateli
iskateli
В определении нет ни слова про выборку, это во-первых. Во-вторых, «На какой выборке обучили, то и распознает» специалисту, чтобы успешно решать задачи в своей предметной области надо пройти обучение (это и будет выборка).