Эта книга вдохновлена поисками себя, разбором себя, пониманием себя. Информация отраженная здесь описывает то, как ощущает себя автор в этом мире. Книга поделена на две части : смысл жизни и интеллект. Ее конечной целью является обсуждение того, что является интеллектом. В эпоху развития искусственного интеллекта очень важно понимать что именно мы от него хотим, а чтобы это понять нужно понимать чего мы хотим от жизни, чего мы хотим от себя. Поэтому первой темой является смысл жизни. Обсуждение этого вопроса направленно на понимание того, что человеку нужно от этого мира, что ему нужно от себя, и как следствие что он может хотеть от другого интеллекта.
Книга разбита на части и пронумерована
Оглавление (для этой части книги)
32 Оптимальное мышление. Мышление человека: его проблемы и особенности. 32
33 Эвристика. Роль константности в мышлении человека. Ошибки мышления. 34
35 Точность, ответственность и безопасность ИИ.. 40
32 Оптимальное мышление. Мышление человека: его проблемы и особенности
Оптимальное мышление нацелено на то, чтобы решить задачу познания в условиях ограниченного количества вычислительных ресурсов, времени вычисления и доступных данных для вычисления с достижением оптимальной точности.
Ранее мы рассмотрели не оптимальное мышление, основанное на рекомбинации базовых абстракций в случайном порядке, это очень длительный процесс, занимающий много времени. Кроме того, реальный интеллект всегда существует в ограниченных условиях: ограничение познавательных ресурсов, ограничение доступной информации и скорости ее протекания. Это приводит к тому, что нужно создавать различные методы ускорения работы интеллекта. В человеческом понимании эти методы называются эвристиками. Эвристики — это совокупность приёмов и методов, облегчающих и упрощающих решение задач, н�� в определенных ситуациях приводят к ошибкам. В целом это оптимальные методы, но оптимальны они для определенных условий, при выходе за рамки этих условий они привносят слишком большую величину ошибки. От интеллекта к интеллекту эвристики могут отличаться. Кроме того, можно выделить статичные и динамичные эвристики. Статичные – те, которые присущи носителю интеллекта от рождения. Динамичные – те, которые приобретаются в процессе взаимодействия с миром.
1. Пример статичных эвристик, присущих человеку:
a. Эвристика доступности. Оцениваем вероятность события по тому, насколько легко нам приходят на ум похожие примеры.
b. Эвристика репрезентативности. Оцениваем вероятность события по тому, насколько оно соответствует нашему стереотипу или прототипу, игнорируя исходную вероятность (базовую частоту).
c. И многие другие.
2. Пример динамичных эвристик, присущих человеку:
a. Навык оценки людей. Вы можете взглянуть на лицо человека и сразу предположить о его статусе, образе жизни, привычках. Это выработанные временем привычки реакции на определенных людей
b. Навык работы с информацией. Можно пробежать глазами статью в интернет и понять имеет ли она важную информацию или нет, фактически не читая ее.
Статичные эвристики вырабатывались методом случайного перебора, это вероятностные методы, которые имели различные отклонения от человека к человеку. Носители самых оптимальных эвристик выживали, не оптимальных - умирали. Статичные эвристики, в случае человека, не являются свойством человека, они являются свойством мира – некая повторяемость окружающей реальности, которая позволяет быстрее познавать новые объекты на основании выработанных методов, которые подходили для схожих ситуаций. Но эти эвристики работают пока области мира самореплицируемы, и если где-то есть неповторяющаяся область, то смысла от выработанных эвристических методов нет, ведь они отражают только повторяемые свойства мира. И в действие опять вступает случайная рекомбинация базовых абстракций.
Эвристики могут быть довольно широкого спектра, но мы остановимся на двух самых важных, тех которые являются очень мощным базисом мышления человека – восприятии константности бытия, и логике познания. Они так же обладают ошибками, о которых следует знать. Обычно люди не думают о том как они думают, и не ищут ошибок в своих методах мышления, но их стоит учитывать, и они более подробно будет сказано в следующих главах.
33 Эвристика. Роль константности в мышлении человека. Ошибки мышления
Цель главы: показать как связаны точность, безопасность и ответственность с константностью в мышлении. Описание на 3 главы.
Стоит продолжить размышление о познании человека. Кант говорил о вещи в себе. Представим её как некое множество. Человек способен отразить часть этого множества в свою память. Но делает это он обычно не сразу, а постепенно. Он поэтапно узнает новые элементы познаваемого объекта или процесса. Это в свою очередь влияет на качество его планирования, на точность его отражения реальности. И та часть множества, которую человек не познал, он автоматически считает константной, неизменной, и не влияющей на его планирование реальности. Хотя человек может и не отдавать себе отчет об этом, но на подсознательном уровне так происходит всегда. Константность восприятия реальность является очень важной частью нашего ощущения мира, и в особенности нашего мышления. Под константностью авторы понимают некую статичную часть нашего бытия, нашего знания или нашего мышления. Для наглядности, давайте разберем несколько примеров:
1. Ребенок, живущий с родителями думает, что если он будет работать на работе с зарплатой в 20 000 рублей в месяц, то за год он заработает 240 000 рублей. Обычно в таком случае, родители говорят: он ребенок, он не знает, что есть другие факторы, влияющие на количество накопленных денег. То есть ребенок исходит из позиции константности реальности, в которой он находится. Он считает, что еда, жилье, коммунальные услуги и многое другое являются статичным, неизменным параметром, который будет всегда. И на основании этого организует свое планирование будущего. То есть в восприятии этого ребенка есть некая константа бытия и некий изменяемый параметр, который частично зависит от окружающей среды и не контролируется им, и частично зависит от него же самого, и он может повлиять на него.
2. Теперь перейдем к более взрослому примеру. Мы «взрослые» люди живем точь точь в такой же парадигме, но чуть более сложной. Есть вещи, которые нами воспринимаются как данность: политическая система нашей страны, построенные дома, магазины, дороги, вода из крана и вся та организация быта, которая нас окружает. Для нас это константа бытия, ведь в других условиях мы и не жили, мы уже родились во всей этой организации быта. Если говорить о более сложных вещах, то это физические константы, таки как гравитационная постоянная, заряд электрона, ускорение свободного падения, скорость света и многое другое. Это константы нашего бытия, которые мы не можем представить в другом виде, ведь других вариантов у нас никогда и не было. Тем не менее, понятие константы является очень важной частью нашего планирования, нашего мышления. Так, как нам кажется эта часть бытия константой, она при планировании уходит на задний план, мы планируем только исходя из изменяемых параметров. И это может становиться проблемой в дальнейшем, т.к. константные параметры оказываются не константными, а динамичными, и вследствие этого они начинают вносить свои коррективы в нашу деятельности, а эти коррективы могут быть весьма значительными.
Константа в наших знаниях имеет разное соотношение. На рисунке представлен процесс потери части знаний на различных этапах человеческого восприятия мира. Ту часть, которую мы теряем, мы обычно считаем не влияющей на происходящее, она инертна для нашего мышления. Это означает, что когда мы начинаем производить синтез данных, мы не учитываем взаимные противоречия констант. Вследствие этого мы можем предполагать вещи, которые априори не могут существовать ввиду своей противоречивости. Фактически рисунок абстрактно показывает ту часть данных, которая нами не учитывается на этапах познания, представления, внимания и комбинирования абстракций.
Ниже приведено более подробное объяснение этапов потери данных:
1. Вещь в себе. Понятие, введенное И. Кантом, которое говорит о том, что мы неспособны познать вещь целиком, а только узнаем части ее проявления в этом мире. Размышление авторов: если мы познаем вещи, посредством их взаимодействия с чем-то, может ли быть такая часть объекта, которая ни с чем не взаимодействует, а следовательно, априори не может быть нами познана. Можно представить в виде множества, оно самое большое, полностью отражающее знание об объекте или процессе.
2. Максимум познания. Непосредственное познание + Опосредованное познание (через промежуточные вычисления и приборы). Исходя из утверждения Канта, мы не можем познать вещь целиком, тогда у нас есть некий максимум познания, который мы способны постичь относительно определенной вещи. Этот максимум состоит из непосредственного познания – через наши органы чувств и мышление, и опосредованное познание – через промежуточные приборы или вычисление. Например: изучение бактерий через микроскоп, или изучение квантовой механики посредством математических вычислений. Это область знаний достаточно интеллектуально развитых сущностей. Это множество уже меньше предыдущего, ввиду нашей ограниченности познавательных способностей.
3. Непосредственное познание – ощущение, восприятие. Это область знаний большинства живых существ, в том числе и большинства людей: все, что я вижу перед собой и чувствую, всё это мои знания, а остальные извилистые методы познания не существенны, бессмысленны, или априори непостижимы. Это множество знаний еще меньше, ввиду ограниченности применяемых методов познания.
4. Представление. Любой объект или процесс, хранящийся в нашей памяти, мы в состоянии воспроизвести – представить. Ключевая особенность в представлении – это неполнота. Если вы сейчас попытаетесь что либо вспомнить, вы заметите, что «видите» лишь часть этого воспоминания, вы априори не можете представить весь объект или процесс целиком. Вы можете поочередно воспроизводить части этого целого воспоминания, но вот все вместе воспроизвести не получится. Итого, множества знаний, которые мы единовременно представляем еще меньше, чем предыдущее
5. Внимание. Открытый вопрос, как минимум для авторов: размер представление равен размеру внимания? То есть можно ли утверждать, что мы представляем что-то, но обращаем внимание из представленного только на некую часть? В общем этот пункт спорный. Но суть в том, что его множество либо равно предыдущему, либо меньше. Внимание и представление являются человеческими механизмами, на которые могут влиять усталость и эмоции, что в свою очередь может еще сильнее сужать человеческую «область видимости» его знания.
6. Абстракция. Вообще процесс абстрагирования – это получение подмножества исходного множества. Но здесь имеется ввиду подмножество размером 1, то есть самое маленькое из возможных. Это подчеркивает то, как сильно человек может отойти от реальности и работать с самыми базовыми объектами, воспринимая все остальные как константные.
В процессе познания человек приближается к абсолютной истине – вещи в себе, которую описывал Кант. И на основании имеющегося у человека знания он начинает определять степень знания остальных людей. Человек для себя является точкой отсчета знаний других людей. Многие люди мыслят полярно в определении понятий. Так они могут считать, что все то знание, которое меньше их знания является не знанием, а все то знание, которое больше их знания или равное им – является знанием. Но исходя из приведенного примера о дрейфе констант, можно утверждать, что всегда найдется знание меньше данного (абстрагирование) и всегда найдется знание больше данного (контекст, конкретизация), кроме крайних случаев – абсолютной абстракции, и абсолютного знания (вещь в себе). Исходя из этого возникает область коллизий в определении понятия «знание» - любое знание одновременно является и не знанием. Как говорил Сократ – я знаю, что ничего не знаю.
Пример: студент на экзамене, который он плохо выучил. Он говорит преподавателю какие-то куски знаний, которые он запомнил. Но преподаватель говорит ему, что ничего он не учил и ничего он не знает и ста��ит 2. Фактически ученик обладает знаниями, но этих знаний недостаточно, и эту недостаточность знаний называют незнанием.
34 Ответственность
Свобода, знания и ответственность это неразрывно связанные понятия. Свобода – это возможность выбора, а ответственность – это цена и его следствие. Чтобы нести ответственность нужно иметь знания о том, к чему приведут твои действия. Мы всегда живем в неполноте знания, но прдеполагаем, что контекст – те знания, которые нам неизвествны статичны и не повлияют на нашу реальность. Хотя не знание не освобождает от ответственности, и человек всегда несет ответственности за свои действия, но не всегда осознает эту ответственность. Для осознания ответствености нужно иметь знания, которые отражаю причинно следственные связи деятельности человека. Если человек видит следствие его действий, которое может негативно или позитивно повлиять на что либо, то он берет на себя ответственность за совершенное действие. Реальная ответственность, как и реальноая причинность возможна только в нескольких случаях:
1. Полноте знаний. Человек изучил весь мир на уровня кантовской вещи в себе, и в полноте осознает все связи мира, тем самым точно зная какое следствие произойдет от причиненных им действий.
2. Неполнота знаний и константности области незнаний. Более реальная ситуация. Мы никогда не имеем полноты знаний, и никогда не можем знать весь набор причинно-следственных связей. Но чисто гипотетически может быть такая ситуация, где то, что мы не знаем является статичн��м, либо относительно статичным, и пока что не влияет на то, что мы знаем, и за счет этого мы можем гарантировать ответственность. В целом именно эту парадигму ответсвенности использует человечество.
3. Неполноте знаний и динамичность области незнаний, но констанстность ее эмерджентного свойства. Сумма составляющих не меняется, а её составляющие меняются. Продолжение предыдущего пункта. Представим, что неизвестные нам части мироздания меняются, но их суммарное изменение взаимоанигилируется, и следствием все равно является статичность, в которой мы изучали что-либо.
4. Неполнота знаний и константности области незнаний, и знание о погрешности незнания (теория вероятности). Есть область, которую мы знаем, есть область которую мы не знаем, и есть методы которые позволяют неизвестную нам область частично познать. Такие методы – это теория вероятности. Фактически мы изучаем некоторые эмерджентные свойства системы, не моделирую отдельные части системы. Например: подбрасывание монетки, почему мы уверены, что вероятность выпадения одной из сторон 50 на 50. Ведь 100% можно сделать такого робота, такое устройство, которое всегда будет подкидывать монетку так, чтобы она всегда падал на одну и ту же сторону. Фактически в этом эксперименте сочетаются наши внутренние характеристики, характеристики окружающей среды, и монетки, которые в сумме дают нам выпадение одной из сторон. При полном детерминизме этой системы мы могли бы четко определить на какую сторону выпадет сейчас монетка. Но наши механизмы оптимизации позволяют нам не вдаваться в подробности системы, а строить прогностически модели на базе лишь некоторых частей системы. Тем самым у нас получаются предсказания и точность предсказания. По итогу у нас нет полноты знаний о системе, но есть точность полноты знаний. То есть может произойти случайность за которую мы не можем нести ответственность, но мы можем сказать, что такие случайности встречаются в N – ном количестве случаев.
Если говорить о человеке, то за день он устает и вечером он сложнее может вспоминать информацию, иметь уже область внимания и тем самым хуже принимать решения. Это означает, что вечером он осознает меньше ответственности чем с утра.
35 Точность, ответственность и безопасность ИИ
Человечество боится ИИ, из-за этого оно предъявляет требования к безопасности. Но эти требования могут быть непомерно велики, так что ни один интеллект априори не сможет их пройти. Поэтому стоит обговорить какие требования реально можно выдвигать. Интеллект априори ограничен: своими возможностями или имеющимися данными. Остальные данные (не учитываемые или не известные), считаются:
1. Не связанными с имеющимися (над которыми мыслим)
2. или Статичными (не изменяющимися)
3. или Не противоречивыми (та часть данных, которые мы соединили не противоречит в не учитываемых нами областях) и не имеющими большего дополнительного эффекта чем основной (над которым мыслим).
Но они не всегда соответствуют этим требованиям. Из-за этого возникает проблемы:
1. Точности. Если у вас нет полноты данных, то невозможно точно спрогнозировать исход, мы никогда не знаем достаточно ли у нас данных.
2. Ответственности. Как можно быть ответственным если ты реально не знаешь результата своих действий?
3. Безопасности. Если ты не знаешь исхода, то потенциально исход может навредить кому-то.
Решение проблем (более подробно в последующих главах): разделение ИИ на знающий и познающий. Знающий – обладает стандартным набором сценариев и стандартной областью применения (вообще аналогия с простыми программами), тогда можно гарантировать точность, ответственность и безопасность. Познающий ИИ – обладает стандартным набором сценариев и методами соединения их в новые сценарии. Априори не точен, не безопасен и не ответственен. Его задача быть в нестандартных ситуациях. Его задача мыслить (находить новые решения). Мылить – перекладывать свойства одного объекта на другой (оптимальное мышление). Но это работает только если свойства связаны, но мы этого никогда не знаем. Это работает пока мир самоповторяем, а границ его повторяемости мы никогда не знаем. Оптимальное мышление – оптимальное угадывание свойств не известного объекта. Итого ошибка при отражении мира нами не контролируема и всегда вероятна, мы можем как подряд несколько раз верно «отгадать» не известные свойства объекта, так и несколько раз подряд ошибиться. Итого: мыслить – значит ошибаться.