Эта книга вдохновлена поисками себя, разбором себя, пониманием себя. Информация отраженная здесь описывает то, как ощущает себя автор в этом мире. Книга поделена на две части : смысл жизни и интеллект. Ее конечной целью является обсуждение того, что является интеллектом. В эпоху развития искусственного интеллекта очень важно понимать что именно мы от него хотим, а чтобы это понять нужно понимать чего мы хотим от жизни, чего мы хотим от себя. Поэтому первой темой является смысл жизни. Обсуждение этого вопроса направленно на понимание того, что человеку нужно от этого мира, что ему нужно от себя, и как следствие что он может хотеть от другого интеллекта.
Книга разбита на части и пронумерована
Оглавление (для этой части книги)
36 Эвристика. Что такое логика и почему все логично. Ошибки мышления. 42
38 Непреодолимые проблемы интеллекта. 55
39 Способы решения проблем ИИ.. 58
36 Эвристика. Что такое логика и почему все логично. Ошибки мышления
Цел главы: показать, что все доказуемо, что любая цепочка мысли является логичной.
Когда мы говорим о мышлении, люди часто прибегают к логике. Любое доказательство мысли для них является логика. Например фраза: как ты это не понимаешь, это же логично?! Или: как это я не прав, это же логичная мысль. Обычно понятие логика ощущается интуитивно, редко кто-то дает себе четкое определение этого понятия. Вследствие этого могут возникать ошибки мышления, внутренне доказываемые самим себе как логичная мысль, а если она логична, значит она правильная.
Логика базируется на 3 понятиях: переходы, противоречия и приоритеты – это основа любого оптимального мышления.
1. Переходы. Любой объект представляется в виде набора базовых абстракций. Если мы хотим ускоренно узнать свойства не известного объекта, то мы просто их переносим с известного по правилу аналогии: если два объекта имеют пересечение в некоторых базовых абстракциях, то считаем, что они имею�� пересечения и во стальных базовых абстракциях. Пример: Желание: Я хочу поесть. Мысль: Я должен пойти в магазин и купить там еду. С первого взгляда это простая мысль, НО в ней мы уже произвели акт познания. Мы утверждаем, что в где-то существует магазин, что мы можем дойти до него, что там есть еда, и что мы можем ее там купить. Мы знаем, что магазин существовал в некотором месте ранее, ведь мы там были. Но это не означает, что он там есть сейчас. Он мог закрыться или разрушится. То есть мы перенесли свойство объекта из прошлого (факт существования), на объект из настоящего, хотя не факт, что он ими обладает. Аналогичная ситуация с возможностью дойти до него. Если мы могли ходить ранее, не означает, что мы можем ходить и в дальнейшем (как например старики неожиданно осознают свою немощность). Если еда в магазине была ранее не означает, что она будет и в дальнейшем там (как исчезают с полок магазинов некоторые известные бренды). Если там есть еда, не факт, что мы сможем ее купить (не факт, что система пропустит наш платеж по банковской карте). Аналогия позволяет планировать (быстрее познавать мир), но это работает пока мир самоповторяем. Дополнительный пример: у меня есть информация о деревьях. Я вижу новое дерево, еще никем не изученное. Но я сразу предполагаю, что на нем живут птицы, оно питается посредством фотосинтеза, у него есть корни, и из него можно было бы сделать мебель. То есть я провел акт познания, всего лишь видя дерево, а остальные свойства я ему приписал на основании схожести с другими деревьями (по аналогии).
2. Противоречия. Известные нам свойства мира взаимоисключения определенных событий. Мы можем осуществить любой переход, пока он не имеет противоречий. Продолжим прошлый пример с магазином: Желание: Я хочу поесть. Мысль: Я должен пойти в магазин и купить там еду. Известное противоречие: у меня нет денег. Следствие: я не смогу купить еду и поесть. Дополнительный пример про дерево: я вижу, что на дереве колючки, значит птица сидеть на нем не сможет.
3. Приоритеты (или не полнота информации). Продолжение главы о константе в мышлении. Мозг и вообще любой интеллект ограничен, поэтому часть данных нужно убрать ведь они не помещаются в памяти. Всем имеющимся данным присваиваются приоритеты значимости. Если данные имеют низкий приоритет, то не учитываются при планировании – уходят в область констант. Или мы просто можем не все знать. Это означает, что не все переходы могут быть видны, и не все противоречия могут быть учтены, из-за чего может появится видимость перехода. Продолжим прошлый пример с магазином: Желание: Я хочу поесть. Мысль: Я должен пойти в магазин и купить там еду. Известное противоречие: сейчас у меня нет денег. Приоритеты: у меня было много работы, и я думал только о ней и совершенно забыл, что у меня нет денег. У информации о работе был высокий приоритет, у информации про деньги был низкий приоритет. Следствие: я думаю, что могу купить еду, хотя это не так. И иду в магазин, а потом вспоминаю, что нет денег. Дополнительный пример про дерево: но я забыл, что птицы бывают очень маленькие (мой приоритет был на больших птицах), и тогда они смогут сесть на дерево между колючками.
Следствием ограниченности знаний, не полноты осведомленности в противоречиях или неправильно расставленных приоритетах являются спор. Спор – это взаимная критика суждений собеседника. Большинство людей не умеют спорить, и считают, что результатом спора должна быть победа одного из них, то есть один должен быть полностью прав, а второй человек полностью не прав. Но правильный спор рождает усредненное знание между двумя людьми, в котором учитывается большее количество данных, переходов между ними, противоречий, усредняются приоритеты. То есть в результате люди приближаются к истине, к той самой Кантовской вещи в себе. Спор может быть только о трех вещах: о фактах, о противоречиях и о приоритетах. Так, например, люди могут иметь одинаковое количество информации о знании и противоречиях, но разные приоритеты и из-за этого приходить к разным выводам и так же спорить.
Возвращаемся к логике. Авторы предлагают разделить понятие логика на два подкласса:
1. Логика знаний.
1-1. Есть данные и правила вывода из них новых данных. Это жесткая логика, применяемая, например, в математике. В ней не может быть ничего нового, т.к. все данные и правила конкретные и заранее определенные. И все данные, выводимые из неё всегда верны, если изначальные данные и правила вывода верны. Фактически это форма представления данных: мы можем их хранить в виде набора экспериментов либо в сжатом виде – формулы или правила. Можно провести аналогию с ZIP-архивом.
1-2. Есть множества и надмножества (конкретизация). Берем некое множество слов (объектов), и перечисляем все надмножества, которым принадлежат данные множества. Надмножества обязательно должны встречаться в реальности (это называется контекст, перечисления всех контекстов). Но тут возникает проблема ограниченности: набор контекстов не безграничен и рано или поздно он заканчивается. Пример: есть базовый контекст (внутри которого мы находимся или который первым приходит в голову), внутри которого сказанный набор слов противоречив, но можно найти другой контекст, внутри которого все сходится. Пример: Зелёная машина красного цвета. На первый взгляд оно кажется бессмысленным, т.к. одна характеристика одного объекта (цвет машины) не может быть равна одновременно двум разным значениям (одновременно красный и зелёный). Чтобы разрешить этот парадокс мы можем расширить контекст вокруг этого автомобиля и в данном случае мы возьмём стороннего наблюдателя. А автомобилю придадим скорость близкую к скорости света, тем самым затронув ключевые аспекты специальной теории относительности. Для этого обратимся к релятивистскому эффекту Доплера, который заключается в изменении частоты и длины волны излучения, воспринимаемого наблюдателем, вследствие движения источника излучения относительно наблюдателя. В таком случае воспринимаемая длина волны будет увеличиваться. Так как длина волны зелёного цвета примерно 530 нм и при увеличении длины волны она сможет достичь значения в примерно в 650 нм (красный цвет), то и воспринимаемый цвет нашей машины будет красным, хотя статичная машина по-прежнему осталась зелёной. Базовый контекст – статичная машина или двигающаяся со скоростью значительно меньше скорости света. Иной контекст – движение машины со скоростью близкой к скорости света. В базовом контексте условие противоречиво, а в приведенном – нет.
2. Логика познаний и ошибки оптимального мышления.
При изучении чего-либо мы всегда изначально имеем некоторые данные об изучаемом процессе или объекте. Например, мы можем его непосредственно ощутить, увидеть и тому подобное (например: увидеть неизвестное дерево) или опосредовано заметить его влияние, которое в конечном счете переходит к нашим органам чувств (например: увидеть притяжение магнита к металлу под воздействием магнитного поля). Иначе мы никак не узнаем об объекте или процессе, который мы хотим изучить. Итого у нас имеется часть известных данных и часть не известных данных. Мы можем создавать модель неизвестной части объекта неоптимальным случайным способом, примеры которых мы разбирали ранее. Или оптимизировать этот процесс, самый распространенный способ оптимизации познания – это аналогия. Мы разделяем наш познаваемый объект на базовые абстракции, обращаемся к памяти и ищем среди известных объектов объекты, которые состоят из таких же базовых абстракций. Далее мы предполагаем, что если познаваемый объект и известный объект совпадают в области известных базовых абстракций, то и в области не известных они тоже совпадают. Тем самым мы наделяем не известный объект свойствами известного. Это полезный метод, но далее он должен приводить к эксперименту, где и проверяется истинность этих предположений. Но, в этой точке большинство людей начинают внутренне путать логику знаний и логику познаний, и не проводить эксперимент. Логика познания: есть достаточные данные – ключевая выборка и правила вывода, и все выводимые данные априори верны. Логика знания – есть ограниченные данные и одни из возможных правил, которые описывают эти данные, и на основании которых мы можем пытаться выводить другие данные, которые могут быть верны, а могут быть и не верны. Так, например, имея набор некоторых точек на плоскости мы можем описать их разными функциями, которые гарантированно проходят через них, но если мы попытаемся экстраполировать полученные функции на не известные области данных, то не каждая функция пройдет их. В данном случае ограниченные данные – это известные данные об объекте, правила вывода – метод аналогии: если два объекта схожи в чем-то, то они схожи во всем остальном, выводимые данные – не известные данные об изучаемом объекте. Если для логики знания больше не надо сверяться с реальным миром, ведь уже все априори верно, то для логики познания надо сверяться с окружающим миром, чтобы скорректировать полученные правила. И эта ошибка становится базисом мышления большинства людей: если я мыслю, то я мыслю верно; или: если я мыслю, то я отражаю реальность (утверждения, верный для логики знания). А правильнее будет так: если я мыслю, то я пытаюсь мыслить верно; и: если я мыслю, то я пытаюсь отразить реальность (утверждения, верный для логики познания). И для получения точности отражения реальности, нужно сравнивать полученное правило (модель) с реальностью, и только тогда делать выводы. Эта парадигма собственного восприятия приводит к накоплению ошибок, что в конечном счете становится критическим, и при проверке рассуждения человека сыпятся на ровном месте, потому что базово они были не верны.
Аналогия позволяет быстрее исследовать объект, но её недостаточно. На следующем этапе должно происходить критическое мышление – проверка полученных данных на противоречия. Противоречия – это элемент окружающего мира, и их так же следует изучать. Это означает, что мы можем не иметь полноты знания противоречий, необходимых для проверки полученной гипотезы на достоверность. В итоге мы не сможем сполна оценить достоверность гипотезы. Кроме того, в процессе проверки так же участвует внимание, и оно имеет ограниченный объем. Если нам нужно единовременно учесть количество противоречий больше чем способно вместить наше внимание, то мы так же не сможем сполна проверить модель на достоверность. Более того, размер внимания не статичен: человек может уставать и замечать все меньше объектов, то есть его размер внимания уменьшается. В состоянии полноты сил его критическое мышление будет лучше, чем в состоянии усталости. На рисунке 1 представлен процесс познания на основании аналогии.
Весь этот набор рассуждений приводит нас к тому, что логика познания может осуществлять переходы между объектами или процессами на основании аналогии в попытке ускорить процесс познания, но большинство людей путают процесс знания и познания и из-за этого считают свои суждения верными, или как они говорят – логичными. Степень достоверности их суждений связано с количеством известных им противоречий и размером их внимания. Мы можем вообразить себе идеального идиота, у которого абсолютно нет знаний про противоречия и нулевое внимание. Так, он может всегда найти путь от множества А (первого объекта или процесса) к множеству Б (второго объекта или процесса) на основании аналогии. Например: докажите, что солнце вкусное. Солнце желтого цвета, есть вкусные конфеты желтого цвета. Если Солнце желтое и конфета желтая, то солнце обладает свойствами конфеты, и оно тоже вкусное. Звучит как абсурд, не так ли? В состоянии идеального идиота – нет. В состоянии нормального человека – да. Но этот пример показывает один очень важный элемент человеческого мышления: мы можем не обладать необходимой информацией для оценки достоверности своих суждений, попросту не зная важных противоречий, но иметь базовые представления о какой-либо области знания, и на основании них строить «логичные», с нашей точки зрения, мысли. Они будут казаться нам верными, отражающими действительность, хотя это будет не так. Кроме того, такой же эффект может быть вызваны внутренними защитными механизмами работы психики, которые во избежания излишних переживаний могут создавать «логичные» пути обоснования даже самых несуразных вещей, не осознанно не беря во внимания важные противоречия. Более того эта особенность логики проявляется и в оценке суждений другого человека. Ввиду трудовой специализации (познания в одной из многих областей деятельности человека) и не возможности знать всего на свете мы полагаемся лишь на доверие, которое можно вызвать различными способами. Человек, вызвавший у нас доверие, может доказать нам все что угодно, если мы не имеем достаточного количества знаний о противоречиях в описываемой области или должного размера внимания, тем самым мы время от времени выступаем в роли идеального идиота. Так, например, легко можно доказать взаимопротиворечивые вещи, исключающие друг друга. Доказательство идеального идиота: черное – это белое, потому что в обоих случаях это цвет, который видит человек, а следовательно они оба имеют общие свойства, а следовательно это одно и то же. Опять абсурд, не так ли? Доказательство нормального человека: а теперь вспомним про уже приведенный пример в логике знаний (множества и надмножества) с зеленой машиной красного цвета, и делая аналогичные рассуждения для черной машины белого цвета (или можно подобрать другую логику обоснования) мы можем доказать, что машины может быть черной и белой одновременно. Так можно расширить область применения наших «логичных» мыслей и доказать, что любой другой объект или процесс может единовременно обладает взаимоисключающими свойствами. И чем длиннее будет такое обоснование, чем плавнее будут переходы между множествами (пересечение множеств не по одному общему признаку, а по большому количеству) тем достовернее будет ощущаться логическая цепочка, потому что локально (в переделах доступного объема внимания) цепь не будет иметь противоречий, но глобально они будут, но заметить их сторонний человек не сможет без должных навыков. Итого получается, что все логично, все что вы скажите будет логично, все, о чем вы подумаете, будет логично. Все одновременно доказуемо и опровержимо. Это не означает, что все наши рассуждения – истинны, даже если кажутся логичными. Это лишний раз подчеркивает ограничения человеческого мышления, и не совершенства его механизма познания. И именно из-за этой слабости нашей логики возможно доказать любую глобальную идею, любое религиозное течение, даже самое радикальное и губительное для его членов, например различного рода секты, или же это могут быть зверские политические системы такие как фашизм, более того это позволяет существовать в сознании многих людей всевозможных теорий заговора, псевдо научных течений, который, например, могут доказывать, что земля плоская, логика позволяет доказать что она и плоская, и треугольная и пирамидальная и стоит на черепахах, и на слонах и вообще делает все что угодно. Эта же особенность логики будет присуща и любой форме оптимального искусственного интеллекта. Ученые хотят, чтобы интеллект описывал почему он что-либо делает, как он приходит к определенным выводам. Но чтобы он не описал, что бы не сказал, все это будет логичным. Это фундаментальная непреодолимая проблема интеллекта, на ровне с проблемой константности в мышлении. Наш интеллект - это оптимальный генератор случайных чисел, завязанный на повторяемости мира, и он работает пока мир повторяется, а это от нас не зависимый процесс. Из этого следует, что интеллект никогда не сможет обеспечить безопасность и гарантировать свою безопасность для остальных. Это не свойство конкретно искусственного интеллекта, э то свойство любого интеллекта. Эту проблему нельзя решить, с ней можно только смириться.
Пример построения логических переходов и их ограничения. На рисунке 2 представлена цепь рассуждений, выстроенная на основании аналогии.
Переход между множествами по правилу аналогии возможен только если они имеют пересечение между собой или есть набор промежуточных множеств, которые последовательно взаимопересекаются, пересекая начальное множество и конечное. Вообще говоря, могут быть множества, которые не пересекаются с остальными вообще. Например: если базовые абстракции - это буквы алфавита, а созданные объекты - это слова, то мы можем создать свой вымышленный алфавит из 32 букв, и для всех слов использовать только первые 25 букв. А из последних 7 букв создать одно слово. Чтобы по правилу аналогии перейти от этого слова из 7 букв к остальным словам, нужно чтоб оно имело буквы, которые используются в остальных словах, но таких нет. Но это чисто гипотетическая ситуация. Наш язык, и наши базовые абстракции мышления имеют высокую компактность и используются в широком круге задач, за счет чего всегда можно найти пересечение множеств. Ведь создавать отдельные абстракции, которые нигде не используются кроме пары случаев абсолютно не экономично.
37 Творчество
В противовес логике существует творчество. Творчество – это процесс создания чего-либо нового. В психологии этот термин обозначается творческое воображение (Маклаков, глава про интеллект человека). Новизна – это относительное понятие, связанное с оценивающим его субъектом. Субъект обладает памятью, и если данные полученные об объекте не содержаться в его памяти, то они считаются новыми. У новизны есть величина, степень, которая зависит от сложности выводимости этой новой информации. Чем сложнее её вывести - тем более она новая, чем легче – тем менее она новая. Фактически мы имеем некий набор базовых абстракций и процесс их рекомбинирования – создание моделей, если этой модели нет в памяти того, кто рекомбинировал, то он создал новую модель, то есть он осуществил акт творчества. Творчество – это процесс рекомбенирования базовых абстракций. Если полученная модель, независимо от того отражает ли она реальность, вызывает эмоции, то это творчество в привычном понимании. То есть у понятия творчество два определения:
1. Процесс создания чего-то нового. В психологии это называется творческим воображением.
2. Процесс создания чего-то нового с целью получения эмоций от созданного. Творчество в обыденном понимании.
Если же модель должна отражать реальность, то следующим этапом должно быть критическое мышление, состоящее из базы данных противоречий. Оно должно проверить есть ли эти противоречия в созданной модели, если нет, то считается, что она отражает реальность, если есть – то не отражает реальность.
В обыденном понимании творчество всегда связано с получением эмоций, например: песни, музыка, картины, фильмы, скульптура и т.д.. Творчество как и логика обладает базовыми операциями мышления – анализ, синтез сравнение. Логика – это мышление направленное на познание реальности, а творчество – это мышление, направленное на познание человека. Если в логике чувства человека не важны, то в творчестве чувства человека – это единственный ориентир творчества. При логическом мышлении мы создаем модели и сравниваем их с реальностью и получаем точность соответствия реальности. При творческом мышлении мы создаем модели и получаем эмоциональный отклик от их восприятия, и чем больше этот эмоциональный отклик – тем качественнее творчество, и тем сильнее творческая личность. Если в логике мы ищем реальность, то в творчестве мы ищем эмоции. Базово эти два направления пересекаются, посредством творческого воображение, и называют его основой логики, основой мышления, но к логики добавляются противоречия. Противоречия – это основа, изучаемого нами мира. Противоречия – это единовременная или едонпространственная невозможность взаимосущестования двух элементов мира. Например единовременно и единопространственно одид и тот же оюъект не может быть холодным и горячим (иметь температуру +20 и -20 градусов по цельсию). Но это именно зарегистрированные противоречия – взаимоисключающие события. Грубо говоря, многие из нас никогда одновременно не видели самолёт и слона, но это не значит, что одни взамисоисключают друг друга, чтою это узнать нужно провести эксперимент. Все что является взаимоисключающим формирует класс или ось, на которой лежает все эти состояния, то есть это все состояния одного рода, все что не взаимоисключает друг друга – это состояния разного рода. Например фрукт не может одновременно и единопространственно быть и зеленым и синим или быть и сладким и соленым. Но он может быть зеленым и сладким или синим и соленым – это не взаимоисключающие состояния, а значит они разного рода и лежат на разной оси.
Противоречия формируют критическое мышление, которое проверяет на соответствие реальности творчески модели. Если они прроходят проверку, то можно проводить эксперимент и оценивать точность. Если же наша задача только в творчесвте, то критическое мышление совершенно не нужно, и можно создавать любые модели, даже абсолютно противоречащие реальности и самим себе, главное только то, как эмоционально человек отреагирует на полученную модель. Как уже было сказано, фактически это форма познания себя, своих эмоций, своего эмоционального состояния. И творчество поколения отражает эмоциональный настрой поколения. Да это познание не выведено в четкие формулы, но так или иначе оно отражает внутреннюю реальность человека того бытия.
Познающий интеллект всегда творческий, т.к. он генерирует новые модели, отражающие реальность. Творческое воображение – это начало познающего мышления. Без него познание невозможно априори. Но не каждый результат творчества имеет эмоциональный отклик у человека. Самые эмоционально вызывающие результаты творчества называются шедеврами. Чтоб искуственному интеллекту создать шедевр ему нужно иметь эмоциональную модель человека – либо программно, либо физически (то есть самого человека). Чтобы иметь программную модель – нужно полностью познать человек, и тгда процесс создания шедевров будет максимально быстрым. Если иметь только физическую модель в виде человека, то скорость создания шедевров будет пропорциональна скорости отклика человека на результат творчества – чем быстрее человек сможет оценить объект творчества, тем быстрее найдется шедевр. Но человек слаб и эта скорость будет низка. То есть скорость сходимости модели познания эмоционального отклика будет низкой.
Творчество – это метод человеческого познания (метод решения поставленной задачи), ставший квазипотребностью (заимел собственный эмоциональный отклик). И этот метод нужно поддреживать, тренировать как и все остальные методы жизнидеятельности человека, чтобы он не атрофировался. И поэтому человечество стремится в разной степени к творчеству, но дрейф потребностей (сдвиг коэффициентов важности потребнсотей) смещает фокус человека с познания, как конечной цели на творчество – как промежуточной цели познания. И из-за этого мы меньше познаем с одной стороный, но с другой стороны это позволяет нам создавать эмоциональную разрядку – отдыхать, и из-за этого мы лучше выполняем свою жизнедеятельность, в частности то же познание. То есть жертвуя познанием мы получаем эмоции, а жертвуя эмоциями мы получаем познание. В целом эмоции – это метод регулирования жизнидеятельности, который позволяет нам оптимально реагировать на окружающую среду не затрачивая много внутренних ресусрсов, и они очень важны, и их «тренировка» так же очень важна для выживания, для их своевременной работы и создания общего эмоционального протсранства между людьми. Поэтому эволюционно мы выбираем баланс между познанием и эмоциями. А так как существует профилирование жизнидеятельности, тот этот баланс смещается, кто-то больше познает, а кто-то больше создает эмоции. В конечном итоге все эти процессы важны в общей работе группы людей, и все они взаимозависимы.
38 Непреодолимые проблемы интеллекта
Искусственный интеллект не панацея от всего. И даже если мы учитываем все проблемы нашего человеческого интеллекта, с целью создать более лучший, совершенный интеллект, он все равно будет обладать фундаментальными ограничениями, которые в свою очередь будут представлять опасность для человека. Опасности ИИ связанные с познанием:
1. Сам факт познания (проведение эксперимента) - процесс с неизвестным концом (пример изучение радиоактивных материалов). Величина угрозы просто неизвестна. Такое было при испытании первой ядерной бомбы, думали что она взорвет ядро земли или сдетанирует водород в атмосфере.
2. Проблема ограничения вычислительных ресурсов. Проблемы ограничения размера мозга (вычислительных мощностей и количества памяти и информации в ней), размера внимания (следствие количество учитываемых деталей) приводит к ограничению точности прогнозирования (даже если прогнозировать детали по отдельности, они могут быть взаимосвязаны между большими кусками элементов, что при ограничении единовременно загруженного количества информации приводит к неполноте понимания взаимосвязей и как следствие вероятности наличия ошибок).
3. Проблемы связанные с миром.
a. Ограниченность знаний о мире (ты мог видеть только черных лебедей и не представлять о существовании белых).Потенциально всегда может быть информация, которая дополнит и изменит функцию описания этих данных. Я знаю, что я ничего не знаю (пример с ребенком и родителями и продолжение такой логики на знания в мире)
b. Быстротекущие процессы в мире (например нападение гепарда, нужно суметь вовремя среагировать). Или наличие дурака в системе, то что система нацелена на создание безопасной среды для жизни людей, это не означает, что все люди нацелены на это и не найдется дурак, который будет пихать пальцы в мясорубку от делать нечего. Потенциально может быть процесс, запущенный ИИ, который чтобы остановить нужно время и внимание ИИ (а оно может быть занято чем-то другим по аналогии с людьми которые не могут за всем уследить), скорость реакции, память и т.д., и это приведет к человеческим потерям и/или инвалидности. Это можно применить как к детям так и к интеллектуально не полноценным людям, которые любят попадать в истории.
4. Сам факт мышления (мыслить - значит ошибаться). Мышление – механизм, которому приходится мириться с вышеописанными ограничениями и искать пути их преодоления. В человеческом виде это обычно называют эвристиками. Эвристики — это совокупность приёмов и методов, облегчающих и упрощающих решение задач, но в определенных условиях приводят к ошибкам. В частности эти эвристики описаны в главе о константности в мышлении и в логике. Исходя из этого, что мышление имеет смысл только при наличие ограничений (мышление – первичная эвристика), и оно может иметь 3 варианта развития:
a. Идеальный вариант для мышления – это наличие ключевой выборки и безграничность вычислительных ресурсов. Это всеравно не приведет к нахождению верной функции, описывающей изучаемую область, т.к. один и тот же набор данных можно описать разными функциями, и следовательно результат экстраполяции будет разным. Один их них будет точно верным, но какой неизвестно. Да, в таких условиях мы сможем получить самые точные результаты из возможных, но не факт что они будут достаточно точными, чтобы их использовать.
b. Реальный вариант. При обратной ситуации – наличие данных меньше, чем ключевая выборка, количество допустимых функций описания увеличивается. Это означает, что всегда можно мыслить логически и никогда не отражать реальность. А при ограниченности ресурсов вычисления может выбираться и не самая лучшая функция описания, которая не точно описывает даже имеющиеся данные. В частности, мы можем не учитывать часть имеющихся данных, а важность другой части слишком завышать.
c. Гипотетически возможный вариант, маловероятный, но возможный. Полное отсутствие данных об изучаемом объекте. Если нет данных об окружающей среде, а все равно нужно предсказать как организм должен реагировать на будущие события, то приходится использовать только базовые абстракции и генератор «случайных чисел», чтобы создать хоть какую-то модель реальности. Наличие даже самой не точной модели лучше, чем отсутствие вообще хоть какой-то модели.
39 Способы решения проблем ИИ
Перечисленные проблемы познания априори невозможно полностью решить, а лишь частично нивелировать. Одним из способов решения проблем ИИ может быть разделение его на две группы, по аналогии с логикой:
1. ИИ знающий (ИИ рутинный). Это ограниченный ИИ, задача которого рутинные, всем известные операции: приготовление пищи, вождение автомобиля, уборка, строительство, и все те процессы, которые уже тысячу раз делались до него. Проблема его безопасности пропорциональна колличеству наличия неопределенных ситуаций. То есть, если во время выполнения рутины будет происходить ситуация, которой никогда до этого не было, он должен будет выполнить действие, наносящее минимальный ущерб жизни человека, или очень важным объектам или рессурсам или процессам. Но при этом его заведомая ограниченность (вызванная областью простых действий, которые не требуют сложных вычислений) приведет к тому, что он не всегда будет совершать самые оптимальные действия. То есть он безопасен, пока находится в постоянной среде обитания – в статичном контексте существования. Этот тот ИИ, за который можно и возможно нести ответственность
2. ИИ познающий (ИИ творческий). Этот вариант направлен на работу в научных центрах, и во всех тех местах, где присутствует высокая неопределенность, либо большое количество учитываемых данных. Этот ИИ будет дороже, ввиду количества ресурсов необходимых для обработки данных, и опаснее, ввиду факта процесса познания. Его главная опасность будет заключаться в неизвестности свойств познаваемого объекта или процесса, но в масштабах крупнее человеческих. Чем сильнее интеллект, тем более сложные эксперименты он способен проводить, а чем сложнее эксперимент – тем большее количество вещей может пойти не так. Сильный ИИ сильнее человеческого интеллекта, но это не означает что он всемогущий и всеконтролирующий. Он учтет большее количество параметров, но и большее количество параметров будет не учтено. Чем больше я знаю – тем больше замечаю ограниченность своего знания. Опасности нашего процесса познания (человеческого) относительно маленькие. Мы изучали до этого относительно простые системы, и их опасность сводилась к смерти ограниченного числа людей. Но ИИ ввиду наличия большего коллличества возможностей будет способен изучать более сложносоставные системы, и следствием незнания их сложности будет смертность большого колличества людей. Например какие-либо сложные эксперименты с радиоактивностью (еще одни испытания ядерных боеголовок), или эксперименты с вирусами и способами их лечения (еще один короновирус). Кроме того, познающий интеллект – заведомом самоулучшающийся. И мы не сможем чисто физически контролировать все его улучшения, что так же может привести к проблемам. Или же мы сможем контролировать его улучшения, но тогда он будет слишком медленно познавать реальность. Самоулучшаться не значит изменять себя – самоулучшатся можно посредством создания специализированных механизмов, как это делает человек – он создает орудия труда. А как мы описывали ранее – познание это регистрация взаимодействия объектов. В данном случае взаимодействуют созданные механизмы и область познания, например микроскоп взаимодействует с микромиром.