Эта книга вдохновлена поисками себя, разбором себя, пониманием себя. Информация отраженная здесь описывает то, как ощущает себя автор в этом мире. Книга поделена на две части : смысл жизни и интеллект. Ее конечной целью является обсуждение того, что является интеллектом. В эпоху развития искусственного интеллекта очень важно понимать что именно мы от него хотим, а чтобы это понять нужно понимать чего мы хотим от жизни, чего мы хотим от себя. Поэтому первой темой является смысл жизни. Обсуждение этого вопроса направленно на понимание того, что человеку нужно от этого мира, что ему нужно от себя, и как следствие что он может хотеть от другого интеллекта.
Книга разбита на части и пронумерована
Оглавление (для этой части книги)
40 Виды интеллекта. Сильный ИИ.. 60
41 Сингулярность. Восприятие людьми ИИ.. 63
42 Маленькие темы. Целеполагание. 64
40 Виды интеллекта. Сильный ИИ
Интеллект – это механизм познания реальности. Следует выделить его ключевые характеристики:
1. По способу реализации:
a. Физический
b. Психический (программный)
2. По области применения:
a. Знающий
b. Познающий
3. Ключевые характеристики познавания:
a. Скорость моделирования. Скорость создания моделей.
b. Точность моделирования. Степень соответствия реальности.
c. Скорость сходимости – повышения точности. Скорость повышения точности моделей.
d. Широта моделирования. Количество моделируемых областей реальности.
e. Количество ресурсов для моделирования. Чем меньше ресурсов нужно для познания тем оптимальнее и умнее интеллект.
4. По форме мышления:
a. Наглядно – образное. Мышление про ощущения.
b. Наглядно – действенное. Мышление про действия.
c. Абстрактно – логическое. Мышление про абстрактные формы, в частности язык.
5. По оптимальности познания:
a. Не оптимальный. Случайная рекомбинация базовых абстракций.
b. Оптимальный. Создание моделей на основании эвристических методов, от интеллекта к интеллекту они могут отличаться.
6. По способу познания:
a. Умный интеллект:
i. Наблюдающий. Просто запоминает (записывает в память) все что происходит вокруг.
ii. Наблюдающий и мыслящий. Собирает данные с органов чувств, строит прогностически модели при помощи мышления, и проверяет органами чувств.
iii. Наблюдающий, действующий и мыслящий. Собирает данные с органов чувств, строит прогностически модели при помощи мышления, реализует их органами действий и проверяет органами чувств.
b. Тупой интеллект:
i. Мыслящий.
ii. Мыслящий и действующий. Выполняет какое либо случайное действие и смотрит на результат. Он не оптимальный
iii. Наблюдающий и действующий.
Наблюдающий |
Действующий |
Мыслящий |
Результат |
0 |
0 |
0 |
Не интеллект |
0 |
0 |
1 |
Тупой интеллект |
0 |
1 |
0 |
Не интеллект |
0 |
1 |
1 |
Тупой интеллект |
1 |
0 |
0 |
интеллект |
1 |
0 |
1 |
интеллект |
1 |
1 |
0 |
Тупой интеллект |
1 |
1 |
1 |
интеллект |
Сильный ИИ – этот то, кто может обладать меньшими ограничениями чем человек (имеет лучшие характеристики познания). Например:
1. Если объем памяти человека 2 миллиона гигабайт, то сильный ИИ должен обладать 2 миллионами и одним гигабайтом
2. Если область внимания: 10 объектов, то сильный ИИ должен иметь 11 объектов во внимание.
Фактически сильный ИИ единовременно может видеть больше связей и строить более точные модели реальности. Но это не означает, что для него не будет сложных задач. Величина сложности до которой он дойдет будет пропорциональна количеству ресурсов, которые мы будем готовы выделить для его познания. Хотя ИИ может иметь часть характеристик слабее чем человек, а часть сильнее. Например современный (на сентябрь 2025 года) уровень развития нейронных сетей. Они обладают такими характеристиками:
1. Скорость моделирования. Скорость обучения. Значительно выше человеческой. Он может прочитать всю текстовую информацию в мире по несколько раз.
2. Точность моделирования. Ниже человеческой
3. Скорость сходимости – повышения точности. Ниже человеческой.
4. Широта моделирования. Ниже человеческой – моделирует только язык, картинки и видео, аудио. Выше человеческой – моделирует весь язык, все области его знания.
5. Количество ресурсов для моделирования. Равный или больший человеческой.
Фактически это локально сильный и локально слабый ИИ – он частично сильнее человека и частично слабее, но этого уже достаточно, чтобы быть полезным человеку. Мыслит ли нейронная сеть? – да. Мышление – это создание моделей реальности. На этапе обучения нейронной сети она как раз и создает модель реальности, подстраивая свои веса под требуемый результат. Часть реальности, которую она изучает – язык человека. Он очень хорошо ложиться под моделирование нейросетью, хотя и не полностью отражается моделью - у них проблемы с числами. На этапе общения человека с нейронной сетью она не мыслит – она запускает готовую модель. Нейронная сеть мыслит, но не так как человек, и моделирует узкую часть реальности.
41 Сингулярность. Восприятие людьми ИИ
Исходя из описания того, что значит быть умнее человека, а также разделения ИИ на знающий и познающий можно утверждать, что появится система ИИ, которая будет профильно заниматься исследованиями. Исходя из того что, у него будут лучшие характеристики означает, что он будет быстрее решать познавательные задачи чем мы, и граница сложности будет постепенно сдвигаться. То, что для нас было сложным для него будет простым, но это не означает, что для него не будет сложных задач. Они будут пропорциональны его познавательным способностям. Любое познание всегда связано с неизвестность. Эта неизвестность может быть опасна, об этом мы не узнаем, пока не провзаимодействуем с ней.
Так, например разработка первой ядерной бомбы. Было несколько испытаний. Первый взрыв – под землей. А второй уже на поверхности земли. Первая ядерная бомба была водородной, и ученые очень боялись, что во время взрыва такой бомбы по цепной реакции сдетонирует весь водород на земле, что естественно может привести к гибели всего человечества. У них были расчеты, определенные модели, но как мы знаем любая модель реальности должна пройти эксперимент, чтобы доказать свою достоверность. То есть люди в тот момент имели дело с неизвестностью. Представим себе ИИ, который так же имеет расчеты и модели, но ему нужно провести эксперимент, и так как он сильнее нас, то и го эксперименты сложнее наших. Там может быть взорвана уже не целая планета, а целая галактика. И он так же не будет иметь достаточного количества данных, чтобы точно спрогнозировать процесс во время эксперимента. Осознание этой проблемы приведет человечество к мысли: а нужны ли нам такие знания, если могут быть настолько чудовищны последствия? Может стоит ограничить ИИ и запретить ему познавать на таких больших масштабах, дабы избежать таких больших проблем. И тогда мы остановимся на исследовании того, что сложно нам, но легко для ИИ, не переходя на уровень того, что тяжело для ИИ. Скорее всего появятся некоторые барьеры исследования, и человечество остановится в некоторой стабильной точке своего познания, достаточной, чтобы очень хорошо жить, но не достаточной для действий вселенских масштабов, ведь вселенские масштабы несут в себе и вселенские проблемы.
Ситуация будет аналогичная ядерной энергетике и полетам на самолетах. По статистике самолет – самый безопасный транспорт для передвижений. Но при этом люди больше всего боятся именно самолетов. Аварии случаются редко, но если они случаются, то уносят жизни огромного числа людей. То же самое и с ядерной энергетикой. Люди активно ищут «зеленые» источники энергии – самые безопасные для нашей планеты, для её экосистемы. И как ни странно самый безопасный источник – это ядерная энергетика. Но у людей ядерная энергетика и безопасность ни то что не ассоциируются, они абсолютно противоположны, ядерная значит опасность. И с авариями на ядерных станциях такая же проблема. Нормы безопасности там самые жесткие, и аварии случаются редко, но если они случаются, то уносят жизни огромного числа людей. Самый показательный пример это Чернобыльская АЭС.
Искусственный интеллект по аналогии с приведенными ситуациями по статистике будет самым безопасным, он будет очень редко ошибаться, но ошибки совершенные им будут просто катастрофическими. А особенно сильно это будет заметно в области познающего ИИ.
42 Маленькие темы. Целеполагание
Все объекты в мире можно разделить на 3 группы:
1. Цель имеющие. Существа с ограниченным количеством целей, они статичны и неизменны. Всю свою жизнь они преследуют только эти цели.
2. Целеполагающие. Следующий этап развития жизни. Существа на этом уровне имеют и статичные и динамичные цели. Например статичная цель – выживание. Динамичная – выпить кофе. Статичные цели не изменяются на протяжении всей жизни. Динамичные могут изменяться хоть каждые 5 минут.
3. Не имеющие цели. Обычно это не живые объекты, которым ничего не нужно.
Если мы создаем робота, имеет ли он цели? Он не живой, но мы закладываем в него цели – они статичны. Например цель робота – снимать на видео все что происходит вокруг. Можно сказать, что он познает окружающий мир – создает модели посредством камеры. Камень – это средство, на которое можно записать данные. Он не имеет цели, но так же может познавать окружающий мир, оставляя на себе отпечатки окружения. То есть познание может быть с целью, и без цели. Робот с камерой – имеет цель записывать данные. Камень – цели не имеет, но всеравно записывает данные окружения в виде вмятин на своей поверхности.
43 Маленькие темы. Обман
Что такое обман? Что значит обмануть? И может ли искусственный интеллект обманывать.
1. Есть модель мира – есть ожидания. Она не обязательно истинна. У человека есть некоторое представление об окружающем мире, оно не обязательно должно быть истинно, он может иметь кучу заблуждений, которые формируют модель его реальности. Например: есть яблоко объективно красного цвета, человек его видит как темно розовое, а красный цвет для него другой, то есть - есть субъективное представление красного цвета.
2. Есть реакция на действия модели. Есть выработанные реакции на процесс работы модели мира, на происходящие события. Они не обязательно должны быть адекватными. Например: и этот человек, любит субъективно красные яблоки, и не любит темно-розовые яблоки, то есть объективно красные.
3. Есть второй организм, который знает о модели мира первого и реакции на неё. Пример: второй человек наоборот любит объективно красные яблоки, а любого другого цвета не любит.
4. Он хочет получить что-то от первого организма и делает то, что приведет к нужной реакции. Пример: второй человек не имеет средств, чтобы купить его любимые объективно красные яблоки. Поэтому он хочет, чтобы первый человек дал ему деньги на красные яблоки. Но яблоки красные объективно, а субъективно для первого – нет. Он решает сказать, что нужны деньги на красные яблоки, и знает что второй видит их темно розовыми. Фактически он врет, но говорит истину: я хочу купить красные яблоки.
5. Есть событие – есть реакция на событие. Первый человек соглашается дать деньги, ведь ожидает субъективно красные яблоки.
6. Обман - это вызов реакции, не соответствующей событию с целью получить выгоду. Пример: в итоге второй человек покупает объективно красные яблоки – получает выгоду. Но первый человек расстроен, ведь яблоки субъективно не красные, а темно розовые – его обманули, но сказали истину. Фактически это значит, что один человек может иметь одну реакцию, а другой другую на одно и тоже событие, и пересказ информации от одного к другому может ощущаться как обман, хотя фактически это просто реакция.
Приведенный пример означает, что чтобы говорить правду нужно обладать моделью восприятия мира второго организма. Либо второй организм должен иметь представление о модели восприятия первого и нивелировать её – перестраивать под себя. Кроме того это означает, что абсолютно любая информация может быть одновременно и ложью и правдой. ИИ может врать, но делать это не специально. На нынешнем этапе развития ИИ, где ИИ – это нейросети, ИИ не может обладать нашей моделью восприятия, но мы можем обладать его моделью восприятия и нивелировать его способы описания среды. Более развитый ИИ может специально врать, отдавая себе отчет об этом с целью получить нужную реакцию от нас. Но если мы знаем, что он врет, то он не сможет получить нужную реакцию.