Предисловие
Сейчас всё больше говорят об опасности нейронных сетей. И чем сильнее они становятся, тем больше эта опасность осознаётся. Опасность в непредсказуемом поведении. Нельзя доверять решение ответственных задач тому, кто может принимать неадекватные решения, и не может свои решения как-то обосновать, объяснить.
Недостаток нейронных сетей не столько в том, что нельзя отследить процесс принятия решения, сколько в том, что при самообучении они не защищены от противоречивой информации. Они обобщают входную информацию не понимая её смысла.
А что значит понимать смысл?
Информация всегда выражена во фразах какого-то языка. Когда можно утверждать, что система понимает смысл фразы, текста?
Например, фраза: «Этот человек зашёл слишком далеко!» Как мы её понимаем? Слово «этот» означает, что есть контекст, мы говорим о ком-то конкретном. Зашёл пешком или в каком-то другом действии? Эта информация тоже должна быть в предыдущих фразах.
В общем случае, понимание фразы сводится к следующему. Фраза всегда описывает фрагмент модели какого-то объекта или процесса. Конкретного или абстрактного. Если этот фрагмент можно встроить в более полную модель этого объекта или процесса, имеющуюся у системы, тогда её смысл можно понять. Это можно сделать, когда достаточно информации, чтобы определить, о чём идёт речь и есть более полная модель того, о чём идёт речь. Если всё это есть, и фрагмент модели вписывается в более полную модель без противоречий, то новая информация дополняет модель. Если есть противоречия, то система должна их снять. Либо отвергнуть информацию, как ложную, либо заняться поиском дополнительной информации для совершенствования имеющейся модели объекта/процесса.
Нейронные сети этого делать не умеют, у них нет такой функции. Они могут обобщать входную информацию, но для построения адекватной модели объекта, и тем более процесса, этого мало. Особенно, если входная информация выражена во фразах естественного языка.
Конструкция сильного ИИ
У человека модель мира основана на информации от органов чувств и «записана» на некоем специальном «языке» внутреннего представления. Мы называем это «образами». Фразы естественного языка переводятся в образы. Обработка информации, мыслительный процесс, происходит в образах, а результаты обратно переводятся во фразы естественного языка.
Искусственный интеллект, претендующий на звание сильного, должен быть устроен так же. Его основой должна быть универсальная система представления знаний. Чтобы сделать такую систему, надо очень чётко определить понятие «знание». Те определения, которые есть сейчас, абсолютно непригодны по причине расплывчатости и не конструктивности. Конструктивность определения означает, что из него следует конструкция, конкретная схема. В данном случае, схема, структура данных для представления знаний.
Мы имеем дело с объектным миром, состоящим из объектов и процессов их изменения. В общем случае мир состоит из процессов. В основе любого процесса лежит алгоритм, так как все конкретные процессы кем‑то или чем‑то генерируются. В результате обобщения конкретных процессов происходит восстановление алгоритма, их порождающего. В этом и состоит процесс по‑Знания. Таким образом, знание — это алгоритм процесса. Совокупность алгоритмов представляет собой модель какого либо явления, части внешней среды или взаимодействия субъекта с ней.
Это определение знания конструктивно, потому, что понятие алгоритма определено исчерпывающе. Алгоритм, как класс процессов, оперирует классами объектов. Процесс познания или формирования базы знаний состоит в обобщении конкретных, воспринимаемых системой, процессов. Обобщаются не только конкретные процессы, но и абстрактные, т. е. сами алгоритмы. Этим создаётся база знаний, «расслаивающаяся» на разные уровни абстрактности. То есть, для создания системы сильного интеллекта, кроме универсальной системы представления знаний, нужен алгоритм обобщения процессов и алгоритмов, на выходе которого алгоритмы.
Такая база знаний, которая содержит знания разного уровня абстрактности, имеет две интересные способности.
Первая касается анализа новой информации. Если система попала в ситуацию, по которой у неё нет конкретных знаний, сориентироваться ей помогут абстрактные знания, аналогии со знакомыми ситуациями. Люди этим пользуются довольно часто.
Вторая способность связана с решением «творческих» задач. То есть задач, для решения которых у системы нет готового алгоритма. В общем случае, решением задачи является создание алгоритма действий для достижения поставленной цели. Для этого системе нужен алгоритм решения задач. По сути, алгоритм создания алгоритмов. Но, если процесс познания (обобщения), который тоже создаёт алгоритмы, направлен от конкретного к абстрактному, то процесс решения задач направлен от абстрактного к конкретному.
Творческая задача решается в два этапа:1) восхождение с конкретного уровня на тот абстрактный, с которого виден общий алгоритм решения; 2) спуск на конкретный уровень для создания конкретного алгоритма решения, как детализации общего алгоритма. На втором этапе могут возникнуть проблемы, связанные с нехваткой конкретных знаний. Сильный интеллект — это тот, который способен решать такую проблему: искать новые знания.
Знания ищут двумя способами: пассивным и активным.
Пассивный — это просто ждать, когда они появятся. Когда система попадёт в соответствующие ситуации, обобщит их и получит недостающие знания для решения задачи. Либо задавать вопросы тому, у кого такие знания есть.
Активный — это целенаправленно создавать нужные ситуации. Такой метод известен, как гипотеза‑эксперимент. Гипотеза — это непроверенное знание, сформулированное, как предположение. Гипотезу можно сформулировать только на основе более абстрактного знания для какой‑то более конкретной ситуации. Поэтому, активный поиск знаний может вести только сильный интеллект. Эксперимент — это создание нужной ситуации для проверки гипотезы. Создание заданной ситуации уже является решением задачи. Но для решения этой задачи у системы уже должны быть все необходимые знания.
И последнее.
Что такое самосознание?
Сильный интеллект, взаимодействуя с внешней средой, создаёт не столько модель внешней среды, сколько модель взаимодействия с ней. Нельзя создать объективную модель внешней среды, потому, что она строится на основе информации от органов чувств самой системы и взаимном воздействии системы и среды друг на друга. Если изменить параметры системы, модель будет другая.
Так вот, при росте адекватности модели, её детализации и расслоении, неизбежно она будет разделяться на две подсистемы, одна из которых будет моделью самой системы. Самосознание наступает тогда, когда эти две подсистемы разделяются на самом абстрактном уровне. То есть, всё, что происходит с системой, все изменения её состояния, точно разделяются как либо «внутренние», либо «внешние».
Вообще, язык, как средство общения, может появиться только тогда, когда расслоение модели на уровни абстрактности достигло достаточного предела. Ведь все слова являются абстракциями, обозначают либо классы объектов/процессов, либо их характеристики. А самосознание проявляется, как появление местоимения «Я».
Выводы
Итак, система сильного интеллекта должна конструктивно иметь:
Универсальную систему представления знаний.
Алгоритм обобщения процессов и алгоритмов для создания базы знаний.
Алгоритм генерации алгоритмов для использования базы знаний при решении задач.
Языковый модуль, который отвечает за общение, переводя с внутреннего представления во фразы языка и обратно. Он обучаем и не зависит от конкретного языка. С его помощью система сможет, в частности, обосновывать свои решения.
Подсистему активного поиска знаний.
Пункты 4 и 5 используют пункты 2 и 3, но не являются их прямым следствием и не появятся сами по себе по мере развития системы. Здесь имеется в виду система искусственного интеллекта.
Заключение
Конечно, представленное выше очень краткое изложение «конструкции» системы сильного ИИ, является результатом не только теоретической, но и практической работы. Ключевым и самым сложным для разработки является пункт:
1. Универсальная система представления знаний.
Только правильная и достаточно детальная разработка этого пункта даст возможность создать остальные. Мне это удалось сделать. Все остальные пункты также были разработаны, но с меньшей степенью детализации, только для того, чтобы иметь уверенность, что эта схема сильного интеллекта реализуема практически.
Конечно, такую систему в одиночку не сделать, нужна серьёзная команда. Но, в эпоху всеобщего увлечения нейронными сетями никого заинтересовать не удалось. Может быть, сейчас, когда сам Илон Маск выразил опасения, специалисты начнут всерьёз рассматривать альтернативу нейронным сетям в построении ИИ?
Комментарии (28)
mirwide
15.05.2023 11:50Вторая способность связана с решением «творческих» задач. То есть задач, для решения которых у системы нет готового алгоритма. В общем случае, решением задачи является создание алгоритма действий для достижения поставленной цели. Для этого системе нужен алгоритм решения задач.
Творчество не аглоритмизируется по определению. А еще этот процесс не изучен, нельзя создать алгоритм работы того что не понимаешь как работает.
Мне кажется написание своего ИИ нужно начать с изучения того что уже изобретено.
vasiljevserg Автор
15.05.2023 11:50"Творчество не аглоритмизируется по определению " По какому?
"А еще этот процесс не изучен..." А как его изучить? Может, написать алгоритм?
"...нельзя создать алгоритм работы того что не понимаешь как работает." Если я создал, значит понимаю.
"Мне кажется написание своего ИИ нужно начать с изучения того что уже изобретено." Это оскорбление?
mirwide
15.05.2023 11:50+1Это не оскорбление. В статье рассуждение на сложные темы на бытовом уровне с путаницей в определениях. Людям свойственно делать ошибки, чем раньше об этом узнать, тем меньше времени будет потрачено впустую. Возможно я не прав, но статья ни чего не раскрывает и не может вызывать вопросов по алгоритмам, потому что в статье их нет.
Если прочитать Основы общей психологии, вопросы из комментария отпадут сами собой. Работа человеческого мозга, нейросети - это не новые и очень сложные области науки. Доступные не только лишь всем, даже для изучения. Создать принципиально новую искусственную модель работы мозга, думаю, достойно нобелевки.
Проблема изучения процесса творчества заключается в том, что люди склонные к творчеству не склонны с систематизации и наблюдениям. А люди с научным подходом к изучению, не склонны к творчеству. А еще есть теория, что творческая и логическая составляющая сосредоточены в разных полушариях и творческое полушарие способно хранить и обрабатывать неструктурированную информацию и в гораздо больших объемах чем логическое. В этом случае, даже человек с развитыми обоими полушариями не сможет описать свой творческий процесс, потому что его левое полушарие не сможет понять правое.
vasiljevserg Автор
15.05.2023 11:50Конструктивно! Насчёт изучения процесса творчества. Сейчас для этого изучают мозг, его конструкцию. Обнаружили нейрон, примерно поняли, как он работает. И, почему-то решили, что если соединить их много друг с другом, получится мозг. Это как изучать работу программы разбирая компьютер. В основе разума, как и всего остального, лежат идеи, то есть, алгоритмы. Нейроны в системе делают не взвешивание, а логические операции. Вот в чём дело.
mirwide
15.05.2023 11:50Наука, она на то и наука, что там нет предположений и голословных заявлений. "Примерно поняли" и "почему-то решили" в науке не применимо. Нейрон обнаружен почти 200 лет назад. Можно игнорировать достижения человечества за последние 200 лет и пытаться пройти путь самому. Но результат вряд ли кого-то впечатлит.
vasiljevserg Автор
15.05.2023 11:50Я опубликовал статью на программистском сайте, и думал, что будут вопросы по сути. Например, рассказать подробнее об универсальной системе представления знаний, или об алгоритме генерации знаний... А тут - "строгое" определение чувства. Вы уверены, что для ИИ это необходимо? По-моему, сильный ИИ должен уметь решать "творческие" задачи (в кавычках) в области производства, и уметь обосновывать решения. Сочинение стихов и рисование картин давайте оставим человеку.
Hardcoin
15.05.2023 11:50+1Возможно, программистам не хочется обсуждать очередную экспертную систему и излишний оптимизм без пруфов?
Если вы скажете, что сделали холодный термояд, профи это тоже обсуждать не будут.
vasiljevserg Автор
15.05.2023 11:50Полностью согласен! Не будут. Скажут: "Сделай и покажи". А если полностью раскроешь карты, даже спасибо не скажут. Имею опыт.
Hardcoin
15.05.2023 11:50+1Вы и карты раскрывать не хотите? Это что-то секретное? Так это вообще не работает в современном мире. Либо делайте опенсорс, либо нанимайте людей на зарплату и не морочьте голову.
s3rs3r
15.05.2023 11:50+1Наконец-то появился повод зарегистрироваться здесь)
Довольно интересно было прочитать про ваш подход к проблеме. Сразу чувствуется, что вы не один год потратили на формулировании такой модели ИИ.
Как по мне, современный тренд на генеративные сети безусловно придет к внедрению описанных принципов, потому что, как сейчас пишут, "черный ящик" в плане промышленного применения никому не нужен. Начнут они, скорее всего, как раз с систематизации знаний (или хотя бы внедрения такого понятия), и, как только каждое знание можно будет проверить, перейдут уже к жонглированию ими, то есть к формализации алгоритмов (хотя слово алгоритм тут будет не очень уместно).
Рано или поздно ИИ, с помощью законов и спроса на отсутствие ошибок в его ответах придет примерно к вашей модели. К сожалению, сейчас это невозможно и не нужно. Одно дело скопировать половину интернета в несколько террабайт абстрактных весов, а другое - скопировать половину интернета в более менее логически связанную структуру.
Тем более, возможность получить 100% точный ответ или по крайней мере отладить путь его получения сейчас меркнет перед открытыми возможностями генеративного ИИ, кто откажется от возможность нарисовать или описать картину, прочитать стихи про себя или оптимизировать работу маркетологов.
Ваш путь практически полностью повторяет мой ход размышлений по этой теме, к сожалению времени на реализацию хватило только на семантико-синтаксический разбор предложений (если это вообще можно так назвать) в соответствием с правилами русского языка.
И безусловно, было бы очень интересно послушать, как вы реализовали эту задачу, в частности про структуру хранения и принятия решений.
vasiljevserg Автор
15.05.2023 11:50Спасибо, Вы абсолютно правы! На самом деле у меня очень хорошо проработанная теория. Я назвал её Теория Разума. В ней строго определены все используемые термины. Без такой теории не сделать серьёзную программную систему, которую, к сожалению, не сделать в одиночку. Сделан строгий логический вывод структуры и алгоритма Разума. Не искусственного, а вообще. Он один. А в идеи вникать никто не будет без большой необходимости. Пока не наиграются в рисование картин и пустую человекоподобную болтовню. Если будет интерес, возможно, будет смысл опубликовать ТР. Ещё раз спасибо!
director-rentv
15.05.2023 11:50Очень интересная статейка, хоть и быстро кончившаяся. Я ещё с первого современного хайпа по нейросетям как-то безосновательно, не задумываясь, понимал, что что-то в этом деле не так, ну не сработает простое накидывание нейронов, чтоб "ну как мозг", здесь нужен принципиально иной подход, с другой стороны - с семантической.
Вы очень обстоятельно подошли к теоретизации; несмотря на небольшой объём, это выглядит гораздо логичнее и убедительнее биологизаторского карго-культа с простой попыткой визуально повторять структуру мозга.
Хоть я и не специалист по этой теме, но было бы интересно взглянуть на реализацию, о которой вы упомянули в комментариях.
vasiljevserg Автор
15.05.2023 11:50Спасибо! В одном из комментариев выше я упомянул о том, что мне сначала пришлось переосмыслить всю философию. Не меньше. В результате получилась теория. Без формул, конечно, но с аксиомами, определениями и теоремами. В конечном итоге, они доведены до структур данных и алгоритмов. Чтобы проверить их в работе, пришлось сделать ограниченную программную реализацию. Например, при обучении естественному языку, программа генерирует знания в виде синтаксических диаграмм, связанных со смыслом (фрагменты модели предметной области на внутреннем представлении). Постепенно они обобщаются, уточняются и т.д. Очень интересно. К сожалению, до вау-эффекта ещё далеко, итак на всё это ушло более двух лет.
Сама теория тоже интересна. Получилась полная противоположность материализму. Помните основной вопрос философии: что первично, материя или идея?
Возможно, имеет смысл сделать следующее. 1. Опубликовать небольшими частями саму теорию в кратком изложении. Там есть вывод общего алгоритма Разума. Потом структуру данных и алгоритм генерации знаний. Конечно, без критических "know-how", для общего представления.
Ermit
15.05.2023 11:50Никакой универсальной системы знаний не может быть в принципе. Потому, что знание - это модель. А значит, зависит от задачи и требований к ее решению. Земля какая? Точка, если мы рассматриваем задачи динамики небесных тел. Шар, если проектируем глобус. Геоид, если наши модели требуют большей точности. Некоторая поверхность, если занимаемся градостроительством. Плоскость, если строим сарай. И это всё одна и та же Земля. )))
vasiljevserg Автор
15.05.2023 11:50Что, в мозгу под каждую задачу свои нейроны? Или в компьютере под каждую задачу свои биты?
Ermit
15.05.2023 11:50Вы же вроде как говорили про знания, а не про физиологию ))) давайте как-то нарратив на ходу не меняйте )))
vasiljevserg Автор
15.05.2023 11:50Хорошо. Вы правы отчасти. Каждая предметная область представляется своими структурами данных. В программировании их создают программисты и потом записывают на языке программирования (универсальном представлении "знаний"). В объектном языке объект - это некоторое множество полей (свойств) с некоторым диапазоном значений (свойства). Как человек получает способность переводить реальный объект в описание на таком языке? Сначала он долго обучается воспринимать, потом долго обучается говорить на естественном языке (который тоже объектен), потом долго обучается программированию. Человек универсален, поэтому всё долго. Искусственную систему лучше сделать специализированной. Это значит наличие специализированной подсистемы, которая формирует модель объекта и переводит его в универсальное представление. С которым уже работает ядро системы, в котором хранятся и перерабатываются все знания. В смысле обобщения, расслоения на уровни абстрактности, решения задач, поиска новых знаний, общения на естественном языке с кем угодно и т.д. Специализированная система может получать информацию как в виде матрицы однотипных элементов, так и в виде фраз естественного языка. Это коротко. На самом деле всё немного сложнее.
Ermit
15.05.2023 11:50Не о том вы пишите. Утопичность вашей программы в том, что знание - это семиотическая система, не может универсальной самой правильной онтологии. Модель создается для конкретной задачи, с контретными условия и требовованиями к решению. Грубо говоря, нет двух одинаковых моделей. Поэтому интеллект - это не система знаний, а способность к генерации моделей.
З.Ы. Ну и как-то освежите свои "знания" в ООП, они не слишком релевантны... )))
raamid
Если ИИ будет оперировать абстрактными понятиями не понимая их значения то ничего не изменится, даже если ИИ сам сделал обобщения. Для ИИ утка и электродвигатель являются разными понятиями потому что их координаты в пространстве свойств и категорий находятся на расстоянии больше некоторого.
На мой взгляд, понять - это значит почувствовать. Причем, даже абстрактные поняния мы понимаем, потому что чувствуем их значение.
Пока мы не дадим ИИ возможности чувствовать, он ничего не поймет.
vasiljevserg Автор
"...понять - это значит почувствовать. " Хорошо бы строгое определение данного термина. Здесь, всё-таки не о поэзии. В моём определении слова "понять" и "почувствовать" равны по смыслу. Мышление - это обработка образов, которые и есть чувства, то есть информация от органов чувств.
raamid
Проблема в том, что наши понятия определяются через другие известные понятия. Смотрим словарь (грубо):
чувствтовать - испытывать чувство
чувство - способность ощущать
ощущать - чувствовать
Что из этого ИИ поймет? Сформирует логические взаимосвязи между понятиями. Часто этого бывает достаточно для практического использования. Но поймет ли ИИ что значит "чувствовать". Конечно же нет, как не поймет и остальные понятия.
mirwide
Информация от органов чувств это ощущения, а не чувства - такая игра слов.
Оно существует
vasiljevserg Автор
Чу́вство — эмоциональный процесс человека. Это строгое определение? :))
raamid
Чтобы удобнее было дискутировать, приведу это определение целиком:
По этому определению, например любое существо кроме человека не способно обладать чувствами.
Идем дальше. Смотрим определение эмоционального процесса. Сразу предупреждаю, что для удобства я лишее удалил, оставил только главные части определений.
Таким образом, круг замкнулся. Чувство - это функция системы, которая обеспечивает чувствительность.
Ну а это вообще может быть выражено в цифрах. Например, робот получает значение напряжения на своей солнечной панели и на аккумуляторе. Подходит? На мой взгляд подходит. Тем более что это важно для оценки его состояния и последующих действий.
К чему это я? А к тому, что много вопросов к "строгости" этого определения.
raamid
Понять - это значит почувствовать значение (смысл, последствия).
На мой взгляд это самое точное определение понятию "понимание". Да, я его сам придумал, потому что другие определения меня не устраивали.
Это справедливо и для абстрактных категорий. Например, помню какой восторг меня охватил когда я понял идею обобщенного программирования. Я увидел (почувствовал), где и как это может улучшить качество моего кода.
Radisto
И мы снова пришли к философскому зомби)))
Говорят, под воздействием некоторых веществ человек может почувствовать то, чего нет, и соответственно ничего не понять. О работе разума толком ничего не известно. Может, может "почувствовать" и не означает "понять, а просто метаинформация о модели, которая хорошо зарекомендовала себя, и система вознаграждения пометила ее как надежную, что мы и стали ощущать как "я чувствую эти знания"? Как узнать? Чувство ложной уверенности же есть, а оно не отражает понимания, наоборот, может отражать лютое заблуждение.
vasiljevserg Автор
Философия конечно "наука" о наиболее общих закономерностях, но все её термины определены друг через друга. В программировании все термины должны быть сведены к программному коду. Я так и сделал. Написал программу, которая работает, обучается говорить, решает задачи. Даже, выдвигает и проверяет гипотезы. Но всё это на очень узкой теме: транспортные задачи. И в ограниченном объёме, только для проверки работы общих алгоритмов. Одному больше не сделать. Но, даже для этого пришлось очень глубоко залезть в философию и всё переосмыслить. Потом пообщался с профессиональными философами, у них в голове полная каша, каждый имеет свою "модель мира". Они даже друг друга не понимают. Поэтому, на комментарии философского толка отвечать, извините, не вижу смысла.