Не так давно меня очень впечатлила статья Man, death & ethics и мне очень хотелось увидеть продолжение этой темы.

Но мне кажется, что прежде, чем разбираться с "концепциями определения человека, морали и этики" применительно к Искусственному интеллекту, не плохо было бы разобраться для начала с пониманием самого искусственного интеллекта и просто интеллекта. Давайте попробуем порассуждать на эту тему. Для начала попробую подвести к вопросу из заголовка.


Вам знакомо чувство, когда вы следите за каким-то процессом и он вас завораживает, не дает оторваться. Вы как будто становитесь частью этого процесса растворяетесь в нем…

Помните: можно бесконечно смотреть как течет вода, как горит огонь, … много чего есть такого на что можно бесконечно смотреть.

Что же привлекает нас и заставляет растворяться в таких процессах? Наверно нас поражает какое-то непостижимое, не реальное проявление и сочетание обыденных законов природы, законов мироздания, игра самых привычных, самых естественных сочетаний-преобразований сущностей.

В такие моменты вы на самом деле смотрите внутрь себя, вы наслаждаетесь отражением реальности в мире собственного интеллекта и образы вашего разума начинают играть вслед за теми сущностями, которые вы наблюдаете в реальном мире. Мне кажется, именно переливы этого отображения нас завораживают.

Интеллект он как ребенок с большими глазами, который хочет играть, которому все интересно.

Интеллект — это мир, который растет, отображая в себя реальность, с которой он соприкасается и в которой он существует. Интеллекту нужно стать частью реального мира, дойти до сути вещей до сути происходящих изменений, трансформаций, научиться их предсказывать, а потом по возможности и управлять ими.

Как ребенок, который хочет быть похожим на своих родителей интеллект ищет гармонию которой подчиняется существование внешнего мира, существование его носителя и стремиться повторить ее, сделать ее частью себя или самому стать ее частью.

Интеллект постоянно ведет беседу сам с собой или со своим носителем и носитель может повредить интеллект, заставить его подчиняться эмоциям, страстям, догмам, даже рефлексам. Все что ограничивает интеллект, рано или поздно убивает интеллект.

Интеллект уверен в своем знании. Он готов отстаивать его, доказывать и всячески защищать и при этом он готов скорректировать или глубоко пересмотреть это знание чтобы разрешить накопившиеся противоречия – ошибки отображения из реального мира, учесть пропущенные ранее факты. Интеллект это фактически самостоятельное существо. Можно говорить об интеллекте человечества, интеллекте народа, можно рассмотреть даже интеллект праздной компании, нацеленной на развитие праздничной атмосферы и праздничного настроения своих членов.

Интеллект способен развивать себя в отрыве от реальности, в этом случае результат его развития не предсказуем и вряд ли это может привести к чему-то хорошему. По сути, догматический образ мышления это фактически изоляция интеллекта от реальности и замыкание его на ограниченном базисе жестко заданных догм, вместе с этим носитель вынужден ограничивать также свои способности к анализу внешних событий, процессов и воспринимать их только с той стороны, с которой они укладываются в заданный базис. Как ни странно, при таком подходе интеллект не остается без работы и послушно выполняет задачи поставленные своим носителем запихивая входящии поток информации в отведенные рамки, но это очень сложная работа, которая очень вредит интеллекту в любом случае и ведет к его перерождению во что-то нехорошее.

Интеллект задает вопросы, но что намного более важно, он подбирает правильные формулировки уже звучавших вопросов. Интеллект формулирует вопрос, он ищет-подбирает-формулирует ответ, а потом анализирует композицию вопрос-ответ. При таком анализе интеллект следит чтобы не нарушалась некоторая известная на данный момент гармония (или как это назвать?) что бы множество пар вопрос-ответ укладывались в единую картину, чтобы эта общая картина не теряла связь с реальностью, чтобы вопросы не кончались, чтобы вопросы позволяли все глубже проникать в устройство мироздания, чтобы все вместе растущее знание приносило удовлетворение или просто пользу носителю интеллекта.

Может ли Искусственный интеллект задавать вопросы? Вроде как может. Но может ли ИИ задавать вопросы себе? Я думаю, что нет! Он банально должен экономить энергию.

Но если он не может задавать себе вопросы, то есть вести самостоятельные рассуждения то, в общем то, Искусственный интеллект не является интеллектом. Мы видим, что для него нарушается определяющий сущность понятия "интеллект" способ существования, он не самодостаточный, он не имеет цели внутри себя.

Но мы же не можем сказать, что Искусственный интеллект не существует, некоторая сущность под таким названием широко используется и во всю развивается. Просто слово «интеллект» в этом названии явно имеет смысл, который очень отличается от исходного.

Но можно рассмотреть понятие Искусственный интеллект и с другой стороны. Вспомните, мы говорили, что настоящий интеллект уверен в своем знании, он готов отстаивать-доказывать, всячески защищать это знание, более того вполне можно утверждать, что это именно интеллект заставляет носителя действовать в соответствии с этим знанием, вплоть до того, что даже жертвовать собой (вспомните легенду про Коперника, или это не легенда?) защищая свое знание.

И теперь давайте подумаем можно ли утверждать, что Искусственный Интеллект в том же смысле уверен в своем знании, уверен в том, что он вам отвечает? На сколько я понимаю там не может быть и речи о какой-то уверенности. ИИ не просто безразличен ответ, который он вам выдал, он запросто может предложить вам совершенно другой ответ практически на тот же вопрос. Мы просто получаем ответы, которые с некоторой вероятностью похожи на возможный эталонный ответ, при чем эталонный с точки зрения некоторого алгоритма.

Мы ведь все не раз бывали в ситуации, когда задали вопрос, но ответ нас совершенно не устраивает, и мы понимаем, что вопрос был не правильно понят и мы задаём вопрос о том же самом в другой формулировке, задаем еще и еще раз пока не добьёмся понимания. Мне кажется, что в такой ситуации интеллектом определенно обладает сторона которая способна менять-подбирать формулировки вопроса, и анализировать ответ на предмет адекватности-соответствия поставленному вопросу. Об интеллекте отвечающей стороны наверно тоже можно было бы судить по способности формулировать уточняющие вопросы, хотя придется принимать во внимание те же соответствие и адекватность и не односложность таких уточняющих вопросов. Вам не приходилось задавать вопросы самому/самой себе; и отвечать на них; потом применять ответ с вопросом к реальности, находить изяны, противоречия, корректировать ответ, возможно корректировать вопрос, повторять все по кругу раз за разом, пока все не сойдется? Когда пишешь программы, которые должны работать это обычная рутина.

В любом случае очевидным проявлением интеллекта является способность не просто отвечать на вопросы, а анализировать соответствие смысла из вопроса и из ответа и способность отстаивать свою точку зрения (способность к демонстрации уверенности в своем знании).

Наверно вывод, который я бы сделал после таких рассуждений, состоит в том, что, если просто взять за основу, что интеллект в каком-то приближении похож на психическое расстройство – это просто способность разговаривать самому с собой и решать что-то самому с собой, то получается, что интеллект, вообще говоря, не обязан проявлять себя во внешний мир, он полностью определяется замкнутым процессом, который происходит внутри носителя, можно только косвенно судить о наличии такого процесса внутри носителя будь он живое существо или машина.

Можно однозначно определить, что кто-то или что-то обладает интеллектом только если это кто-то/что-то не имеет целью скрывать наличие такого процесса у себя внутри, а возможно даже, что интеллект определяется только при условии, если носитель этого интеллекта определенно хочет продемонстрировать свой интеллект наружу.

Тут, кстати, можно вспомнить о том, что в большинстве своем люди предрасположены продемонстрировать свой интеллект в лучших (хотя иногда и в худших, к сожалению) его проявлениях. При ближайшем рассмотрении, я думаю всем очевидно, как это связано с тем же качеством интеллекта защищать, в данном случае через распространение среди как можно большего числа индивидуумов, свое знание, что в свою очередь дает дополнительные уточнения и верификацию и даже расширение этого знания.

На этом пока все.

Комментарии (12)



  1. DASpit
    16.06.2024 05:16
    +8

    Что мешает ИИ подать на вход выходные данные и будет он сам с собой разговаривать?

    Вопрос экономии энергии для отсутствия внутреннего диалога у ИИ это решение не ИИ, а тех, кто этой архитектурой пользуется.

    Заголовок не соответствует сути. Интеллект это не психическое расстройство. Психическое расстройство это низкий уровень интеллекта.

    Кликбейтное словоблудие. Как будто нейросеткой написано.


    1. rukhi7 Автор
      16.06.2024 05:16

      Интеллект это не психическое расстройство. Психическое расстройство это низкий уровень интеллекта.

      С первым я совершенно согласен, а вот против второго вполне можно найти факты опровергающие такое утверждение, мне кажется.

      Но я не собираюсь искать, поэтому спорить не буду.

      Интересно зачем такие эмоции: словоблудие, нейросеткой написано ?

      Такие эмоции заставляют меня подозревать что вам просто не нравятся рассуждения, которые приводят к выводу о том что Искусственный Интеллект как бы не совсем Интеллект, или совсем не Интеллект.

      Вообще я хотел написать в каком смысле любая программа это фактически частичка интелекта, но судя по оценке статьи тему не стоит развивать, по крайней мере на Хабре.


  1. JordanCpp
    16.06.2024 05:16
    +3

    Если интеллект это психическое расстройство, то что такое тогда искусственный интеллект?

    Это из разряда, что земля плоская? Если интеллект это психическое растройство, то я хочу жить среди людей с психическим растройством:)


    1. Tzimie
      16.06.2024 05:16
      +3

      Мне кажется что все больше людей выздоравливают)


  1. yMad
    16.06.2024 05:16
    +1

    Наверно вывод, который я бы сделал после таких рассуждений, состоит в том, что, если просто взять за основу, что интеллект в каком-то приближении похож на психическое расстройство – это просто способность разговаривать самому с собой и решать что-то самому с собой, то получается, что интеллект, вообще говоря, не обязан проявлять себя во внешний мир, он полностью определяется замкнутым процессом, который происходит внутри носителя, можно только косвенно судить о наличии такого процесса внутри носителя будь он живое существо или машина.

    Из этого вывода неплохо было б понять:

    1.что значит разговаривать? и можно ли это делать невербально?

    2.разве носитель и внешний мир не связаны?


  1. lolikandr
    16.06.2024 05:16

    Интеллект уверен в своем знании.

    Интеллект должен искать границы применимости своих знаний, прежде, чем быть в них уверенным. К сожалению, так делает не каждый естественный интеллект, что уж говорить про ИИ.


  1. sotland
    16.06.2024 05:16

    "Интеллект постоянно ведет беседу сам с собой или со своим носителем и носитель может повредить интеллект, заставить его подчиняться эмоциям, страстям, догмам, даже рефлексам."

    Уточните пожалуйста, с кем в этой цитате ведёт беседу интеллект? Слово "носитель" я вижу, но кто это или что это?


  1. sotland
    16.06.2024 05:16

    "...вместе с этим носитель вынужден ограничивать также свои способности к анализу внешних событий" И вновь этот носитель появляется и вновь это кто-то внешний по отношению к интеллекту

    И кто же это такой...


  1. F01D32
    16.06.2024 05:16

    И снова эта песня про "ИИ - это не ИИ, а чтобы был ИИ, то нужно чтобы у него все было как у людей".

    Нет, не нужно. Никто не клеит перья к самолетам. Так что не судите об интеллекте по одному лишь человеку. Более того, излишняя антропоморфизация превратит ИИ из удобного инструмента в огромную угрозу.


  1. yMad
    16.06.2024 05:16

    Более того, излишняя антропоморфизация превратит ИИ из удобного инструмента в огромную угрозу.

    А нейрочипы в мозг не считаются излишней антропоморфизацией)


  1. DJP
    16.06.2024 05:16

    Можно конечно же как-то когда-то понять, что такое интеллект, задавая такие вопросы, как в заголовке, но всё же, что бы в длительном процессе такой интеллектуальной деятельность самому не заработать означенное психическое расстройство есть более простой путь.
    Это банальное: постановка вопроса; сбор, классификация и фильтрация данных; анализ т.е. разложение на составляющие и определение каждого; получение общей картины (синтез); связь её с реальным миром (одухотворение); дальнейшая проекция найденного для искомого ИИ.
    И строиться это на фундаменте объективной (на сколько это возможно на данный момент) физики и космологии т.к. Жизнь (интеллект) в т.ч. и человек это часть и этап общего развития Вселенной по её Законам.
    И искусственный интеллект так же будет существовать в ней и по её законам, и собственно создаётся для космической экспансии из "колыбели".
    Т.е. нужно:

    • представить "линию" (волну/спираль) развития Вселенной до нашего времени (а так же увидеть "вектор");

    • разделить термин "интеллект" на более атомарные/точные, относящиеся к исследуемой теме (а это сам (общий) интеллект, интеллект агента, инстинкт, чувства, интеллектуальность, сознание, ум, разум (а так же производные: глупость, мудрость, инсайт, гениальность) и др.);

    • определить их место на "линии" развития Вселенной, указать их функционал, в чём разница между ними и чем она обусловлена;

    • "собрать" эти разрозненные знания в общий образ, "увидеть" закономерности;

    • и из полученного понимания достроить то, чего ещё (пока) нет (так же разобрав термин "искусственный") - ИИ.

    Получим для первых шагов:
    (начало Вселенной (~14 млр. л.н.)) - (поле, идея, законы, энергия, материя, случай), информация: [общий интеллект - интеллект(ы) агентов (разного уровня) - "механика" (взаимодействия) - Жизнь (~4 млр. л.н. (на нашей планете): [инстинкт: [чувства] - интеллектуальность - сознание (~150 млн. л. н.): [ум: [глупость/мудрость] - разум (~50 тыс. л.н.)] - ИИ?...] - ...?

    Далее идут определения терминов, обобщение и получение ответа, но для понимания над этим надо думать самому...