В настоящее время имеет место быть бурное развитие технологий искусственного интеллекта. Буквально в последние годы возник генеративный ИИ на основе нейронных сетей, совершивший технологическую революцию во всём мире. Нейросети рисуют, пишут музыку и программный код, формируют видео – и это далеко не полный перечень того, на что способен современный ИИ.

Достаточно внезапное расширение возможностей интеллектуальных программных средств привело к тому, что ряд видных представителей мира технологий и общественных объединений начали выступать за ограничения развития ИИ. Так, в 2023 году Илон Маск и Стив Возняк подписали открытое письмо с требованием приостановить разработку и обучение нейросетей (помимо них, это письмо подписали более 1000 экспертов). Во многих странах, в том числе в России, идут обсуждения законодательного регулирования ИИ.

Вследствие ряда опасений относительно ИИ с одной стороны, и преувеличения его возможностей с другой, я хотел бы предложить ряд тезисов, способных сохранить взвешенное отношение к искусственному интеллекту; указать на его сильные и слабые стороны.

На мой взгляд, имеют место вечные проблемы ИИ, полное разрешение которых является принципиально невозможным. Эти проблемы будут раскрыты в дальнейшем изложении.

 Конструктивная позиция по ИИ состоит в понимании его сущности как одной из технологий автоматизации человеческого труда (автоматизация по сути своей сводится к исполнению машинами повторяющихся стандартных рутинных операций); способной выполнять многие задачи, способную имитировать некоторые интеллектуальные способности человека; но принципиально неспособной к осмысленному творчеству.

Немного истории

«Атомная бомба взорвалась уже в поэме Парменида «О природе» – писал немецкий философ Мартин Хайдеггер. Я соглашусь с Хайдеггером относительно того, что техника во многом укоренена в философские концепции. По сути, технология представляет собой гипостазирование человеческих представлений и ценностей. Технику творят люди, и пользуются ей также люди. Поэтому вполне логично прийти к выводу, что люди воплощают свои представления и ценности в технических решениях.

Все концепции и технологии, относящиеся к ИТ, имеют глубокие философские корни. В значительном числе случаев можно даже эксплицитно выделить преемственность между философскими идеями и технологическими решениями (к примеру, ООП и Платон, функциональное программирование и Декарт, двоичная система счисления и Лейбниц).

Слабость ИИ заключается также и в том, что философская основа, из которой он вырос, проблематична. Даже в кардинально новых решениях, возникающих в настоящее время, я вижу те же античные проблемы; те же философские принципы, заложенные в античный период.

Среди основных философских концепций, оказавших влияние на формирование кибернетики и информатики в целом, и теории искусственного интеллекта в частности, можно выделить следующие:

• ­   древнегреческая философия (пифагорейцы, Платон, Аристотель);

• ­   рационализм (Р. Декарт, Г. Лейбниц, Г. Гегель и др.);

• ­   детерминизм (Демокрит, Б. Спиноза, П. Лаплас и др.);

Можно выделить следующие основные идеи, перенятые кибернетикой и информатикой в целом, и теорией ИИ в частности, у мыслителей указанных школ:

• рационализм (Платон, Аристотель, Декарт) — мир познаваем через логику и математику; идея превосходства рационального познания перед другими его видами;

• детерминизм (Демокрит, Лаплас) — всё подчинено законам, включая мышление;

• формализм — реальность можно описать алгоритмически (Лейбниц, Тьюринг).

Указанные пресуппозиции характерны для античной философии, и для выросших из неё математики, естественных наук и техники. Но, помимо античности, европейская философия имеет ещё один, не менее значимый источник идей: христианство.

Из христианства к нам пришло представление о человеке как об уникальной и неповторимой личности; представление о свободе воли человека; понимание человека не только как мыслящего, но и как волящего существа; признание интуиции как одного из способов познания наравне с разумом и представление о том, что значительный аспект человеческого бытия непостижим рационально. Такие принципы вступают в противоречие с рационалистическими принципами, свойственными античной мысли.

Возник конфликт между христианскими представлениями о мире, человеке и обществе; и античными представлениями об указанных предметах. По сути, противоречия между естественнонаучной и гуманитарной методологией суть не что иное, как гипостазирование конфликта между античной и христианской культурой мышления в сферу науки. Я не хочу сказать, что каждый «гуманитарий» – христианин, а каждый «технарь» – рационалист и детерминист; тем более, что имплицитно представители науки очень часто соединяют в своей интеллектуальной деятельности принципы обеих культур мышления, даже не осознавая этого. Но, пытаясь выявить исторические корни конфликта между «техническим» и «гуманитарным», я пришёл именно к такому выводу о его природе.

Уже по той причине, что специалисты по ИИ в своих рассуждениях и концепциях руководствуются именно античными философскими принципами, затрудняет применение ИИ к гуманитарным проблемам, а также негативно сказывается на его развитии. Даже современные интеллектуальные системы во многом ограничены в своих возможностях именно потому, что базируются на античных философских концепциях; в то время как персоналистические и экзистенциальные концепты перманентно игнорируются.

И кто такой человек?

Развитие ИИ достаточно часто оценивают на основе сопоставления его возможностей с возможностями человека. По нашему мнению, этот подход проблематичен, т.к. не существует единой общепризнанной антропологической концепции.

Кто такой человек? Животное о двух ногах, лишённое перьев и с плоскими ногтями (Платон)? Политическое животное (Аристотель)? Умное животное (некоторые мыслители эпохи Просвещения)? Пастух бытия (Хайдеггер)? Существо, обречённое быть свободным (Сартр)?

На практике это означает, что, так скажем, достижение человеческого уровня искусственным интеллектом всегда может быть оспорено. К примеру, создан ИИ, который в полной мере соответствует представлениям о человеке времён Просвещения, но не соответствует хайдеггерианским. Или такой ИИ, который великолепно ориентируется в политической проблематике и ставший «политическим животным» по Аристотелю, но не свободный по Сартру.

В доказательство своего тезиса я приведу следующий факт: тест Тьюринга как тест проверки «человек-машина» был подвергнут критике философом Дж. Сёрлем («китайская комната»). По моему мнению, создать такой тест в целом затруднительно именно вследствие того, что единой антропологической концепции, разделяемой всеми, нет. Конечно, интуитивно мы чувствуем различия между человеческим и, так скажем, не-человеческим (в действительности некорректно характеризовать машинное как «нечеловеческое», т.к. свойственную машинам рациональность вложил в них человек; машинная рациональность есть не «нечеловеческая рациональность» а «гипертрофированная до нечеловеческого уровня человеческая рациональность»), но даже это не устраняет все трудности на пути создания человекоподобной машины.

Интеллект vs мышление

«Мама сделала меня ученым, сама о том не подозревая… Каждая вторая еврейская мамочка в Бруклине спрашивала ребенка после школы: “Ну что, ты сегодня узнал что-нибудь новое?” Но не моя. Моя мама всегда интересовалась: “Иззи, ты задал сегодня какой-нибудь хороший вопрос?”»

(Исидор Раби, лауреат Нобелевской премии по физике 1944 года)

Под интеллектом понимается способность к решению задач. Но в действительности важной способностью является не только решение задач, но и способность к их постановке.

Машины не могут задавать вопросы, они не могут самостоятельно ставить себе проблемы, что чрезвычайно важно для интеллектуальной деятельности. Уже вследствие этого можно смело говорить, что ИИ не достиг человеческого уровня.

Спрашивание, по Хайдеггеру, есть искание. Но что побуждает человека искать? Проблема. По определению проблемы, проблема есть несоответствие между желаемым и действительным. Но как машины не могут желать, они не могут иметь проблем и, как следствие, не могут ставить вопросы. В свою очередь, это ведёт к невозможности никакой исследовательской деятельности – как на академическом, так и на бытовом уровне.

Следует в целом разграничить понятия интеллекта и мышления. Если интеллект – это способность к решению задач, то мышление есть понятие более широкое, включающее в себя, в том числе, и их постановку.

Я думаю, максимум, до чего может дойти развитие ИИ – это переход от Artificial Intelligence к Artificial Thinking (искусственное мышление). Особенно значимой мыслительной, но не «интеллектуальной» деятельностью является философия, вследствие чего, для того, чтобы развить искусственное мышление, нужна искусственная философия (Artificial Philosophy). Думаю, отчасти это возможно, но лишь отчасти. Можно имитировать некоторые мыслительные способности и отчасти научить машину философски рассуждать и делать на основе рассуждений практические выводы, но не более того.

Может ли машина желать?

Я хотел бы, чтобы люди подумали над тремя свойствами в них самих. Они – все три – конечно, совсем иное, чем Троица; я только указываю, в каком направлении люди должны напрягать свою мысль, исследовать и понять, как далеки они от понимания.

Вот эти три свойства: быть, знать, хотеть. Я есмь, я знаю и я хочу; я есмь знающий и хотящий; я знаю, что я есмь и что я хочу, и я хочу быть и знать.

Эти три свойства и составляют нераздельное единство – жизнь, и, однако, каждое из них нечто особое и единственное; они нераздельны и все-таки различны. Пойми это, кто может. Перед каждым стоит, конечно, он сам: пусть всмотрится в себя, увидит и скажет мне.

(Блаженный Августин)

Когда мы рассуждаем о человеке, мы, как правило, ставим во главу угла разум и мысль. Это неудивительно, т.к. современная теория искусственного интеллекта выросла из рационалистической философии. Но мы забываем о том, что помимо мира человеческой мысли есть не менее значимый мир человеческих желаний. Желание - вот, что определяет человека совокупно с мыслью. Одно из определений человека, которое я бы дал, звучит так: человек - существо, соединяющее в себе мысль и желание (животные неспособны мыслить, а машины желать).

Августин считается отцом волюнтаризма в теории познания. Он считал, что воля и желание первична по отношению к мысли. Лично я согласен с этим мнением великого христианского философа. Действительно, именно в волевом акте мы направляем мысль к какому-либо предмету; именно от расположения нашей воли во многом зависит наше познание. Вследствие этого и я делаю вывод о том, что желание первично по отношению к мысли.

Машины не обладают способностью желать. И это вносит кардинальное отличие в их экзистенцию по сравнению с экзистенцией человеческой. Это обуславливает их принципиальную неспособность к постановке задач, поскольку цели определяются ценностями. С желания, а не с мысли, начинается вопрошание; вследствие чего машины не могут в полной мере самостоятельно ставить проблемы.

Рассмотренное отличие между машиной и человеком является принципиальным и, по моему мнению, непреодолимым. Мой ответ на вопрос «Может ли машина мыслить?» звучит так: даже если машина сможет мыслить, это не приведёт к тому, что она достигнет человеческого уровня в своей интеллектуальной деятельности, поскольку человеческая мысль подчинена желанию, коего у машины нет. Гораздо более важен вопрос, может ли машина желать.

Свобода воли

Спор между детерминистами и индетерминистами в философии очень давний. Не все философы и философские школы признают наличие свободы воли у человека. Но если сопоставлять экзистенцию человека и машины, то выявляются кардинальные различия, проявляющиеся в том, что машина неспособна к неподчинению; невозможна ситуация произвольного отказа машиной от выполнения заданного разработчиком действия; если компьютер отказывается выполнять действие пользователя, это обусловлено не его собственным действием, а алгоритмами, вложенными в него разработчиками.

Интеллектуальная система, в отличие от человека, не обладает иным руководящим началом, кроме алгоритма, который внёс в неё разработчик. Из этого следует, что она неспособна кардинально менять рамки своего поведения. Даже, если данная система обладает эвристическими алгоритмами или механизмами самообучения, она не способна выйти за пределы некоего, можно сказать, мета-алгоритма, по которому формируются алгоритмы. Следовательно, поведение искусственного интеллекта на том или ином уровне полностью детерминировано и, следовательно, предсказуемо.

Человек способен изменять свои поведенческие паттерны. Машина, по сути – нет.

Заключение. Методологические проблемы современной кибернетики

В рамках настоящей статьи был поставлен и проанализирован ряд проблем искусственного интеллекта. По моему мнению, рассмотренные в работе проблемы являются фундаментальными и неразрешимыми (по крайней мере, на период настоящего времени и ближайшего будущего), поскольку они обусловлены философскими, теоретико-научными и методологическими основами искусственного интеллекта. Вследствие этого специалисты по ИИ оказываются неспособными учесть ряд особенностей, характеризующих мыслительную способность человека; что, в свою очередь, налагает ограничения на их выводы.

Дальнейшее развитие развитых в настоящей работе мыслей приводит к следующему выводу: кибернетика как наука имеет методологические проблемы.

Все существующие на сегодняшний день методологические проблемы укоренены в отдельной специфической проблеме, заключающейся в том, что, несмотря на то, что объект и предмет исследования кибернетики носит междисциплинарный характер (объектом исследования кибернетики являются предметы физического мира, технические устройства, живые организмы (в т. ч. люди); а также группы указанных сущностей; предметом исследования кибернетики являются закономерности, характеризующие процессы управления, передачи и обработки информации), методы исследования, используемые этой наукой, во многом пригодны именно для исследования технических объектов и систем, в то время как особенности систем иной природы (в особенности социальных систем) учитываются крайне слабо в рамках используемых указанной наукой методов и методологических принципов.

В целом методологические проблемы современной кибернетики можно свести к следующим группам проблем:

• ­ недостаток принятия во внимание особенностей предметных областей, в которых применяется кибернетика;

• ­ методологическая негибкость: в рамках кибернетики используются, по сути, только математические методы либо методы технических наук, в то время как методы исследования иных наук заимствуются крайне слабо.

В качестве решения этих проблем, особенно актуальных для исследования человеческих феноменов (личности, общества и культуры) я предлагаю рецепцию кибернетикой методов и методологических принципов гуманитарных наук. Не только гуманитарии должны учиться у нас, но и мы должны учиться у гуманитариев. Если объект и предмет исследования кибернетики находятся на пересечении естественнонаучных и социогумантиарных дисциплин, то такой же характер должны носить и их методология и методы, в то время как в настоящее время практически все методы исследования, которыми оперирует кибернетика, основываются на естественнонаучной парадигме.

P.S. Технари или гуманитарии: кто прав?

Моя жизнь сложилась так, что я получил как техническое, так и гуманитарное образование. У меня есть работы как технического, так и гуманитарного плана. По этой причине для меня как для специалиста проблематика соотношения гуманитарного и технического достаточно важна. Да простят меня коллеги-специалисты по ИИ, но, на мой взгляд, в этом вопросе скорее правы гуманитарии.

Можно критиковать гуманитарное знание за его неточность и нестрогость, за во многом вероятностный характер, за принципиальную невозможность проверить сделанные в рамках исследований выводы. Разумеется, конкретно с этим в технических науках лучше. Но есть ответ, который, по сути, отражает если не всю, то большую часть критики.

Особенности гуманитарного знания обусловлены не прихотью и не незнанием математики. Они обусловлены особенностью личности, общества и культуры (П. Сорокин) как объекта исследования. Явления, характеризующие эти объекты, настолько сложны по сути своей; настолько неопределённы, что формализовать многие из них математически невозможно. Хотя, к счастью, математика и здесь делает успехи (достаточно успешными я считаю теорию организационных систем академика Д.А. Новикова, нечёткую логику Л. Заде и темпоральные логики); всё же, по-видимому, перевести гуманитарные дисциплины на формальные рельсы невозможно. Запад есть Запад, Восток есть Восток, и им не сойтись никогда.

Сказанное не означает, что применять математику к гуманитарным дисциплинам не следует; и что не следует создавать новые математические методы для исследований в указанной сфере. В целом историю применения математических методов к гуманитарным проблемам совершенно безуспешной не назовёшь – чего стоит хотя бы социологическая статистика. Но всё же выдвинутая О. Контом концепция позитивизма, прямо скажем, утопична.

И научная теория, и практическая деятельность приводят к необходимости диалога между естественнонаучным и социогуманитарным. «Мостов», обеспечивающих такой диалог, много,  и одними из этих мостов призваны быть кибернетика и информатика. Но на сегодняшний день они справляются с этим не лучшим образом, т.к. их методология и методы практически в полной мере «технические». Безусловно, это радикальная мера, но ИМХО решение этой проблемы требует рецепции указанными дисциплинами методов и методологических принципов гуманитарных наук.

В целом можно предложить следующие пути решения этих проблем:

• формирование синтетической парадигмы кибернетики, в рамках которой предполагается использование в рамках кибернетических исследований не только математических методов, а также иных принятых в кибернетике методов исследования, но и методов исследования, характерных для гуманитарных дисциплин;

• формирование методологии применения математических и иных методов к задачам социальных и гуманитарных наук;

• ­«laissez-faire»: предоставить отдельным специалистам в сфере кибернетики и смежных дисциплин ставить и решать задачи в различных предметных областях по своему усмотрению (таким образом, к примеру, возникли такие дисциплины, как теория принятия решений, теория игр, искусственный интеллект и др.);

• разработка гибридных подходов, основанных на сочетании отдельных разделов кибернетики (либо смежных с ней наук) и отдельных философско-гуманитарных теорий (к примеру, кибернетико-феноменологический подход, основанный на синтезе положений кибернетики и феноменологии Э. Гуссерля; системно-коммуникативный подход, основанный на синтезе системного анализа и теории коммуникативного действия Ю. Хабермаса и др.).

Проблема противоречия между техническим и гуманитарным никогда не будет решена в полной мере. Через кибернетику и информатику она проходит красной нитью вследствие объекта и предмета этих дисциплин. И всё же на отдельных уровнях возможен диалог, который будет плодотворным для обеих сторон.