Крупные компании начинают не просто привлекать, а брать в штат философов, культурологов. Цукерберг и Безос начинают ходить на благотворительные ужины и скупать произведения искусства…

И видя такие новости, у меня возникает ощущение того, что история движется кругами. И если заменить слово «ИИ» на «парадигма мышления», то мы увидим множество совпадений в ретроспективе последних 3000 лет.

Основной посыл можно свести к вопросам осмысленности ответов ИИ. При этом не имеет значение факт наличия или отсутствия сознания у ИИ. Пользователи хотят видеть те ответы, которые ожидают. Вне зависимости от того, сформированы они с участием человека или без. Кроме того, они хотят быть уверенными, что эти ответы остаются в пространстве культурных кодов той или иной цивилизационной парадигмы. Ответы должны быть согласованы с теми нормами, принципами и знаниями, которые составляют картину мира пользователя. Без этого на них нельзя встроить в наши, человеческие, цепочки рассуждений. Ни со смысловой, ни с этической, ни с эстетической, ни с правовой точки зрения. Это приводит к росту внутренней напряженности пользователей ввиду фонового недоверия: никогда не знаешь в какой момент ИИ-система выдаст какую-то «дичь».

Отсюда следует несколько проблем:

1. Проблема common sense или проблема предела рациональности мышления

Не секрет, что одними из основных претензий к ИИ сегодня это тот самый common sense, понимаемый как обобщенное и общепринятое мнение. С точки зрения LLM/ML — это усредненное значение, полученное в результате статистической обработки как можно больших массивов данных. Это не лучшее, это именно наиболее ожидаемое. И здесь нет творчества. Даже GenAI не больше, чем вероятностная машина, обеспечивающая выдачу наиболее частотного слова или даже фразы. Рисование картинок ИИ – все таже комбинаторика.

Нет, конечно, это не значит, что нужно отказаться от ИИ. Так или иначе в жизни мы гораздо чаще используем различные паттерны, даже не задумываясь об этом. Действуем как всё те же вероятностно-статистические машины. Отсюда успешность применения ИИ, например, для поиска паттернов в документах, таких как договора, в поиске аналогий на основе сопоставления больших корпусов данных.

И отсюда же наше ожидание, что ИИ-агенты могут заменить аналитиков и аналитику. Если присмотреться, то аналитика зачастую это все тот же поиск паттернов, обнаружение формы той или иной кривой, для которой у нас уже есть объяснение. Беда в другом. В том, что ИИ не способен создать новое, не способен к творческому переосмыслению. Да, он может дать почву для размышлений обнаружив или создав коллизию, которую человек позже наделит каким-то смыслом.

И отсюда же провалы диалоговых систем: кто бы и что бы ни говорил, но использование чат-ботов кроме как в качестве голосового меню пока не внушает оптимизма.

2. Проблема смыслов или природа «галлюционирования» ИИ.

Если разобраться, то проблемы галлюционирования не существует. Галлюцинации – это возникновение в нашем сознании новых миров, состоящих из невозможных объектов и действующих по невозможным правилам. Но результат этот является процессом изобретения нашим же сознанием новых сущностей. И возникает это из факта первоначального отсутствия этой сущности. Значит, нужен хаос, как вместилище всех потенциальных возможностей. Изобретение — это свободный акт, результат которого не может быть логически предсказан. Т.е. необходим разрыв логических рассуждений и лежит за пределами тавтологий. Кроме того, конструирование предполагает собой конструктор с уже известными элементами - строительными блоками. Творчество включает в себя явление миру новых, доселе неизвестных и ничем не обусловленных (с точки зрения предыдущего опыта) элементов.

Комбинаторика, как единственно доступный для ИИ инструмент, дает лишь пересборку существующего. Акт наделения смыслами – это действие, которое происходит после и поверх. Не каждая новая комбинация, может быть, и должна быть наделена смыслами. Кроме того, те кто утверждает обратное, должны предъявить механизмы, обеспечивающие принцип свободы. Не случайности, а именно свободного волевого действия.

О чем говорят история и философия?

Проблематику смыслов можно найти уже в противостоянии Платона и Аристотеля. Т.е. почти 3000 лет назад. Существуют ли первообразы идей или они есть продукт нашего ума? Платон говорит о существовании мира идей, полноценно достичь которого мы не можем, как не можем смотреть на солнце. Мы можем видеть лишь их несовершенные тени. Аристотель говорит о первичных и вторичных сущностях. В реальности, в мире, существуют только конкретные вещи, «этот конь» или «этот человек». А вторичные – это производные, полученные путем обобщения чувственно воспринимаемого мира первичных вещей.

И здесь уже кроется проблема субъективной картины мира каждым мыслящим субъектом. Проблема тождественности двух миров, сформированных в двух сознаниях. Но если с точки зрения человека все не так страшно – мы имеем схожую конструкцию, то в отношении машин – это проблема. Как могла бы видеть мир машина? А существует ли хоть какой-то способ совместить, хотя бы частично, миры человека и машины?

Сложно совместить даже разные эпохи в рамках одной цивилизации. И об этом писали Шлейермахер и Гаддамер в своих работах по герменевтике.

Умберто Эко к этому добавляет сразу два тезиса:

1. О том, что смыслы организованы не в виде иерархий, а в виде сетей. Об этом он пишет в своей работе «От дерева к лабиринту». Смыслы связаны друг с другом, но не всегда иерархичны. Мышление человека это сеть, организованная в многомерном пространстве. И эта сеть далеко не всегда сбалансирована, непротиворечива и имеет гладкий (математически) характер. Множество элементов представляют собой гипотезы, которые даже не проверялись. Они рождены не логикой, но свободным творческим актом. Но LLM не обладают этими свойствами.

2. Общие смыслы строятся в пространстве культуры. И о трудности совмещения этих культурных кодов говорит его книга «Сказать почти то же самое». Полный и точный перевод с одного языка на дугой невозможен.

Об этом печалился Владимир Набоков, переводя собственную «Лолиту» с английского на русский. Об этом пишет Михаил Юрьевич Лотман…

Таким образом, дискурс о смыслах возник очень давно, задолго до ИИ. И проблематика ИИ, если уж так разобраться, мало что добавила к этому. Скорее по-новому подсветила старые вопросы.

Еще одним фактом является спор о первичности и достаточности рационального мышления. Можем ли мы отбросить прошлый опыт, можем ли мы опираться только на логику и тот самый здравый смысл? Даже оставляя в стороне проблему творчества, исследования Николая Александровича Бердяева говорят – нет.

В своей книге «Смысл истории» он пишет о том, что такие попытки происходили как минимум уже с начала греческой истории. И первыми здесь были софисты. Ставя логику и рациональность во главу угла, они ставили человеческий разум выше тайн и законов природы – в качестве судьи. Судьи, который может по законам логики судить обо всем. Но достигнув расцвета, они оказались в проигрыше. Их идеи рухнули под накопившимся ворохом противоречий. И человечество вернулось к Платону и Аристотелю.

Позже, эта проблема встала в период средневековья, когда аскеза рыцаря и монаха, заковав сознание человека в рациональность правил, разрушила сама себя. Необходимость творческой свободы привела к Ренессансу.

Позже, это повторилось в эпоху Посвящения, но уже в отношении общества. Можно ли логикой, рационально задать моральные принципы? Могут ли ценности возникнуть на пустом месте, без учета прошлого опыта? Да, у Бердяева есть такая оппозиция как духовное (в его случае – христианское) и природное. Если греки, позднее христианство вырвали дух человека из природного, подчинив инстинкты рассудку, то Новое время вернуло чувственное, сделав человека снова слабым, подверженным инстинктам.

И вроде бы здесь религиозный аспект. Но если подумать, то где больше рациональности: в подчинении природному, инстинктам или в свободе, обусловленной независимостью от телесного. Уже сегодня философ Виктор Федорович Гиренок пишет о том, что именно животное является наиболее рациональным. Все его действия имеют сильную детерминированность от состояний своего тела и окружающей среды.

Подводя итоги, можно сказать, что предельная рационализация процесса мышления в обоих крайностях, будь то холодная логика рассудка, или жаркий автоматизм животного не могут дать позитивного развития.

И история с ИИ сегодня только подтверждает это. И все эти дилеммы уже ставились, надо просто помнить об этом. Именно поэтому к математику и инженеру в компаниях, занимающихся не просто внедрением уже готовых компонентов LLM/ML, а создающих новые продукты, занимающиеся семантикой и AGI, должны быть добавлены философы, филологи и культурологи.

Не поэтому ли Цукерберги и Безосы снова одели смокинги и занялись проблемами культуры?...

Все уже было, надо просто помнить об этом…