Коллеги, не ругайтесь и не пугайтесь - не собираюсь доказывать существования души ни в роботах ни в человеках :) Для нас такой вопрос требует определения "души" - на чем дискуссия закончится не начавшись.

Речь о другом - моя супруга "принесла" этот вопрос с дружеских посиделок "гуманитариев". Супруга - музыкант, а её знакомая - художник. И вот знакомая завела речь, мол "Все эти модные Нейросети... они творят всякие чудеса... может они уже Одушевлённые?" :)

Супруга интуитивно представляет что о "душе" и даже "сознании" подразумеваемых приложений (больших языковых моделей или как ещё назвать) говорить преждевременно, но с аргументацией затруднилась.

Я же попытался не отвечая на вопрос (т.к. нет определения души) привести аналогии более простых алгоритмов и моделей, которые понятны на "обывательском" уровне, но для которых такой вопрос и в голову никому не придёт. И вот попрошу сообщество помочь с ещё хорошими, демонстративными примерами.

Генераторы музыки и изображений

Ещё в 18-м веке (а то и раньше) существовали популярные эксперименты по созданию музыки с помощью генератора случайных чисел (то есть, игрального кубика и пр). Популярные имена на этом поприще - К.Ф.Э.Бах (один из сыновей Иоганна Себастьяна Баха) с его "Как написать 6 тактов с двойным контрапунктом не зная правил", Иоганн Кирнбергер "Готовый сочинитель полонезов и менуэтов" и Максимилиан Штадлер "Таблицы для сочинений менуэтов... с помощью бросания двух кубиков".

Даже не-музыкант легко догадается из названий что подобные способы (в основном предназначенные для развлечения и обучения) представляли собой набор неких готовых паттернов, фрагментов, последовательность и связь которых определялась на основе случайного процесса.

С изображениями быть может чуть сложнее - я не припомню сочинений в духе "как написать картину бросая кубик" - но калейдоскоп, известная детская игрушка, наверняка отчасти может служить примером. Повернул туда-сюда, стёклышки цветные перераспределились - и взгляду твоему предстают новые чудесные узоры!

Вполне можно использовать в дизайне тканей, интерьеров (и наверняка кто-то использовал)

Что же, вот примеры которые подобно LLM создают некоторый условно-полезный результат. Понятно что "Шедеврум" работает несколько сложнее - ну так почти 300 лет прошло. И что же - разве у этих таблиц или калейдоскопа есть душа?

Тут могут возразить - современные "нейросети" ведь не просто что-то генерируют абсолютно случайно - но стараются ответить на какой-то запрос пользователя. То есть присутствует ввод данных, задание "отправной точки" или "желаемого результата".

Но такой ввод присутствовал и в тех, "упрощённых моделях". В музыкальных таблицах пользователь может выбирать тональность и окраску (мажорную или минорную) произведения. В калейдоскоп - если он разборный - можно вкладывать стёклянные осколки разных цветов и форм, в большем или меньшем количестве - и так управлять характеристиками результирующих изображений.

В общем, со скидкой на технический прогресс за 3 века, этот пример кажется валидным.

Но как же самообучаемость?

С вышеприведёнными примерами моя жена согласилась, но прозорливо заметила что нынешние хитроумные алгоритмы умеют "самообучаться" в той или иной форме. Этого свойства нет ни у калейдоскопа ни у музыкальных таблиц.

В ответ я припомнил классическую "Самообучающуюся машину из спичечных коробков" для игры в Крестики-Нолики или Шесть Пешек - Мартин Гардней описывал её в популярной статье больше полувека назад. Напомню - там используются пустые коробки с разноцветными бусинами внутри - на коробках нарисованы возникающие в игре позиции и возможные ходы (разным цветом). Чтобы выбрать ход мы отыскиваем нужный коробок, достаём из него случайную бусину и делаем ход в соответствии с её цветом. Если "машина" проигрывает партию, мы убираем бусину из коробка соответствующего последнему ходу - а если этот коробок окажется пустым, то из предыдущего и так далее (можно также использовать "поощрительные" методики обучения с добавлением бусин при выигрыше).

Другой вариант - популярная старая компьютерная программа типа "угадай животное" - которая пытается задавать вопросы в духе "есть ли у него лапы?" и по ответам "да-нет" сужает круг выбора - а если угадывает неправильно или не знает нужного животного то спрашивает пользователя каким признаком оно отличается (и добавляет к себе в список вопросов).

Налицо что даже такие примитивные модели реализуют функцию самообучения. Но про "одушевлённость" наверное и в этом случае никто не задумается.

Тут может возникнуть сомнение насчет участия человека в "образовательном" процессе - однако заметим что человек (точнее, наставник) требуется например программе угадывающей животных - но для машины из коробков он не нужен - она (будучи реализована в виде компьютерной программы) может обучаться играя сама с собой.

Отрицательный пример - программы-убийцы

Для рассуждения в стиле "от противного" интересно рассмотреть также случаи когда автомат или алгоритм ведёт явно вредительскую деятельность но при этом вряд ли его можно назвать одушевлённым.

Из наиболее недавних легко вспомнить автоматическую систему "улучшающую" маневрирование в самолётах Boeing 737 MAX - благодаря её неудачному вмашательству в течение полугода 2 самолёта (из примерно 400) разбились погубив в сумме более 300 человек. Не то чтобы у системы была злая душа - просто непредвиденный случай, поломка датчика которую система не распознаёт т.к. это не заложено при проектировании.

Другой пример, тоже современный - не смертельный но также болезненный. На всевозможных финансовых биржах сейчас очень активно торгуют роботы. Широко развит "высокочастотный трейдинг" (м.б. лучше было сказать "высокоскоростной"). Поскольку на бирже цены определяются поведением игроков друг против друга, оказывается что роботы торгуют против роботов. Иногда (м.б. особенно заметно на биржах с меньшими суммарными объёмами сделок и большей волатильностью) случаются ситуации когда торговые стратегии бесконтрольно взвинчивают (или наоборот роняют) цены пытаясь переиграть друг друга. Кому-то удаётся быстро угадать такую ситуацию и получить хорошую прибыль с учетом возвращения цены к стабильному предшествующему уровню - но многие трейдеры "поведясь" на внезапный рост или падение совершают напрасные и невыгодные сделки, а аналитики потом разводят руками - мол необоснованный скачок, роботы бесятся. Хотя алгоритмы таких роботов достаточно сложны и постоянно модифицируются - говорить об "одушевлённости" не приходится.

Третий случай - непосредственно про "нейронки" - недавний остроумный ответ Гугл Чатбота, посоветовавший пользователю "убицца".

Хотя обывателю кажется труднее судить в этом случае "была ли злая душа у чатбота" - но легко догадаться что "burden on society" и прочие обидные замечания - это паттерны почёрпнутые алгоритмом "из интернетов" а не утончённо сгенерированные самостоятельно. Подобный ответ можно было бы заложить и в примитивную ELIZA и даже в "чатбот 18 века" из таблиц со словами на бумажке и пары кубиков.

Заключение

Как я сказал, моей целью не было пытатся ответить на вопрос (потому что для нас "технарей" он требует конкретизации) - но показать какие-то примеры которые можно переадресовать спрашивающему и предложить провести параллели и решить самостоятельно.

Какие ещё соображения я мог упустить?

Какие иные интересные примеры можно привести?

(и что ответит чат-жэпэтэ на вопросы "как доказать что у LLM есть душа" или "как доказать что её нет")