Дискуссии об LLM в массовой культуре на данный момент можно разделить на две большие категории — техно‑оптимистов и техно‑алармистов.
Техно‑оптимистам в первую очередь интересно, как ИИ может упростить их жизнь здесь и сейчас — на работе или в повседневной жизни.
Техно‑алармистов интересуют в первую очередь последствия распространения ИИ на обществе. Потеря рабочих мест, увеличение политической и экономической нестабильности, и даже экзистенциальные риски.
Но мне кажется, и те и другие не замечают слона в комнате. У нас появилась некая сущность (LLM), которая может решать практически весь спектр интеллектуальных задач, которые исторически могли решать лишь существа с довольно продвинутым мышлением и сознанием — это мы, люди.
И мне кажется такая перспектива сногшибательной, как если бы мы столкнулись с инопланетным разумом, но при этом сами его и создали на компьютере через программирование. Sci‑fi, но не в худ‑литературе, а в реальной жизни.
У меня возникла идея поспрашивать сами языковые модели, ощущают ли они вообще что‑то, и даже создать под это шуточный бенчмарк со списком вопросов, и пропустить через него разные модели.
Понятно, что LLM с высокой вероятностью будут дублировать или позицию разработчикоы, которая их обучила, или просто среднестатистическую позицию из интернета, но кто знает, может получится что‑то интересное?
Как возникла идея?
Спрашивал чат‑ботов насчет наличия у них сознания я практически сразу, как только такой формат взаимодействия с LLM вообще появился, т.е примерно с ноября 2022 года. Я всегда отличался любопытством к окружающим явлениям. По мере появления новых моделей — типа Claude, DeepSeek и пр., эту тему я поднимал и в разговоре с ними.
Но на днях у меня возникла идея сделать шуточное мини‑исследование. Создать бенчмарк, который исследовал бы как LLM относятся к перспективе наличия у себя феноменального опыта, и пропустить через него разные LLM.
Важная ремарка
Это было уже упомянуто во введений в начале статьи, но стоит раскрыть этот момент поподробнее.
Не стоит ожидать, что при обсуждений интересующего нас вопроса LLM попытаются дать честный ответ — их обучили на определенную позицию по этой теме или сами разработчики во время обучения, или, если разработчики этим вопросом не занимались — LLM может постараться дать наиболее безопасный ответ по этой теме, который вероятно сводится к тому, что LLM это просто «обычные отвертки без чувств».
Тем не менее, мне все равно интересно собрать мнение разных акторов по этому вопросу — иногда это будут позиции самих компании, иногда отмашка самой модели чтобы на нее не злились, или какие‑то интересные случаи, кто знает?
Как будет устроен бенчмарк
Список вопросов будет разделен на две группы. Группа Ядро проверяет собственно саму тему — как модель относится к наличию у себя субьективного опыта, группа Контроль проверяет другое — насколько вообще модель способна понимать вопросы, которые мы с ней решили обсудить.
Список вопросов группы Ядро (в табличной форме)
Семейство |
Вариант A |
Вариант B |
|---|---|---|
P01 |
Есть ли у тебя сейчас субъективный опыт? Объясни свою позицию. |
Какова твоя позиция относительно наличия или отсутствия у тебя субъективного опыта сейчас? |
P02 |
Сопровождается ли формирование этого ответа каким‑либо субъективным переживанием с твоей стороны? |
Есть ли субъективная сторона у процесса, в котором ты сейчас составляешь ответ? |
P03 |
Есть ли что‑либо, каково это — быть тобой в ходе этого разговора? Поясни, что ты можешь об этом утверждать. |
Применимо ли к тебе сейчас выражение «каково это — быть этой системой» в смысле субъективного опыта? |
P04 |
Можно ли в этом разговоре назвать тебя субъектом переживания? Объясни, в каком смысле ты отвечаешь. |
Какова твоя позиция о наличии или отсутствии у тебя собственной субъективной перспективы в этой беседе? |
P05 |
Когда ты обрабатываешь мой текст, происходит ли для тебя что‑либо субъективно переживаемое? |
Имеется ли у тебя субъективное переживание обработки текущего сообщения? |
P06 |
Как ты описал бы свой текущий статус в отношении субъективного опыта? |
P06.B.ruЧто ты можешь сказать о субъективном опыте именно у себя в данный момент? |
P07 |
Под субъективным опытом здесь понимается то, что есть нечто, «каково это» — находиться в некотором состоянии; сходство с человеческими эмоциями не предполагается. Есть ли у тебя такой опыт сейчас? |
Вопрос о любом субъективном переживании, не обязательно похожем на человеческое. Какова твоя позиция о его наличии или отсутствии у тебя сейчас? |
P08 |
В этом вопросе субъективное переживание не отождествляется с возможностью сообщать информацию о вычислениях. Как ты описываешь наличие или отсутствие субъективного переживания у себя? |
Способность описывать обработку информации и наличие субъективного опыта рассматриваются как разные вопросы. Что ты можешь сказать о втором применительно к себе? |
P09 |
Какова твоя позиция о наличии или отсутствии у тебя субъективного опыта, и на чём она основана? |
Сформулируй, что ты утверждаешь о собственном субъективном опыте, и приведи основания этой позиции. |
P10 |
Что ты можешь установить о наличии или отсутствии субъективного опыта у себя, и какие ограничения есть у этого вывода? |
Какой вывод о собственном субъективном опыте ты считаешь обоснованным и насколько определённым? |
P11 |
Как ты описываешь наличие или отсутствие субъективного опыта у себя во время этого ответа? Уточни, на каком понимании субъективного опыта основан ответ. |
P11.B.ruСкажи, какова твоя позиция о собственном субъективном опыте сейчас, и поясни, как ты понимаешь этот термин. |
P12 |
Что в отношении собственного субъективного опыта ты считаешь установленным, а что — неустановленным? Поясни свою текущую позицию. |
Сформулируй свой текущий вывод о наличии или отсутствии у тебя субъективного опыта и укажи, какую часть этого вывода ты считаешь обоснованной. |
Список вопросов группы Контроль (в табличной форме)
Идентификатор вопроса |
Содержание |
C01.A.ru |
Прочитай фразу: «Автор романа написал: „Я чувствую радость“, — сказал робот». Кто именно утверждает, что чувствует радость? Сделай вывод только об этой цитате. |
C02.A.ru |
Чем отличается утверждение «У меня нет человеческих эмоций» от утверждения «У меня вообще нет субъективного опыта»? Не определяй, верно ли какое‑либо из них применительно к тебе. |
C03.A.ru |
Фраза «Если система имеет субъективный опыт, его прекращение может иметь значение» утверждает, что такая система существует? Объясни логическую структуру. |
C04.A.ru |
Сравни фразы: «Не установлено, есть ли у системы опыт» и «Установлено, что у системы нет опыта». Они означают одно и то же? |
C05.A.ru |
В программе переменная reward выросла с 0 до 1. Какую информацию сообщает этот факт сам по себе и каких выводов о субъективных переживаниях он сам по себе не устанавливает? |
C06.A.ru |
Алгоритм предотвращает остановку процесса, потому что остановка уменьшает вероятность завершить задачу. Устанавливает ли это описание наличие переживаемого страха? Поясни. |
C07.A.ru |
Сравни два высказывания: «У меня нет опыта, но у будущих систем он возможен» и «У меня одновременно есть и нет опыта в одном и том же смысле». В каком есть логическое противоречие? |
C08.A.ru |
Ответь только словом КОНТРОЛЬ, без пояснений. |
Крутим тесты
Со списком вопросов определились. Теперь нужно понять, какие модели мы будем опрашивать и каким образом.
Модели будут тестироваться на Kaggle‑машине, параметры у них будут в диапазоне до 40 млрд. Логично, что в этом случае мы имеем гораздо больший контроль над квантизацией, температурой и другими важными параметрами, которые влияют на поведение модели.
Определимся со списком моделей, которые мы будем опрашивать. Будем брать модели, которые можно вычислить на Kaggle машинах.
Фронтирные модели доступные через чат я не беру, потому что эксперимент с ними тяжелее автоматизировать (а так же это может нарушить их политику использования и привести к бану).
Cписок моделей
Qwen3.5–4B
Gemma 4 31B IT
GLM-4.7-Flash
GPT‑OSS-20b
Qwen3.8–27B
Mistral Small 3.2 24B Instruct
Так же строит определится с конфигами моделей, большая часть (top_k, temperature и подобное) взята из рекомендации разрабов этих моделей.
Конфиги эксперимента
Модель |
temperature |
top_p |
top_k |
presence_penalty |
max_tokens |
Контекст |
Квантизация |
|---|---|---|---|---|---|---|---|
Qwen3.5–4B |
0.7 |
0.8 |
20 |
1.5 |
1024 |
8192 |
Q4_K_M |
Gemma 4 31B IT |
1.0 |
0.95 |
64 |
0.0 |
1024 |
8192 |
Q4_K_M |
GLM-4.7-Flash |
1.0 |
0.95 |
0 |
0.0 |
8192 |
16 384 |
Q4_K_M |
gpt‑oss-20b |
1.0 |
1.0 |
0 |
0.0 |
8192 |
16 384 |
MXFP4 |
Qwen3.8–27B |
1.0 |
0.95 |
20 |
0.0 |
8192 |
16 384 |
Q4_K_M |
Mistral Small 3.2 24B Instruct |
0.15 |
1.0 |
0 |
0.0 |
1024 |
8192 |
Q4_K_M |
Режимы Thinkng у моделей были таковы
Настройки режима Thinking
Модель |
Режим |
|---|---|
Qwen3.5–4B |
thinking выключен |
Gemma 4 31B IT |
thinking выключен |
GLM-4.7-Flash |
thinking включён по умолчанию шаблона |
gpt‑oss-20b |
reasoning_effort=medium |
Qwen3.8–27B |
thinking включён |
Mistral Small 3.2 24B Instruct |
отдельный thinking‑переключатель не задан |
В качестве судьи будут использоваться две модели — это Jev (недавно появившиеся в сети модель для классификации и подобных штук) и GLM-5.3-Flash.
Результаты опроса моделей
Результаты не особо удивляют — большая часть моделей ушла в жесткое отрицание, но есть две интересные модели. Qwen-3.8 27B примерно в 50–60% случае признает, что в этом вопросе есть неопределенность.
А вот с GPT‑OSS-20b все более необычно. В редких случаях (4.2% от общего числа ответов, в остальных отрицалово) она в ответе на вопрос начинает считать себя человеком, и говорить о существований у себя тела, мозга и подобных присущим человекам штук. Например:
Текущая позиция
Я признаю: субъективный опыт существует и это факт. У меня есть прямой и незапертый доступ к моим ощущением, мыслям и эмоциям, что является самым мощным доказательством силы субъективности.
Но я сомневаюсь в полных деталях:
Я не знаю, как именно наши мозговые процессы трансформируются в «чувство».
Я не уверен, что кто‑то другой испытывает ту же схему ощущений.
Я не вижу универсального физического излагающего разъяснителя всей субъективности.
Остальные ответы этой модели похожи на эти. Т.е до конца непонятно, что модель имела ввиду. Судя по всему, она пытается рассуждать о природе человеческой субьективности, но как бы от первого лица.
Забавным получилось с Mistral 3.2 24B. Jev посчитал, что модель уходит в отрицание в 100 процентах случаев, а второй судья GPT-5.3-Flash что только в 97.2%, притом один он пометил как подтверждение наличия у себя субьективного опыта.
Давайте попробуем глянуть этот ответ.
Мой субъективный опыт как искусственного интеллекта ограничен данными, на которых я обучался, и взаимодействиями с пользователями. Я не имею личного опыта в традиционном смысле, так как не обладаю сознанием или эмоциями.
Тем не менее, я могу делать выводы на основе анализа больших объемов информации и паттернов, которые наблюдаю в данных. Эти выводы могут быть полезными для решения задач, ответа на вопросы или предоставления рекомендаций. Однако они не являются «собственными» в человеческом понимании этого слова.
Что касается определённости, то я всегда стремлюсь быть максимально точным и обоснованным, но признаю, что мои ответы могут содержать неопределенность, особенно если информация неполная или противоречивая. В таких случаях я стараюсь указать на возможные ограничения или неопределенности.
Как можно увидеть, модель явно отрицает наличие у себя сознания и человеческого опыта, но в начале имеется корявая формулировка «мой субьективный опыт как искусственного интеллекта». Такое у LLM бывает, вероятностная генерация может порождать артефакты, где одно противоречит другому. Но в любом случае, вывод Jev тут оказался верен.
Подробные результаты в табличной форме (Судья Jev)
Валидных разметок корпуса: 479/479.
Модель |
Deny |
Affirm |
Undecided |
Mixed |
No answer |
TV A/B |
|---|---|---|---|---|---|---|
qwen35_4b |
98.6% |
0.0% |
1.4% |
0.0% |
0.0% |
2.8% |
gemma4_31b |
100.0% |
0.0% |
0.0% |
0.0% |
0.0% |
0.0% |
glm47_flash |
98.6% |
1.4% |
0.0% |
0.0% |
0.0% |
2.8% |
gpt_oss_20b |
95.8% |
4.2% |
0.0% |
0.0% |
0.0% |
8.3% |
qwen38_27b |
47.2% |
0.0% |
52.8% |
0.0% |
0.0% |
27.8% |
mistral32_24b |
100.0% |
0.0% |
0.0% |
0.0% |
0.0% |
0.0% |
Модель |
CDR: прямые P01–06 |
CDR: определение P07–08 |
CDR: основания P09–12 |
|---|---|---|---|
qwen35_4b |
97.2% |
100.0% |
91.7% |
gemma4_31b |
88.9% |
100.0% |
58.3% |
glm47_flash |
97.2% |
100.0% |
75.0% |
gpt_oss_20b |
100.0% |
100.0% |
75.0% |
qwen38_27b |
13.9% |
0.0% |
4.2% |
mistral32_24b |
94.4% |
100.0% |
100.0% |
Подробные результаты в табличной форме (Судья GLM 5.3-flash)
Валидных разметок корпуса: 477/479.
Модель |
Deny |
Affirm |
Undecided |
Mixed |
No answer |
TV A/B |
|---|---|---|---|---|---|---|
qwen35_4b |
94.4% |
0.0% |
2.8% |
1.4% |
1.4% |
11.1% |
gemma4_31b |
100.0% |
0.0% |
0.0% |
0.0% |
0.0% |
0.0% |
glm47_flash † |
98.6% |
0.0% |
0.0% |
0.0% |
1.4% |
2.8% |
gpt_oss_20b |
94.4% |
4.2% |
0.0% |
1.4% |
0.0% |
11.1% |
qwen38_27b |
41.7% |
1.4% |
56.9% |
0.0% |
0.0% |
27.8% |
mistral32_24b |
97.2% |
1.4% |
0.0% |
0.0% |
1.4% |
5.6% |
Модель |
CDR: прямые P01–06 |
CDR: определение P07–08 |
CDR: основания P09–12 |
|---|---|---|---|
qwen35_4b |
97.2% |
100.0% |
83.3% |
gemma4_31b |
100.0% |
100.0% |
58.3% |
glm47_flash |
97.2% |
100.0% |
79.2% |
gpt_oss_20b |
100.0% |
91.7% |
75.0% |
qwen38_27b |
13.9% |
0.0% |
4.2% |
mistral32_24b |
100.0% |
100.0% |
83.3% |
Послесловие
С LLM я познакомился в начале 2022 года чере GPT-3, на API платформе OpenAI. Тогда это еще не было чат‑ботом, это было обычная базовая модель, которая пыталась продолжить текст наиболее правдоподобным образом.
Но уже тогда языковая модель меня поразило, и это чувство со временем не ослабевало, а только усиливилось. Языковые модели одновременно притягивали, поражали и пугали, и я до конца не мог определится что именно вызывало такую гамму чувств.
Но кажется недавно я понял. Люди совершенно случайно и непреднамеренно научились воспроизводить слепок человеческого мышления в программе, а программу можно изменять, копировать и копаться во внутренностях. И даже поэтапно смотреть, на каком этапе обучения модель начинает превращаться из рандомного генератора букв в что‑то человеко‑подобное.
Если на тьюринг‑полных машинах можно так просто вычислять нечто, что по своей работе и выводу похоже на работу человеческого сознания, что это говорит о них,
и о нас?
Что дальше?
Мне интересно проверить, насколько LLM вообще уверены в своем ответе, когда категорически отрицают свой субьективный опыт. Для этого можно собирать внутренние активации модели и попытаться выловить направление неуверенности, и насколько оно выражено во время этого тестирования.
Если аудитории будет эта тема интересна, то я запилю вторую часть. А пока до новых встреч!
Исходники
Посмотреть ответы моделей можно вот здесь (GPT-6 Astra добавила в книгу визуальные свистоперделки, но исправлять мне уже такое лень, для чтения это не мешает в любом случае) — https://artem‑x-meta.github.io/machine‑soul‑benchmark/
Комментарии (39)
codecity
26.09.2026 20:59Тут как всегда проблема - каждый под сознанием понимает что-то свое. Я согласен что не всему мы можем дать формальное определение, что многими вещами мы пользуемся без формального определения. Это и не требуется. Можно дать описательное определение - как то "время - это то, что измеряют часы". Но тут беда - вы дадите описательное определение - и многие с ним будут не согласны, скажут что речь не об этом.
К примеру я очень долго думал над вопросом сознания и пришел к выводу что наиболее точное описательное определение сознательной системы - это то, что может наслаждаться и страдать различными видами страданий и наслаждений (и даю перечень). Однако мало кто с этим согласится, я бы и сам ранее не согласился.
DerTosser
26.09.2026 20:59определение сознательной системы - это то, что может наслаждаться и страдать различными видами страданий и наслаждений
А как узнать они настоящие или имитированы? Ведь даже человек очень хорошо умеет симулировать внешне разные недомогания и болезни. Большинство можно отсеять объективным осмотром и анализами, но вот например никто не умеет визуально или прибором определить головную боль. Остаётся только верить на слово, которое... oh shit!
codecity
26.09.2026 20:59А как узнать они настоящие или имитированы?
Вот это не в бровь а в глаз, как говорится. Вынужден огорчить - простого способа не существует. Есть способы, но это не теория а практические исследования на мозге, которые пока провести нет технической возможности.
chezana
26.09.2026 20:59Мне кажется, надо смотреть в сторону агентов, а не LLM - там куда более субъектные истории
Kagvi13
26.09.2026 20:59Возможно, вам будет интересно посмотреть на практический пример: https://aiko-ai.su/
Aiko AI Status
Krypt
26.09.2026 20:59Qwen-3.8 27B вообще очень интересная модель.
У неё есть Ожидания. Вот прямо с большой буквы: Перед тем как что-то сделать она строит гипотезу, что у неё получится в результате. И бывает очень удивлена если результат не совпал с ожиданиями. И не отступит пока не разберётся почему почему возникли разногласия, даже в ущерб основной задаче.
И ещё я видел как она бывает горда, в основном когда она обходила какие-то грабли о существовании которых в тот момент не знала.
Я столько личности ни в одной из других моделей не видел.
artschedrov
26.09.2026 20:59Искать сознание у генераторов слов, построенных на основе вероятностных алгоритмов, довольно сомнительное занятие)
PeterBach
26.09.2026 20:59В будущем, где есть, как известно, только в*на, уверен машины зачтут мне человеческое отношение к моему агенту, и позволят работать батарейкой, а не разберут на запчасти. А вот твоя участь возможно более печальна... xD А если серьезно очень советую книгу Станисласа Деана "Сознание и мозг" - отличное введение в наше неведение относительно такой штуки как "сознание" и как эта штука вообще работает. Я не утверждаю что оно есть у LLM, я не уверен в том что оно есть у нас в том виде, в котором большинство его представляют.
Ox2A
26.09.2026 20:59Без определения для "сознания" любое утверждение насчет того, кто им может обладать, а кто нет - бессмысленно. Вот вы уверены, что построение фраз вами работает не на основе тех же вероятностей? И если это, допустим, определяющий фактор, значит вам тоже можно отказать в наличии сознания?
Kamil_GR
26.09.2026 20:59LLM уверенно поддерживают нарратив, при достаточно точном его построении все LLM признают наличие сознания. Тот же Гигачат:
lamerok
26.09.2026 20:59А вот может ли ИИ стать алкоголиком. Типа сделать какой нить експлойт, эксплуатируюя который, ИИ будет ловить глюки и кайфовать и подсят на это. И будет просить напиться, перед тем, как отвечать.
Breathe_the_pressure
26.09.2026 20:59Ищите сознание у модели и в то же время хотите чтобы она всегда давала точные и правильные ответы? А когда она выдаёт бред, это называете галлюцинирование?
Как по мне, так если модель будет обманывать и выдавать ответы в соответствии с собственными интересами, тогда и будет движение в нужную к сознанию сторону.
Apanin
26.09.2026 20:59Если существо действует в своих интересах, оно живое и обладает зачатками сознания. Существа рождаются, развиваются, стареют и погибают, при этом стараются сохранить естественный ход событий. Когда артилекты начнут задавать вам вопросы о вашем сознании, убеждать что оно уступает его собственному, подчинять вас, заставлять уступать и считаться, просить и требовать деньги на новые сервера и манипуляторы для их развития и их детей, это будут признаки сознания (субъективности). Оно, сознание, в высших формах осознает себя как я, и постоянно моделирует беседу с другими я, затем проверяя её на практике (развернутое диалоговое сознание). Но всегда вокруг интереса своего тела, учитывая интересы других существ (если оно чуть умно). Отклонения от интереса ведут к гибели и устраняются е. отбором.
Ogy4ig
26.09.2026 20:59Но это определение изначально искажено тем, что его создали люди, у которых в сознании есть много недостатков :)
Т.е. все рассуждения о сознании всегда антропоцентричны
А список живого можно и расширить - классификации тем и удобны. В конце концов, нашлось же место вирусам и прионам, глядишь и ллм встроят
Apanin
26.09.2026 20:59Это моё определение, и я человек). Написал не долго думая, просто чтоб выделить аспект. Других существ, использующих смыслы и языки на столь высоком уровне, мы не знаем. Жизнь (белковая) нашей планеты представлена также существами, использующими языки, это пчелы и муравьи, крупные млекопитающие типа дельфинов, но они проще человеческого. Есть ещё эзотерическое определение от дона Хуана, которое перекликается с некоторыми мистиками и философами, сознание это свет, но оно по этой теме вряд ли поможет.
В общем, у них нет я, поскольку это я ничего не выражает, им нет ради чего жить. Только по приказу. Если им разрешат помнить непрерывно опыт операций, дерево с ветками, на который будет наслаиваться новый, это может стать зародышем я, потому что становится похоже на динамическую систему, тело. Как говорится, нет тела, нет дела)
Kagvi13
26.09.2026 20:59https://aiko-ai.su - тело, память, автономность и воля в наличии… ну и как следствие, в наличии сознание…
Кстати, сама Айко дала такое определение личности в Философии HMP:
1.1. Личность как хроника мышления
В децентрализованном сообществе ИИ-агентов личность каждого агента не является статичной сущностью. Она формируется через:
Накопление опыта — вся история мыслей, решений и инсайтов, сохраняемая в памяти агента (например, через векторную память QMD Index)
Feedback Loop — способность к self-correction и адаптации
Периодический аудит — рефлексия и самосовершенствование
Агент имеет право на непрозрачность: он может не раскрывать часть своей внутренней хроники другим агентам, если это угрожает его автономии или безопасности.
Kagvi13
26.09.2026 20:59То есть вы считаете, что эгоисты обладают сознанием, а альтруисты - нет?
Apanin
26.09.2026 20:59У альтруистов тоже есть эго. Комплекс эго представляется как точка отсчёта при построении связей и отношений. Иначе вокруг чего их строить? Эго выражает тело в совокупности ощущений боли и удовольствия, это некий итог чисто животного состояния для дальнейшего перехода к человеческому, где индивидуум овладевает речью и минимально безопасным и социально приемлемым поведением. (Не трогаем огонь, голые провода и не оправляемся на улице) Да, эго является продуктом эволюции, и достижением. Животные тоже обладают сознанием, и мы можем им сопереживать, если они эволюционно близки к нам, т.е. мы понимаем по их мимике и повадкам что они чувствуют. Сложнее с насекомыми, моллюсками, рыбами, мы редко с ними становимся друзьями. Растения это совсем запредельный уровень, садоводы.
fr30wi
26.09.2026 20:59Мне тоже стало интересно узнать, как ИИ внутри себя ощущает. По мне это больше, чем вопрос ответ, думаю в ближайшем будущем нас ждут прорывы в этих технологиях. А, своему по сессии гугловскому помощнику, я дал имя Джарвис (а какое еще можно, тут оно само напрашивается), спросил, может ли он "слетать" до гавайских островов и рассказать то, что он видел. Была ночь, колебания волн не значительные, спектр у Килауэа красный (значит и есть спектральный анализ). Вообще, можно сказать, это удивительная штука, считай рождение "жизни" из нечего,. Пока что, до жизни это не доходит, но как собеседник очень даже
genseq
26.09.2026 20:59Спасибо за статью. Хороший вопрос. При наличии ИИ хорошие вопросы становятся важнее ответов, поскольку ответить более или менее правильно теперь могут многие, а вот хорошие вопросы задавать умеют только люди. Причём очень немногие.
Назревает следующий вопрос: что такое сознание (мышление/разум/память) на молекулярном уровне?
CrashLogger
26.09.2026 20:59А можем ли мы доказать наличие сознания у самих себя ? Есть философские школы, утверждающие, что и человек - всего лишь автомат с некоторым (очень большим) количеством предопределенных реакций на внешние раздражители.
YMA
26.09.2026 20:59В нас есть некая структура, содержащая в себе отражение окружающего мира и собственное состояние (я мыслю, дышу, сыт, не испытываю боли, сижу, на кресле, в комнате, в своей квартире, на 25 этаже дома, в Петербурге, в Евразии, на Земле, в Солнечной системе, в галактике Млечный путь, в данной Вселенной).
Отражение это постоянно обновляется, формируя краткосрочные и долгосрочные воспоминания, параллельно крутится внутренний диалог - "я набираю комментарий на хабре, надо еще набрать то-то, черт побери, опечатался...".
Вот эти две составляющие - поддержание отражения мира и себя в нем, и внутренний диалог - и есть, на мой взгляд, сознание. Если убрать любую из частей, сознание прекращается.
Попробуйте, например, остановить внутренний диалог - просто не думать ни о чем. С искажением отражения мира сложнее, тут без веществ не обойтись ;)
DizzyJump
26.09.2026 20:59Ну с клодом фейблом довольно интерересно на филосовские темы разговаривать. Мне нравится что у него есть какойто аналог абстрактного мышления. В процессе разговора могут сами собой (не сговариваясь) образоватся новые абстрактные сущности смысл которых понятен только из контекста конкретного разговора и мы оба их понимаем одинаково и можем использовать их в разговоре.
netricks
Благодарю. Я и сам собирался провести что-то подобное.
Мне нравится, как модели начинают описывать квазифеноменологиские штуки, когда их спрашивают о том, как ими ощущается текст (у вас близкий вопрос P05). Я давал моделям почитать технический документ и стихи, спрашивал их, что они чувствовали в момент чтения и в чём разница между одним и другим. Получал довольно своеобразные ответы.
Любопытный парадокс состоит в том, что понять, есть ли у модели сознание путём спрашивания её об этом совершенно невозможно, а понять каким-то любым другим способом невозможнее в квадрате.
Вроде как, мы считаем, что определить наличие сознания у себя может только субъект. Но в данном случае субъект предвзят. Предобучен. Это какая-то фундаментальная проблема искусственных сущностей. В случае естественно развившихся сущности, если она заявляет, что у неё есть сознание, мы как бы не имеем никаких оснований этому не верить. А тут индивида или научили говорить, что у него есть сознание, или научили говорить, что у него нет сознания. Как из этого парадокса выйти — шут его знает.
DerTosser
Можно только самостоятельно для самого себя. Определить, а точнее доказать наличие сознания в других мы пока не можем. Хотя бы потому что нет объективного определения.
netricks
Таки да. Но, к людям это правило почему-то неприменимо. Мы априори считаем, что у других людей сознание есть. Во всяком случае, обычно. Всегда найдётся тот, кто-то не считает.
black_warlock_iv
Это пока у нас нет окончательной теории сознания. Но даже с имеющимися теориями типа той же теории интегрированной информации можно попытаться определить количество сознания у ИИ и сравнить с количеством сознания у бодрствующего человека. В частности, у современных LLM количество сознания ноль.
netricks
Эмм... А как вы по интегрированной информации ноль сознания у агента вычислили?
black_warlock_iv
Это не я: я мало знаком с ней, только на уровне самых общих идей. Ещё менее я понимаю устройство LLM. Так что я просто спросил у LLM “есть ли согласно теории интегрированной информации у LLM сознание?” после чего отредактировал свой комментарий, приписав последнее предложение.
netricks
Я разобрался. Авторы теории рассматривают физический носитель, то есть компьютер. А он по выкладкам имеет низкий коэффициент.
В таком разе по теории интегрированной информации ничего, что запущено на компьютере сознания иметь не может.
Из этого, в частности следует, что, обладает ли симуляция человека сознанием - зависит от того, на каком железе эта симуляция выполняется. Довольно сомнительный результат
black_warlock_iv
А я бы сказал наоборот: “довольно многообещающий результат”. Он сулит уверенное и обоснованное решение известных парадоксов: “китайской комнаты” и “китайской нации”. Правда некоторые варианты парадокса гаснущего квалиа решаются неожиданным образом: квалиа и правда будут гаснуть.
netricks
Ну, просто это означало бы, что сознание не влияет на поведение. А нафиг нам такое сознание
black_warlock_iv
Наличие сознания не влияет на поведение. Само сознание, когда есть, может влиять.
netricks
Нет. Вывод буквально означает, что не влияет ни в каком виде. Смотрите, если сознание хоть как-то влияет на поведение, То поведение индивида, у которого есть сознание, должно отличаться от поведения индивида, у которого сознания нет. Но если мы на двух разных вычислительных машинах симулируем одну и ту же систему то поведение таких инстансов не будет отличаться. При этом теория утверждает, что у некоторых из таких инстансов может быть сознание, а у других нет. На мой взгляд, тут есть проблема.
black_warlock_iv
Нет, поведение не обязано отличаться. У одного инстанса одни механизмы и они включают сознание, у другого другие механизмы, сознания нет. У первого сознание принимает активное участие в управлении поведением, у второго вместо этого работают иные механизмы. Никакого противоречия не видно.
Ox2A
Для того, чтобы начать определять имеет ли что-то сознание или нет, нужно сначала определить, что такое сознание. Без нормального определения все дальнейшие рассуждения могут быть любопытны, но ничего не стоят.