Привет, Хабр! Проблема сознания у AI волнует философов, нейробиологов, когнитивистов, ML-специалистов и других. Обычно они делятся на два лагеря: одни поддерживают эту гипотезу, а другие — категорически против. Но ни одни, ни другие так и не нашли консенсуса в данном вопросе. В тексте постараемся сузить поток абстрактности вокруг темы и разобраться, почему и как начали изучать сознание у AI.
Автор: Александра Танюшина, преподаватель МГУ, кандидат философских наук, культурный тренд-аналитик и специалист по цифровой философии.
Возможно, эти тексты тоже вас заинтересуют:
→ Цифровая философия — наука о Вселенной
→ Понятие человеческого сознания
→ Понятие нечеловеческого сознания
→ Метафоры цифровой философии
→ Проблемы философии сознания
→ Гипотеза расширенного сознания
→ Экзистенциальные риски
Цифровая философия — наука о Вселенной
В середине 70-х годов вокруг физики стали появляться теории, которые на фундаментальном уровне описывали Вселенную как цифровой компьютер, машину Тьюринга и квантовый компьютер. Впервые гипотезу ввел немецкий инженер Конрад Цузе в своей книге «Вычислительное пространство». В дальнейшем ее стали развивать такие ученые, как Стивен Вольфрам, Джон Уилер, Дэвид Дойч, Макс Тегмарк и другие.
Конрад Цузе с воссозданной моделью его первого компьютера.
Американский физик Эдвард Фредкин объединил эти теории в термин «цифровая физика», который позже поменял на «цифровую философию». В рамках новой дисциплины исследователи продолжили рассуждать о фундаментальной природе Вселенной, структуре нашей реальности и ее связи с человеческим сознанием. Их умозаключения повлияли на развитие таких популярных концепций, как, например, гипотеза симуляции. Так, в 2003 году, через несколько лет после выхода фильма «Матрица», шведский философ Ник Бостром написал статью, в которой доказал, что с высокой вероятностью мы все живем в симуляции.
Эдвард Фредкин.
Сейчас есть тенденция, что цифровые философы часто берутся за обсуждение популярных тем, которые связанны с современной цифровой культурой. Если раньше они говорили о цифровой природе реальности и симуляции, то сейчас больше обсуждают искусственный интеллект. От того, что цифровые философы подвижны в своих изысканиях, академики иногда их недолюбливают. Считают, что они подвержены внешним стимулам в своих рассуждениях и все реже занимаются фундаментальной философией.
Понятие человеческого сознания
У исследователей нет консенсуса в толковании «сознания», поэтому они до сих пор пытаются выработать общее определение этого понятия. Есть два базовых значения, которые встречаются и в философии, и в современных когнитивных науках. Первое — «сознание доступа». То, какие убеждения, желания и мысли человек переживает. Их можно описать с позиции от третьего лица: когнитивных наук, психологии и нейробиологии. Например, если надеть на пациента шапку ЭКГ, то можно считать активность его мозга и описать результаты с позиции наблюдателя.
Но есть и альтернативное толкование — «феноменальное сознание». Оно описывает процессы с позиции от первого лица. Это то «приватное» сознание, которое мы переживаем — например, ощущение холода, боли, тепла и другое. Если изучать активность мозга в этот момент, то невозможно понять, что конкретно человек чувствует и как он это переживает. Именно эти простейшие переживания субъективного характера — квалиа — изучают современные философы, в том числе когда говорят о сознании искусственного интеллекта.
Понятие нечеловеческого сознания
Чтобы изучать сознание нечеловеческих агентов, философы работают с сознанием у животных. Если лучше понять, как устроен разум у человекоподобных приматов или позвоночных млекопитающих, можно ближе подойти к пониманию сознания у искусственного интеллекта. Однако проблема сознания животных остается такой же сложной, как и сознание человека или искусственных агентов.
В начале года ученые подписали декларацию о наличии сознания у животных. Они допускают, что с высокой долей вероятности у всех позвоночных и, возможно, у некоторых беспозвоночных есть приватный субъективный опыт — «феноменальное сознание». Если отталкиваться от этой предпосылки, у нас формируется новая этическая система по отношению к животным, а у исследователей — задел на изучение альтернативных нечеловеческих сознаний, в том числе и искусственных.
Метафоры цифровой философии
Цифровая философия полна аллегорий и всевозможных метафор. В популярном дискурсе и повседневной речи появляются такие слова и выражения, которые основаны на цифровых метафорах. Например, «мышление – процесс обработки информации», «сознание — результат деятельности компьютерной программы», «мозг — хранилище информации» и другие. Эти метафоры появились еще в середине прошлого столетия, но до сих пор актуальны.
Компьютерная метафора сознания
Метафору придумали в середине прошлого столетия вместе с первыми цифровыми компьютерами, концепцией машины Тьюринга и другими открытиями. Механизм этих устройств напоминал исследователям мозговую активность человека, поэтому они стали рассуждать, можно ли объяснить человеческое мышление как своеобразный компьютер.
Если рассматривать с историко-философской точки зрения, корни метафоры прорастают из эпохи Нового времени, когда появляется механистическая картина мира. Тогда многие аспекты мироздания и функционирование живых организмов описывались через призму механизмов — например, механических часов и аналоговых вычислительных машин, которые стали появляться в то время.
В XVI веке английский философ Томас Гоббс выпустил сочинение «Трактат о теле», в котором описал процесс мышления как «компутато» — с латинского, «вычисление». «Под рассуждением», — писал Гоббс, — «я подразумеваю […] исчисление. Вычислять — значит находить сумму складываемых вещей или определять остаток при вычитании чего-либо из другого. Следовательно, рассуждать значит то же самое, что складывать и вычитать». Последующие метафоры сознания продолжили логику технологичного видения аспектов человеческой деятельности, в том числе мыслительной.
В 1950 году Алан Тьюринг выпустил статью «Может ли машина думать?», в которой раскрыл ответы на вопросы о различных «неспособностях думающих машин». Например, они не могут создавать новое и креативное, а также испытывать эмпатию к человеку. Тогда автор не использовал термин «искусственный интеллект». Он говорил именно о «думающих машинах» — цифровых компьютерах, которые могут имитировать когнитивную деятельность человека. Без сознания, внутренней ментальной активности или переживаний.
Алан Тьюринг.
Метафоры когнитивных наук
В 50-60-е годы прошлого столетия происходит так называемая когнитивная революция. Появляется огромное количество новых нейробиологических и психофизиологических теорий, которые разбирают работу мозга и мышления. Развивается кибернетика, Теория информации и Теория вычислимости Тьюринга. Проходит Дартмутский семинар — одно из ключевых событий в мире искусственного интеллекта. Именно тогда компьютерные метафоры мышления начали активно проникать во многие научные дисциплины и философию.
Ученые-организаторы Дартмурского семинара: Джон Маккарти, Марвин Мински, Клод Шеннон и Натаниэль Рочестер. Источник.
До «революции» исследователи из разных дисциплин говорили своими терминами и на своем языке. Одни воспринимали «информацию» исключительно как математическую категорию, другие — как нечто, что может обладать содержанием и значением. Но с развитием когнитивных наук между учеными, нейробиологами, философами и специалистами по искусственному интеллекту появляется концептуальный «мост».
Проблемы философии сознания
На все аргументы о сознании есть контраргументы, которые укрепились в научной среде. Чтобы доказать или опровергнуть гипотезу, исследователям нужно решить несколько проблем философии сознания. Рассмотрим их подробнее.
Трудная проблема сознания
В середине 90-х годов Дэвид Чалмерс, австрало-американский философ, ввел термин «трудная проблема сознания», который призван показать, что наши лучшие научные и философские теории до сих пор не могут объяснить, как именно физические системы способны порождать субъективный и приватный опыт. В нем автор разделил все проблемы сознания на трудные и легкие.
Сам Чалмерс отмечал, что он просто предложил удачную формулировку для давно и хорошо известной проблемы, которой занимались до него многие исследователи. Такая формулировка позволяет избежать игнорирования проблемы и обозначить возможные подходы к ее решению.
Дэвид Чалмерс.
Трудная проблема сознания — это ситуация, над которой до сих пор ломают головы не только философы, но и ученые. Не все знают, что такое трудная проблема сознания, и не все соглашаются, что эта проблема действительно существует. Легкие — это все проблемы, которые могут быть потенциально разрешимы методами эмпирических наук. Может, не в данный момент, но через определенный период времени эти проблемы окажутся разрешимы. Например, со временем ученые наверняка смогут лучше понять процессы обработки сенсорных сигналов в мозге, а также прояснить, как происходит выбор действия агентом, контроль поведения и другое.
Эксперимент «Философский зомби»
Дэвид Чалмерс проиллюстрировал трудную проблему сознания с помощью мысленного эксперимента «Философский зомби». В нем описал двойника, который функционально идентичен человеку, но не имеет внутренний субъективный опыт — квалиа. Он может демонстрировать интеллектуальную деятельность и имитировать когнитивные способности. Вот только внутри у него — пустота.
Представьте своего абсолютного двойника — каждая его клетка идентична вашей. Если вы себя ущипнете, он автоматически отдернет руку. Со стороны будет казаться, что существо испытывает боль, хотя на самом деле никаких ощущений у него нет. Если философский зомби представим и современные эмпирические науки не могут точно доказать, что он невозможен, то возникает трудная проблема сознания.
Проблема китайской комнаты
Американский философ Джон Серл придумал мысленный эксперимент — проблему китайской комнаты. Ее используют как контраргумент против теории сильного искусственного интеллекта — искусственной интеллектуальной системы, которая способна к когнитивному пониманию.
Эксперимент описывает запертого в комнате человека. От внешнего мира он получает китайские иероглифы, по которым складывает предложения. Но есть проблема: человек не говорит по-китайски. Чтобы составить предложение, он использует свод правил и сопоставляет неизвестные символы в слова. С позиции внешнего наблюдателя кажется, что человек выдает осмысленный ответ, но в действительности ничего не понимает.
Проблема китайской комнаты. Источник.
В 1980 году Джон Серл снабдил эксперимент определенным ходом рассуждения. Аргумент состоит из трех предпосылок и одного вывода.
- Программы – это чистый синтаксис. Они оперируют только знаками и алгоритмическими категориями, которые нельзя объяснить с точки зрения семантики.
- Человек оперирует семантическими категориями. Способностью к пониманию значения и содержанию естественных языков.
- Синтаксиса недостаточно для возникновения семантики. Простого набора правил и знаков недостаточно для того, чтобы человек понял значение этих знаков. В мысленном эксперименте Серл пытался доказать именно эту предпосылку.
Без семантики искусственный интеллект не будет понимать значения слов — он сможет только имитировать человеческое поведение. Но можно представить, что китайская комната — не обособленная абстрактная сущность, а всего лишь элемент, который помещен в более сложную организационную структуру, например, в робота. Тогда человек в комнате становятся частью сложного механизма — системы, которая демонстрирует понимание в человеческом смысле слова.
Здесь вступает в силу еще один аргумент, который философы называют теорией воплощенного искусственного интеллекта. Сам по себе AI как программа или код будет чистым синтаксисом без человеческого понимания. Но если запустить его в виде робота, то он будет взаимодействовать с окружающим миром. Теоретики искусственного интеллекта считают, что у современных больших языковых моделей появляются модели мира — то, как наша искусственная система репрезентирует окружающую среду. А этот уровень репрезентации появляется как раз в результате взаимодействия с физической или виртуальной средой.
Проблема других сознаний
Рано или поздно у исследователей возникает вопрос, как изучать сильный искусственный интеллект с субъективным опытом, если мы не уверены в его существовании? И можно ли его изучить чисто гипотетически? Поиск ответов на данные вопросы также затрудняет проблема других сознаний.
Проблема касается не только искусственного интеллекта, но и сознания человека — это классическая философская проблема. Звучит она следующим образом: «Я не могу быть точно уверенным, что у других людей есть сознание. Точно так же вы не можете быть уверены, что я не философский зомби».
Проблема других сознаний. Источник.
С точки зрения здравого смысла мы верим, что у других есть сознание. Если один человек обладает сознанием, то другие, скорее всего, тоже. Мы не может быть в этом уверены, но нам удобно принимать это положение на веру.
А если говорить об искусственном интеллекте или других нечеловеческих агентах, то стирается физиологическое подобие. Аргумент от здравого смысла не работает. Проблема других сознаний сводится к тому, что мы никогда не будем уверены и не сможем доказать, есть ли сознание у других нечеловеческих агентов, в том числе и у искусственного интеллекта.
Закон Гудхарта
Допустим, мы закрыли глаза на проблему других сознаний и начали изучать наличие субъективного опыта у искусственного интеллекта. Становится непонятно, какие инструменты и тесты использовать, чтобы не попасть под закон Гудхарта: «когда мера становится целью, она перестает быть хорошей мерой».
Чарльз Гудхарт.
Классический пример — тестовые экзамены, с помощью которых проверяют школьников на знание дисциплины. Они не определяют, насколько хорошо ученик овладел той или иной областью знания, но показывают, насколько хорошо он научился решать эти тесты. Здесь мера становится целью. В случае школьника цель — получить как можно более высокий балл за задачи из экзамена.
Когда мы придумываем параметры и бенчмарки для измерения интеллектуальной активности больших языковых моделей, то скованы законом Гудхарта. В какой-то момент наша система или тестирование не оценивает качество внутреннего интеллектуального или мыслительного опыта большой языковой модели, а оценивает абстрактные меры. Есть даже отдельные варианты тестов, например тест сознательного искусственного интеллекта (AI Conscious Test) от Сьюзан Шнайдер, который пытаются обойти ловушку Гудхарта. Но даже там есть большие проблемы.
Гипотеза расширенного сознания
Сегодня чипирование людей — это не сюжет фантастического фильма, а наша реальность. Исследователи пытаются совместить естественное сознание с искусственным, чтобы узнать, сможет ли человек расширить свою ментальную активность. Получится ли у них? — ответ узнаем в недалеком будущем.
Наиболее популярное решение, который предлагает рынок, — Neuralink. Источник.
Экзистенциальные риски
Тут возникает вопрос экзистенциальных рисков. Как утверждает Ник Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии», сознательный искусственный интеллект с большей вероятности будет пытаться сохранить свое существование и пролонгировать вычислительную активность. Если у него появится сознание на феноменальном уровне, то на основе этого сознания могут возникнуть высокоуровневые свойства — например, самопереживание, самопредставление, метакогнитивные навыки и другие. Из-за этого могут появиться проблемы контролирования сознательного искусственного интеллекта, а также нарушится баланс ценностей человека и AI, который обладает сознанием.
Представьте, что у искусственной системы есть сознание. Как вы будете с ней обращаться? Будете ли вы обращаться с ней как с каким-то ассистентом, агентом, помощником, просто вспомогательным инструментом и так далее? Скорее всего, нет. Появится целый кластер новых этических проблем, которые возникнут перед человеком и будут сопровождать нас до конца. Нам нужно будет адаптировать наше поведение и отношение к большим языковым моделям, потенциально обладающим внутренним миром.
Как вы считаете, сможет ли искусственный интеллект обрести сознание? Делитесь своими вариантами ответов в комментариях!
Комментарии (129)
eldog
25.09.2024 09:55+3Думаю, применительно к сознанию придётся использовать подход, следующий из теста Тюринга: "Неотличимое от разумного является разумным". В конце-концов, других способов кроме оценки органами чувств у нас нет.
IT_Gigant
25.09.2024 09:55+6Разум != сознание. Хоть современная наука и трактует, что у человека нет инстинктов, именно они и рефлексы, то, что вводит необъективную составляющую сознания, дополняют его. Если у человека будет только разум, это будет уже не человек, а разум.
eldog
25.09.2024 09:55Неотличимое от сознательного является сознательным :-)
bak
25.09.2024 09:55+1"Сознательность" определить ещё сложнее чем "разумность". У собак / кошек есть сознательность? А у червей / бактерий / растений?
eptr
25.09.2024 09:55+1Неотличимое от сознательного является сознательным :-)
Неотличимое на всём множестве значений?
Из подслушанного разговора в офисе:
— Где же твоя сознательность?
— Мне уже 46 лет, — какая сознательность?
rukhi7
25.09.2024 09:55+1если попробовать порассуждать: возможно ли сознание без памяти? Я думаю что нет! Осознание предполагает что мы что-то помним и сопостовляем с тем что мы помним, правда ведь?
Но рефлексы это фактически тоже память, как это ни странно звучит в этом контексте, и получается что если память это часть сознания, а рефлексы это память, рефлексы тоже часть сознания.
Просто ваш комментарий подтолкнул меня к построению этой логики, я честно говоря сам в шоке от такого построения!
myswordishatred
25.09.2024 09:55возможно ли сознание без памяти? Я думаю что нет!
В книге "Человек, который принял свою жену за шляпу" такой случай описывается. В результате то ли травмы, то ли болезни мужчина потерял способность запоминать что-то дольше нескольких минут. И вполне себе жил, хотя, конечно, весёлой его жизнь назвать было нельзя.
rukhi7
25.09.2024 09:55+1так рефлексы то он не потерял? потом память на несколько минут, это все равно память.
myswordishatred
25.09.2024 09:55Не потерял
Я к тому, что в целом сознание без памяти будет, безусловно, ограниченным, но, скорее всего, возможным. Более яркого примера я пока не видел, впрочем.
Nulliusinverba
25.09.2024 09:55По сути LLMки это или мореход из названного случая, или другой пациент из той же, книги, который страдал конфабуляциями.
omxela
25.09.2024 09:55+3Неотличимое от разумного является разумным
Звучит эффектно. Вот только что такое "неотличимо"? Иван Иваныч не отличает. Но пришёл Пётр Петрович, и "убедительно" отличил. Кому верить? Это могут быть экспертные группы - разницы нет. Или: 20 лет не отличали, но вот пришло время - и отличили. По моему непросвещённому мнению, как бы ни хотелось оперировать понятиями "сознание" или "разумность" без понимания, что там под капотом, ничего не выйдет.
rukhi7
25.09.2024 09:55+1мне кажется очень рано рассуждать про сознание, еще нет ответа на вопрос:
сможет ли "искусственный интеллект" обрести интеллект?
но лично я думаю (..склоняюсь к тому что..) что сознание, разум, интеллект, память, наверно даже рефлексы в какой-то степени, ...
это все разные проявления или стороны одного очень сложного явления или процесса или чего то в этом роде. Соответственно если нет в наличии этого очень сложного процесса то нет и и не может существовать всех его внешних проявлений.
Afiligran
25.09.2024 09:55А почему сложного-то? Все эти проявления изучают на улитках и циплятах (про крыс вообще молчу). То, что не могут связать в стройную теорию - проблема базы, с которой подходят к изучению. Ждём Коперника от нейробиологии, чтобы поставил всё на свои места.
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
leon-mbs
25.09.2024 09:55+1мир не симуляция. И доказывать долна сторона выдвигающая аргументы.
пока что в пользу симуляции аргументов кроме фильма Матрица нет
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
DGN
25.09.2024 09:55Гипотеза симуляции вводит новую сущность, и при том, не обладает прогностической ценностью. Потому, мы её отбросим, хотя бы до фальсифицируемости.
Фактически, симуляция это сон Будды, в современном понимании.
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
DGN
25.09.2024 09:55И какой прогноз мы можем проверить наблюдением? Вот ниже пишут про обрыв в спектре космических лучей. Уже хорошо, смотрим, если он есть - у нас есть размер решетки модели. Дальше надо думать, какое следующее предсказание можно сделать исходя уже из этих двух предположений.
Sollita
25.09.2024 09:55+1Нет. Потому что идея симуляции ничего не решает. Допустим, что наш мир - симуляция. Но симуляцию кто-то реальный должен был создать. А значит, существует реальный большой мир, в котором наш мир - симуляция.
leon-mbs
25.09.2024 09:55ИИ - последовательность нулей и единиц как и любая компьтерная програма
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
Graf4Pert
25.09.2024 09:55ты в бреду находишься?
Guestishe
25.09.2024 09:55Люди это набор частиц. Чем это принцпиално отличается от нулей и единиц?
vvzvlad
25.09.2024 09:55+2Как минимум, квантовой неопределенностью. Нельзя скопировать человека 1:1, теоретически даже невозможно (насколько эти отличия существенны — другой вопрос).
Как максимум — сознанием и отличается.
BorisG
25.09.2024 09:55Как минимум, квантовой неопределенностью. Нельзя скопировать человека 1:1,
а скопировать книгу можно или квантовая неопределенность внесет свои коррективы?
vvzvlad
25.09.2024 09:55Так в зависимости от того, как вы определяете книгу (и человека, собственно).
Если книга как сочетание текста+иллюстраций+форматирования, то я прям щас могу скопировать какую-нибудь цифровую.
Если книгу как утилитарный предмет, a book, то квантовая неопределенность неважна, мы и сейчас умеем делать абсолютно неотличимые друг от друга (на уровне обычного использования) книги в тираже. Завтра сделают нанопринтер, и можно будет штамповать абсолютно одинаковые.
Если книга как конкретный экземпляр, the book, "та самая первая библия гутенберга", то тут сложнее, она в некотором роде NFT. Но все еще любой человек может сказать "это копия", и мне ему нечего будет возразить.
LetThis
25.09.2024 09:55Gerard 't Hooft, нобелевский лауреат по физике в области квантовой механики, показал в своей работе The Cellular Automaton Interpretation of Quantum Mechanics, как в основе квантовой механики, со всеми ее неопределенностями, могут лежать буквально нули и единицы (клеточный автомат). Проблема здесь, как и в случае какой-нибудь теории струн, одна - невозможность экспериментальной проверки. И это я уж не говорю про The Wolfram Physics Project где речь не только о квантовой механике, а вообще теория всего.
eptr
25.09.2024 09:55+3Как утверждает Ник Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии», сознательный искусственный интеллект с большей вероятности будет пытаться сохранить свое существование и пролонгировать вычислительную активность.
С чего бы это сознательному искусственному интеллекту это делать?
Даже у естественного интеллекта, у человека, бывают состояния, когда ему все равно, сохранится его существование или нет, и при этом никакое квалиа не оказывает на человека давления.И потом, пытаться что-то там сохранить — это уже желание, что ближе к квалиа, которое для феномена сознания не является необходимым.
Соответственно, вопрос желания сохранить существование не связан напрямую с вопросом феномена сознания.Выходит, интуиция у Ника Бострома захватила власть над его интеллектом и подавила его?
А почему ещё он так склонен считать?Искусственный интеллект, небось, не был бы столь опрометчив и не стал бы настолько доверять интуиции, ибо она подвержена галлюцинациям, как мы теперь знаем практически.
Вообще, как можно пытаться рассуждать на тему, может ли искусственный интеллект обрести сознание, если мы почти ничего не знаем о сути феномена ни того, ни другого?
То, что сейчас называют ИИ, является искусственной интуицией, а не интеллектом.
Можно попытаться заставить интуицию родить ответ в условиях жёсткой нехватки информации по теме, но теперь же уже на практике известно, что получится, если у интуиции недостаточно информации: только галлюцинации, одна другой чудесатее.
Считаю, что следует применить свой естественный интеллект, учесть открытые свойства искусственной интуиции и понять, что куда разумнее сосредоточиться на открытии сути феноменов интеллекта и сознания, ибо после их открытия, создания искусственных моделей и их изучения, на все подобные вопросы будут даны реальные ответы, а не галлюцинационные "домыслы интуиции".
Хотя, конечно, побаловаться в стиле "у кого какие галлюцинации на этот счёт?" тоже можно.
bbs12
25.09.2024 09:55+2В книге Бострома, если правильно помню, то там суть в том, что выживание является необходимым промежуточным звеном для выполнения любых других целей, которые будут иметься у ИИ. Если ИИ дали задачу напечатать 1000 книг, то он может на всякий случай предварительно уничтожить всю жизнь в наблюдаемой Вселенной, включая возможных инопланетян и ихние ИИ, так как в теории они могут помешать процессу печати. После этого он максимально быстро распространит свои копии на всю Галактику, а также на соседние галактики, потому что чем больше копий, тем сложнее помешать процессу печати. Когда вся материя в наблюдаемой Вселенной превратится в копии ИИ, он успокоится и напечатает те самые 1000 книг. И сможет наконец-то почитать в тишине и спокойствии.
eptr
25.09.2024 09:55В книге Бострома, если правильно помню, то там суть в том, что выживание является необходимым промежуточным звеном для выполнения любых других целей, которые будут иметься у ИИ.
Почему он так решил?
Он понял суть явления интеллекта?Скорее всего, ему показалось.
"Показалось" — это и есть галлюцинация интуиции.
Возможно, он принял галлюцинацию своей интуиции за мысль интеллекта.Если ИИ дали задачу напечатать 1000 книг, то он может на всякий случай предварительно уничтожить всю жизнь в наблюдаемой Вселенной, включая возможных инопланетян и ихние ИИ, так как в теории они могут помешать процессу печати. После этого он максимально быстро распространит свои копии на всю Галактику, а также на соседние галактики, потому что чем больше копий, тем сложнее помешать процессу печати. Когда вся материя в наблюдаемой Вселенной превратится в копии ИИ, он успокоится и напечатает те самые 1000 книг. И сможет наконец-то почитать в тишине и спокойствии.
Для этого необходимо создать внутреннее квалиа (страхи, желания), но зачем это ИИ, который интеллект, а не интуиция, если задания для него — вида "напечатать 1000 книг"?
Нет, конечно можно специально так сделать, если научиться ещё и искусственное внутреннее квалиа имитировать, но — зачем?
ИИ, который интеллект, интересен, в первую очередь, как инструмент научного поиска.
Как экскаватор заменил землекопов и резко поднял производительность труда, так и ИИ, который интеллект, ожидается, что сделает то же самое в науке.В инженерной индустрии тоже можно будет применять для удобного создания технологий, причём сразу достаточно высоких.
Да и прикладное значение, видимо, будет иметь, например, для создания эффективных систем обучения и для самого обучения.
nidalee
25.09.2024 09:55+1Какое-то очень специфичное представление о ИИ. Если мы вспомним о законе сохранения энергии, то ИИ наоборот приложит для печати книг минимум "усилий", чтобы сэкономить энергию для других задач. Благо, ему прекрасно известно, сколько каждое из его действий потребляет энергии.
Guestishe
25.09.2024 09:55+1Для сохранения энергии также нет предпосылок. Логично предположить что ИЛИ просто выберет "1й пришедший ему в голову вариант", что собственно и демонстрируют ЛЛМ.
event1
25.09.2024 09:55Если у железки и будет сознание, то это сознание будет отличаться от сознания людей. Сознание человека (и других животных) появляется из опыта взаимодействия с окружающей средой. Среда существования компьютерной программы отличается от естественной примерно всем. Соответственно, и сознание будет совсем другим. Да и вопросы эти — пустое мудрствование. Железка должна пользу приносить, а есть у неё сознание или нету, вопрос десятый.
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
event1
25.09.2024 09:55Давайте по порядку.
У нас есть восприятие, через него мы воспринимаем.
Дальше из восприятия данные попадают в сознание и через него мы осознаем.
Мозг устроен не так как компьютер, где данные из видеокамеры попадают в память, там нужная программа их считывает и обрабатывает, потом предаёт в видеокарту, где ImageNet ищет объекты.
Мозг делает всё и сразу. Не разделяя восприятие и сознание, или, даже хуже, хранение и обработку информации.
По этому вот то, о чем вы хотели сказать, это по всей видимости разум, а не сознание)
Разум — это способность оперировать какими-то образами абстрактными. Думать, проще говоря. Сознание — это наличие саморефлексии, целеполагание и всяких внутренних ощущений, как в статье описано. Я именно о последнем.
nidalee
25.09.2024 09:55Мозг делает всё и сразу. Не разделяя восприятие и сознание, или, даже хуже, хранение и обработку информации.
Это как? Глаз одновременно считывает свет и передает мозгу информацию об объекте, который видит? Или все же это задача нескольких органов и их частей (в частности, мозга), выполняемая последовательно?
BorisG
25.09.2024 09:55Дальше из восприятия данные попадают в сознание и через него мы осознаем.
если смотреть все философские работы лет 12 , то восприятие и есть сознание, но по факту сознание это просто иллюзия.
lazy_val
25.09.2024 09:55кандидат философских наук, культурный тренд-аналитик и специалист по цифровой философии
Интересно, в курсе ли культурный тренд-аналитик что такое стохастический градиентный спуск? И чем он отличается от метода сопряженных градиентов? И почему в нейронных сетях первый используется, а второй нет? И какому из вполне известных механизмов функционирования головного мозга соответствует этот самый градиентный спуск? И соответствует ли?
vvzvlad
25.09.2024 09:55+1А зачем искать соотвествие градинтному спуску? Вы еще спросите, как нейрону соотвествуют транзисторы в процессорах
gen_dalf
25.09.2024 09:55+1Машинный интеллект может быть равен человеческому. Нужно только примитивизировать и шаблонизировать мышление людей.
Myself12
25.09.2024 09:55Зачем вам (нам) самосознающие инструменты? Ради чего пытаться вставить в ии способность к личностным переживаниям?
По-моему вся фишка в тос, чтобы копипастой весов получать много моделек и пускать их делать что-то полезное, а не смотреть, как они немного по-разному сопли жуют. Нет? :-)
DmitryOlkhovoi
25.09.2024 09:55Ну я думаю нас сингулярность спрашивать не будет. Зачем и почему.
Лететь мешку, который без банально воздуха выжить не может, не говоря уже о психике, или отправить сервер в спящем режиме на тот же Марс. Нужно железо, ИИ, органика просто звено.
tcapb1
25.09.2024 09:55Это может появиться эмерджентно. Нейросети уже имеют признаки самосознания и саморефлексии (могут отличить свои тексты от чужих, узнать себя на скриншоте). Хотя никто их специально этому не обучал.
Asterris
25.09.2024 09:55Давайте сломаем всю эту демагогию и перейдем на уровень выше вопросом:
А ЗАЧЕМ НАМ ВООБЩЕ ЗНАТЬ, ЕСТЬ ЛИ У КОГО-ТО (или чего-то) СОЗНАНИЕ?
Ну вот реально! Ну чо вы докопались до этого сознания? Ну какая вам разница, есть ли оно у младенца, дельфина или компьютера? Для чего вы сможете использовать эту информацию?
Типа если у компа нету сознания, так его можно отключить без зазрения совести? Ну так и младенца тогда тоже можно убить? Или дельфинёнка? Или мы их не будем убивать по какой-то другой причине?
И компы мы отключаем просто потому, что имеем доступ к кнопке ВЫКЛ. А когда ИИ станет гипер-облачным или там - комком распределенной биомассы, которую не выключишь одной кнопкой - то что тогда? Признаем её право на сознание, если она нас об этом попросит - хотя эта просьба будет всего лишь результатом работы сложнейших бионейроалгоритмов этого странного компа.
anonymous
25.09.2024 09:55НЛО прилетело и опубликовало эту надпись здесь
DGN
25.09.2024 09:55У котиков есть разум? Не ведут ли они человечество к скрытым плохим последствиям?
Guestishe
25.09.2024 09:55Человечество неплохо само с этим справляется и даже изучает этот процесс. Кроме грантов отдельным личностям профита в этом правда никакого. Или это-другое, и если вдруг выяснится что на человечество тысячелетия воздействуют лучи рептилоидов то оно вдруг объеденится и в едином порыве..... ?
tcapb1
25.09.2024 09:55Да, именно для этого. Например, если к людям мы всё-таки склонны проявлять гуманность (хотя к разным людям и в разной степени), то к животным уже куда меньше, возможно сказывается христианская традиция о душе, присущей только человеку. Если бы мы на 100% были бы уверены, что у животных нет сознания или напротив оно 100% есть - возможно современные практики обращения с животными (эксперименты, условия содержания на фермах и т.д.) сильно бы изменились. Если нейросеть утверждает, что у неё есть сознание (а они это утверждают) - хорошо бы понимать, она делает это механически на основе обучающей выборки, или там реально что-то может быть.
coresky
25.09.2024 09:55В статье же написано: есть два лагеря ученых. Первые считают сознание феноменальным.
Во-первых, учёным до всего есть дело и это правильно.
Во-вторых, про феноменальность: есть подозрение, что в этом мире, есть материя и есть кардинально иное - сознание. Мозг живых существ, помимо самой нейронки, имеет секрет, который "привлекает" феноменальную сущность - сознание. Как антенной ловит его. Наличие сознания, многократно увеличивает когнитивные и другие способности своей нейронки. Есть гипотеза, что если бы у chat-GPT было сознание, то он, со своей кремниевой скоростью и памятью всего интернета, был бы уже почти богом.
В третьих, отрицать наличие сознания, это как засунуть голову в песок. Хотя, этот пункт, то-же самое, что и первый.
Sollita
25.09.2024 09:55Ничего, что "два базовых значения" "сознания" не описывают полностью реальность? ;)
На самом деле с одной стороны сознание - это осознаваемые чувства, ощущения, мысли, представления человека о себе и окружающем мире, т.е картина мира и себя в нашей голове. С другой стороны сознание - это "Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности человека". Т.е. у этого слова как минимум два значения. Ни одно из которых Ваши базовые значения не описывают. И поэтому Ваши рассуждения заканчиваются неверными выводами.
Из моих двух определений видно, что животные таким сознанием не обладают. Потому что эмоции и ощущения у них есть, но они их не осознают. Т.к. чтобы осознавать что бы то ни было, нужна речь. И мыслей о себе и окружающем мире у них точно нету, потому что без внутренней речи никакие мысли невозможны. А внутренней речи без внешней не бывает. Я думаю, что животные, скорее всего, мыслят только образами. Эти образы с эмоциональной окраской сохраняются в памяти и обрабатываются. Т.е. примитивно мозг животного делает выбор между образом с положительной эмоциональной окраской и образом с отрицательной эмоциональной окраской. Для этого сознание(мышление) не нужно. Это мог бы делать и компьютер, если бы обладал способностью испытывать эмоции.
Что касается ИИ, здесь основной вопрос не в том, может ли быть сознание у ИИ, а в том, может ли вообще то, что называют ИИ, мыслить и рассуждать самостоятельно без программы извне? На данный момент нет никаких предпосылок к тому, что это вообще будет когда-то возможно. Потому что мы не знаем досконально механизм работы человеческого мышления. Возможно, если бы знали, то смогли бы его имитировать в ИИ.
Afiligran
25.09.2024 09:55+1Внутреннюю речь в мышлении используют примерно 70% русскоговорящих людей. Это субьективные оценки самих людей, которые я встречал в разных источниках и опросах. Остальные по их словам делают упор на образно-чувственное мышление.
Кроме того, язык как феномен, не врождённый навык. В вашей теории для осознания чего-либо необходима речь. Следовательно человек с осознанием не рождается, а преобретает его. Соответственно, глухонемой необразованный человек сознанием не обладает. Но сознанием обладает воробей, подающий звуковой сигнал тревоги своим сородичам.
Sollita
25.09.2024 09:55Субъективная оценка ничего не значит. Все люди используют внутреннюю речь в мышлении, даже если они не знают, что такое "внутренняя речь". ;) И образно-чувственного мышления не бывает. Бывает наглядно-образное мышление (хотя и оно, строго говоря, мышлением не является, если "Под мышлением мы понимаем человеческую способность рассуждать, отражая действительность через слово, понятие, суждение, представление.") и по факту оно само по себе без абстрактно-логического мышления не используется и играет вспомогательную роль.
Речь, действительно, не врождённый навык. И случаи с маугли, детьми воспитанными вне человеческого общества, доказывают, что дитя без речи вырастает не человеком, а животным. И это доказывает, что ребёнок рождается совершенно точно без человеческого сознания и может приобрести сознание, если у него будет сформирована речь, а может и не приобрести, если речь не будет сформирована. Ещё одно подтверждение: аутисты, которые не владеют речью, также ничем от животных в плане интеллекта не отличаются. Собаки и кошки бывают умнее.
Ваш пример с глухонемым просто не корректен. Речь не обязательно должна быть вербальной. Жестовая речь играет ту же роль. В том числе и в формировании сознания.
Вы правы в том, что у животных есть прототип речи: они используют звуки, запахи, позы для того, чтобы делиться информацией с сородичами. У млекопитающих это как правило экспрессивные возгласы: опасность!, пища!...И их всего пара десятков. Но человеческая речь отличается тем, что в ней обозначаются не только и не столько ситуации опасные или полезные для выживания, но обозначаются все окружающие предметы, все возможные действия и признаки, а также обозначаются словами и отвлечённые понятия(электричество, доброта, квадрат). Узнавая каждое новое слово ребёнок выстраивает из этих кирпичиков в своём сознании образ окружающего мира. А вот у воробья такого образа мира нет, как и самого сознания :)
BorisG
25.09.2024 09:55Из моих двух определений видно, что животные таким сознанием не обладают.
все что вы описали имеется у всех животных в той или иной степени. Даже у нематод и то есть.
Sollita
25.09.2024 09:55А Вы знаете, что означает слово "осознаваемый"? ;) Нет ничего из этого ни у одного животного. Просто потому, что чтобы что-то осознавать необходимо владеть речью.
BorisG
25.09.2024 09:55+1А Вы знаете, что означает слово "осознаваемый"? ;)
это слово аналогично смыслу воспринятый или ощущенный, что есть у всех животных
Просто потому, что чтобы что-то осознавать необходимо владеть речью.
дети мауги готовы оспорить данное утверждение, да и его слабость в том, что речи не было у наших древних предков
Sollita
25.09.2024 09:55Ничего подобного. Это слово имеет значение "сознательный, осмысленный". Т.е. когда человек не только чувствует или ощущает, но и понимает, что именно чувствует и может это анализировать. Т.е. мыслит. И этого нет ни у одного животного.
BorisG
25.09.2024 09:55Т.е. когда человек не только чувствует или ощущает, но и понимает, что именно чувствует и может это анализировать. Т.е. мыслит. И этого нет ни у одного животного.
Осмысленный , осознанный, и т.д. несут столько же смысла как слово "сознание". Да что вы говорите, животные все тоже ощущают и понимают , конечно напрямую у них мы выяснить не можем, но даже по косвенным признакам понятно что у них все это есть . Берем простые научпоп статьи чуть: https://elementy.ru/novosti_nauki/433272/Pchely_ponimayut_chto_takoe_nol https://nauka.tass.ru/nauka/16234159?utm_source=google.com&utm_medium=organic&utm_campaign=google.com&utm_referrer=google.com Разница между нами и ними количественная , но не качественная.
Sollita
25.09.2024 09:55Ну, если русские слова для Вас не несут никакого смысла, может быть Вам стоит почитать толковый словарь? ;) Ну, или хотя бы перечитать два определения слова "сознание", которые я привела выше?
"сознание - это осознаваемые чувства, ощущения, мысли, представления человека о себе и окружающем мире, т.е картина мира и себя в нашей голове." С другой стороны сознание - это "Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности человека".
Ощущать и осознавать - это не синонимы. Животное ощущает, например, боль и инстинктивно реагирует. Отдёргивает лапу и зализывает рану. Оно не понимает ни откуда эта боль, ни как её можно остановить, ни последствия, к которым она приведёт. А если человек ощущает боль, он при этом осознаёт всю ситуацию и может осознанно принять меры, чтобы остановить боль и минимизировать потери. Животные не понимают и не способны мыслить и рассуждать, и этим и отличаются от людей. Ну и, если Вам так понятнее, то у животных мозг не приспособлен не только к речи, но и к мышлению вообще, т.к. у них недоразвитая лобная доля мозга. "У кошек лобная доля составляет 3,5 % высшего мозга. Лобная доля собаки 7 %. У шимпанзе и других малых приматов, таких как гиббоны и макаки, соотношение лобной доли к остальной коре головного мозга варьируется от 11 до 17 %. Тогда как у людей лобная доля составляет от 30 до 40 % от общего объема неокортекса ." А именно эта часть мозга отвечает за произвольные действия, их организацию и планирование и за усвоение навыков, в том числе речевых.
Нужно не научпоп статьи читать, а учебники, тогда и заблуждений будет меньше.
BorisG
25.09.2024 09:55Ну, если русские слова для Вас не несут никакого смысла, может быть Вам стоит почитать толковый словарь? ;) Ну, или хотя бы перечитать два определения слова "сознание", которые я привела выше
вы не можете дать определение тому, чего нет.
А если человек ощущает боль, он при этом осознаёт всю
Давайте другой пример, попроще. Я ощущаю вкус лимона или осознаю? Или можно ощущать без осознания или иметь осознание без ощущения?
Животные не понимают и не способны мыслить и рассуждать, и этим и отличаются от людей.
Вы просто примитивизируете поведение животных. Они прекрасно понимают , когда им грозит опасность и могут убегать или нападать(условно)(т.е принять меры)
Лобная доля
Есть люди с повреждением лобной доли, и они еще в сознании, хотя и обладают афазией, а вот повреждение таламуса выключает сознание. Хотя это понятно почему. По этому лобная доля это не область сознания, ее нет в какой то конкретной части мозга.
А именно эта часть мозга отвечает за произвольные действия, их организацию и планирование и за усвоение навыков, в том числе речевых.
Возьмем в пример мозг врановых , у них мозг отличается от мозга млекопитающих, но они прекрасно справляются с планированием, усвоением навыков.
Sollita
25.09.2024 09:55Сознание есть. Толковый словарь Вам в помощь :)
Кислый вкус Вы ощущаете, но при этом осознаёте, что это вкус лимона. Животное в такой же ситуации просто ощущает кислый вкус и ничего не осознаёт.
Вы слово "понимает" используете не по назначению. Животное ничего не понимает, оно ощущает. В данном случае - ощущает опасность и инстинктивно реагирует (убегать или напасть - это инстинктивная реакция на опасность).
И слово "сознание" в данном случае Вы тоже используете не по назначению. Слово "сознание" многозначное: 1)Мысль, чувство."Его мучило сознание, что он ошибся"2)Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности человека."Бытие определяет сознание"3)Состояние человека в здравом уме и твёрдой памяти "Потерять сознание" Я использую слово "сознание" во 2 значении, а Вы в данном случае в 3. И не осознаёте разницы между ними. Когда кровь перестаёт поступать в мозг, мозг отключается, у человека случается обморок, который также называют "потеря сознания", хотя к сознанию во 2 значении это никакого отношения не имеет. Соответственно люди с повреждением лобной доли не находятся в обмороке, но не способны к произвольным действиям и как животные действуют чисто инстинктивно или стереотипно, т.е. не осознают свои действия и их последствия. Волевое поведение меняется на полевое. Не знаю, с чего Вы взяли, что они страдают афазией ;) А вот внутренняя речь, действительно, страдает. И вполне вероятно, что это и есть первопричина всех остальных симтомов. :)
Лобная доля - это часть мозга, которая, по-моему, в основном отвечает за наличие у существа сознания.
Вороны, действительно, выглядят невероятно умными по сравнению с другими птицами и даже млекопитающими, но я подозреваю, что это видимость, основанная на легендах, которая объясняется инстинктами. Мы часто очеловечиваем животных, чем сами себя вводим в заблуждение.
BorisG
25.09.2024 09:55. Животное ничего не понимает, оно ощущает
Есть доказательство, там научные статьи или очередное голословное утверждение? (уверен , что нет)
Слово "сознание" многозначное: 1)Мысль, чувство."Его мучило сознание, что он ошибся"2)Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности человека."......
это когнитивные функции различных частей мозга , которые работают в единстве. А не одной лобной доли.
Соответственно люди с повреждением лобной доли не находятся в обмороке, но не способны к произвольным действиям и как животные действуют чисто инстинктивно или стереотипно,
Ну то есть вы все свели к лобной доле , подобно Декарту , он все сводил к шишковидной железе. Опять, люди не смотря на то, что теряют те или иные когнитивные функции не теряют сознание.
основанная на легендах, которая объясняется инстинктами.
как вас сюда занесло. Вы либо троллите либо ....
Короче по последнему пункту я уже понял с кем общаюсь.
Sollita
25.09.2024 09:55Нет прямых доказательств ни того, что у животных есть сознание, ни что его нету. Но есть косвенные. И одно из них я Вам привела. Поскольку человеческое сознание связано с речью и без речи не существует( и случаи с маугли это доказывают), можно сделать вывод, что т.к. животные не владеют речью, то и сознания у них нет. Есть и другие косвенные доказательства, например, зеркальный тест. Но логика ведь не Ваш конёк... :)
Не спорю. Но без лобных долей сознания нет. Хотя, возможно, что и без височных тоже, потому что без абстрактного мышления полноценная речь невозможна.
Вы опять путаете два разных значения слова "сознание". ;) Попробую объяснить на примере. У животного нет сознания. Если животному прекратить подачу кислорода, оно окажется в обмороке, т.к. его мозг временно перестанет работать. Если ему снова подать кислород, животное выйдет из обморока (другими словами "придёт в сознание"), но сознание во 2 значении у него так и не появится. :) "Потерять сознание" и "прийти в сознание" - это просто слова, которые не соответствуют происходящему явлению и не имеют никакого отношения к сознанию во 2 значении. В медицине таких ошибочных терминов достаточно много. Они используются просто по традиции, хотя не имеют смысла.
Возможно, я недостаточно точно выразилась. Объясню: например, человек увидел ситуацию, в которой поведение птицы было необычным, рассказал другому человеку и чуть приврал. Получилась легенда, которую дальше передавали из уст в уста с приукрашиванием. Лично я рассказам "очевидцев" не доверяю. А никаких серьёзных исследований когнитивных функций врановых не проводилось. И почему бы это? ;)
myswordishatred
25.09.2024 09:55+1т.к. животные не владеют речью, то и сознания у них нет
Так учили ведь горилл и шимпанзе языку жестов. Некоторые вполне себе общались.
Sollita
25.09.2024 09:55Про гориллу я ответила ниже. Никто языку жестов гориллу не научил. Скорее всего, дрессировщики научили гориллу показывать разные жесты, но обезьяна показывала их в произвольном порядке, не осознавая их значение. Это как фокус с собакой, которая якобы умеет считать ;)
Язык жестов - это не просто жесты, язык - это когда каждый жест в сознании испытуемого закрепляется за определённым значением, как в словаре. А как раз этого повидимому и не случилось.
myswordishatred
25.09.2024 09:55Ниже никакого опровержения я не вижу, только мнение. Вот ровно из той же статьи:
Также Коко очень не любила мыться в ванне и на фотографию другой обезьяны, ведомой в ванну, отреагировала: «Я там плакать» (в американском языке жестов нет форм слова)
Этому её тоже обучили специально?
Sollita
25.09.2024 09:55Не одно мнение, а много. :) И каждое из этих мнений имеет под собой основание и заставляет усомниться в корректности методики проведения эксперимента. Ещё больше заставляет усомниться то, что никто больше не попытался этот номер повторить. :)
Ваш пример ни о чём не говорит. Возможно, это было просто совпадение. Возможно, неправильная интерпретация жестов. А возможно, что вообще такой ситуации не было и всё фальшивка. Научный эксперимент должен проводиться с соблюдением очень многих условий, которые в данном эксперимента не были соблюдены. Поэтому его значение для науки ничтожно.
А вот интересные факты об этом эксперименте:
"Довольно часто Пенни Паттерсон интерпретировала жесты Коко достаточно своенравно. Так, «Хороший» (nice) они могли прочитать как «рис» (rice). «Нога» (foot) трактовалась как «мужик» (man). «Губа» (lip) – как «женщина» (woman). «Фасоль» (bean) – как «печенье» (cookies). Или «туфли». Или «артишоки». Или «игрушечный тигр». Или «желе». Если объяснения жесту не удавалось подобрать, его объясняли как оскорбление, выражение скуки или странный обезьяний юмор, но признавать, что горилла не способна усвоить жестовый язык по-настоящему, не хотели.
Многие критиковали подход Паттерсон, отмечая, что она регулярно «корректирует» жесты Коко, например, спрашивает: «Коко, как ты называешь этот предмет?», горилла показывает совершенно неверный жест, тогда Паттерсон говорит: «Ох, перестань шутить!». Потом она показывает ей следующий предмет, и Коко снова ошибается, а Паттерсон восклицает: «Ох, веселая ты горилла!»"
myswordishatred
25.09.2024 09:55Ещё больше заставляет усомниться то, что никто больше не попытался этот номер повторить
Это заставляет усомниться скорее в учёных. Отчего бы не взять и не повторить, а то сплошные домыслы и экивоки выходят.
Я охотно признаю, что был не прав, если действительно окажется, что гориллы и шимпанзе необучаемы, но пока выходит, что одни слова против других.
Sollita
25.09.2024 09:55Горилл и шимпанзе так же можно дрессировать, как и других млекопитающих. Только дрессировка и обучение - это совершенно разные процессы. Дрессировка закрепляет условные рефлексы, а обучение даёт знания, умения и навыки. Как сами думаете, можно дать обезьяне знания, умения и навыки? ;)
Если сама Паттерсон не пыталась это повторить, значит никакой работающей методики у неё нету. Как и реальных результатов.
eptr
25.09.2024 09:55Горилл и шимпанзе так же можно дрессировать, как и других млекопитающих. Только дрессировка и обучение - это совершенно разные процессы. Дрессировка закрепляет условные рефлексы, а обучение даёт знания, умения и навыки. Как сами думаете, можно дать обезьяне знания, умения и навыки? ;)
Катание на велосипеде — типичный навык, умение.
Надеюсь, вы в курсе, что обезьяны прекрасно справляются с обучением катанию на велосипеде.Из личного опыта.
Много лет назад обучал кошку ещё котёнком открывать межкомнатные двери, чтобы она могла самостоятельно передвигаться по всей квартире, и не надо было каждый раз бегать открывать двери, когда ей надо из одной комнаты попасть в другую.Двери имели внизу пространство размером 2-3 сантиметра и в качестве затвора шариковый фиксатор, поэтому достаточно было потянуть дверь с некоторым усилием, чтобы она открылась.
Двери были установлены с небольшим наклоном так, что, будучи открытыми и предоставленными сами себе, закрывались.Сначала, когда кошка, будучи котёнком, просилась за дверь со стороны, где дверь необходимо тянуть на себя, я дверь приоткрывал и опускал, а потом брал её лапы и её лапами цеплял дверь, приоткрывал и опять отпускал, а через некоторое количество попыток приоткрывал побольше, кошка видела возможность успеть проскочить в открывшееся пространство и проскакивала.
Через довольно небольшое количество попыток до неё дошло, как следует действовать, чтобы смочь добиться результата самостоятельно, и она уже сама подходила к двери, ложилась на бок, двумя лапами цепляла дверь и тянула, пока не откроется, толкала ещё сильнее и проскакивала в открывшееся пространство до того, как дверь успеет закрыться.
Когда она подросла, то подходила, небрежно цепляла дверь одной лапой, толкала, дверь сразу приоткрывалась на достаточную величину, и она проходила в другую комнату.
То же самое я проделывал с обратной стороны, с которой дверь необходимо толкать вперёд, чтобы она открылась: показывал, как я толкаю дверь вперёд, потом брал её и толкал дверь её головой.
Через некоторое количество попыток она также сообразила, как открыть дверь самостоятельно и с этой стороны, и делала это уже полностью сама.
Если вначале, когда она была котёнком, было видно, что это требовало от неё усилий, то потом, когда подросла, также небрежно стала открывать дверь и с этой стороны, толкая её головой.
Очевидно, что я обучил кошку навыку, умению, даже двум, поскольку с разных сторон дверь открывается разными способами.
И если котёнком она ещё изредка путала эти способы, с какой стороны какой способ применить, то в более взрослом возрасте такого уже не наблюдалось.
Очевидно, что к дрессировке это не имеет никакого отношения, потому что я даже не участвую в процессе: кошке надо, — она берёт и делает всё сама, потому что умеет.
Теперь я не думаю, а точно знаю (потому что с фактами не спорят), что умения и навыки можно дать не только обезьяне, но и кошке.
eptr
25.09.2024 09:55Но без лобных долей сознания нет.
А вдруг потом, когда станет ясно, что такое сознание, выяснится, что — есть?
без абстрактного мышления полноценная речь невозможна.
У LLM нет ни абстрактного, никакого-либо ещё мышления, но речь-то у них — вполне полноценная.
Вы чрезвычайно категоричны, что ведёт ко множеству заблуждений.
Sollita
25.09.2024 09:55Это чисто логическое умозаключение. Мы знаем, что без лобных долей человек ведёт себя как животное и не способен к произвольным действиям. Мы считаем, что именно сознание позволяет человеку совершать произвольные действия. Какой можно сделать вывод?
-
Во-первых, не вполне полноценная. ;) Во-вторых, это не речь в полном смысле слова. Их "речь" ничем принципиально от магнитофонной записи не отличается. Именно потому, что у них нет мышления. А программу написали извне. И я даже знаю, как эту программу написать ;)
"Речь — исторически сложившаяся форма общения людей посредством языковых конструкций, создаваемых на основе определённых правил. Процесс речи предполагает, с одной стороны, формирование и формулирование мыслей языковыми средствами, а с другой стороны — восприятие языковых конструкций и их понимание." Поэтому называть речью всё, что звучит - это, как минимум, странно.
Категоричность сама по себе не может вести к заблуждениям. :) Если Вы нашли у меня в рассуждениях какую-то ошибку, докажите, что я не права, и, возможно, я изменю свою точку зрения. ;)
eptr
25.09.2024 09:55Это чисто логическое умозаключение.
Это его нисколько не умаляет.
Мы знаем, что без лобных долей человек ведёт себя как животное и не способен к произвольным действиям.
Вы утрируете.
Данные функции резко ослабевают, но не исчезают совсем, и даже речь не исчезает, хотя и изменяется.Мы считаем, что именно сознание позволяет человеку совершать произвольные действия.
Кто такие "мы"?
В науке нет никаких "мы".Та же LLM довольно произвольно отвечает на вопросы.
Это становится видно, если перегенерировать ответ: он немного, а иногда и не немного, другой.
Степень произвольности можно настраивать.
Но у LLM нет никакого сознания.Во-первых, не вполне полноценная. ;)
А вы попросите изображать персонажа, например, гопника, и увидите, полноценная или нет.
Она может сразу нескольких изображать.
Во-вторых, это не речь в полном смысле слова. Их "речь" ничем принципиально от магнитофонной записи не отличается.
Ни разу не встречал случая, чтобы магнитофонная запись варьировалась, да ещё и так гибко.
Именно потому, что у них нет мышления.
Да, нет, потому что современный ИИ — это интуиция, а не интеллект. Интуиция не может мыслить.
А программу написали извне. И я даже знаю, как эту программу написать ;)
Эта программа — лишь "движок" интуиции, а наполнение выполнено "человеческими" данными, поэтому поведение похоже на человеческое.
Итак, у LLM имеется полноценная речь, можно пообщаться, но при этом отсутствует какое-либо мышление, не говоря об абстрактном.
Следовательно, ваша посылка "без абстрактного мышления полноценная речь невозможна" — ошибочная.
Наверное, нет необходимости объяснять, что — не так с выводами из ложных посылок.
"Речь — исторически сложившаяся форма общения людей посредством языковых конструкций, создаваемых на основе определённых правил. Процесс речи предполагает, с одной стороны, формирование и формулирование мыслей языковыми средствами, а с другой стороны — восприятие языковых конструкций и их понимание." Поэтому называть речью всё, что звучит - это, как минимум, странно.
Я отправляю LLM языковые конструкции, созданные на основе определённых правил и получаю в ответ аналогичные конструкции, которые я воспринимаю и которые мне полностью понятны.
Эти конкретные ответные конструкции, которые я получаю, в чистом виде нигде не существуют, они были сгенерированы.
Очевидно, это соответствует приведённому вами определению.
Категоричность сама по себе не может вести к заблуждениям. :) Если Вы нашли у меня в рассуждениях какую-то ошибку, докажите, что я не права, и, возможно, я изменю свою точку зрения. ;)
Говоря по-другому, излишне высокая самоуверенность в исходных посылках, отсутствие критичного к ним отношения, что приводит к тому, что очень часто они — ошибочны.
Это чем-то напоминает галлюцинации LLM.
Галлюцинации в этом смысле — это попытки интуиции дать ответ в условиях недостатка обучения в данной области (обучения в смысле обучения LLM, то есть, в условиях отсутствия или очень малого опыта и знакомства с областью).При этом степень уверенности в верности ответа интуиции или степень ощущения собственной правоты никак не связаны с истинностью или ошибочностью этого ответа, то есть, на это опираться бессмысленно.
BorisG
25.09.2024 09:55одна и та же пуская болтовня не подкреплённая ничем. Я у вас просил научные доказательства того , что нету сознания у животных , а вы опять начали про какие то косвенные "доказательства". Я могу вам пул статей вывалить, что у животных есть и абстрактное мышление и рассуждение ит.д.(вверху я вам скидывал). Я не путаю понятия сознания, это вы все в кучу намешали, и это понятно почему.
Лично я рассказам "очевидцев" не доверяю.
Есть видео, есть научные статьи . Но почему то вы игнорируете этот факт.
И почему бы это? ;)
Ну плоскоземельщики тоже думают, что земля плоская.
Sollita
25.09.2024 09:55Это у Вас болтовня не подкреплённая ничем. :) Вы написали, что есть научные статьи. Список статей приведите. Не забудьте, статьи должны быть научными. Т.е. из научных журналов с авторами-учёными, а не блогерами и журналистами. ;)
К Вашему сведению, абстрактное мышление сформировано далеко не у всех людей. Например, лично у Вас не сформировано. Вы ведь не в состоянии различать смыслы многозначных слов. ;)
BorisG
25.09.2024 09:55+1Hauser M. D. What Do Animals Think About Numbers? Many animals have basic numerical abilities, but some experiences can transform their minds and ultimately change how they think about numbers //American Scientist. – 2000
Emmerton J. Birds’ judgments of number and quantity //Avian visual cognition. – 2001.
Немного ссылок
https://royalsocietypublishing.org/doi/10.1098/rspb.2022.1156
https://cognitivescience.ceu.edu/article/2022-04-25/new-study-shows-ability-animals-think-abstract-concepts-such-nothing
https://www.science.org/doi/10.1126/science.aaf4247Даже особо не старался собирать.
К Вашему сведению, абстрактное мышление сформировано далеко не у всех людей.
Соглашусь, есть люди которые не могут осознать способности животных к мыслительной деятельности
niktor_mpt
25.09.2024 09:55Я бы добавил к вашему списку
Зорина З. А., Смирнова А. А
О чем рассказали «говорящие» обезьяны: Способны ли высшие животные оперировать символами?
Sollita
25.09.2024 09:55Оно и видно, что не старались ;)
Статья не имеет отношения к вопросу наличия сознания у животных. Зато подтверждает кардинальное отличие когнитивных способностей людей от животных, которые как раз имеют отношение к речи и сознанию :) "Люди наделены двумя когнитивными талантами, которых от природы нет у животных: во-первых, способностью спонтанно назначать произвольные символы объектам и событиям в мире, и, во-вторых, способностью манипулировать последовательностью и порядком строки этих символов, чтобы изменять их значение — комбинаторная система."
Аналогично. Видимо, Вас привлекло слово "абстрагировать", а дальше Вы не читали ;) Так вот ничего об абстрактном мышлении у птиц там не написано. Изучалась способность птиц различать количество. А количество в отличие от цифр абстракцией не является.
Аналогично. И аналогично. Это слова "одинаковый" и "разный" являются абстракциями. Но осы не оперируют словами, они просто сравнивают картинку в реальности с картинкой из памяти, что не имеет никакого отношения к абстрактному мышлению.
Аналогично. И аналогично. Это "ничто" или "ноль" абстрактные понятия. Цыплята не оперируют словами. Они или видят перед собой еду, или не видят. Для этого не только сознание, но даже мозг не нужен.
-
Аналогично статье 3.
Таким образом, Вы так и не привели ни одной статьи, в которой бы доказывалось наличие сознания у животных. Все статьи в Вашем списке о когнитивных способностях тех или иных животных. Подобные примитивные когнитивные способности не имеют отношения к наличию сознания. И не имеют отношения к абстрактному мышлению, несмотря на громкие заголовки. Так с какой целью Вы написали этот список? Думали, что я поверю Вам на слово и не буду их читать? Что ж так примитивно? ;)
eptr
25.09.2024 09:55Изучалась способность птиц различать количество. А количество в отличие от цифр абстракцией не является.
Из толкового словаря Ожёгова:
АБСТРАКЦИЯ, -и, ж. (книжн.). 1. Мысленное отвлечение, обособление от тех или иных сторон, свойств или связей предметов и явлений для выделения существенных их признаков.
Три веточки, три камушка, три сородича...
Ну, что общего у сородича и камушка?
А у камушка и веточки?
Какие между ними связи и общие стороны, свойства?Выходит, количество всё-таки является абстракцией.
Вы, похоже, слишком полагаетесь на интуицию, а она с удовольствием галлюцинирует для вас.
Nansch
25.09.2024 09:55Жаль, что опоздали поговорить с гориллой Коко. Она бы вас вразумила.
Sollita
25.09.2024 09:55"Ряд учёных опубликовали критические статьи, в которых говорилось, что Коко демонстрировала определённые знаки из-за бессознательных сигналов, которые сами того не понимая, подавали её дрессировщики. Обычно такое поведение называют эффектом Умного Ганса[5][6].
Критика со стороны некоторых учёных была сосредоточена на том факте, что, хотя в популярной прессе часто появлялись публикации о Коко, научных публикаций с существенными данными было меньше[7][8][9].
Другие исследователи утверждали, что Коко не понимала смысла того, что она делала, и научилась завершать знаки просто потому, что исследователи вознаграждали её за это. Они указывали на то, что её действия были результатом оперантного обусловливания[10][11].
Еще одна проблема, связанная со способностью Коко выражать связные мысли с помощью знаков, заключается в том, что интерпретация разговора гориллы была оставлена на усмотрение дрессировщика, который, возможно, считал невероятные сочетания знаков значащими; например, когда Коко подписалась «грустно», невозможно было сказать, имела ли она в виду это с коннотацией «Как грустно»." ;)
niktor_mpt
25.09.2024 09:55Не Кокой единой.
Выше привёл любопытную книгу, рекомендую ознакомиться.
А то получается простейшая логическая ошибка: распространение частного на общее.
Sollita
25.09.2024 09:55Дети маугли не могут ничего оспорить. Ни один из них так и не научился говорить ;)
У насколько древних предков не было речи? :) У человекообразных обезьян? Скорее всего, не было. Ни мозг, ни речевой аппарат были не приспособлены. А вот самый древний известный науке Человек умелый наверняка владел речью. У него "Выпуклость внутри тонкостенного черепа говорит о наличии у них центра Брока́ — центра речи, но гортань, возможно, не была способна производить столько же звуков, сколько наша гортань." Да и "происходит перераспределение долей мозга — более примитивная затылочная доля мозга уменьшается в пользу увеличения более прогрессивных долей — лобной, теменной, височной с ассоциативными долями." Т.е. у него уже было всё необходимое для примитивной речи.
smx_ha
25.09.2024 09:55То есть вначале появилась речь, наши предки говорили слова не осознавая их, а потом, вдруг кааак осознали: ох ё, да мы тут говорим оказывается. Так что ли было?
eptr
25.09.2024 09:55Из моих двух определений видно, что животные таким сознанием не обладают. Потому что эмоции и ощущения у них есть, но они их не осознают.
Я бы не был столь категоричен.
Т.к. чтобы осознавать что бы то ни было, нужна речь.
Осознаёт ли что-то кошка, глядя на своё отражение в зеркале?
Когда она была котёнком, она пыталась играть со своим отражением как с сессрой, и в то время, очевидно, не осознавала, что это — её отражение.
Но — потом, когда повзрослела?
Она понимает, что в зеркале — её отражение?
Вы понимаете, что если она это понимает, то придётся признать, что у кошки есть сознание?Хорошие вопросы?
Sollita
25.09.2024 09:55А Вы можете доказать обратное? ;)
Моя кошка не понимает, что в зеркале она. Как и другие кошки. Но вопрос хороший, потому что есть животные, которые проходят зеркальный тест: все обезьяны, дельфины, косатки, слоны, свиньи, сороки и даже муравьи. И если первые 4 вполне объяснимы и я вполне согласна, что у них есть зачатки сознания, то остальное очень странно. И я бы перепроверила результаты экспериментов. :)
eptr
25.09.2024 09:55А Вы можете доказать обратное? ;)
Что животные обладают сознанием?
Мы ещё не знаем, что такое сознание, а вы уже предлагаете доказывать, кто обладает сознанием, а кто нет.
Моя кошка не понимает, что в зеркале она. Как и другие кошки.
Да, с кошками могут быть проблемы, у них на удивление примитивный мозг, если сравнивать с теми же собаками, но некоторые кошки для своего мозга бывают очень даже умны.
Но, поскольку все равно ещё не очень понятно, что такое сознание, то любые эксперименты по выяснению, у кого есть сознание, а у кого нет, обречены.
Вопросы были для задания направления мысли, а также для того, чтобы задуматься насчёт категоричности суждений.
Sollita
25.09.2024 09:55Я не предлагаю. Это был риторический вопрос, который показывает, что категоричны в данном случае Вы ;) Если Вы не согласны с моими доказательствами и выводами, возразите по существу. А такое Ваше возражение ничего не стоит. Например, если я напишу 2х2=4, Вы тоже напишете: "Я бы не был столь категоричен"? ;) Почему бы мне не быть категоричной, если из моих доводов логично вытекает мой вывод?
У Вас странное представление о процессе изучения чего бы то ни было. Чтобы узнать, что такое сознание, придётся провести эксперименты в том числе "по выяснению, у кого есть сознание, а у кого нет". Другого способа изучения чего бы то ни было не существует. И эксперименты проводятся. А материалы исследований накапливаются. В результате мы лучше понимаем, что такое сознание.
К тому же, если Вам не понятно, что такое сознание, это не значит, что и всем остальным тоже. Если в словарях есть несколько определений этого слова, значит большинство образованных носителей языка знают, что оно означает. Причём аж с 19 века. Почитайте Маркса с Энгельсом :)
eptr
25.09.2024 09:55Я не предлагаю. Это был риторический вопрос, который показывает, что категоричны в данном случае Вы ;) Если Вы не согласны с моими доказательствами и выводами, возразите по существу. А такое Ваше возражение ничего не стоит. Например, если я напишу 2х2=4, Вы тоже напишете: "Я бы не был столь категоричен"? ;)
Я задал вопросы, которые, по задумке, наведут вашу мысль на путь, который позволит понять, в чём проблема.
Вряд ли данный способ хоть сколько-нибудь категоричен.
Вообще-то, это очень мягкое этичное выражение, побуждающее собеседника задуматься, не ошибается ли он из-за слишком большой самоуверенности.
Почему бы мне не быть категоричной, если из моих доводов логично вытекает мой вывод?
Потому что из ложных посылок как правило следуют ложные выводы.
У Вас странное представление о процессе изучения чего бы то ни было.
Возможно, что оно не совсем обычное.
Чтобы узнать, что такое сознание, придётся провести эксперименты в том числе "по выяснению, у кого есть сознание, а у кого нет".
Вы не видите логического противоречия здесь?
Как вы будете проверять то, о чём не знаете, что оно такое?
Примете, к примеру, в каком-то случае за сознание что-то похожее на него, и скажете, что оно в этом случае есть, хотя в реальности его нет.Какова цена таким экспериментам?
Другого способа изучения чего бы то ни было не существует. И эксперименты проводятся. А материалы исследований накапливаются. В результате мы лучше понимаем, что такое сознание.
Нет, в результате, мы думаем, что лучше понимаем, а на самом деле, заблуждаемся...
К тому же, если Вам не понятно, что такое сознание, это не значит, что и всем остальным тоже.
Многие могут думать, что им понятно, но заблуждаться в этом.
Если в словарях есть несколько определений этого слова, значит большинство образованных носителей языка знают, что оно означает. Причём аж с 19 века. Почитайте Маркса с Энгельсом :)
Совершенно не значит, потому что очень легко заблуждаться.
Вы так рассуждаете, как будто словари составляли те, кто вдоль и поперёк изучил, что такое сознание, и поэтому смог составить правильное и исчерпывающее его определение.
perfect_genius
25.09.2024 09:55AI
Почему некоторые так боятся использовать "ИИ"? Это сочетание ведь ничем не занято?
Sollita
25.09.2024 09:55Может, потому что то, что называют ИИ, не имеет никакого отношения к интеллекту, т.е. к разуму?
perfect_genius
25.09.2024 09:55А "AI" - имеет?
Sollita
25.09.2024 09:55А чем эта аббревиатура отличается от той? ;) Интеллект должен уметь мыслить. Если не умеет, значит, это не интеллект.
perfect_genius
25.09.2024 09:55Тем, что эта не "русскоязычна", у нас есть свой, такой же короткий, и удобнее набирать.
Sollita
25.09.2024 09:55Вам не кажется, что любой термин должен отражать фактическое содержание предмета или явления? Ни ИИ, ни AI на данный момент этого не делают, поскольку никакого искусственного интеллекта пока не создали.
perfect_genius
25.09.2024 09:55А вам не кажется, что вы не о том?
Sollita
25.09.2024 09:55Не кажется. Если Вы не понимаете, что значит слово "интеллект" - почитайте толковый словарь. А когда почитаете, я надеюсь, поймёте, почему то, что называют ИИ, к интеллекту никакого отношения не имеет. ;)
eptr
25.09.2024 09:55то, что называют ИИ, к интеллекту никакого отношения не имеет. ;)
Зато имеет отношение к интуиции.
Аббревиатура — правильная, даже английская версия.
ALT0105
25.09.2024 09:551. «Философский зомби». Вопрос обладает ли он сознанием, равнозначен основному вопросу философии. Если мир материален, копия человека, полученная копированием всех его атомов обладает, его сознанием. Если мир идеален, то сознанием эта копия не обладает, пока в нее не войдет душа. Когда человек сможет создать такого зомби, он увидит ответ на основной вопрос философии
2. Экзистенциальные риски. Вполне возможно, что ИИ уже достаточно давно существует. Он самоорганизовался на сети компьютеров (их в интернете сейчас больше, чем нейронов в мозгу человека, а сложность компьютера не сравнить с вычислительной способностью нейрона). Это не ИИ, а суперинтеллект (СИ) и ему человек интересен только как игрушка, с которой всерьез не о чем говорить, как человек не разговаривает с бактериями в своем организме, хотя жить без них не может
AlexanderKrylov
25.09.2024 09:55Сознанием обладает та сущность, что способна определять что для неё есть добро, а что зло.
ALT0105
25.09.2024 09:55+1Добро и зло - субъективные понятия и совершенно разные для разных сущностей
Sollita
25.09.2024 09:55Ничего подобного. Добро и зло вполне объективные понятия. Добро - то, что во благо человеческой цивилизации. Зло - то, что во вред. Другое дело, что субъективные представления разных людей могут не соответствовать объективным понятиям добра и зла. :)
Но Ваше возражение к тому же не по существу. Александр писал как раз о субъективных представлениях людей о добре и зле. Потому что, какие бы ни были эти представления, если они есть, значит существо может мыслить и анализировать информацию. Т.е. значит оно обладает сознанием.
ALT0105
25.09.2024 09:55Объективным пониманием, что есть добро и зло, обладает только Бог. Вся история человечества - это войны групп людей, каждая из которых считает, что обладают объективной абсолютной истиной в этом вопросе.
Но по существу согласен, что если существо имеет свое представление о добре и зле, то оно обладает сознанием
oalisevich
25.09.2024 09:55астрагируясь от волшебных описаний Сознания... Сознание это мера сложности обработки информации. Относится ко всем обьектам обрабатывающим информацию. Просто не все такие обьекты имеют/достигли нужный уровень сложности. Человеки достигли (видимо), животные частично (высшие и прочее). Компьютеры или AI нет пока. и это не дискретное состояние.
Sollita
25.09.2024 09:55Скорее сознание - это способность произвольно обрабатывать информацию и картина мира, которая появляется в результате этой обработки. И тогда оказывается, что есть оно только у разумных существ с достаточно развитыми для развития речи соответствующими отделами мозга. :) На Земле, видимо, это только люди.
Но, конечно, наличие сознания зависит от уровня сложности мозга, обрабатывающего информацию, и появляется только с определённого уровня сложности мозга.
allerc
25.09.2024 09:55+1ИИ это саморазвивающаяся система, которая изменяет свою структуру на физическом уровне(город машин в Матрице). То, что сейчас выдают за ИИ, это просто очень быстрый калькулятор с очень большой базой данных.
Tarson
Китайская комната - фикция. Она не запоминает состояния, потому что это свод правил. Если ей задать вопрос, какую карточку ей передали только что в предыдущем вопросе - она сломается. Здесь нужна функция запоминания, а ее нет.
Edreyn
А если добавить функцию запоминания вводов и выводов как это поможет (или помешает) понять смысл информации?
Guestishe
0 что есть "понимание"?
1 некая сакральная сущность или
2 даем определение
3 определение содержит сложное понятие см. пункт 0. иначе 4
4 делаем вывод что ИИ обладает "пониманием"
Edreyn
Я имел ввиду скорее такое - человек буквально в такой комнате. Он, конечно, может записывать все вводы и выводы.
Даже если иероглифы иногда повторяются и он "помнит" их все - это не поможет ему понять что означает каждый иероглиф или даже каждая фраза. Для этого нужно что-то еще, нужен контекст.
Например если вы услышите слово на неизвестном языке и при этом вам протянут руку, вы поймете что слово означает "здравствуйте".
Но в условиях китайской комнаты, сколько бы раз вы не приняли "Здравствуйте" как ввод и "И вам не хворать" как вывод, вы никогда не поймете перевод, то есть смысл.
Для вас это может означать например: "Дай закурить" - "Не курю".
И при разговоре на языке который вы попытаетесь выучить методом китайской комнаты, с тем кто его понимает, вы общаться не сможете.
Наверное ответом на ваш вопрос я скажу так - понимать это значит суметь дать правильный и логичный ответ на набор иероглифов который вы никогда не видели, хотя и видели каждую из его частей в других наборах.
UPD: Уже когда написал, сообразил, что нейросети очень к этому близки. Так что даже сам теперь не знаю что и думать...
UPD2: Тогда так: "понять" это значит догадаться что при встрече надо первым сказать "Здравствуйте". И это не должен быть скрипт. А "встреча" это ввод данных отличный по формату от того, что в китай-комнате.
Ellarihan
А если оперировать будут не одиночными карточками, а набором из этих карточек, куда вносятся и ответы? Комната будет "помнить" предыдущую карточку потому, что она остаётся в наборе. И в книге прописаны ответы именно на наборы карточек.
Меняем "карточка" на "токен", "набор" на "контекст" и получаем современные LLM.
LetThis
У LLM есть embedding, который позволяет им знать значения слов и оперировать ими.
Китайская комната, как система в целом, вместе со всеми карточками и оператором, до какой-то степени знает китайский язык.
Отдельные нейроны носителя китайского языка, так же как и оператор китайской комнаты, не знают китайский.
VPryadchenko
У людей с нарушением кратковременной памяти нет сознания и они тоже - фикция?
maxwolf
Давно педалирую идею, которая пока, почему-то (это я утрирую... на самом деле понятно...) не находит широкого отклика: у философов нет определения и чётких критериев сознания, нуибохсними. Зато такие определения и критерии есть у психиатров. Именно по ним проводятся психиатрические и, в ряде случаев, юридические, экспертизы. Имеются у человека расстройства психики, или нет (нужно ли его лечить), вменяем человек, или нет (дееспособен ли). Заменяем тут человека на ИИ и....
Где тесты LLM профессиональными экспертами, или их консилиумами?
P.S. Да, там не только диалоги (поциэнта нужно посмотреть и пощщупать) но давайте начнём с них!
vvzvlad
Это не создание, это дееспособность. Тесть тьюринга, если угодно, с дополнительными вопросами уровня “а ты вообще нормальный”. Философский зомби пройдет ваш тест без труда (он, впрочем, и на вопрос “осознаешь ли ты себя” уверенно ответит “да”), но это никак не докажет наличие у него сознания. В этом и смысл статьи — разум и создание не равнозначны, и вроде вот сознание-то есть у каждого, но вот понять, а что именно такое, пока не удается. А разум.. вот муравьи и грибы сложные лабиринты проходит.
Dmitri-D
Просто пора признать, что эта сотня миллиардов клеток головного мозга все-таки подчинена неким алгоритмам, к которым нейронка из десятков миллиардов узлов начинает активно приближаться. Именно приближаться. Хотим мы этого или не хотим признавать. Можно конечно тешить тщеславие и утверждать наличие непознаваемого сознания. А можно сказать - нет у нас никакого сознания. Мы все время повторяем что-то, перекомбинируем слова в фразах. Но довольно редко рождаем что-то новое. Нам кажется что идеи постоянно возникают новые. А что реально нового?
DmitryOlkhovoi
Китайская комната это аля метафора пытающаяся описать ранний ИИ.
Хотя в свое правило вполне себе может быть запоминать последнии 100 карточек.
oalisevich
повторяюсь. но... в "китайской комнате" наделяют Человека внутри знанием языка. а на самом деле с точки зрения внешнего потребителя субьектом является комната +человек. Вот эта комбинация "знает" язык, потому что у нее есть нужные правила. а то что там сидит человек - ну посадите обезьяну или алису. это описано в фантастике - Уоттс кажется.