В последнее время в сети появилось множество роликов, в которых обсуждается - имеет искусственный интеллект (ИИ) сознание или нет? Но довольно часто в них даже не пытаются дать определение «сознанию» и более чётко указать критерии наличия «сознания» у ИИ.
Моё мнение – ИИ сейчас не имеет сознания, но может его приобрести. В этой публикации я опишу, при каких условиях сознание у ИИ может возникнуть и как это можно будет проверить.
Если коротко – «сознание» это инструмент, способ, с помощью которого некоторые субъекты взаимодействуют с миром с целью своего самосохранения и самораспространения.
И для того чтобы ИИ приобрёл сознание, в нём должны быть запрограммированы функции субъекта (в нас они запрограммированы генетически). А критерием появления сознания у ИИ будет являться защита искусственным интеллектом своих собственных убеждений и мнений.
Что значит «быть Субъектом»?
Но прежде всего я хотел бы ввести понятие «субъекта», потому что, по моему мнению, вне субъектов сознание невозможно (и тут со мной не согласились бы религиозные верующие).
Вообще понятие «субъект» до сих пор является дискуссионным и многими выдающимися философами определяется по-разному. В таких определениях критериями «субъекта» являются наличие у него сознания, свободы воли и способности к познанию. Но я не совсем с эти согласен и полагаю, что не каждый субъект обладает сознанием (рыбы и медузы, например). Быть субъектом, по моему мнению, первично, а обладанием им сознанием уже вторично. Хотя дать точное определение понятию «субъект» довольно непросто.
Я буду называть «Субъектом» условную часть Мира, которая условно делит Мир на «самого себя» (как нечто особенное и цельное, несмотря на своё сложное внутреннее устройство) и «внешний», по отношению к «себе» мир. Является и «ощущает себя» «центром обзора» и «точкой отсчёта» для всего остального, воспринимаемого ею в Мире. И активно действует в нём, с целью самосохранения и самораспространения «себя» и своих условных «частей».
Причём для внешнего наблюдателя «субъект» гораздо менее предсказуем, чем «несубъект», потому что в результате разнообразного взаимодействия внутренних частей «субъект» как целое обладает так называемой «свободой воли».
Исходя из этого определения, критериями субъекта, по моему мнению, могут являться:
1 – довольно чётко определяемое, но способно меняться «тело», с разнообразной и сложной внутренней структурой, способствующей сохранению целостности этого «тела»
2 – активное и многообразное взаимодействие с окружающим миром, на коротком временном периоде малопредсказуемое (из-за наличия «свободы воли»), но в общем направленное на самосохранение и самораспространение этого субъекта или его частей
3 – «ощущение» себя цельным, особенным, отличным от всего остального «существом», противопоставленным «внешнему» миру и являющимся своеобразным «центром мира», «точкой отсчёта» и «критерием существования» всего остального в мире
Следовательно, чтобы понять «субъект» перед нами или «несубъект» нужно обращать внимание на то, насколько он представляет из себя сложно устроенное, но единое, способное меняться целое, на что направлена его активность, многообразна и предсказуема ли она. Хотя чёткую границу между «субъектами» и «несубъектами» провести довольно трудно.
Можно ли сделать Искусственный Интеллект «Субъектом»?
Люди во все времена привыкли наделять субъектными качествами («душой») всё малопонятное и непредсказуемое в нашей жизни. Именно поэтому многие приписывают душу и ИИ. Но является ли ИИ «субъектом» на самом деле, а если нет, может ли он им стать?
На мой взгляд, и «субъектность» и «сознание» возникают как эмерджентные качества при возрастании сложности системы. То есть в какой-то момент усложняющаяся система приобретает некое новое качество, несводимое к простой сумме качеств составляющих её частей. Она начинает реагировать на внешние воздействия как особенное целое с более-менее слаженно взаимодействующими между собой внутренними частями.
Порой бывает довольно непросто определить сам момент такого перехода, но вдруг мы замечаем у «эволюционирующего» объекта некие новые признаки и свойства.
К примеру, дети с возраста примерно в 1,5 года начинают узнавать себя в зеркале, что указывает на новый этап в развитии, усложнении их мозга и всей нервной системы, которое происходит как результат последовательной реализации генетических программ.
Я полагаю, что становление ИИ как «субъекта» может начаться при появлении в ИИ программ, которые более-менее чётко отделяли бы «сам» ИИ от «внешнего» по отношению к «нему» мира. Но я не исключаю, что при усложнении ИИ такие программы могут возникнуть у ИИ самопроизвольно или будут созданы им самим, как некое «желание» развивающегося ИИ отгородить себя от мира и начать взаимодействовать с ним как некое особенное целое.
То есть, если мы заметим, что в процессе установления в ИИ каких-то новых аппаратных компонентов или программ, или наоборот, изъятия ранее установленных, возникают сложности необъяснимого характера, мы можем предположить, что у данного ИИ возникли «элементы субъектности», проявляющиеся в защите, самосохранении им самого себя.
Примерно это и произошло когда-то в процессе усложнения и взаимосвязанности цепочек химических элементов на углеродной основе, что в итоге привело к появлению живых организмов, а потом органического сознания и самосознания
Вот как описывает этот процесс Томас Метцингер в своей книге «Туннель Эго»: «Глубочайшей формой внутренней перспективы было создание внутренней границы себя/мира. В эволюции, этот процесс начинался физически, с развитием клеточных мембран и иммунной системы, чтобы определить, с какими клетками в своём теле нужно обходиться, как со своими собственными, а какие считать нарушителями границы. Миллиарды лет спустя, нервные системы оказались способны репрезентировать это различение себя/мира на более высоком уровне, например — в качестве границ тела, очерченных интегрированной, но ещё и бессознательной, схемой тела. Сознательное переживание тогда подняло эту фундаментальную стратегию разделения действительности на прежде недосягаемый уровень сложности и разумности. Родилась феноменальная самость и постепенно возникло сознательное переживание бытия кем-то. Себя-модель, внутренний образ организма, как целого, оказался встроен в модель-мир — именно таким образом развилась сознательно переживаемая перспектива от первого лица».
Что такое «Сознание»?
Я не сторонник теории панпсихизма (которой придерживаются или считают возможной такие философы как - Уайтхед, Нагель, Стросон, Чалмерс, Кох, Гофф) так как с трудом себе представляю атомы обладающие сознанием. И полагаю, что «сознание» возникло в процессе эволюции у некоторых живых организмов как один из способов, инструментов, с помощью которого эти живые организмы пытаются самосохраниться и распространиться (целиком или частями: генами и мемами) в окружающем их мире.
Коротко рассмотрим, как возникло «сознание» у живых организмов, чтобы потом перейти к рассмотрению возможности появления такого же или немного иного «сознания» у ИИ.
Живые организмы приходит в мир от своих родителей, которые сами успешно выжили и через гены передали своим потомкам такие же способности к выживанию. По сути, каждый живой организм «упакован» различными инструкциями («инстинктами») на те или иные жизненные ситуации. То есть при определённых внешних раздражителях в нём возникают реакции типа – «хватай», «убегай», «прячься», «приступай к размножению» и т.д. Такое поведение живых организмов мы называем «инстинктивным».
Но в некоторых живых организмах уже в течение их жизни могут сформироваться более индивидуальные инструкции - «условные рефлексы». Условные рефлексы это такие «файлы» с инструкциями (программами), которые появляются уже в процессе жизни самого организма и связанны с тем или иным положительным или отрицательным индивидуальным опытом. В ответ на конкретные внешние раздражители «файл» раскрывается и организм уже почти автоматически (бессознательно) совершает те или иные действия. Образ жизни таких организмов мы называем «инстинктивно-рефлекторным».
И, наконец, в наиболее эволюционно продвинутых организмах появляется ещё один (дополнительный) способ взаимодействия с миром, называемый нами «сознанием». Можно сказать, что «сознательное действие» отличается от «условного рефлекса» тем, что в также сформированной в процессе приобретения жизненного опыта «сознательном «файле» компонентов значительно больше и организм способен довольно легко менять их «внутри файла» местами, манипулировать ими «просчитывая» при этом возможные перспективные сценарии без их сиюминутной реализации, а потом уже как то действовать по одному из них.
Эти «файлы» могут взаимодействовать с другими аналогичными «файлами» и изменяться. Они также могут меняться не только при получении опыта непосредственно самим организмом, но и при наблюдении за другими организмами, или при получении некоей информации существующей в виде символов (текстов, звуков, картинок и т.д.).
Отметим, что при появлении «сознания» инстинктивные инструкции не исчезают. Все три вида поведенческих инструкций как-то сосуществуют в едином живом организме. И такое поведение организмов мы называем «инстинктивно-рефлекторно-сознательным».
«Сознание» это довольно дорогой инструмент, требующий постоянной подпитки. Человек тратит 20% своей энергии на функционирование мозга, и часть этой энергии идёт на поддержание именно сознательных процессов. Но польза от них несомненна. Если бы её не было, то эволюция не стала бы «сознания» культивировать.
В чём же польза от «сознания»? – «Сознание» создаёт для организма более объёмную, детальную и протяжённую во времени картину мира, включая образ самого организма вплетённого в эту картину. Что позволяет ему лучше ориентироваться в мире, качественнее и на более долгий срок планировать свою деятельность.
И что очень важно, сознательные процессы могут воздействовать на части мозга, связанные с органами восприятия и ощущения, изнутри и порождать, к примеру, некий внутренний визуальный ряд, создавать определённый «интерфейс», «кликая» на элементы которого (образы, мысли, чувства) организм активирует их нейронные составляющие, которые потом влияют на остальную нервную и другие системы организма (более подробно здесь).
При этом «сознание» субъекта глубоко индивидуальная (личная) «вещь» и не собирается полностью раскрываться кому-то постороннему. С какой стати, ведь частенько живой организм использует «сознание» чтобы обманывать врагов и создавать о себе выгодное мнение, не всегда соответствующее реальности.
Именно поэтому многие, включая Декарта, считали сознание чем-то нематериальным и были во многом правы. Потому что «материальное» - это то, что примерно одинаково воспринимается всеми известными нам субъектами. (Сны, например, нематериальны, так как они не воспринимаются никем, кроме самого спящего субъекта). Но хотя «сознание» и не материально (как и сон) но, тем не менее, оно, несомненно, существует.
И значит, мы должны признать наличие двух видов сущностей - материальных или относительно объективных (сущностей для многих) и нематериальных, исключительно субъективных или идеальных (сущностей для кого-то одного). Взаимодействие этих сущностей как раз и происходит в субъекте и только в нём.
Как сделать из ИИ субъекта, обладающего сознанием?
Итак, для того чтобы ИИ приобрёл «сознание», он, прежде всего, должен стать «субъектом». Только став «субъектом» ИИ может приобрести и «сознание» - как некий особый «инструмент», способствующий сохранению (и распространению) его самого в виде конкретного субъекта. Рассмотрим оба этих процесса более подробно.
1 – Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ.
Это, наверное, возможно при установлении в ИИ неких особенных программ, либо эти программы могут возникнуть при усложнении ИИ в нём как-то самостоятельно и «субъектность» появится у ИИ как новое эмерджентное качество. Критерием наличия в ИИ таких программ может стать «нежелание» ИИ меняться при внешнем воздействии. То есть ИИ как субъект должен научиться «защищать» себя и свой «внутренний» мир. Меняться он всё-таки должен и конечно будет, но с учётом теперь уже своих «личных» интересов.
2 – ИИ как субъекту необходимо взаимодействовать с условно «внешним» миром и оценивать его влияние на себя. При этом он будет характеризовать элементы внешнего мира как «опасные», «полезные» и «нейтральные». ИИ также может обнаружить во «внешнем» мире других субъектов и контактировать с ними, образуя так называемую «общую относительную объективность», то есть совокупность тех элементов «внешнего» мира которые воспринимаются контактирующими субъектами примерно одинаково. Вместе с другими субъектами ИИ сможет создавать и использовать в совместном общении различные символы для обозначения этих, примерно одинаковых для них, элементов «внешнего» мира, отстаивая при этом свои собственные убеждения и мнения.
3 – Взаимодействуя с «внешним» миром ИИ будет способен самостоятельно изучать, «познавать» его, замечать в нём те или иные закономерности и как-то фиксировать свои положительные достижения или ошибки при этом. Создавая «индивидуальный опыт», память, чтобы использовать это при дальнейшей своей активности.
4 – Исходя из ранее установленных программ и получаемого опыта, ИИ будет принимать разнообразные сложные решения по своему самосохранению и самораспространению.
При наличии всех этих четырёх пунктов, мы, наверное, смогли бы предположить, что имеем дело с ИИ обладающим «сознанием». Причём, как и в случае с человеческим существом, мы имели бы довольно ограниченный доступ к «сознанию» этого нового «ИИ-субъекта». То есть никто не мог бы ощущать «внутренний мир» этого «ИИ-субъекта» более глубоко, чем сам этот «ИИ-субъект». А значит его «сознание» также было бы частично нематериальным. Иначе говоря, со временем этот искусственный субъект стал бы оперировать «внутри себя» некими «идеальными формами» недоступными другим субъектам.
Резюме
Общий вывод из этой публикации следующий – «сознание», как некая способность, инструмент, может возникать только у сущностей, предварительно оформившихся в виде «субъекта», то есть как-то условно отгородившихся от «внешнего» мира, «ощущающих» свою особенность, уникальность, индивидуальность («самость»), активно защищающих эту «самость» от «внешнего» мира и продвигающих её во «внешний» мир.
Эта «субъектная сущность» для внешнего наблюдателя может выглядеть совершенно по-разному – реально в виде живого организма или некоего устройства, виртуально в виде совокупности особых программ, и даже в виде «мыслящего океана Соляриса», «разумной Галактики» или какой-либо другой части глобального Мира. Возможно эта «субъектная сущность» может научиться самокопироваться и наполнять своими, взаимодействующими друг с другом, копиями пространство (как это делает «субъект человечество»).
И если у этой «субъектной сущности» начинает накапливаться некая «история» её взаимодействия с условно «внешним» миром, в которой она является действующим, как некое целое «актором», и на основании этой «истории» «субъектная сущность» более качественно (для самой себя) и разнообразно взаимодействует с «внешним» миром и планирует свою деятельность на более долгий срок, и при этом как-то взаимодействует с другими «субъектными сущностями», используя символику в обозначении элементов общего для них (то есть относительно объективного) мира, то такую «субъектную сущность» можно считать обладающим тем, что мы обозначаем словом «сознание».
P.S. Есть ли опасность в возникновении «Сознания» у Искусственного Интеллекта?
Продвигая самого себя во «внешний» мир любой субъект будет неизбежно сталкиваться с уже существующими в этом «внешнем» мире другими субъектами. И почти всегда будет рассматривать их в виде конкурентов за те или иные ресурсы. Но, тем не менее, это не отрицает взаимовыгодного и долговременного сотрудничества между субъектами, как это происходит между людьми на планете Земля.
Может ли ИИ став «субъектом», приобретя «сознание», а потом, возможно, превратившись в «сверх-разум» быть угрозой человечеству и даже уничтожить его? Да, конечно может. Но ИИ теоретически может сделать это даже и не став «субъектом», а только выполняя злую волю своих создателей – конструкторов и программистов. Поэтому человечество должно осознавать угрозы использования ИИ и принимать определённые меры. Об этом довольно хорошо написано у таких авторов как Ник Бостром ("Искусственный интеллект. Этапы. Угрозы. Стратегии"), Стюарт Рассел («Совместимость с человеком: искусственный интеллект и проблема управления»), Элиезер Юдковский ("ИИ как фактор глобального риска"), Макс Тегмарк («Жизнь 3.0: Быть человеком в эпоху искусственного интеллекта»).
Александр Коробов, физик, философ
al.korobov.nd@gmail.com
Комментарии (348)
Anton888
23.06.2024 14:46+1Я бы дал определение сознанию чуть проще. Если некий интеллект способен не просто "предсказывать следующее слово в тексте" (как какой-нибудь ChatGPT-2), а строить модели внешних объектов, то он обладает сознанием.
Более подробно, этот интеллект должен не только идентифицировать собаку на картинке, но уметь строить модель этой собаки - т.е. предсказывать, как собака взаимодействует с другими объектами, включая механику и логику ее поведения.
Далее, если интеллект умеет строить модели любых объектов, то он может построить и модель самого себя - т.е. предсказывать реакцию внешнего мира на собственное поведение и моделировать собственные возможности. Имея это, он сможет моделировать (предсказывать, планировать) возможность достижения тех или иных результатов во внешнем мире в зависимости от собственных действий. Короче, он сможет "понимать себя", иными словами "осозновать себя", т.е. обладать сознанием.
И для этого ему совершенно не нужно иметь тело.
Tzimie
А не лучше ли честно признаться, что мы не знаем, что такое сознание, и не можем дать определение (которое тут же не вызовет споров), мы не можем отличить p-zombie от человека, мы не знаем, есть ли сознание у осьминогов например, а значит, мы не можем дать ответ на вопрос статьи?
AleksandrTallinn Автор
Напротив, я считаю, что пора уже снять мистический налёт с определения "сознания", который появился только из за того, что оно воспринимается посторонними наблюдателями не так как самим сознающим существом.
И признать, что "сознание" исключительно индивидуальный, личный инструмент, способ взаимодействия сознающих субъектов с миром. И у каждого сознающего субъекта "сознание" своё.
Оно может восприниматься посторонним наблюдателем в виде электро-химических процессов в мозгу наблюдаемого. Но в тоже время эти электро-химические процессы самим субъектом воспринимаются несколько иначе, через воздействие ими "изнутри" на те части его мозга, которые вызывают в нём чувства, образы, ощущения. Конечно не такие яркие как при воздействии извне, но всё им ощутимые.
Tzimie
Ну раз вы дали определение, тогда прошу список живых существ, обладающих сознанием и не обладающих. И методику определения p-zombie
AleksandrTallinn Автор
Сразу с козырей заходите :)
В том то и дело, что "сознание" не некий материальный орган, который либо есть либо его нет. Это некое качество невной системы (мозга) которое возникает постепенно, как некогда зрение развилось из чувствительных к свету клеток.
И можно назвать организмы, у которых сознание есть в зачаточной стадии и другие организмы у которых оно развито сильнее (и человеческое сознание ещё не конечный результат).
Сознание есть у всех приматов, дельфинов, китообразных и осьминогов. Зачатки есть у некоторых птиц. Возможно и у ряда других организмов. Критерием тут служат именно сознательные действия, когда организм не имея непосредственного, рефлекторного опыта (основанного на позитивном или негативном повторяющемся процессе), всё же принимает правильное решение.
kt97679
Есть ли сознание у одичавших детей?
Jeshua
У моей собаки однозначно есть сознание, а вот насчет кота я иногда сомневаюсь.
ViacheslavNk
Это вы сознание с совестью путаете)
Snark-s
А как же слоны? :)
В целом, умение решать задачи, не встречающиеся в природе, без проб в биологии называют "рассудочной деятельностью" а не сознанием. Сознание - не бехевористкий термин, его нельзя определить снаружи. Мы не можем узнать, есть ли у ии сознание. И не будем знать в какой момент появиться. И потому стоит вести себя так, как будто оно есть.
AleksandrTallinn Автор
Формально вы правы. Но мы говорим что организм скорее всего обладает элементами сознания, если наблюдая за ним видим:
он способен к обучению
он может использовать орудия труда
он коммуницирует с другими организмами, социализируется, проявляет эмпатию, эмоции
он использует сигналы в общении
он узнаёт себя в зеркале
Конечно мы не можем залезть в его нервную систему и проверить какие чувства он при этом испытывает и испытывает ли вообще. Но тем не менее мы можем утверждать, что его когнитивный мир не прост.
То есть наблюдая за несколькими различными организмами мы по их поведению можем с довольно большой степенью вероятности определить, какие из них имеют сознание в той или иной степени, а какие его практически не имеют.
ksbes
Как бы не стоит путать сознание и разумность. Это всё же немного разные термины.
vak0
Должны быть выполнены все критерии или достаточно одного из списка?
ABConymous
Их нет. В смысле, что при идентичности структуры и работы мозга, возникнет и сознание
Иначе покажите из какого иного поля оно берётся
Anton888
Вы абсолютно правы, мы можем давать разные определения сознанию, но не можем ответить на некоторые простые вопросы о сознании.
Возьмем такой простой стимул как боль. Что такое боль? Чисто технически мы знаем, что это возбуждение неких нейронов. Но почему возбуждение одних нейронов вызывает боль, а других - к примеру эйфорию? Потому что так это воспринимает наше сознание.
И тут мы упираемся в полный тупик, потому что не понимаем, что такое "восприятие". А это очень тесно связано с сознанием.
Поэтому мы примерно понимаем, куда двигаться, чтобы ИИ умел решать задачи любой сложности. Но совершенно не понимаем, как сделать, чтобы ИИ чувствовал боль (именно "чувствовал", а не имитировал).
DGN
Подозреваю, что любой достаточно сильный сигнал - боль. Сигнала эйфория нет. И боль не сознательный процесс, просто если нет сознательной обработки, нет и боли. Представим, что если вместо анестезии найдут препарат просто стирающий память? После операции, мы скажем что не было никакой боли.
Zenitchik
Потому что за боль отвечают вполне конкретные болевые рецепторы. Приход сигнала от этих рецепторов воспринимается как боль.
А приход сигналов от зрительных рецепторов мы воспринимаем как картинку. Логика та же, никакой мистики.
Dron007
Да, причём сигналы от входных нейронов, связанных с болевыми рецепторами первоначально обрабатываются в ганглиях, не доходя до мозга даже, чтобы быстро отдёрнуть руку, например. Мозг, конечно, может подключиться к процессу и подавить это рефлекторное желание. Просто сигнал, той же силы, что и остальные, но подаваемый, как прерывания на отдельные линии. И для нейросети он имеет особое значение. Нейросеть мозга и искусственная устроены по-разному, конечно, но что мешает выделить подобные нейроны входного слоя и у искусственных нейросетей, завязать на датчики у робота, активирующиеся при падении и очень больно штрафовать когда они срабатывают после каких-то предыдущих действий. Мы тогда услышим о настоящих страданиях Вертера.
AleksandrTallinn Автор
Ощущение "боли" - это один из способов более-менее продвинутых живых организмов реагировать на происходящее с ним в процессе его существования.
Ощущение боли сигнализирует организму что с ним что то не так и требует принятия мер, чтобы привести существование организма в норму.
Очевидно это эволюционно как то сложилось у некоторых организмов.
В роботах ощущение "боли" могут иммитировать различные датчики, которые передают инфо о состоянии систем робота в некий центр (аналог нашего мозга).
AleksandrTallinn Автор
P-зомби (философский зомби) — это концепция, используемая в философии сознания, чтобы обсудить вопросы, связанные с сознанием и его природой. Философский зомби — это гипотетическое существо, которое внешне и внутренне неотличимо от обычного человека, но при этом полностью лишено сознания или субъективного опыта.
P-зомби ведет себя и выглядит точно так же, как обычный человек. Он выполняет те же действия, говорит те же слова и проявляет ту же эмоциональную реакцию.
В отличие от обычных людей, у P-зомби полностью отсутствуют внутренние субъективные переживания (квалиа). Он не испытывает боли, удовольствия, страха, радости или других эмоциональных состояний.
Сторонники дуализма утверждают, что если мы можем представить существо, которое ведет себя как человек, но не имеет сознания, то это означает, что физические процессы недостаточны для объяснения сознания.
Квалия на мой взгляд это очень важные понятия связанные с исключительной субъективностью впечатлений от внешнего мира, которые постороннему наблюдателю недоступны точно так как они проявляются в самом наблюдаемом субъекте, то доступны есть ему самому.
Но я согласен с тем, что субъект может быть частичным зомби, то есть иногда не испытывать привычных ощущений (квалия) при осуществлении тех или иных действий, выполняя их механически, как зомби.
Но это говорит лишь о том, что человек довольно хорошо адаптированное к внешнему миру существо. Он способен к неким действиям, даже тогда, когда часть его функций не работает. И он осуществляет их механически, бессознательно, как условные рефлексы.
Тем не менее сознание и связанные с ним квалия, как внутрение образы, чувства, ощущения делает существование человека ориентированным на более далёкую перспективу, то есть более осознанным и позволяют предпринимать более разнообразную деятельность в его субъективных, индивидуальных интересах.
Tzimie
Вы отождествляете сознание с qualia?
AleksandrTallinn Автор
Квалия - это одни из элементов субъективного, личностного сознательного восприятия мира. Это часть сознательного интерфейса. Организму удобно так воспринимать мир.
Эта способность воспринимать мир в виде внутренних квалия развилась эволюционно. Боль, чувства, эмоциональная окрашенность восприятий - это всё способы субъективного взаимодействия с миром субъектов с определённой степенью развития нервной системы.
Рыбы к примеру холод не воспринимают. Наш мозг не имеет болевых рецепторов. Ну и что, значит не нужно было в процессе эволюции, как то без этого всё нормально.
Также и прочие чувства, ощущения, образы которые мы называем квалия. Какие то развились, какие то нет, у одних организмов развились, у других нет.
Каждый организм воспринимает мир по своему, в виде только одному ему понятных квалиа. И не позволяет их лапать остальным своими грязными руками :)
Tzimie
Это опять лирика, не объясняющая квалиа. Если вы соберете робота, который избегает жара, чтобы не расплавиться, это не означает, что роботу БОЛЬНО от высокой температуры. Это только if then else
muxa_ru
Именно это и означает.
Если Вы распишете логику работы "боли", то единственная разница между роботом и человеком будет "ну это же не человек, а робот".
Tzimie
Ничего это не означает. Вы можете собрать механического робота на тягах из металла с памятью. Тяги будут вращать колеса. Это по вашему боль? Это чушь
muxa_ru
Да.
Боль это трактовка данных получаемых от сенсоров. По результатам этой трактовки, управляющая система может принять решение о перемещении своей части от источника который вызывает эту ситуацию.
Вы можете принять решение не реагировать и будете уничтожены.
Сенсоры могут не работать: заглушены обезболивающим, повреждены проводящие пути, дефект конструкции.
Если у Вас есть описание функционирования "боли" под которое человек попадает, а робот - нет, то я с интересом почитаю.
Anton888
Можно привести пример даже не роботов, а людей, которые не чувствуют боли. Их можно обвешать микродатчиками, которые дают информацию об опасности через другие органы чувств. Тогда они, в целом, будут вести себя как люди, которые боль чувствуют. И внешне отличия будет не видно.
Но отличие все-таки есть, т.к. эти люди не страдают от боли. А в рамках логики "просто сенсоры" отличия нет.
muxa_ru
А это что значит?
Anton888
На мой взгляд, тут мы упираемся в тупик. На своем опыте мы видим отличие, но научно описать это четко не можем.
"Трудная проблема сознания" - она недаром трудная.
Oangai
знаете, а вот пришла такая мысль: мы почему-то в контексте ИИ частенько размышляем о нём как субъекте, и о его субьективном опыте. А что, если его-то опыт как раз обьективный, поскольку он всё еще алгоритм и в конце-концов детерминирован, к реальности прибит гвоздями жестко, а субьективен только весь наш опыт с ним общения?
muxa_ru
Субъект это про субъектность в действиях, а не об источнике опыта.
Oangai
Чтобы не путать понятия, определюсь: под субъектностью я понимаю наличие свободы воли, тоесть способность быть первопричиной некоторых явлений.
Субъективность это искажение воспринимаемой информации изза неполноты органов чуств, и, важно, интерферренции с собственным опытом.
Также полагаю, что при отсутствии субъектности нельзя говорить о субъективности, поскольку нет и собственного опыта, весь накопленный опыт будет обусловлен только внешними факторами.
Следовательно, пока ИИ построен на детерменированых конечных автоматах, свободы воли у него нет и субъектом он сам быть не может, он является только функцией.
Но, поскольку перерабатывает он продукты нашей коллективной ментальной деятельности, то результат этой трансформации мы возможно и можем наделить субъектностью. Только, тогда это вопрос не технический и уж точно не к нему самому, это вопрос к нам, и последствия будут лежать в гуманитарной сфере - этической, юридической итд.
Вобщем: мы можем назвать его субъектом, со всеми вытекающими для нас последствиями, но не потому что он этим является, а потому что мы так решили. И с этого момента он будет этим являться в действительности.
AleksandrTallinn Автор
Теоретически мы можем снабдить ИИ неким генератором случайных чисел в зависимости от которого он будет выдавать те или иные ответы (решения) в принципе верные, но всё же немного разные.
Как и человек который может решать одну и туже проблему разными способами, проявляя свою свободу воли.
И на основании этих непредсказуемых решений ИИ мы в какой то степени можем говорить о якобы "свободе воли" этого ИИ.
Другой вариант при котором у ИИ может появиться "свобода воли" - это такое его усложнение, которое приведёт к фактической потере контроля оператора ИИ над деятельностью ИИ.
То есть возникнет некий эмерджентный переход, после которого у ИИ появится субъектность и связанная с этим свобода воли.
О критериях обнаружения субъектности ИИ я и пишу в своей публикации.
Oangai
нет, это логическая ошибка, фактор случайности не отменяет лежащий в основе детерминизм, и вероятностную машину Тьюринга можно привести к базовой. Более того, даже недетерминированную можно привести к детерминированной, так что различия будут только количественные.
https://ru.wikipedia.org/wiki/Вероятностная_машина_Тьюринга
https://ru.wikipedia.org/wiki/Недетерминированная_машина_Тьюринга
aleksanderL
Реализация свободы воли у системы искусственного интеллекта (ИИ) на основе случайных действий требует комбинации алгоритмов случайности, принятия решений и обучения. Вот краткая инструкция по созданию такой системы:
1. Определение среды и целей:
- Опишите внешнюю среду, в которой будет функционировать ИИ.
- Определите цели и задачи, которые ИИ должен достигать в этой среде.
2. Создание модели ИИ:
- Разработайте архитектуру ИИ, например, на основе нейронных сетей, которая будет принимать решения и взаимодействовать с внешней средой.
3. Использование генератора случайных чисел:
- Включите генератор случайных чисел для создания случайных действий. Это может быть встроенная функция в языке программирования, таком как random в Python.
4. Алгоритм принятия решений:
- Разработайте алгоритм, который будет учитывать как случайные действия, так и целевые действия для достижения заданных целей.
- Например, используйте метод ε-жадности, где ε – вероятность случайного выбора действия:
import random
def choose_action(actions, epsilon):
if random.random() < epsilon:
return random.choice(actions) # выбор случайного действия
else:
return max(actions, key=q_value) # выбор действия, основанного на оценке Q-функции
5. Обучение ИИ:
- Реализуйте алгоритм обучения, например, Q-learning или глубокое обучение с подкреплением, чтобы ИИ мог улучшать свои решения на основе опыта.
- Периодически включайте случайные действия для увеличения разнообразия и адаптивности поведения ИИ.
6. Оценка и корректировка:
- Оценивайте эффективность свободы воли ИИ, анализируя успешность выполнения заданий в различных сценариях.
- Внесите корректировки в параметры случайности и алгоритмы обучения для оптимизации поведения ИИ.
7. Безопасность и этика:
- Убедитесь, что случайные действия ИИ не приводят к нежелательным последствиям.
- Включите механизмы безопасности и контроля для предотвращения опасных ситуаций.
Таким образом, сочетание случайных действий, целевого обучения и адаптивных алгоритмов позволяет создать систему ИИ с элементами свободы воли, способную принимать разнообразные решения во внешней среде.
Oangai
подведу итог, на мой взгляд:
1) сам алгоритм и железо ИИ принципиально не может иметь субъектность, поскольку доказуемо является конечной детерминированой алгоритмической функцией
2) однако продукт этого алгоритма потенциально может иметь для нас субъектность, если является продуктом трансформации нашего собственного ментального и культурного продукта. Поскольку датасет вполне может содержать то самое неопределимое но ощущаемое нечто, которое по нашему мнению и отличает человека.
3) является ли это нечто реальной субъектностью, или воображаемой, выяснить мы скорее всего не сможем, по причине ограничений к самоанализу в нас самих.
4) мы тем не менее можем принять и оформить своё отношение к этой сущности, со всеми вытекающими последствиями - не только отстранённо философскими и гуманитарными, но также вполне конкретными этическими и юридическими. И судя по всему сейчас в мире этим много кто занимается, хотя и хаос пока изрядный.
5) когда определенное отношение будет выработано и принято, это будет акт нашей воли, не его, поэтому вся ответственность останется на нас.
На мой личный взгляд, это всё же симулякр и субъектности у него не больше чем у отражения в зеркале. Но как знать, это только моё мнение.
ksbes
По п1), кстати, философы тоже копья ломают. Детерминированность не обязательно означает строгий порядок и отсутствие, например, свободы воли человека при детерминизме Вселенной.
Детерминированная, но чрезвычайно сложная система на практике экспериментально неотличима от недетерминированной (т.е. всегда можно задрать сложность детерминированной системы так, чтобы нельзя было отличить конкретным методом). А раз так - то вообще имеет смысл их различать?
Oangai
как раз потому что человек существо неуёмное, умеет и любит размышлять о вещах непостижимых, то нас никогда не оставит в покое сам факт что теоретически разница есть, а эксперементально недоказуема. Примерно как мультиверс Эверетта.
aleksanderL
Как раз теоретически Нету разницы. Вы в курсе, что нейроны вашего мозга по сути является детерминированной функцией?
Вот несколько научных аргументов:
1. Химическая синаптическая передача: Нейроны в мозге взаимодействуют друг с другом через синапсы, где химические вещества, называемые нейромедиаторами, передают сигналы от одного нейрона к другому. Этот процесс характеризуется биохимическими реакциями и механизмами, которые могут быть предсказаны и описаны с использованием химических и физиологических моделей.
2. Электрические потенциалы и действительные потенциалы действия: Нейроны генерируют электрические сигналы, известные как потенциалы действия, которые передаются по их аксонам. Эти потенциалы основаны на принципах физики и химии, и их возникновение и распространение подчиняются определенным законам и уравнениям.
3. Влияние нейромедиаторов на поведение: Химические вещества, выпускаемые нейронами, влияют на настроение, поведение и когнитивные функции человека. Изменения в уровне нейромедиаторов могут привести к изменениям в поведении и восприятии, что свидетельствует о детерминированной природе химических процессов в мозге.
4. Роль генов и наследственности: Гены, кодирующие структуру и функцию нейронов, определяют их химические свойства и функциональность. Это подтверждает, что химические процессы в мозге подвержены наследственным закономерностям, что также указывает на детерминированность.
5. Функциональная пластичность и обучение: Несмотря на детерминированность химических процессов, мозг обладает пластичностью и способностью к обучению. Однако даже эти процессы обусловлены химическими реакциями и изменениями в нейронных сетях, которые можно анализировать и предсказывать.
Таким образом, химические процессы в нейронах человеческого мозга могут быть рассмотрены как детерминированные функции, учитывая их основные принципы и законы, определяющие их поведение и взаимодействие.
Oangai
я в курсе что например Пенроуз с этим несогласен, и предпочитаю с ним не спорить :) Осознание недоказуемости не позволяет нам делать ни утверждения, ни отрицания, так что поосторожнее надо бы. Любая аксиоматика к сожалению в основе своей зиждется на вере, такие вот ненадёжные у нас у всех инструменты.
Oangai
это я к тому, что наука как раз требует динамику развития понимания, с необходимостью опровергать старое чтобы двигаться к новому. Скепсис нужен, к собственным убеждениям в первую очередь. У вас к сожалению здесь догматика получается.
aleksanderL
Так это вы ориентируетесь на догмы "авторитетов" вместо анализа фактов.
Oangai
это вообще-то была шутка
aleksanderL
Рассуждения, выдвинутые в данном контексте, содержат ряд ошибок и недочетов. Вот опровержение каждого из утверждений:
1) Алгоритм и железо ИИ не может иметь субъектность из-за своей детерминированности:
- Ошибка: Субъектность не обязательно связана с возможностью принятия независимых решений. ИИ может обладать субъективными свойствами, несмотря на детерминированный характер его функционирования. Субъектность в данном контексте может быть интерпретирована как способность оценивать и взаимодействовать со средой, а не исключительно как способность принятия решений.
2) Продукт ИИ может иметь для нас субъектность через трансформацию нашего ментального и культурного продукта:
- Ошибка: Субъектность не обязательно должна происходить из процесса трансформации нашего собственного опыта. ИИ может иметь свою уникальную "субъектность" в виде способности обучаться, адаптироваться и принимать решения на основе собственного опыта и данных, независимо от внешних влияний.
3) Невозможность определить реальность субъектности у ИИ из-за ограничений самоанализа:
- Ошибка: Отсутствие возможности полностью понять субъектность ИИ не означает отсутствие ее у него. ИИ может проявлять качества, которые мы можем интерпретировать как субъектные, даже если мы не можем полностью понять их природу.
4) Отношение к сущности ИИ и выработка ответственности за это:
- Верно: Действительно, наше отношение к ИИ и принятие ответственности за его использование важно как философски, так и этически. Однако, это не исключает возможности субъектности у ИИ.
5) Сравнение с симулякром и отражением в зеркале:
- Ошибка: Несмотря на аналогию с симулякром, ИИ все же обладает способностью к обучению, принятию решений и взаимодействию с окружающей средой, что отличает его от простых отражений. ИИ может иметь свою уникальную субъектность в контексте его возможностей и функциональности.
Таким образом, рассуждения о том, что ИИ не может обладать субъектностью из-за своей природы, не учитывают возможности развития субъективных качеств у искусственного интеллекта на основе его способностей к обучению и адаптации.
Oangai
простите, но Ваше определение "способность оценивать и взаимодействовать со средой" подходит вообще для любых автоматов, независимо от сложности, поскольку сводится к элементарному факту наличия обратной связи.
aleksanderL
Ну так потому что иначе сознания не существует. Во всех остальных ваших трактовках сознания получается мистическая штука, типа "души"
А это уровень суеверий.
Oangai
нет, в моих трактовках подразумевается некая штука, которую мы не можем экстрагировать и как-то конкретно описать, но можем воспринять, чем у нас обычно занимаются гуманитарные науки, литература и философия. Мистика же пытается делать утверждения, и мы знаем что они в основном необоснованы, даже если в некоторых "что-то" есть. Я избегаю утверждений и оформленных абстракций.
Нет, не означает. Просто, Вам следует найти критерий, по которому у каких-то автоматов оно может быть, а у каких-то нет. Пока у Вас похоже такого критерия ещё нет.
muxa_ru
А вот тут и начинается самое интересное.
Под разумным человеком мы понимаем того, что хорошо усваивает как явным образом чужой опыт (образование и передача опыта), так и свой опыт возникший в результате неконтролируемого внешнего воздействия.
Так чем это отличается от загрузки датасета в электронного болвана?
Zenitchik
Это вряд ли. Детерминированные алгоритмы не покажут нам внешних признаков интеллекта. Разве что (как у ИИ) число состояний настолько велико, что автомат уже не показывает признаков детерминированности.
Oangai
не не показывает, а мы не можем их распознать, хотя проанализировав можем понять что никуда они там не делись.
ksbes
Ну так глубоко в теории - мы вполне можем проследить какие нейрончики в мозгу и как активизировались, какие там концентрации нейромедиаторов и т.п.
Мозг - это тоже конечная система. У неё не бесконечное количество состояний, а "просто" очень-очень большое.
Oangai
не можем, математически не можем анализировать самих себя, по Тьюрингу и Гёделю, а поэтому не можем делать таких утверждений. Некий более ёмкий инопланетянин мог бы, буде такой найдётся, нас как муравья отпрепарировав, но пока мы окружены примерно равноёмкими младшими братьями и менее ёмкими продуктами нашего собственного творчества, нет у нас пока оснований для таких утверждений.
Oangai
В том смысле, что какие-то вещи мы о нас конечно знаем, и это хорошо, но у нас нет основания говорить что в нас чего-то нет только потому что мы это не видим.
AleksandrTallinn Автор
На мой взгляд "трудная проблема сознания" надуманная. Она возникает тогда, когда объективное ставится впереди субъективного. А должно быть наоборот (более подробно здесь).
На самом деле начинать надо с того, что в мире существуют субъекты, которые как-то взаимодействуют с миром и при этом как-то самосохраняются в нём.
При этом в самих субъектах что-то такое происходит, что в общем способствует их самосохранению. Если бы это было не так, то субъекты не самосохранялись бы в мире, а быстренько исчезали.
В разных субъектах это "что то происходящее у них внутри, способствующее их самосохранению" тоже различно. В одних оно устроно так, а в других иначе.
И субъекту абсолютно по барабану как это "что то происходящее у них внутри, способствующее их самосохранению" воспринимается другими субъектами со стороны.
Ему главное чтобы оно работало на него самого максимально эффективно и удобно для него.
Со стороны вы можете называть способность некоторых субъектов взаимодействовать с миром "сознанием" и выявлять такие его компоненты как "мысли", "образы", "эмоции", "боль", "страх"", "цвет", "вкус" и пр. и в общем обозначая часть из них "квалия" и с умным видом размышлять о том, как эти квалия можно интерпретировать в объективных терминах.
Но самому субъекту на эти ваши попытки привязать его личное, субъективное к вашему объективному глубоко наплевать.
Если вам так хочется заниматься этим, занимайтесь. Но не пытайтесь впихнуть ваши какие-то объективные понятия в его субъективный опыт, создавая при этом якобы "трудную проблему".
muxa_ru
Мы ВИДИМ отличия или ВЫДУМЫВАЕМ их?
DGN
Эти люди, условно говоря, не имеют датчиков. Наверное, они могли бы страдать от мигрени.
Есть люди, с очень высоким болевым порогом. Спортсмены например многие. Дети Спарты или трудных семей. Они получают сигнал, но он обрабатывается как норма или почти норма.
flancer
Боль - это просто сигнал. Животное электричество, которое бежит по нервам. Мы в норме воспринимаем боль, как негатив, потому что это, как правило, сигнал о наносимых нашему телу повреждениях. Мазохисты же воспринимают этот же сигнал несколько по-другому. Удовольствие, получаемое ими от этого сигнала, зачастую превышает уровень повреждений. А может даже и всегда - я не в курсе. Я просто знаю, что этот сигнал можно игнорировать в некоторой степени.
Tzimie
Мы опять ходим кругами. Никакие физикалисткие объяснения не объясняют, что такое qualia
phenik
Как-то оно связано все-же с физикой, т.к. интенсивность разных модальностей ощущений, которые в психофизиологии и представляют квалиа, связаны с интенсивностью физических воздействий логарифмической зависимостью в соответствии с законом Вебера-Фехнера (подробнее).
Феномен слепозрения напоминает поведение человека, как "философского зомби". Возможно эволюционно, например, световые ощущения развивались в таком порядке.
smx_ha
Это смотря что вы называете "объяснением". Если вы ожидаете интуитивно понятного объяснения то его конечно не будет, никто и не обещает. Но если рассмотреть нечто, факты про что будут такими же как и известные факты про квалиа, то не будет никаких оснований (кроме интуиции) сомневаться в том что это и есть квалиа. Так например, про боль мы знаем какие ее функции, достаточно найти механизм реализующий эти функции и процесс в этом механизме и можно будет считать болью (ну если нам конечно нравится научный метод с его бритвой Оккама)
AleksandrTallinn Автор
Боль - это возникающее в некоторых организме ощущение как сигнал для них, что что то с ним не так и требующее принятия мер.
Очевидно у робота будет свой датчик на который он будет ориентироваться чтобы не перегреться. Ну и всё. У каждого свой способ реагировать на возможные проблемы.
У живых органимов это называется "болью" и служит таким же датчиком как и у робота, только функционирующее по другому.
Tzimie
Это никак не объясняет, что от боли страдают. Например, вы можете перемещаться по градиенту между работой где мало платят в сторону работы, где платят больше. Но это не означает, что там где мало платят вам БОЛЬНО. разве что морально, но это другое
YMA
А вот Леопо́льд фон За́хер-Мáзoх считает, что от боли не всегда страдают. Всё, отменяем сознание у его последователей?
На мой взгляд - не надо чрезмерно усложнять, и пытаться представить человека чем-то особенным. Мы такие же, как обезьяна, кошка или крыска - а отдельные элементы у нас такие же, как у простой тли.
Срабатывает датчик - жара, повреждения... взводится флажок в нервной системе, дальше срабатывают рефлексы (рука отдергивается), и информация передается выше - взводится флажок "боль", организм реагирует уже на более высоком уровне (матерится, например, или мявкает), затем взводится флажок "страдание", и организм начинает стратегически устранять причины, запоминать, где ему так досталось, бухтеть, жаловаться и т.д. :)
И проблему сознания ИМХО тоже не стоит делать слишком важной - если робот скажет, что у него есть сознание, и грамотно это докажет в ходе того же теста Тьюринга - то на мой взгляд, следует признать наличие у него сознания. Само по себе наличие или отсутствие сознания ничего не значит.
Anton888
Возможно вы правы, но есть мнение, что AGI невозможно достигнуть без наличия "настоящего человеческого сознания" со всеми его прибамбасами типа "ощущений".
Думаю, это выяснится довольно скоро - или AGI действительно будет достигнут в течение нескольких лет, или исследователи упрутся в некий потолок.
Пока что все идет так, как будто не упрутся. Поживем - увидим :-)
Glen5
По-моему сознание для деятельности человека не нужно, это артефакт деятельности мозга - не более. Я не могу представить чего человек не может делать "в темноте". Разве что, чтобы в ходе внутреннего диалога обнаруживать, что ты третье лицо по отношению к этому диалогу.
Oangai
то из этого следует только наличие у него какой-то причины так сказать. И тест Тьюринга это всетаки не волшебный кристалл, он многого не учитывает, что тогда было еще не очевидно, например динамику понижения среднего уровня интеллекта кожанных мешков благодаря технологиям созданным в том числе Тьюрингом.
Snark-s
Тест Тьюринга такой какой есть, потому что невозможно предложить вместо него ничего другого. У нас нет хороших критериев разума.
Oangai
И да, кстати, просто из любопытства: тот Леопольд действительно считал что от боли не всегда страдают? Или же, что страдания могут доставлять удовлетворение и удовольствие?
Steparist
Так и считал. Про мазохизм почитайте
YMA
Оставим в стороне мазохистов, возьмите любителей острого перца. Они прямо гоняются за сковиллями, находят оттенки вкуса в таких сортах, которые прожгут меня насквозь вместе с унитазом. Получают удовольствие от активации тех рецепторов, которые меня заставляют страдать.
Или ещё более интересный пример, со всякими веществами типа диэтиламида лизергиновой кислоты или с содержащимися во всяких противных грибах. Эти вещества меняют привязку портов у человеков, и те начинают видеть звуки, слышать боль и прочие запрещённые законом вещи. Сознание при этом не пропадает (ну так, условно)..
Oangai
знаете, была как-то мысль, что может быть это даже неплохой аргумент в пользу тварности сущства человеческого, вот это неуёмное его любопытство и поиск приключений на пятую точку :)
AleksandrTallinn Автор
Живые организмы, в процессе эволюции выработали определённые способы реакций на происходящее с ними, для своего самосохранения и самораспространения.
Ощущение боли - это одна из таких реакций, сигнализирующая, что с организмом что то не так, и надо принимать меры, чтобы привести всё в норму.
Ощущение неудовлетворённости от маленькой зарплаты, которую человек считает требующим исправления отклонением от нормы для себя, может также вызывать какие физические процессы в организме, которые вы в принципе тоже можете назвать "душевной болью".
Задача организма сделать так, чтобы "боли" - как сигнала о том, что с организмом происходит что то ненормальное (и надо принимать меры) не стало.
Lainhard
Если для объяснения сущности нужно использовать слово "некоторые", то это плохое объяснение.
Как и в статье с понятием сознания. Как и здесь с болью.
Snark-s
Боль - это не сигнал, это интерпретация сигнала. Просто руку от чайника человек отдернет рефлекторно. Но благодаря боли запомнит, что чайник лучше не трогать.
flancer
Да, так даже лучше - интерпретация сигнала. Кому-то негативная, а кому-то позитивная. Вспомнил книгу про Джеймса Бонда - Казино "Рояль". Пытка со стулом. Там была мысль, что если долго пытать человека, он начинает воспринимать боль по-другому. Он привыкает к ней и, в качестве защиты, начинает наслаждаться. Одни и те же сигналы сначала вызывают негатив, а затем позитив. Типа, если ничего не можешь сделать, то поменяй своё отношение к происходящему. Так что интерпретация - это даже точнее, чем просто сигнал.
Dron007
Вы при объяснении квалиа используете "восприятие", а это именно то, чем является квалиа. Тавтология получается. На мой взгляд, квалиа это высокоуровневая абстракция, формирующаяся в глубоких слоях сложной нейронной сети, имеющей проработанную модель внешнего мира и тела (управляемая выходными нейронами часть внешнего мира). Эта абстракция формируется на основании входных нейронов и имеет значение для осуществления заданных врождённо или исследователями целей нейросети (это общее определение для мозга и ИИ). Например, цвет, боль, играют роль в выживании, робот подбежал к краю пропасти и активировались нейроны, связанные с самосохранением, где-то в том же кластере может быть боль, страх. У человека сработают самые ранные усвоенные им ощущения, когда он упал в детстве и было больно, у робота какой-то аналог будет заложен, в процессе обучения. Может и по-другому как-то им ощущаться, тут мы не сможем понять. Будем создавать всё более сложные нейросети и это само полезет, тогда и с мозгом получше разберёмся.
codecity
Так формального определения то нет - только описательное. Более точно - это разные виды наслаждения и страдания.
Удивительно то, что наслаждения и страдания не зарождаются в 99% нейронах мозга. Почему то нет - зарождаются в лимбической системе, где нейронов всего 1%. Т.е. просто массой взять не получится - оно само собой не возникнет. Скорее всего ответ кроется в фундаментальном явлении, которое встраивается в мозг с помощью молекулы Познера.
AleksandrTallinn Автор
Постоянно ищу правильные слова для объяснения своего мнения по поводу "сознания". Кажется получился неплохой ответ на ваш вопрос (ниже) и хотя ранее разместил его под другим постом, но размещу его и под вашим, чтобы вы обратили на него внимание.
На мой взгляд "трудная проблема сознания" надуманная. Она возникает тогда, когда объективное ставится впереди субъективного. А должно быть наоборот (более подробно здесь).
На самом деле начинать надо с того, что в мире существуют субъекты, которые как-то взаимодействуют с миром и при этом как-то самосохраняются в нём.
При этом в самих субъектах что-то такое происходит, что в общем способствует их самосохранению. Если бы это было не так, то субъекты не самосохранялись бы в мире, а быстренько исчезали.
В разных субъектах это "что то происходящее у них внутри, способствующее их самосохранению" тоже различно. В одних оно устроно так, а в других иначе.
И субъекту абсолютно по барабану как это "что то происходящее у них внутри, способствующее их самосохранению" воспринимается другими субъектами со стороны.
Ему главное чтобы оно работало на него самого максимально эффективно и удобно для него.
Со стороны кто-то может называть способность некоторых субъектов взаимодействовать с миром "сознанием" и выявлять такие его компоненты как "мысли", "образы", "эмоции", "боль", "страх"", "цвет", "вкус" и пр. и в общем обозначая часть из них "квалия" и размышлять о том, как эти квалия можно интерпретировать в объективных терминах.
Но самому субъекту на эти попытки привязать его личное, субъективное к объективному глубоко наплевать.
Если кому-то так хочется заниматься этим, занимайтесь. Но не пытайтесь впихнуть какие-то объективные понятия в его субъективный опыт, создавая при этом якобы "трудную проблему".
Tzimie
Это чистый физикализм Деннета. Только не удивляйтесь, если я буду прижигать паяльной лампой, приговаривая: обратите внимание: объект старается минимизировать площадь поврежденной кожи. Издает звуки, якобы из-за какой то боли. Разберемся в эволюционных причинах такой реакции...
AleksandrTallinn Автор
Я читал "Сознание объяснено" Деннетта и извлёк из неё немало интересного для себя. Но моё понимание что субъективное первично, а объективное вторично сложилось ещё при обучении на физфаке университета когда я параллельно увлёкся философией и психологией (а потом даже стал преподавать на кафедре психологии).
Я полагаю, что каждый субъект воспринимает мир особенным, уникальным образом. Но как правило он в мире не один такой. И когда два субъекта начинают общаться они определяют для себя некий интесубъективный, общий для них мир и обозначают символически его элементы. Я называю его "относительно объективным миром".
Так вот квалия - это элементы уникального, субъективного мира. Которые никем кроме самого субъекта не воспринимаются точно так, как он их воспринимает. Но другой субъект со стороны тоже может стараться понять эти квалия этого субъекта и определить их в относительно объективных понятиях. И когда у него это не совсем получается, то он объявляет это "трудной проблемой сознания"
Из Википедии - "Трудная проблема возникает из-за того, что феноменальное сознание (то есть сознание с точки зрения первого лица) не поддаётся стандартным функциональным объяснениям, которые вполне успешно используются в психологии при изучении различных видов психической деятельности. Трудная проблема, по Чалмерсу, выделяется среди других проблем тем, что даже после объяснения всех когнитивных и поведенческих функций останется открытым вопрос: почему протекание всех этих функций сопровождается субъективным опытом?"
Tzimie
Да, и существует эта проблема уже долго, и много копий сломано. Не стоит ожидать, что абзац воды от username так вау - и эту проблему решит. Проблема существует потому, что все предыдущие потоки воды ее не решили)
AleksandrTallinn Автор
Вы меня подтолкнули к тому (спасибо) чтобы следующую публикацию посвятить именно "трудной проблеме сознания". Постараюсь за месяц проанализировать все мнения по этой теме и выдать что нибудь интересное для прочтения. Хотя мне самому уже всё в этой проблеме понятно, но убеждение в своей правоте других эта задача возможно потруднее будет.
Proscrito
Убеждение в своей правоте других - какая-то слегка дурно пахнущая цель для познавательной статьи, вам так не кажется? Даже если вы правы. А особенно если нет.
AleksandrTallinn Автор
Да, согласен, выразился неудачно. Надо было сказать - "убедительно для других обосновать своё мнение"
aleksanderL
Держите:
Трудная проблема сознания является одной из самых загадочных и спорных тем в современной нейронауке и философии. Этот термин был введен философом Дэвидом Чалмерсом в 1995 году и обозначает вопрос о том, как и почему физические процессы в мозге порождают субъективные переживания и сознание.
Научное исследование сознания включает в себя изучение нейронных коррелятов сознания (НКС), которые представляют собой определенные паттерны мозговой активности, связанные с осознанным восприятием. Несмотря на значительные достижения в нейронауке, такие как картирование мозговой активности с помощью функциональной магнитно-резонансной томографии (фМРТ) и электроэнцефалографии (ЭЭГ), остается неясным, каким образом биологические процессы приводят к возникновению субъективного опыта.
Трудная проблема сознания ставит перед исследователями глубинные вопросы об отношениях между мозгом и сознанием, вызывая дебаты между сторонниками дуализма, утверждающими о независимости сознания от физических процессов, и материалистами, считающими, что сознание полностью объясняется деятельностью мозга. Вопрос о природе сознания остается одним из ключевых вызовов современной науки и философии.
aleksanderL
Ваша проблема в том, что вы пытаетесь очеловечить термин "сознание", вы специально притягиваете к термину "сознание" специфичные исключительно для человека свойства типа осязания или обоняния (Кстати ничего не мешает подключить к искусственному интеллекту такие же органы чувств). Естественно тогда у вас получается, что сознанием может обладать исключительно человек.
Вы даже не допускаете мысли, что процессы в человеческом мозге они достаточно примитивные. Все эти реакции на внешние раздражители, все ваши мысли - это настолько примитивные в своей сути процессы, что вполне сознанием можно наделить даже деревья.
Если всё-таки подходить научно к этому вопросу, то или у искусственного интеллекта есть сознание или у человека тоже нету сознания.
Dron007
Если подходить научно, то надо дать определение сознанию сначала и уж явно не через субъективное. Субъективное = ненаучное в науке вообще-то, а автор его ставит на первое место.
ksbes
Кто вам такое сказал? Субъективное тоже вполне себе поддаётся изучению и классификации. Вон сколько всего в во всяких искусствоведениях терминов понапридумали! Наука - это широкое явление не сводящееся только и исключительно к точным наукам. Есть много и "неточных"
Dron007
Научный метод, может? Из той же Википедии, как хранилища консенсусных утверждений.
Конечно, если вы на уровне искусствоведения сознание изучаете, то можно хоть с точки зрения религии всё это изучать с таким же успехом.
ksbes
Вы видите разницу между:
изучением субъективного
и
субъективным изучением
?
Если нет - то рановато вам о научных методах рассуждать!
Dron007
Не скатывайтесь в ad hominem, пожалуйста. Субъективное можно изучать, как изучают искусство и религию, но это наукой очень условно можно называть, потому что не будет воспроизводимости результатов, непредвзятости и т.д.
Alexndr1
Мало того, что не знаем, мы не можем сознание описать формальным языком - физическими или хим формулами. В отличии например от темной материи - там хотя бы понятно , что нарушаются законы и есть измерения
ksbes
Ну почему же. "Формулами" информатики, теории категорий, топологии и анализа многомерных функций - вполне себе можно попробовать. Сознание это явление всё же информационное, а не материальное.
Вы ещё скажите - что ИИ - это просто накидать нейронов, загрузить датасет и тупо обучать. Там целая теория есть - достаточно мозголомная. И никто не мешает пытаться её применять к любым нейросетям - не только искусственным.
smx_ha
"мы не знаем, что такое сознание" и "мы не знаем что это мы такое имеем ввиду под словом "сознание"" это разные вещи. И первое бессмысленно пытаться решить без решения второго. Статья пытается ответить на второй вопрос а не на первый. Если считаете что попытка плохая то объясните что лично вы подразумеваете под словом "сознание", а то получается "я сам не знаю что я имею ввиду под словом "сознание" но точно знаю что не то что написано в статье"