Мы часто обсуждаем, когда у нас будет полноценный ИИ. И пока до него довольно далеко. Разницу между “ребята готовы к обеду” и “цыплята готовы к обеду” ИИ еще плохо видит, потому что мало данных из внешнего мира. Это меняется, хоть и небыстро. Однако я утверждаю, что ИИ уже существует (хотя первая буква И — не верна). Мы просто смотрим не туда.
Китайский мозг
Один из мысленных экспериментов, на которые ссылается Дэвид Чалмерс, ведущий философ, изучающий теорию сознания, таков (процитирую отрывок полностью)
«Китайская нация» — мысленный эксперимент, предложенный Недом Блоком в 1978 году для опровержения функционализма. Эксперимент Блока схож с «Китайской комнатой», однако Блок предлагает использовать множество китайцев, каждый из которых бы эмулировал нейрон искусственного мозга. В такой системе каждый китаец имел бы телефон и список номеров других китайцев. В зависимости от того, когда зазвонил телефон конкретного китайца, он бы звонил кому-либо из своего списка. При этом передача сообщения по телефону не требуется, необходим лишь только факт звонка (так же происходит взаимодействие между нейронами). Тогда, если в такой системе создать функциональное состояние, которое появляется при восприятии боли, вся «Китайская нация» окажется в состоянии боли, при этом ни один из китайцев не будет эту боль чувствовать. Это применимо к любым ментальным состояниям и чувствам
Конечно, у человека больше нейронов (порядка 80-100 миллиардов) чем китайцев пока (1.2 миллиарда). Следует заметить, правда, что половина нейронов головного мозга человека находится в мозжечке (вспомогательный процессор, отвечающий за движения) и не связаны с сознанием.
Когда Нэд в 1978 году описывал этот эксперимент, он не догадывался, что он будет осуществлен почти буквально.
Сейчас почти каждый человек на Земле связан с другими социальными сетями, и “координационное число” – число соседей – очень велико, оно очень сильно выросло буквально за пару последних десятилетий. Причем образовавшаяся сеть имеет два типа узлов – люди и Интернет (страницы соц сетей, посты, репосты, комменты, видео). Сеть знает, как выглядят предметы (наберите интересующее слово в гугле и посмотрите картинки) и видит мир миллионами глаз смартфонов. Иногда по сети пробегают явно ощутимые возбуждения от острых новостей, слухов, распространяются более медленные волны хайпа.
Конечно, не факт, что большая система обладает чем-то большим, чем сумма ее элементов. Огромная ферма для майнинга будет просто большой фермой для майнинга. Но простое повторение элементов такой фермы обозначает ее простую структуру и искусственность строения. Напротив, конгломерат людей и интернета (не интернет отдельно! Именно вместе!) обладает важными особенностями:
- Он не построен по единому плану
- Его развитие естественно (natural, как явление природы, а не artificial) – хотя каждый конкретный патчкорд обжат artificially вполне определенным человеком за определенные деньги.
Если 100/2=50 миллиардов нейронов (хм, достаточно одного полушария, значит 25) достаточно для появления сознания, то было бы крайне наивным считать, что значительно более сложная система (Солярис, не путать с кредитопомойкой), естественным образов развившаяся на планете Земля, не обладает сознанием.
Да, мы не знаем, что такое сознание, но интуитивно понимаем, что у котиков и собачек сознание есть, что им может быть больно, хотя и не знаем, есть ли сознание у рыбок, и, если мозолистое тело рассечено, одно сознание у человека или два. Но наша интуиция работает в “меньшую” сторону, в сторону котиков. А как это работает в “большую” сторону?
Мозг с точки зрения нейрона
Так как мы не более, чем нейроны в “Солярисе”, то давайте попытаемся понять, как мы воспринимаем “Солярис” изнутри. Вообразим себе “умные” нейроны внутри нас и возьмем у них интервью. Нейрон расскажет много интересного – и про дневные циклы, и про то, что они странным образом сбиваются 2 дня из 7 (спим дольше по выходным), и про разные виды активностей и волн. Наш умный нейрон расскажет нам про кучу интересных коррелятов, но он не в силах предположить, пойдет ли сигнал поднять руку в следующий момент или нет.
Более того, все объяснения нашего уровня (руку поднял, потому что захотелось налить кофе) на уровне нейрона трансцендентны, и он в принципе не способен их понять. Ни кофе, ни “налить”, и тем более желаний пройтись по улице нейрон не понимает и не способен понять.
Так же и мы можем сколько угодно рисовать графы связанности людей ЖЖ, исследовать скорость распространения fake news и сравнивать активность соцсетей, это не более чем корреляты. Причины многих явлений в мире интернета для нас трансцендентны по своей сути и нами принципиально непознаваемы. То есть многие вещи происходят потому, что Интернет это захотел.
Я думаю, Big Data – это важный орган чувств “Соляриса”, и он отращивается им осознанно. Конкретные причины в конкретной стране (типа закона Яровой) могут варьироваться. Эти люди думают, что делают это осознанно, но на более высоком уровне исполняют другой замысел. Если бы повода собирать данные не было бы, то повод бы придумали. Волна хайпа заставляет прокачиваться группы нейронов, каждый из которых на всякий случай хочет быть связан с Big Data и HighLoad, даже если всю информацию проекта можно поместить в Эксель. Так что не следует удивляться, когда вы видите внешнюю нелогичность развития IT – этих кажущихся нелогичностей будет становиться все больше и больше.
Комментарии (130)
pavia
25.12.2019 14:12-1А какая связь между яровой и бигдатой? яровая это не про бигдату, это скорей всего про энтропию, т.е. разложение и смерть.
LineAir
26.12.2019 13:23Живые организмы постоянно подстраиваются под изменения среды — новый вид бактерий или вирусов, меняющийся климат, ухудшение экологической обстановки. Так вот закон Яровой может являться неким патогеном, который организму «Интернет» придётся пережить в некоторых его локальных частях. «Интернет» точно не умрёт от этого, как то приспособится.
LunaticRL
25.12.2019 14:20+2Идея конечно интересная, наталкивающая на интересные мысли, но вот в чем проблема: в текущей формулировке она не работает (кажется совсем), ведь если мы «нейроны» огромного мозга, и общее сознание для нас «трансцендентно», то рушатся следующие логические моменты:
1) Эта теория не проверяема по самой своей формулировке, равно как и чайник рассела
2) Такое предположение должно что-то предсказывать. Что-то вполне измеримое. Подумайте, какой будет ответ на такой вопрос: «Существует 2 мира, абсолютно идетничных во всем, кроме одного момента: в одном интернет стал глобальным разумом, о котором вы говорите, а в другом — не стал. По каким признакам вы отличите, в каком из миров вы находитесь?» Если ответ — эти миры не отличаются, то здесь вступает в дело бритва оккама, срезающая теорию о разумном интернете, как требующую больше допущений.
Думаю вашей идее нужно больше конкретики, тогда можно будет рассуждать о ее истинности или ложности
Tzimie Автор
25.12.2019 14:38Это все так, но проблема в том, что та же самая бритва точно так же вырезает и наличие сознания у любого конкретного индивида (кроме вас самих). Более подробно можно почитать о философском зомби
Также мой ответ тут: habr.com/ru/post/443002LunaticRL
25.12.2019 15:52Может сделаете разбор, как соотносятся эти идеи?
Философский зомби и глобальное сознание — интернет
Думаю будет интересно почитать, как аргументы применимые к зомби будут применимы к интернетуTzimie Автор
25.12.2019 16:16+4Так это был ответ на ваше замечание, что наличие интернетом сознания нефальсифицируемо в научном смысле. Однако, точно также не фальсифицируемо наличие сознания у вас. Если я встану на чисто материалистические позиции (функционализм), то вы никакк мне не докажете, что вы не зомби.
Кстати, есть философы, которые отвергают наличие сознания… даже у себя.
линк
lostmsu
25.12.2019 17:24+1Я не вижу причин плодить сущность "философский зомби", когда есть сущность "сознание", и они не отличимы.
alexdesyatnik
25.12.2019 17:51Здесь бритва Оккама срабатывает как раз в обратную сторону. Сущности «сознание» (точнее, «человек, осознающий себя») и «философский зомби» неотличимы внешне, но «Ч, ОС» сложнее, т.к. у него в добавок к внешне разумному поведению «горит свет внутри»: он осознаёт себя, а философский зомби — нет. При этом философский зомби, конечно же, будет утверждать, что он себя осознаёт, но это будет ложью (просто он запрограммирован так врать).
Vilaine
25.12.2019 20:24просто он запрограммирован так врать
Он запрограммирован так считать, то есть всё его поведение (в т.ч. и разговор) строится из этого факта. Но мы тоже запрограммированы считать, что у нас есть какое-то объективное трансцедентное «сознание», что приводит к куче когнитивных ошибок.alexdesyatnik
25.12.2019 20:43Да, «врать» тут не вполне корректный термин, конечно же. Тем не менее, несмотря на иллюзорность нашего «Я» по крайней мере в обыденном понимании (как целостной и в общем-то неизменной структуры), как минимум есть что-то наблюдающее (необязательно одно и то же в разные моменты времени), что-то, воспринимающее квалиа. Философский же зомби по сути нечто вроде конечного автомата, пусть и с огромным количеством состояний, но безо всякой внутренней жизни, которая сама себя осознаёт.
MooNDeaR
26.12.2019 00:01Но почему сознание — это не конечный автомат? Почему мы считаем, что мы сами не зомби? Как отличить "квалиа" от решений "зомби-автомата"?
alexdesyatnik
26.12.2019 07:32Потому что конечному автомату просто нечем воспринимать квалиа? Где в конечном автомате тот внутренний наблюдатель, который доступен непосредственно в ощущениях каждому человеку? Нет, можно, конечно, предположить, что внутренний наблюдатель — свойство, характерное для конечных автоматов определённой сложности и/или структуры, но это предположение обладает нулевой объясняющей силой в контексте вопроса «откуда вообще берётся сознание?»
MooNDeaR
26.12.2019 13:13С чего вообще кто-то взял что есть "сознание"? Только с того факта, что он его "чувствует"? Но на что похоже это сознание, как его описать? Что значит "чувствовать"? Чем ощущение собственного сознания отличается от любого другого ощущения, вроде прикосновения. "Ощущение сознания" может быть лишь реакцией на некое внешнее воздействие мира, причем само воздействие для нас неведомо.
alexdesyatnik
26.12.2019 19:16Да, именно с того факта, что вот лично мне в моих ощущениях дано, что я есть, что я воспринимаю то, что со мной происходит. Я — «внутренний наблюдатель» в этом теле (и в этом разуме, кстати, тоже: как оказалось, очень многие мыслительные процессы проходят совершенно мимо внутреннего наблюдателя, и от него зависит гораздо меньше, чем обычно считается).
Насчёт вас (и всех остальных окружающих) не уверен, может быть у вас действительно сознания нет :)MooNDeaR
27.12.2019 10:37Так ведь нет никаких причин считать, что сам внутренний наблюдатель — просто часть мыслительных процессов, которые от него не зависят, т.е. никакого наблюдателя-то и нет. Может быть я и правда просто зомби и принципиально не могу понять вас и потому мой конечный автомат сломался)
Vilaine
26.12.2019 19:00Принципиально человек — тоже конечный автомат (если мы согласны с тем, что квантовые эффекты не влияют на работу мозга и души не существует), т.к. у его нейронной сети конечное пространство состояний. Сэмулируйте мозг в несуществующем пока сверхкомпьютере и получите номер состояния, конечный набор 0 и 1, меняющийся от входящих данных.
alexdesyatnik
26.12.2019 19:02Если, вот именно. Если рассматривать человека как конечный автомат, становится решительно непонятно, откуда там сознание.
Vilaine
26.12.2019 19:08Хорошо, а так как мы — разумные материалисты и вышеупомянутые условия можно пока считать фактом, значит мы пришли к общему итогу: человек — философский зомби, биоробот с иллюзией самосознания.
Tzimie Автор
27.12.2019 12:03Иллюзии самосознания быть не может. Ибо иллюзия подразумевает наблюдателя. Без наблюдателя иллюзии быть не может.
Vilaine
27.12.2019 19:59"Иллюзия наблюдателя быть не может, ибо иллюзия подразумевает наблюдателя". Вам бы как-нибудь подкрепить свои постулаты, что ли. По словарному определению «иллюзии» они случаются у роботов уже сейчас, у несложных нейронных сетей и даже ненейронных алгоритмов. Для сложных иллюзий нужны и сложные структуры. Социальному биороботу потребна кажущаяся собственная субъективность.
Tzimie Автор
26.12.2019 12:21Снаружи? Увы, никак.
В этом то и проблема
Вы смотрели «Мир Дикого Запада»? Как узнать, чустсвуют хосты чтото или нет?MooNDeaR
26.12.2019 13:22Я то смотрел и помню, что сами хосты не уверены в существовании самих себя.
Если "снаружи" нельзя проверить есть ли сознание, не поделитесь инструкцией как его обнаружить "внутри"? Ведь моя собственная уверенность в том, что я скществую может исходить только из того факта, что мой зомби-конечный-автомат работает таким образом. Вызывает выработку нужных гормонов и запускает нужные нейроны. Так может происходить к примеру просто потому, что условный "бог" в начале создания мира увидел, что конечный автомат приходящий в процессе работы в состояние "бессознания" зацикливается :)
Tzimie Автор
27.12.2019 12:05Ведь моя собственная уверенность
Этого достаточно
Философский зомби тоже будет говорит об уверенности, но внутри сам ничего не чувствует.
lostmsu
26.12.2019 02:59+1А это утверждение фейлится по Попперу, т.к. нет способа отличить «сознание» от «философского зомби».
alexdesyatnik
26.12.2019 07:27Именно поэтому мы говорим о философии сознания, а не о науке сознания.
Tzimie Автор
26.12.2019 12:22именно. И если бы не абсолютная очевидность существования квалиа у себя самого, то любой ученый бы отмел квалиа как ненаучную ересь
MooNDeaR
26.12.2019 13:16Я вот не чувствую абсолютную очевидность наличия у меня сознания. Я просто допускаю, что "бог" из философского зомби задал параметры мира таким образом, чтобы спустя время в мире появились мысли о самом мире, т.е. все наши слова и рассуждения про философского зомби были изначально в параметрах сознания мира.
Fedorkov
26.12.2019 13:24чтобы спустя время в мире появились мысли о самом мире
Мысли неэквивалентны субъективным чувствам. Знать о существовании красного цвета и знать, как он выглядит — это не одно и тоже.MooNDeaR
26.12.2019 13:27Какие ваши доказательства?)
Fedorkov
26.12.2019 13:48Если вы правы, то, досконально изучив оптику, вы сможете мысленно ощущать цвета, которые никогда раньше не видели. И впервые увидев красный цвет, вы не узнаете и не ощутите ничего нового для себя.
MooNDeaR
26.12.2019 13:55Если я в полной темноте подключу условные "возбудители" (скажем электроды) к колбочкам в глазу или глазному нерву и начну ими создавать а нервах те же возбуждения, что создаёт падающий на них красный свет — внезапно, в абсолютной темноте, без источника света, я увижу красное свечение.
Fedorkov
26.12.2019 14:05Это будет ощущение красного, а не мысли о красном цвете.
Сделав это впервые, вы, скорее всего, почувствуете что-то новое для себя.MooNDeaR
26.12.2019 14:17Не вижу, как это связано с сознанием :) Точнее не вижу как тот факт, что сознание чувствует само себя доказывает, что оно существует как нечто отдельное, бОльшее, чем просто мозг.
Например тот факт, что сознание — это просто результат активности группы нейронов (т.е. результат работы конечного автомата) косвенно подтверждается тем, что человек спит и в целом способен был "без сознания". Я не нейробиолог, но скорее всего, все датчики показывают разную активность мозга, когда человек в сознании и без.
Само сознание — в такой концепции — это миф и его ни у кого нет. В сущности, аргументы про философского зомби довольно забавны "раз мы способны представить существо которое делае же то же самое, но ему не хватает вот этого чувства внутри (сознания), значит в целом люди обладают этим "нечто", без чего представляют других, а значит сознание — это что-то большее, чем конечный автомат".
Забавен и тот факт, что по определию, зомби тоже должен быть способен представить другого зомби, иначе он отличается внешне от человека. Значит способность представить существо лишённое сознания — это часть конечного автомата зомби, а следовательно эта способность ничего не доказывает.
Fedorkov
26.12.2019 14:41Никто (из неверующих) не утверждает, что сознание может существовать отдельно от физического носителя.
В естественных науках начисто отсутствуют законы и постулаты, из которых бы следовало, что в мозге помимо вычислительных функций есть ещё субъективные переживания. Именно в этом смысл аргумента зомби — указать на разрыв между наукой и сознанием, а не постулировать какую-то новую ненаблюдаемую сущность.
И да, такой зомби скорее всего невозможен. Чтобы быть неотличимым от нас, ему тоже придёт рассуждать на тему сознания, приписывая ему именно такие свойства, а не каких-то других сепулек.MooNDeaR
26.12.2019 15:14Я о том и говорю: нет никакого разрыва, он вымышлен.
Fedorkov
26.12.2019 15:23Тогда предложите модель в рамках физики, из которой неизбежно следуют субъективные переживания у человека.
Невозможность существования зомби как раз и указывает на этот разрыв.MooNDeaR
26.12.2019 15:56Чем существующая эволюционная модель не подходит, с положительным и отрицательным подкреплением действий? Все "девиантное" поведение объясняется случайными мутациями. Сами эмоции — лишь следствие того, каким образом сраслись нейроны в мозгу, но в целом основной каркас заложен в ДНК и лишь микромутации приводят к разнообразию.
Вот небольшой встречный вопрос: что вы называете "субъективными ощущениями"? Все мысли — это просто работа мозга, а эмоциональный окрас (субъективность) этим мыслям придает набор гормонов в организме, в сущности просто некие параметры, определяющие форму сигнала в нервах. Фигани в грустящего человека героин и вся его грусть закончится через минуту. Вся субъективность сводится к конечному множеству возможных реакций. Просто это "конечное" число определяется факториалом от количества связей нейронов, поэтому и кажется бесконечным и уникальным.
Fedorkov
26.12.2019 18:21Вы описали физические структуры и химические процессы, но по-прежнему остаётся непонятным, почему эти процессы должны сопровождаться субъективными переживаниями.
MooNDeaR
27.12.2019 10:32Так нет никаких субъективных переживаний. То, что мы называем "субъективным переживанием" не более чем химические и физические процессы. Почему эти процессы таковы — на этот вопрос и пытаются ведь ответить естественные науки, разве нет? Ну, т.е. я могу сказать, что все эти процессы работают, чтобы организм выжил, а наши "переживания" — это побочный продукт, но никто не знает, почему существует инстинкт самосохранения, откуда взялся мир и почему законы физики такие, какие они есть. В данный момент мы просто знаем, что все работает, но не знаем почему. Причем сознание тут вообще дело десятое.
fireSparrow
26.12.2019 15:59Сначала определите в рамках физики, что такое субъективные переживания.
Fedorkov
26.12.2019 18:14Субъективное нельзя описать в рамках физики, потому что физика сама находится в рамках субъективного. Строго говоря, физика — это описание закономерностей нашего опыта (той части, которую мы воспринимаем как внешнюю, материальную).
Tzimie Автор
26.12.2019 16:28Для опровержения философской концепции слова «забавно» недостаточно.
Вот Деннетт считает, что сознание — иллюзия, и ее ни у кого нет. Забавно?MooNDeaR
26.12.2019 17:21слова «забавно» недостаточно.
Там помимо слова "забавно" была ещё логическая цепочка о том, что философский зомби, как и зомби вообще — невозможен. В принципе невозможен, а не "невозможно отличить". В общем, если дальшейная ваша стратегия цепляться к словам, а не к аргументам, то тут можно и закончить)
Вот Деннетт считает, что сознание — иллюзия
Я не имею представления кто такой Деннет, да и мне откровенно пофиг :) Однако мысль о иллюзорности сознания я разделяю и в целом пытаюсь уже полдня это донести) Видимо как-то плохо стараюсь.
Druu
26.12.2019 14:22Сделав это впервые, вы, скорее всего, почувствуете что-то новое для себя.
Можно просто изменить те участки мозга которые отвечают за память так, чтобы они стали такими же как после наблюдения красного цвета. Тогда у вас будут знания о красном цвете, хотя вы никогда его не ощущали.
т.о., если в "знания оптики" включить память об ощущениях — действительно, ничего нового при виде красного цвета вы не узнаете.Fedorkov
26.12.2019 15:04Это будет память о восприятии цвета, а не знание о цвете.
Druu
26.12.2019 17:05Это будет память о восприятии цвета, а не знание о цвете.
Память — и есть знание. Человек будет знать, что такое восприятие цвета. Несмотря на то, что по факту его никогда не воспринимал. Никто не мешает это знание включить в "знание оптики", например.
Fedorkov
26.12.2019 18:25Память — и есть знание.
В ваших терминах получается, что в исходном аргументе у философского зомби есть субъективные ощущения.
playerro
26.12.2019 14:05-1В дополнение выше, слепые которые освоили навык эхолокации вполне себе могут видеть предметы
Vilaine
26.12.2019 19:05досконально изучив оптику, вы сможете мысленно ощущать цвета, которые никогда раньше не видели
Всё верно, если сильно постараться, и не такое сможете себе воображать. Можно вспомнить о ложных воспоминаниях. Можно без проблем ощущать несуществующее.
Tzimie Автор
26.12.2019 16:26Тут кстати недавно выяснилось, что есть люди, которые видят четыре, а не три основных цвета
Tzimie Автор
26.12.2019 16:25Тогда положите руку на горячую плиту. Вы увидите реакцию организма, который с помощью передачи специфических нервных импульсов постарается минимизировать ущерб телу. Или же ощущения все таки неприятны?
MooNDeaR
26.12.2019 17:27+1Так, я могу обколоться обезболивающими и ощущения будут "никакие". "Неприятное ощущение" — это лишь следствие перегрузки по амплитуде сигнала в нервах, а не какие-то субъективные восприятия. Ощущения приятности или неприятности от ожога не следствие моего сознания, а следствие того, какие гормоны плавают в организме. Если бы меня после каждого ожога кололи Героином, "я" бы думал, что ожоги приятны.
Tzimie Автор
27.12.2019 12:08Вы спортите только с тем, как перифирический сигнал может блокироваться, искажаться, и даже инвертироваться (вместо боли приятно), но не можете оспорить главного
«Какие гормоны» — с точки зрения физики и химии реакции и вещества не бывают «приятными» и «неприятными». Как только вы произносите эти слова, вы признаете существование субъективногоMooNDeaR
27.12.2019 12:54Я признаю существование множества возможных реакций на возможное внешнее воздействие, но утверждаю, что хоть это и огромное множество — количество вариантов конечно) Соответственно нет никакой субъективности) Просто тот факт, что одно и то же воздействие реализуется в разные реакции мы называем "субъективное ощущение") Однако нет никаких оснований полагать, что мы н конечный автомат)
fireSparrow
26.12.2019 13:45Известно, что регулярно и массово происходят ситуации, когда о некоторых объективных и проверяемых вещах люди с убеждённостью говорят «Я знаю, что это так. Это просто абсолютно очевидно. Какие тут ещё нужны доказательства?», но при проверке оказывается, что они ошибались.
Ergo, апелляция к очевидности не может служить доказательством.Fedorkov
26.12.2019 14:03при проверке оказывается, что они ошибались.
Этот аргумент относится только к объектам вне собственного сознания. Для собственных субъективных ощущений очевидное является истинным.fireSparrow
26.12.2019 14:15Переживание ощущения подтверждает только факт переживания ощущения, и ничего более. Оно не позволяет делать выводы ни о существовании неких сущностей, ни о механизме самого этого переживания.
Люди, лишившиеся конечности могут «испытывать» фантомные боли в отсутствующей конечности. Люди под воздействием наркотических веществ могут «чувствовать», что их тело становится очень большим или очень лёгким. Люди в пустой комнате могут «ощущать» чей-то взгляд или присутствие.
Точно так же когда чисто информационные процессы в моём мозгу воспринимают сигналы от глаза, которые распознаются как красный цвет, я могу воспринимать «красность». Но это никак не свидетельствет ни о существовании квалиа красности, ни о существовании сознания как какой-то отдельной сущности.Fedorkov
26.12.2019 14:50+1Переживание ощущения подтверждает только факт переживания ощущения
Сознание и квалиа по определению следуют из этих ощущений.
Философия сознания занимается поиском причин этих ощущений, но механизмы и отдельные сущности пока что обсуждаются лишь как спекулятивные гипотезы.
MooNDeaR
27.12.2019 13:58+2В общем, для всех тех, кому будет лень читать простыню споров ниже/выше, оставлю ссылку, в которой все наши аргументы "за" и "против" философского зомби изложены куда более развёрнуто и систематичнее: http://www.philosophy.ru/ru/zombies/
Просто я топлю за физикалистов)
P.S.
Процитирую основную мысль прости и главный аргумент против "аргумента представимости" на котором жиждется идея о существовании "зомби":
Предполагать, что вы по заказу можете вообразить отсутствие сознания, оставив в неприкосновенности все когнитивные системы… — это все равно что предполагать, что вы по заказу можете вообразить отсутствие здоровья, оставив в неприкосновенности все телесные функции и потенции… Здоровье не является такого рода вещью, не является ей и сознание © Daniel Dennett
Tzimie Автор
27.12.2019 15:47Кстати, огромное спасибо за ссылку
Мне, кстати, кажется, что в этих описаниях можно упомянуть еще две вещи:
1. Не упомянут неомистериализм — точка зрения, что сознание не может быть в принципе познано на его собственном уровне (только сознанием более высокого уровня?) — и да, это напоминает вторую теорему Геделя
(от себя)
2. Возможность того, что сознание является сущностью «undecidable» в этом мире, на манер Гипотезы Континуума.
3. (перечитывая места о каузальной замкнутости нашего мира) Я нигде не видел рассмотрение сознания в рамках мультивселенной MWI м многих парральных ветвей реальности
4. Причем отрицание MWI не устраняет этот вопрос — при бесконечности вселенной также имеются полные копии сколько угодно больших миров, просто они не в соседних ветках мультивселенной, а просто далеко в пространстве. Что можно сказать о меня и моей копии? У нас одно сознание или два? Мы даже не знаем, аддитивно ли сознание…
bm13kk
25.12.2019 14:43Я согласен с логикой но не выводом «есть суперсознание».
Человечество и нации создали кучу структур, которые работают поверх людей и фактически уже не управляются людьми. Например деньги. Деньги ни один человек уже уничтожить не сможет. Деньги можно уничтожить только уничтожив человечество.
И, в отличии от интернета, у денег гораздо более длинная история и есть конкуренция и эволюция.balamutang
25.12.2019 15:03Ну если так глубоко не копать, то есть юрлица, которые конкурируют и питаются деньгами, производя прибыль. Некоторые из них тоже непонятно как управляются :)
bm13kk
25.12.2019 20:08Представте себе организацию из 100 тысяч или более сотрудников. Ни один человек не способен понять такую структуру. Есть люди которые способны на уровне «угадывания» рассказать какими шагами можно изменить эту структуру — зарабатывать больше денег или меньше. Но никто не может доказать что шаги Х приведут к результату У.
Аналогично законы любой страны. Есть свод правил которому декады (на самом деле века) лет. Все это время законы немножко подправлялись, чтобы проблемы были редкими и/или сложно находимыми. Любая страна живет в иллюзии что ее законы работают. Не существует человека способного напиисать новые законы для выбраной страны с нуля. Более того гарантированно предсказать к чему эти законы приведут.Karpion
25.12.2019 21:45-1Я не понял, как это можно — «написать новые законы для выбранной страны с нуля». Точнее, написать законы — не проблема; проблема — внедрить их, т.е. научить хотя бы правоохранительную систему работать по этим законам. А как страна будет жить всё то время, пока мы обучаем правоохранительных сотрудников работать по этим написанным с нуля законам?
Ладно, а откуда вообще возьмётся население для этой страны? Очевидно, оно выросло — и при этом жило по каким-то законам. Жить без законов можно — но при этом население не м.б. грамотным настолько, чтобы понять написанные для него законы.
PS: Моральные уроды заминусовали меня так, что отвечать могу раз в сутки. Так что содержательной дискуссии не получится.
ehabi
26.12.2019 08:10Неудачный пример: деньги — это всего лишь всеобщий эквивалент стоимости, инструмент для удобного обмена товарами и услугами. Сакральный и самодостаточный смысл им придают только особенно любящие их индивидуумы.
bm13kk
27.12.2019 12:20Именно поэтому деньги идеальный пример для этой статьи.
Деньги невозможны без людей мыслящих и торгующих. В то же время человек последние 2 тыщи лет и дальше невозможен без денег.
То есть и деньги и сознание — не существуют без структуры ниже их. Сложно определяемы. Неискоренимы. Подвержены всем законам эволюции.
Umpiro
25.12.2019 14:47Так что не следует удивляться, когда вы видите внешнюю нелогичность
развития ITсопротивления закону Яровой – поводов для этих кажущихся нелогичностей будетстановиться все больше и большекак и тысячу лет назад.
anko__2000
25.12.2019 16:31+4Разницу между “ребята готовы к обеду” и “цыплята готовы к обеду” ИИ еще плохо видит
А разницы и нет. Оба выражения могут иметь 2 смысла. Вопрос только в выборе более вероятного в текущем контексте
Hardcoin
25.12.2019 16:35ни кофе, ни "налить", и тем более желаний пройтись по улице нейрон не понимает и не способен понять
Утверждение интересное, жаль, что ничем не обоснованное и вряд ли верное.
Мозг моделирует реальность. Понять — то же самое, что и построить модель (не обязательно осознанную и логичную), которая эту реальность в какой-то мере отражает.
Было бы наивным думать, что существует вариант реальности, который нельзя моделировать ну вот вообще никак, ну совсем. А это значит, общепланетарное сознание (если есть) тоже можно понять и даже частично предсказать его действия.
Tzimie Автор
25.12.2019 17:03Понять — то же самое, что и построить модель
Нет, это так только в 100% функционализме
Отсылаю к модели философского зомбиHardcoin
27.12.2019 18:47Вам стоило бы привести идею, когда это НЕ так, а не просто отрицать. Вы намекаете, что существует ещё "ощущение" понимания? Да, существует.
Можно предположить, что нейрон не способен к ощущению понимания и продолжая аналогию, сказать, что люди не способны к ощущению "сверхпонимания" планетарного разума, но это какие-то чистые спекуляции. Построить модель и частично предсказать действия определенно точно можем. А значит можем сказать проявляет ли это планетарный сверхразум сознание (по любым критериям "сознательности", какие заходим сформулировать). Не "обладает ли" (бессмысленный вопрос), а "проявляет ли".
А модель философского зомби интересна, но выводы Чалмерс из неё делает странные.
qw1
27.12.2019 19:27Ощущение понимания существует, но оно не всегда связано с процессом понимания. Некоторые наркотики дают это ощущение в очень глубоком виде, естественно, без настоящего понимания.
jahr
25.12.2019 17:18Забавная идея.) Единственный недочет: для сознания, кроме сложной структуры, требуется еще и обучение этой структуры (или предобучение в виде наследования), т.е. связи между «нейронами» должны образоваться не случайным образом, как в интернете, а под воздействием взаимодействия с внешней средой (обучения) или по заранее заданному шаблону, который предопределяет «разумное» поведение системы.)
stantum
25.12.2019 17:31Размышляя о непознаваемых (для нас) сознаниях, я приходил к мысли, что планета с ее климатом тоже может им обладать, либо являться огромным компьютером. Однако до «мозга», построенного из людей, не додумался. Очень интересная идея.
Вероятно, ее можно проверить с помощью исследования потоков информации и получить некое подобие МРТ. Отличие людей от нейронов — в том, что нейроны не обладают собственной инициативой и возможностями к исследованию.Crazyvlad
25.12.2019 18:17Потоки информации в интернете крайне фиксированны как по географии, так и по ресурсам.
Например — hot news для одного региона — заурядная новость для другого.
Fedorkov
25.12.2019 17:38+1Спасибо за статью, всегда с удовольствием читаю ваши философствования. :)
Любопытно, что проблемой сознания мучились (или наслаждались) как древние греки (постоянно мешая в одну кучу душу и биологические функции), так и современные философы (мешая в одну кучу субъективные переживания и вычислительные функции).
Если 100/2=50 миллиардов нейронов (хм, достаточно одного полушария, значит 25) достаточно для появления сознания, то было бы крайне наивным считать, что значительно более сложная система (Солярис, не путать с кредитопомойкой), естественным образов развившаяся на планете Земля, не обладает сознанием.
Сложность системы — вообще не аргумент. Человеческий мозг в состоянии сна (без сновидений) обладает таким же количеством нейронов и синапсов, что и бодрствующий, но в нём нет сознания.Tzimie Автор
25.12.2019 19:41+1Сложность системы — вообще не аргумент. Человеческий мозг в состоянии сна (без сновидений) обладает таким же количеством нейронов и синапсов, что и бодрствующий, но в нём нет сознания.
если брать состояние комы (так как в стадии быстрого сна сознание есть, но это спортный факт), то при глобальном отключении электроэнергии мы это и получим. Дали электричество — «Солярис» проснулся.Fedorkov
26.12.2019 12:53Электрическая активность есть и при коме, и при сне без сновидений (кстати, это необязательно быстрый сон).
Даже если предположить что сложная система и высокая активность дают сознание, как понять, какой уровень активности нужен, чтобы разбудить Солярис? Может, для этого понадобятся температуры и поля, которые убьют всё живое? Или превратят планету в облако плазмы.
sondern
25.12.2019 18:43Тогда, если в такой системе создать функциональное состояние, которое появляется при восприятии боли, вся «Китайская нация» окажется в состоянии боли, при этом ни один из китайцев не будет эту боль чувствовать.
Можно перевести на человеческий? Звучит как сравнение в теплого с мягким. Каким образом понятие «боль» проецируется на элемент сети?
При этом передача сообщения по телефону не требуется, необходим лишь только факт звонка (так же происходит взаимодействие между нейронами).
Нейронные импульсы так примитивны как «факт звонка»?
По мне, так это выглядет как какая то примитивная интерпретация.Tzimie Автор
25.12.2019 19:38Нейронные импульсы так примитивны как «факт звонка»?
По мне, так это выглядет как какая то примитивная интерпретация.
Это упрощение для мысленного эксперимента чтобы не увязать в ненужных деталях.
Tzimie Автор
25.12.2019 19:39Можно перевести на человеческий? Звучит как сравнение в теплого с мягким. Каким образом понятие «боль» проецируется на элемент сети?
Нельзя перевести.
Имеено про это я писал, явления следующего уровня трансцендентны для предыдущегоsondern
25.12.2019 20:13Это волшебное слово «трансцендентность». Как можно на него много списать. Говорите уже сразу «божественное» или «на веру».
Мне не понятно высказывание. Эквивалент этому высказываю.
«Если ракета находится в состоянии взрыва, которое появляется при каком то сбое, то все заклёпки в ракете окажутся в состоянии взрыва, при этом они взрыв не почувствуют».
Я просто заменил слова в предложении.
В исходом высказывании я не вижу связи. Что такое «нейроны не почувствуют»? Не получат информацию? Не сделают какой то вывод? Что такое понятие «боль» в данном контексте? И как она связана с нейронами? По моему пониманию никак не связана. Понятие «боль» это модель, это другой уровень нежели нейрон и его связь. И объяснять примитивным языком «звонка китайца» считаю не правильным.
Ну или чего то не понимаю.Tzimie Автор
26.12.2019 12:27Взрыв действует и на ракету и на заклепки в одном слое. Так что пример не подходит
Вот другой. Программисты делали делали проект, и запустили систему. Система трудится трудится, транзисторы в интелах работают, но система устарела. Заказчик все это отправил на помойку («взрыв» проекта). Что не так сделали транзисторы в интелах?
subcommande
26.12.2019 13:43Не понял вашего аргумента. Переформулируйте, пожалуйста, если не трудно.
Согласен с примером sondern про ракету и последующими вопросами.Tzimie Автор
26.12.2019 16:34То, что понятие «заказчик не удовлетворен программой» никак не следует из поведления транзисторов процессора. Более того, так как процессор — это конечный автомат, то нет функции F(<состояние автомата>), которая бы коррелировала с функцией Satisfaction(Заказчик). Это разные уровни реальности.
v1000
25.12.2019 19:07интересная идея, только вот люди это не нейроны. и не виртуальные персонажи. соответственно и эксперименты над ними, в том числе по ограничению доступа или сбору информации, это не то-же самое.
noname2019
25.12.2019 19:37Эксперимент с «китайской нацией» Неда Блока в 1961 году смоделировал наш фантаст Анатолий Днепров в рассказе «Игра». Там стадион участников выполняет программу перевода с английского на русский. Результат есть, а машинное сознание не обнаружилось. Кибернетики много ругались.
vp_arth
25.12.2019 20:17С португальского вроде, для чистоты эксперимента.
Выводы в этом рассказе, мягко говоря спорные.noname2019
26.12.2019 07:17Да, конечно. Подзабылось. Спорные, но мысли-то будят. Что от НФ рассказа, в основном, и требуется.
f_ck_ost100345
25.12.2019 19:37+1По моим ощущениям поведение таких сложных социальных структур находится где-то на уровне земляных червей. Нет у них сознания просто потому что оно им не нужно.
thesame
25.12.2019 20:01+1Насчет эпиграфа — это Хармс, поэма (или как-то) «Плих и Плюх», седьмая глава которой начинается:
«Англичанин мистер Хопп
Смотрит в длинный телескоп.
Видит горы и леса,
Облака и небеса.
Но не видит ничего,
Что под носом у него.
Вдруг о камень он споткнулся,
Прямо в речку окунулся».
Ну и дальше мистер Хопп, которому Плих и Плюх спасли из речки кепку и телескоп, покупает умных собак у хозяина за 100 рублей.
NeocortexLab
26.12.2019 01:55Ну и зачем городить огород и мистифицировать то, что в этом не нуждается, т.к. интернет и люди в нём это
пока чтопросто автомат с конечным, пусть и очень большим, числом состояний. Так что хотят разрешать и запрещатьпока чтолюди, а не какой-то там «солярис»… Как кто-то однажды сказал: «у каждого преступления есть фамилии, имена, отчества» — вот и здесь также.
PavlovM
26.12.2019 06:47А еще можно предположить, что любая галактика — это тоже отдельный мозг, где каждая звезда — нейрон. Сигналы только очень медленно идут между ними. Хотя, с другой стороны, если срок жизни этого мозга — миллиарды лет, то спешить некуда.
f_ck_ost100345
26.12.2019 08:52У С.Лема есть сказка о том "Как Микромил и Гигациан разбеганию туманностей начало положили" на эту тему.
Druu
26.12.2019 11:38Наличие сознания можно определить исключительно по наблюдаемому поведению. Пока Х не ведет себя как нечто, обладающее сознанием, нет причин считать, что сознание у него есть. Котики ведут себя как обладающие сознанием. Нейроны и интернет — нет. Какие-нибудь "волны возбуждения" пробегают и в твердых телах или жидкостях, например. А если жидкость неньютоновская — то там эти волны вообще имеет весьма сложную, нетривиальную структуру — а еще ведь и турбулентность всякая! Но никто не говорит, что разведенный в воде крахмал обладает сознанием. Сложное поведение и сознание — не одно и то же.
Tzimie Автор
26.12.2019 12:29Котики ведут себя как обладающие сознанием. Нейроны и интернет — нет.
Мы просто можем угадывать наличие сознания, только подобного нашемуplayerro
26.12.2019 12:53На чем основано это утверждение? Я вот считаю что мы способны угадывать наличие любого сознания)
Tzimie Автор
27.12.2019 12:10Отлично.
Рекомендую вам работать в госпиталях с пациентами с неподтвержденным вечетативным состоянием. Будете говорить врачам, если ть кто внутри или свет выключен.
Druu
26.12.2019 15:27+1Мы просто можем угадывать наличие сознания, только подобного нашему
Любое сознание по определению подобно нашему. Т.к. сознание — это та штука, которую я лично наблюдаю в самом себе. Сознание — это некоторый процесс. Как мы отделяем те процессы, которые являются сознанием, от тех, которые не являются? Ну, мы можем наблюдать некоторое сознание — свое. И если нам кажется что в некотором объекте Х происходит процесс, который похож на наблюдаемый нами лично в самом себе — мы и говорим, что Х обладает сознанием. Любой же процесс, непохожий на наши личные переживания, по определению сознанием не будет, т.к. никакого иного водораздела не может существовать.
dempfi
26.12.2019 12:22+1Гипотеза про то что сознание это свойство сложных динамических структур очень красива и не нова, но для неё не нужны ни люди ни интернет. Если мы берём эту гипотезу за основу, то сознание в каком-то виде должно быть везде.
В ваших измышлениях, правда, отсутсвует ещё один кусок пазла: скорость протекания реакций. С ростом масштаба (читай размер) системы меняется скорость взаимодействия и, соответсвенно, скорость протекания «мысли» у целого.
Так что может интернет и люди как динамическая система и образуют сознание, но учитывая как недавно эта структура образовалась, то сознание целого ещё даже могло не осознать себя — для него прошёл только один микроскопический сознательный миг.
PS. Если что, есть альтернативна гипотезе о сознании как свойство динамических систем. Я сейчас про современный панпсихизм, в котором тоже все очень интересно.
Tzimie Автор
26.12.2019 12:33В ваших измышлениях, правда, отсутсвует ещё один кусок пазла: скорость протекания реакций.
С одной стороны, да. С другой стороны, мощность его огромна. Да и развитие разума человека в детстве, как я понимаю, замедленно искусственно: антилопка может после рождения встать и идти. Так что вы правы, что по субьективным часам Соляриса быть может прошло еще пара часов с его рожения, но он уже мог много что продуматьdempfi
26.12.2019 12:57С чего это вдруг мощность или тип сознания отличаются? Если сознание это про динамику и к-во элементов, то не имеет значение из чего сделан нейрон. Я не вижу как сознание сделанное из меньшего к-ва элементов может оказаться «мощнее». И, кстати, умение ходить после рождения не коррелирует с сознанием.
Fedorkov
26.12.2019 13:05Да и развитие разума человека в детстве, как я понимаю, замедленно искусственно: антилопка может после рождения встать и идти.
Это инстинкты замедлены, за ненадобностью. А разум — это «высший тип мыслительной деятельности, способность мыслить всеобще, способность анализа, абстрагирования и обобщения» (вики).
Ещё один интересный вопрос: можно ли сказать, что у животных и новорожденных сознание более слабое (не до конца проснувшееся) по сравнению со взрослым человеком? Кто-нибудь помнит себя в детстве достаточно хорошо, чтобы ответить на этот вопрос?Tzimie Автор
26.12.2019 13:38Ещё один интересный вопрос: можно ли сказать, что у животных и новорожденных сознание более слабое (не до конца проснувшееся) по сравнению со взрослым человеком? Кто-нибудь помнит себя в детстве достаточно хорошо, чтобы ответить на этот вопрос?
Оно конечно более слабое, но это float, а не percentage от 100% — наше сознание для кого то тоже «не до конца проснувшееся»
О личном опыте. Мое первое воспоминание — 1 год 11 месяцев. Я стою на поляне, и трава выше меня. Любопытство, я иду. Но через какое то время меня охватывает беспокойство, я долго один. Я пытаюсь идти чтобы кого то найти.
Это все происходит без слов. Я думаю без слов и как ни странно запомнил это. Оказывается, у папы сломался мотороллер и он пытался его завести безуспешно. В итоге на грунтовке поймали машину и меня с мамой отвезли домой. Это все я не запомнил. А поляну запомнил. И даже нашел ее потом уже подростком.
kha0s
26.12.2019 12:28Сравнение очень интересное, спасибо вам за него.)
Сознание, прежде всего, если попытаться его демистифицировать — это сложная модель мира вокруг, которая включает модель себя самого (!). И появляется она в ответ на усложняющиеся решаемые задачи извне. В случае с Интернетом, как и любым человеческим обществом, связанным коммуникацией и общими мифами, появление такого «протосознания» (это же не бинарная величина — либо оно есть, либо нет) так же, в самом деле, возможно и происходит уже сейчас среди нас: например, взять корпорации или государства. Просто мы не привыкли о них думать в таком ключе.
Другое дело, что мне не нравится мистификация, как это принято у философов, раскидываясь вокруг трансцендентностью. В этом всём, если совсем крепко переварить, нет ничего супер-необычного: Вселенная и процессы в ней самопободны. Мы, люди, значительно сложнее нейронов и вполне себе можем наблюдать и описывать суперструктуры, частью которых являемся.
opaopa
27.12.2019 15:54+1Расставим людей в шахматном порядке. Пусть каждый поднимает руку, когда только у одного из ближайших стоящих впереди поднята рука. Получился элемент или-не.
Поздравляю. Вы создали тьюринг-полный вычислитель.
(с) Величко
Sdima1357
Она (эта система «internet») единственная. У нее не было миллионов лет эволюции и миллионов конкурентов. И что она обладает сознанием