Большинство разработчиков, занимающихся созданием ИИ, считают реалистичным появление роботов, сравнимых по разумности с людьми, к 2037 году.



Представьте, что однажды вечером в 2037 году вы в приподнятом настроении возвращаетесь домой, желая в кругу семьи и друзей отметить свой день рождения. Вы ещё не знаете, что друзья решили над вами мило подшутить и, заранее отсканировав ваш мозг, создали робота – точную, неотличимую от вас копию. Уже с порога квартиры вы видите как в окружении вашей совершенно счастливой семьи и друзей, робот Ваша Копия съедает последний кусок праздничного торта. Вашего торта! Более того, вы понимаете, что Ваша Копия уже успела позаниматься сексом с вашей женой, а ваши дети называют его папой. Дальше больше, едва заметив вас, Ваша Копия вскакивает и заявляет, указывая на вас пальцем:

— Убирайся из моего дома, самозванец!

Друзья хитро переглядываются и хихикают, наслаждаясь эффектом своего розыгрыша.

Вы в порыве гнева хватаете сковороду, желая ударить по голове Вашу Копию, затем отвезти его на свалку и поглубже закопать. Однако срабатывает система безопасности Вашей Копии и отправляет сигнал в экстренную службу спасения. Телефон в кармане ваших брюк автоматически включается и грозным «полицейским» голосом заявляет:

— Остановитесь! Именем «Общества Защиты Роботов» и наделённой им властью, приказываю вам воздержаться от нанесения вреда интеллектуальному созданию. Иначе вас отправят в тюрьму.

Вы возмущаетесь:

— Эта железка самим фактом своего существования наносит мне моральный вред, я уже испытываю дискомфорт и страдания. Более того, этот сложный калькулятор желает захватить мою жизнь, а вы угрожаете наказать меня, а не его?
Ваша Копия парирует:

— Я помню, как воспитал своих детей. Я люблю свою жену. Я помню, как укладывал каждый кирпич в кладку своего дома, — Ваша Копия действительно это помнит, ведь у робота ваши воспоминания. Более того, робот не имеет никакого способа определить, действительно ли это его воспоминания – ведь смотря на старые фотографии из вашего семейного альбома, он видит именно себя, а не вас. И Ваша Копия имеет полное право на эти воспоминания, ведь он же не сам себя создал.



«Общество Защиты Роботов» вещает из вашего телефона:

— Закон руководствуется этикой. Нельзя причинять вред чувствующему сознанию, множить страдания в мире. Докажите, что Ваша Копия не имеет чувствующего сознания, и тогда мы разрешим уничтожить робота.

— Да он же всего лишь программа, — в отчаянии кричите вы. — Это я чувствую боль, а робот ничего не может ощущать.
Ваша Копия дотрагивается рукой до горячей плиты, отдергивает руку и кричит, демонстрируя, что он чувствует боль.

В ответ вы дотрагиваетесь до холодного стола, отдёргиваете руку и кричите.

– Эмоциональную реакцию можно симулировать. Мой крик вовсе не значит, что я что-то чувствую, — философски заявляете вы. Затем вы включаете диктофон, кричите в него, включаете запись и ставите на повтор. Телефон издаёт крик снова и снова.
Вы бросаете телефон на пол и ногой разбиваете его.

— Железка ничего не чувствует, сколь умна бы она ни была. Она лишь исполняет программу.

Ваша Копия, смотря на разбитый телефон, начинает проявлять признаки агрессии. Это не удивительно, ведь робот находиться в ситуации, зеркальной вашей – вы угрожаете отнять жизнь Вашей Копии и оставить его ни с чём. Как же робот будет жить дальше без своей семьи?

Ваша Копия угрожающим тоном, надвигаясь на вас и сжимая кулаки:

— А ты, кто считает себя человеком, можешь доказать, что обладаешь чувствующим сознанием? Если нет, то это Я отвезу тебя на свалку.

За окном слышится стрёкот вертолёта. Громкоговоритель выдаёт финальное решение «Общества Защиты Прав Роботов»:

— Итак, либо вы предъявляете доказательства того, что Ваша Копия не имеет чувств, или отправляетесь решать свои проблемы и выяснять отношения в самый обычный гражданский суд. Не имеет значения, из какого материала созданы разумные создания – важно только то, имеют ли они чувства, могут ли ощущать боль.

Оставим на секунду персонажей истории в самый драматичный момент и немного подумаем. Может показаться, что в приведённом рассказе несколько сгущены краски, но на самом деле проблема определения наличия чувствующего сознания у ИИ становится всё более актуальной и жизненной. В какой момент мы будем должны защищать права беспилотных автомобилей? Когда наши собственные права сравняются с правами роботов, которых будет появляться всё больше? Имеем ли мы право заставлять роботов работать на нас, делая их рабами? А если нет, то зачем нам вообще нужны роботы?

И финальный вопрос:

Будут ли роботы иметь право на самозащиту от человека, и в какой момент развития ИИ?



Примечание автора: далее представлено описание метода, который мои друзья, по аналогии с устаревшим Тестом Тьюринга, назвали: «Тест Петракова на определение наличия чувствующего сознания у роботов с искусственным интеллектом».

Тест на наличие у ИИ чувствующего сознания

Итак, вы продолжаете лихорадочно мыслить, желая вернуть свою семью и доказать, что у робота нет чувств.

И приходите к следующему — каждый, кто читает эти строки, способен чувствовать. Например, все мы прекрасно знаем, что такое боль от укуса осы, видим красный цвет розы, чувствуем прикосновения ветра на берегу моря. Значит, мы можем точно сказать, что наше чувствующее сознание существует. А что значит существует? Когда мы говорим, что нечто существует, то подразумеваем, что это нечто оказывает какое-то влияние на мир, как то проявляется в мире. Например, если камень существует, то его можно потрогать, если его кинуть в пруд, то раздастся плеск и пойдут волны кругами и так далее.

Вы обращаетесь к представителю «Общества Защиты Роботов»:

— Если у робота есть сознание, то оно должно выполнять какую-то функцию. Робот с сознанием, и робот без сознания, должны чем-то отличатся друг от друга. Так чем же?

— А чем вы сами отличаетесь от робота? – задаёт встречный вопрос представитель «Общества Защиты Роботов».

— Ну я же умнее, — непроизвольно срывается с ваших губ, но вы сразу осекаетесь, поняв ошибку.

— Отличие роботов от человека вовсе не в уровне интеллекта, – продолжает представитель. — Ибо роботы УЖЕ складывают числа быстрее вас, ИИ распознаёт образы, отличая кошку от собаки, легко обыграет вас в шахматы и, подключившись к IBM Watson выдаст прогноз погоды и, наконец, скажет, как победить рак (IBM Watson лучше дипломированных врачей диагностирует рак и назначает методы лечения).



— Но это вовсе не наделяет робота чувствами, — вы продолжаете думать:

У робота есть программа, пускай сложная, с контуром обратной связи, самообучающимися нейронными сетями, эвристическими алгоритмами, функцией само исправления ошибок. Но в любом случае понятно, как работает программа. Какие изменения способно внести чувствующее сознание в работу понятной алгоритмической программы? Никаких. Если робот не отклоняется от работы программы, тогда роботу не нужно сознание, оно бездействует, и значит, сознания у него нет. Когда самоуправляемый автомобиль объезжает столб, избегая столкновения, мы понимаем, что он выполняет указания программы, а не приказы чувствующего сознания.

Значит, чтобы уничтожить робота Вашу Копию, достаточно доказать, что он работает по программе – точнее доказать, что он не отклоняется от работы программы. Как это сделать? Очень просто.

Роботу можно отключить питание, затем создать точно такую же аппаратную часть и залить во второго робота копию программы и памяти Вашей Копии — эта операция аналогична копированию флэшки. Затем поместить двух Ваших Копий в идентичную обстановку – лучше в виртуальную реальность, потому что создать две копии виртуальной реальности гораздо проще, нежели создавать идентичные условия для двух роботов в реальной жизни.

Вы так и делаете, затем включаете двух идентичных роботов в двух одинаковых виртуальных реальностях, и смотрите на их поведение.

Если роботы не отклоняются от программы, то они будут вести себя идентично. И значит у них нет чувствующего сознания, поскольку сознание должно что то делать, оказывать некое влияние на мир.

Вы ликуете! Ура, это победа?

— Можно отправлять Вашу Копию на помойку?

Но тут вы видите, что две копии робота начинают вести себя по разному.

— Не торопитесь, — отвечает представитель «Общества Защиты Роботов». — Коварные разработчики Вашей Копии добавили в её программу генератор случайных чисел, реализованный с помощью квантов. Только квантовую случайность невозможно предсказать. Поэтому в работу программы вмешивается истинно случайный сигнал, меняя поведение каждого из роботов. В результате вы видите, что роботы ведут себя по разному.

— Но это вовсе не означает, что у них есть чувствующее сознание, — не сдаётесь вы и продолжаете размышлять.

А что делает моё собственное сознание? Всё, что происходит на свете, подчиняется законам природы. Все мы состоим из атомов, а атомы подчиняются законам физики. Никто не видел, чтобы, например, на БАКе люди усилием мысли отклоняли полёт частиц. Влиять на физические законы своим желанием так же невозможно, как и двигать камни усилием мысли.

Вы уже начинаете приходить к парадоксальному выводу о том, что у вас у самого нет сознания! Ведь сознание не может влиять на законы природы, на электрическую активность вашего мозга. Выходит, что вы сами подчиняетесь работе программы, которую написала природа. Но это же парадокс! Вы то знаете, что у вас есть сознание! Вы чувствуете!

Остаётся последняя надежда. Необходимо найти «лазейку» в законах природы, которая позволяет некоей сущности (которую мы называем нашим чувствующим сознанием) как то влиять на мир, реализовывать свою свободу воли, давать управляющие сигналы своему телу и мозгу.

Лазейка в законах природы

Существует только одна такая «лазейка» в законах физики. Это редукция квантовой волновой функции. Вспомним эксперимент с двумя щелями. Источник выпускает очередь из единичных фотонов, которые проходят через две щели и попадают на экран, образуя решётку из полосок света. Что говорят эксперименты и законы физики? Когда источник выпускает конкретный фотон, то он обязательно попадёт в одну из полосок на экране. Но вот в какую именно полоску попадёт конкретный фотон предсказать невозможно. То есть попадание фотона в любую из полосок полностью соответствует экспериментам.



Это единственный известный на сегодняшний день научный факт, который позволяет чувствующему сознанию «проникать в мир». Все остальные физические действия жёстко описаны, подчиняются законам физики, принципиально предсказуемы и поэтому приравниваются к действию программы. Когда камень падает на землю, мы же понимаем, что сознание тут ни при чём – действуют законы физики.

Получается, что единственная возможность найти сознание, как то его детектировать, определить существует ли оно у субъекта или нет – это наблюдать за редукцией волновой функции внутри сознания. Сознание строиться на квантовой основе. И когда ансамбль частиц, участвующих в формировании сознания, редуцирует (то есть попадает в конкретную полоску), сознание может влиять, в какую именно полоску попадёт фотон. Важно отметить, что сознание не может влиять на двухщелевой эксперимент, поскольку летящий фотон находиться вне мозга. Эксперимент с двумя щелями это аналог, необходимый для иллюстрации и понимания механизма работы сознания. Ансамбль частиц находиться в мозге, а затем редуцирует под управлением сознания в конкретную полоску. Попадание сигнала в конкретную полоску – это управляющий сигнал для мозга, если мы говорим о человеке, или запуск одной из программ, если мы ведём речь о роботе.

Итак, вы понимаете, что поскольку в робота — Вашу Копию встроен квантовый механизм, робот может вести себя не по программе. Однако есть два варианта:

1. Кванты редуцируют случайным образом, и сознания у робота нет
2. Кванты внутри робота редуцируют под управлением сознания.

Чем будет отличаться поведение робота при этих двух вариантах?

В первом случае поведение робота будет хаотичным, и квантовый сигнал будет похож скорее на ошибку системы, нежели на осознанное действие. Это похоже на подкидывание кубика с шестью гранями. Представьте, что вы проводите свой день следующим образом – каждый раз, когда перед вами оказывается возможность выбора – например, какие продукты купить в магазине, на какое время поставить утренний будильник, стать ли вам вегетарианцем или предпочесть палеодиету… — вы подкидываете кубик и поступаете в соответствии с выпавшим номером варианта. Ваша жизнь станет хаотична. Например, чтобы попасть в магазин, вы должны совершить цепочку осознанных действий – взять деньги, выйти в дверь, а не в окно на седьмом этаже, выбрать нужную дорогу, не попасть под автомобиль и т.д. Подкидываемый кубик не знает, что ваша цель попасть в магазин, поэтому выпавшие варианты просто не смогут довести вас до покупки продуктов – решения будут хаотичными и в разные стороны.

Это похоже на работу лебедя, рака и щуки, которые тянут в разные стороны.

Напротив, во втором варианте, когда сознание управляет квантовой редукцией и, таким образом, даёт сигнал мозгу, решения будут осознанными и согласованными. Это будет видно при наблюдении за поведением робота.

Чтобы совсем отсечь субъективность суждений, есть ли у робота чувствующее сознание, возможен следующий эксперимент. Можно устроить “чувствующему сознанию” робота «День сурка».

Поскольку внутри робота есть программа, которая меняется под воздействием сознания лишь изредка, поймаем этот момент. Запишем состояние памяти робота до момента, когда сознание отдаёт приказ кванту попасть в правую полоску и тем самым дать соответствующий сигнал. Мы увидим, что квантовая редукция сработала именно в правой полоске. Теперь вернём память робота в исходное состояние. Если сознание у робота есть, то оно вновь приведёт к редукции и сигналу именно в правую полоску. А это уже экспериментальный факт, который ничем, кроме наличия сознания, объяснить невозможно. Данный факт и будет являться тестом на наличие чувствующего сознания.

Итак, вы помещаете двух одинаковых роботов в идентичную обстановку и с замиранием сердца ждёте результат…

Реалистичность действия квантовых эффектов в живых организмах

PS: для тех, кто задаётся вопросом о том, возможно ли участие квантовых объектов в работе сознания, привожу ссылку globalscience.ru/article/read/19110
Цитата: “Малиновки удерживают квантовую сцепленность в своих глазах на 20 микросекунд дольше, чем в лучших лабораторных системах. К такому выводу пришли физики, которые исследовали как птицы используют квантовые эффекты, чтобы «видеть» магнитное поле Земли.”
Стоит отметить, что внутри глаза малиновки тепло, в отличие от лабораторий, где создаётся температура, близкая к нулю по фаренгейту (что препятствует декогеренции).

В действительности затронутая проблема гораздо глубже отношений людей и роботов. Вопрос касается загадки нашего собственного сознания. Тысячи лет философы ломают голову в попытке отгадать, что такое сознание. В последнее время появилось много нейрофизиологических исследований мозга, и вопрос о природе чувств оказался в фокусе научного сообщества. Более того, многие считают философию сознания самым важным вопросом за всю человеческую историю. Действительно, вся наша жизнь, по сути, это переживание эмоций и чувств, мы хотим, чтобы положительных ощущений было больше, чем отрицательных. Только разгадав тайну сознания, мы сможем на новом уровне конструировать свою жизнь и свои ощущения.

В техническом плане, например Дэвид Дойч полагает, что мы не создадим настоящий ИИ, не поняв природу сознания. Есть мнение, что аппаратная часть компьютеров уже давно позволяет создать настоящий сильный ИИ, осталось только понять принципы работы программы. Поэтому философия сознания, это так же техническая дисциплина, затрагивающая программирование.

Я давно размышляю на эту тему и пришёл к выводу, что ИИ может помочь разгадать тайну нашего собственного сознания, потому что с ИИ можно ставить эксперименты, невозможные на людях.

Приведённые в статье размышления тесно коррелируют с загадкой сознания, которое вы ощущаете сами в настоящий момент.

На Geektimes я публикую материалы скорее теоретической направленности. Для тех, кому интересно, как описанная теория сознания отражается на человеческой психологии и как её можно применить в реальной жизни привожу ссылку http://grrow.me/3will

Притяжение Будущего

Известно, что квантовые эффекты имеют очень интересное поведение во времени. Есть опыты, которые показывают, что кванты могут передавать корреляции назад во времени. Что выглядит так, будто будущее способно влиять на настоящий момент. Например, вот описание эксперимента geektimes.ru/post/251826

Если сознание использует квантовые эффекты, то можно придти к следующим выводам: geektimes.ru/post/252864

И в заключении приведу чисто логические умозаключения, связанные с сознанием. Особенно интересно, что к необходимости использовать временные парадоксы можно придти чисто логическим путём: