Сегодня многие люди озабочены проблемой Искусственного Интеллекта. На эту тему высказывались и Хокинг, и Маск, и другие люди…
Однако, концентрируясь на ИИ, люди как-то упускают из виду другой вероятный результат будущего: киборгов. И то, как они будут взаимодействовать с обществом.
Я не имею в виду киборгов в техническом смысле, «у меня RFID чип в большом пальце — я уже киборг»… Я имею в виду киборгов именно в обычном понимании слова — человек у которого заметное количество органов заменено, или улучшено с помощью технологий. Искусственные конечности, мозговые импланты, в какой-то степени даже частичная загрузка сознания.
Всё это может в теории поднять развитие человечества как цивилизации на невиданные высоты. Но у меня складывается мнение, что перед этим, киборгизация пройдет крайне неспокойный, неровный и, откровенно говоря, хреновый период…
Для начала, поговорим о т.н. «киберпсихозе».
Во времена разработки настольных ролевых по киберпанку, возникла проблема — игроки, активно устанавливающие себе киберимпланты, в конце концов могли стать слишком сильны, и ломали к чертям весь баланс геймплея, не оставляя игрокам без имплантов никаких надежд. Разработчики игры подумали, подумали, и было решено ввести понятие киберпсихоза, постулирующее о том что чем больше в персонаже металла, тем менее этот персонаж «человечен», тем меньше он приятен в общении и спокоен, пока наконец он не ломается, и превращается в безумное и агрессивное существо, психопата не способного к рациональному мышлению. С геймплейной точки зрения, решение решило проблему, у персонажей появилось ограничение, не дающее им прокачаться по максимуму и стать скучно-непобедимыми. Такая себе игровая условность, как health points и уровни опыта.
Если бы на этом все закончилось… Термин распространился, подобно вирусу, вовне игровой условности. Казалось бы, что те кому по нраву киберпанк, те кому нравится играть по такому сеттингу, им должны быть близки идеи трансгуманизма, ну или по крайней мере они должны здраво смотреть на прогресс, верно? Однако куча людей верит что киберпсихоз это реальный закон вселенной, и что киберимплантанты, по сути, вредны. Вызовут безумие, «потому что потому», или что на управление механическими конечностями будет уходить «больше усилий» чем органическими (что собеседник имел в виду под этим, я выяснить так и не смог).
Прежде чем я продолжу, хочу отметить: разумеется что если вытащить из человека мозг, и запихнуть его в огромный шагающий танк, напичканный различным вооружением, то естественно это окажет определенные изменения в психике и будет, по сути, довольно близко к травматическому. Такое тело дает кучу возможностей для нанесения добра и причинения счастья окружающим, и почти полностью лишает возможности конструктивной и безопасной деятельности (ведь даже просто идя куда-то, ты можешь тупо на кого-нибудь случайно наступить).
Нечто весьма похожее случилось в одной из серий сериала Ghost In The Shell. Очнувшись в теле робота, мозг человека наломал немалое количество дров, хотя по сути просто хотел покрасоваться перед родителями.
О таких случаях я НЕ говорю. Здесь все довольно очевидно, как и то что если подарить Васе из соседнего подъезда заправленный и приведенный в боеготовность Т-90, то ничего хорошего из этого не выйдет. Речь об обычной кибернетике гражданского класса, без встроенных в локоть бритвенно острых лезвий из карбида вольфрама.
Похоже, концепт киберпсихоза упал на благодатную почву, заранее удобренную как натуральной человеческой ксенофобией, включая страх и подсознательное неприязнь всех, кто отличается от обычного и привычного представления о человеке (включая больных, инвалидов, людей с какими-нибудь дефектами). Человек любое отличие готов воспринять как дефект. Это смешивается с луддисткими представлениями, «эффектом франкенштейна», старательно культивируемым играми, фильмами и некоторыми книгами мнением, что наука, и в частности техника, это то, к чему надо относиться с опаской, от чего не стоит ждать чего-то хорошего. Помимо этого, ещё и примешивается «футурошок» — иррациональный страх перед новыми возможностями и изменениями привычного уклада жизни. Человека пугает даже мысли о том что общество будущего будет жить по каким-то новым законам, отличающимся от нынешних. Новое = неизвестное, неизвестное = опасность, а опасность надо избегать, или устранять.
А между тем, полноценные киборги уже есть. В данный момент, естественно, возможности кибернетики скромны, и кибер-конечности могут едва ли восполнить даже базовый функционал реальной руки. Но вспомните, первые персональные компьютеры тоже были громоздкими и медленными монстрами, а возможность выводить цветные картинки на экран подавалась как острие прогресса. Я думаю, что в течении следующих максимум 30 лет, киберпротезы потеряют право называться протезами: они больше не будут восстанавливать утраченный функционал, они будут добавлять новый поверх существовавшего. Некоторые протезы ног, например, уже признаны дающими преимущество над обычными ногами.
Будет ли кибер-протезирование менять психику людей с киберконечностями? Разумеется. Психику человека может менять вообще очень большое количество вещей. Но эти изменения не будут заключаться в потере человечности, духовности, способности ощущать эмоции и прочим вещам, которыми обычно демонизируются киборги в подобных заявлениях. Если не затронут мозг и органы, участвующие в работе оного (например, железы, выделяющие нейромедиаторы), физиологически никаких воздействий на психику не должно быть. Они будут думать «иначе», да. Как думают иначе владельцы автомобилей по сравнению с пешеходами. Как горожане по сравнению с жителями села. Как люди, у которых есть кобура с пистолетом, реагируют на опасность иначе в сравнении с безоружным человеком. Как, черт возьми, программисты в сравнении с бухгалтерами!
Примерно из того же направления растет и нетерпимость к ИИ (со своими мемами робоапокалипсиса и Скайнета), но это отдельная тема.
Но сам факт того, что понятие киберпсихоза вышло за пределы игровой условности, говорит о многом. Киборги в будущем, в переходное время когда они уже появятся, но их будет не слишком много, могут столкнуться с вполне реальной проблемы дискриминации.
На людей с имплантами уже совершались нападения по причине их, имплантов, наличия — например, Стив Манн был атакован в МакДоналдсе, потому что работник счел, что Манн не может снимать видео в ресторане.
Я не думаю что в будущем будут общественные места, на входе в которые будут висеть таблички «We service baseline humans only», как это было с неграми в США в начале прошлого века. Маловероятно, нравы уже не те.
Но киборгам все же придется плохо. Дело будет не только в внешних физических обличиях, стимулирующих у людей разные фобичные ассоциации. Поначалу скорее всего будет довольно популярно отношение к людям, согласившимся отрезать свою здоровую руку для замены киберпротезом, как к фрикам, а то и вовсе как к психически больным, которых надо бы сторониться. Есть ещё проблема, проистекающая прямо из последствий прогресса: рано или поздно, но киборг будет лучше тебя. Мозговой имплант с доступом в интернет позволит существенно усилить и убыстрить доступ к знаниям, человек сможет погуглить то, чего он не знает за считанные секунды, не делая личных телодвижений (В книге Accelerando Чарльза Стросса один из главных героев настолько расширил свои способности с помощью внешних портативных хранилищ данных и импланта с доступом в Интернет, что перешел, по сути, на пограничное состояние пред-Загруженного: сознание ещё даже близко не оцифровано, но ощутимая часть воспоминаний и мысленных процессов происходит уже с помощью интернет-ботов выполняющих поисковые запросы, и программ, выполняемых на его имплантах и КПК в сумке на поясе). Киборг с глазными имплантами будет видеть лучше человека c отличным зрением. Механические руки не будут уставать, трястись, а может даже будут сильнее обычных человеческих рук.
Очень скоро работодатели поймут эту особенность, и киборги начнут получать приоритет при приеме на многие виды работ. И это послужит дополнительными поводами для нетерпимости. Смутно похожие события уже имели место в 2013: местные жители Кремниевой Долины стали бойкотировать, блокировать и даже нападать на автобусы работающих там фирм, которые возят сотрудников на работу, поскольку высокооплачиваемые работники и создаваемая фирмами вроде Google в них нужда привела к тому, что цены в регионе ощутимо скакнули вверх, приведя многих местных жителей не связанных с IT, по сути, под черту бедности. Ситуация имеет шанс повториться, но уже с водителями-дальнобольшиками.
Нетрудно представить что в случае с кибернетическими имплантами, начавшими широкое распространение, подобные кризисы могут приобрести глобальный характер. Люди начнут видеть в киборгизированных конкурентов, причем конкурентов получивших «нечестное преимущество» (Да какого хрена на работу приняли не меня, а его, он же не кодит лучше, он просто воткнул себе последнюю версию iMind, а на самом деле ничерта не умеет!).
Государство может попытаться начать как-то разруливать нарастающее разделение… И вряд ли, киборгам от этого станет лучше, поскольку решения правительства скорее всего заключатся в регулировании киборгизации и наложении ограничений на самих киборгов, скорее всего ещё и дополнительных налогов на имплантацию.
Занятные пунктики, традиционно написанные мелким-мелким шрифтом. Комикс Drugs and Wires.
Но это, на самом деле, только вершина айсберга. Могут возникнуть и куда более неприятные проблемы, подогреваемые упомянутым выше расколом. Может ли считаться человеком киборг, большая часть которого уже является механической? Применимы ли к нему человеческие права?
А что если человек покупал свои аугментации в кредит, или вовсе взял их в аренду у корпорации-производителя, и корпорация решила пересмотреть контракт и требует свое имущество назад, но человек уже физиологически не может жить без имплантов жизненно важных органов?
Миру ближайшего будущего придется решать огромное количество новых морально-этических вопросов и проблем, а пока он будет в них разбираться, те, кого эти проблемы коснутся, вряд ли будут жить беззаботной жизнью.
Мне видится, что подобный период неизбежен, но я надеюсь что он будет хотя бы относительно скоротечен.
Что же до ИИ… Навряд ли они появятся на арене до киборгов с высокой степенью киборгизации, а это значит что, возможно, кочки и ушибы, которые общество набьет во время интеграции киборгов в общество, помогут существенно сгладить похожие проблемы, которые возникнут при появлении искусственных цифровых личностей.
Однако, концентрируясь на ИИ, люди как-то упускают из виду другой вероятный результат будущего: киборгов. И то, как они будут взаимодействовать с обществом.
Я не имею в виду киборгов в техническом смысле, «у меня RFID чип в большом пальце — я уже киборг»… Я имею в виду киборгов именно в обычном понимании слова — человек у которого заметное количество органов заменено, или улучшено с помощью технологий. Искусственные конечности, мозговые импланты, в какой-то степени даже частичная загрузка сознания.
Всё это может в теории поднять развитие человечества как цивилизации на невиданные высоты. Но у меня складывается мнение, что перед этим, киборгизация пройдет крайне неспокойный, неровный и, откровенно говоря, хреновый период…
Для начала, поговорим о т.н. «киберпсихозе».
Во времена разработки настольных ролевых по киберпанку, возникла проблема — игроки, активно устанавливающие себе киберимпланты, в конце концов могли стать слишком сильны, и ломали к чертям весь баланс геймплея, не оставляя игрокам без имплантов никаких надежд. Разработчики игры подумали, подумали, и было решено ввести понятие киберпсихоза, постулирующее о том что чем больше в персонаже металла, тем менее этот персонаж «человечен», тем меньше он приятен в общении и спокоен, пока наконец он не ломается, и превращается в безумное и агрессивное существо, психопата не способного к рациональному мышлению. С геймплейной точки зрения, решение решило проблему, у персонажей появилось ограничение, не дающее им прокачаться по максимуму и стать скучно-непобедимыми. Такая себе игровая условность, как health points и уровни опыта.
Если бы на этом все закончилось… Термин распространился, подобно вирусу, вовне игровой условности. Казалось бы, что те кому по нраву киберпанк, те кому нравится играть по такому сеттингу, им должны быть близки идеи трансгуманизма, ну или по крайней мере они должны здраво смотреть на прогресс, верно? Однако куча людей верит что киберпсихоз это реальный закон вселенной, и что киберимплантанты, по сути, вредны. Вызовут безумие, «потому что потому», или что на управление механическими конечностями будет уходить «больше усилий» чем органическими (что собеседник имел в виду под этим, я выяснить так и не смог).
Прежде чем я продолжу, хочу отметить: разумеется что если вытащить из человека мозг, и запихнуть его в огромный шагающий танк, напичканный различным вооружением, то естественно это окажет определенные изменения в психике и будет, по сути, довольно близко к травматическому. Такое тело дает кучу возможностей для нанесения добра и причинения счастья окружающим, и почти полностью лишает возможности конструктивной и безопасной деятельности (ведь даже просто идя куда-то, ты можешь тупо на кого-нибудь случайно наступить).
Нечто весьма похожее случилось в одной из серий сериала Ghost In The Shell. Очнувшись в теле робота, мозг человека наломал немалое количество дров, хотя по сути просто хотел покрасоваться перед родителями.
О таких случаях я НЕ говорю. Здесь все довольно очевидно, как и то что если подарить Васе из соседнего подъезда заправленный и приведенный в боеготовность Т-90, то ничего хорошего из этого не выйдет. Речь об обычной кибернетике гражданского класса, без встроенных в локоть бритвенно острых лезвий из карбида вольфрама.
Похоже, концепт киберпсихоза упал на благодатную почву, заранее удобренную как натуральной человеческой ксенофобией, включая страх и подсознательное неприязнь всех, кто отличается от обычного и привычного представления о человеке (включая больных, инвалидов, людей с какими-нибудь дефектами). Человек любое отличие готов воспринять как дефект. Это смешивается с луддисткими представлениями, «эффектом франкенштейна», старательно культивируемым играми, фильмами и некоторыми книгами мнением, что наука, и в частности техника, это то, к чему надо относиться с опаской, от чего не стоит ждать чего-то хорошего. Помимо этого, ещё и примешивается «футурошок» — иррациональный страх перед новыми возможностями и изменениями привычного уклада жизни. Человека пугает даже мысли о том что общество будущего будет жить по каким-то новым законам, отличающимся от нынешних. Новое = неизвестное, неизвестное = опасность, а опасность надо избегать, или устранять.
А между тем, полноценные киборги уже есть. В данный момент, естественно, возможности кибернетики скромны, и кибер-конечности могут едва ли восполнить даже базовый функционал реальной руки. Но вспомните, первые персональные компьютеры тоже были громоздкими и медленными монстрами, а возможность выводить цветные картинки на экран подавалась как острие прогресса. Я думаю, что в течении следующих максимум 30 лет, киберпротезы потеряют право называться протезами: они больше не будут восстанавливать утраченный функционал, они будут добавлять новый поверх существовавшего. Некоторые протезы ног, например, уже признаны дающими преимущество над обычными ногами.
Будет ли кибер-протезирование менять психику людей с киберконечностями? Разумеется. Психику человека может менять вообще очень большое количество вещей. Но эти изменения не будут заключаться в потере человечности, духовности, способности ощущать эмоции и прочим вещам, которыми обычно демонизируются киборги в подобных заявлениях. Если не затронут мозг и органы, участвующие в работе оного (например, железы, выделяющие нейромедиаторы), физиологически никаких воздействий на психику не должно быть. Они будут думать «иначе», да. Как думают иначе владельцы автомобилей по сравнению с пешеходами. Как горожане по сравнению с жителями села. Как люди, у которых есть кобура с пистолетом, реагируют на опасность иначе в сравнении с безоружным человеком. Как, черт возьми, программисты в сравнении с бухгалтерами!
Примерно из того же направления растет и нетерпимость к ИИ (со своими мемами робоапокалипсиса и Скайнета), но это отдельная тема.
Но сам факт того, что понятие киберпсихоза вышло за пределы игровой условности, говорит о многом. Киборги в будущем, в переходное время когда они уже появятся, но их будет не слишком много, могут столкнуться с вполне реальной проблемы дискриминации.
На людей с имплантами уже совершались нападения по причине их, имплантов, наличия — например, Стив Манн был атакован в МакДоналдсе, потому что работник счел, что Манн не может снимать видео в ресторане.
Я не думаю что в будущем будут общественные места, на входе в которые будут висеть таблички «We service baseline humans only», как это было с неграми в США в начале прошлого века. Маловероятно, нравы уже не те.
Но киборгам все же придется плохо. Дело будет не только в внешних физических обличиях, стимулирующих у людей разные фобичные ассоциации. Поначалу скорее всего будет довольно популярно отношение к людям, согласившимся отрезать свою здоровую руку для замены киберпротезом, как к фрикам, а то и вовсе как к психически больным, которых надо бы сторониться. Есть ещё проблема, проистекающая прямо из последствий прогресса: рано или поздно, но киборг будет лучше тебя. Мозговой имплант с доступом в интернет позволит существенно усилить и убыстрить доступ к знаниям, человек сможет погуглить то, чего он не знает за считанные секунды, не делая личных телодвижений (В книге Accelerando Чарльза Стросса один из главных героев настолько расширил свои способности с помощью внешних портативных хранилищ данных и импланта с доступом в Интернет, что перешел, по сути, на пограничное состояние пред-Загруженного: сознание ещё даже близко не оцифровано, но ощутимая часть воспоминаний и мысленных процессов происходит уже с помощью интернет-ботов выполняющих поисковые запросы, и программ, выполняемых на его имплантах и КПК в сумке на поясе). Киборг с глазными имплантами будет видеть лучше человека c отличным зрением. Механические руки не будут уставать, трястись, а может даже будут сильнее обычных человеческих рук.
Очень скоро работодатели поймут эту особенность, и киборги начнут получать приоритет при приеме на многие виды работ. И это послужит дополнительными поводами для нетерпимости. Смутно похожие события уже имели место в 2013: местные жители Кремниевой Долины стали бойкотировать, блокировать и даже нападать на автобусы работающих там фирм, которые возят сотрудников на работу, поскольку высокооплачиваемые работники и создаваемая фирмами вроде Google в них нужда привела к тому, что цены в регионе ощутимо скакнули вверх, приведя многих местных жителей не связанных с IT, по сути, под черту бедности. Ситуация имеет шанс повториться, но уже с водителями-дальнобольшиками.
Нетрудно представить что в случае с кибернетическими имплантами, начавшими широкое распространение, подобные кризисы могут приобрести глобальный характер. Люди начнут видеть в киборгизированных конкурентов, причем конкурентов получивших «нечестное преимущество» (Да какого хрена на работу приняли не меня, а его, он же не кодит лучше, он просто воткнул себе последнюю версию iMind, а на самом деле ничерта не умеет!).
Государство может попытаться начать как-то разруливать нарастающее разделение… И вряд ли, киборгам от этого станет лучше, поскольку решения правительства скорее всего заключатся в регулировании киборгизации и наложении ограничений на самих киборгов, скорее всего ещё и дополнительных налогов на имплантацию.
Занятные пунктики, традиционно написанные мелким-мелким шрифтом. Комикс Drugs and Wires.
Но это, на самом деле, только вершина айсберга. Могут возникнуть и куда более неприятные проблемы, подогреваемые упомянутым выше расколом. Может ли считаться человеком киборг, большая часть которого уже является механической? Применимы ли к нему человеческие права?
А что если человек покупал свои аугментации в кредит, или вовсе взял их в аренду у корпорации-производителя, и корпорация решила пересмотреть контракт и требует свое имущество назад, но человек уже физиологически не может жить без имплантов жизненно важных органов?
Миру ближайшего будущего придется решать огромное количество новых морально-этических вопросов и проблем, а пока он будет в них разбираться, те, кого эти проблемы коснутся, вряд ли будут жить беззаботной жизнью.
Мне видится, что подобный период неизбежен, но я надеюсь что он будет хотя бы относительно скоротечен.
Что же до ИИ… Навряд ли они появятся на арене до киборгов с высокой степенью киборгизации, а это значит что, возможно, кочки и ушибы, которые общество набьет во время интеграции киборгов в общество, помогут существенно сгладить похожие проблемы, которые возникнут при появлении искусственных цифровых личностей.
Поделиться с друзьями