Привет, Хабр! В этой публикации я хотел бы обсудить моральные аспекты взаимодействия человека и искусственного интеллекта. Не претендую на роль моралиста, пастора или учителя жизни. Меня на самом деле интересует ваше мнение. Я также не пытаюсь внести свой вклад в глобальную дискуссию об опасности ИИ, я закидываю тему, ибо сам до конца не уверен в том, что мои выводы, основанные лишь на здравом смысле, верны и я правильно вижу тренд.
Итак: четкий и ясный вопрос. Не надо в нём искать подтекста или двойного смысла. Казалось бы, простой вопрос - конечно, нет. Человек - человеку друг. Собака - друг человека, как известно из одного популярного фильма. Дружба человека отмечена с обезьянами, львами, волками, вобщем с живыми существами. А вот чтобы с нейросетью, алгоритмом, с миром мертвого? Первое, что приходит на ум - это из области девиаций. Не могу не вспомнить один очень неплохой, на мой взгляд, научно-фантастический фильм "Она". Советую посмотреть, кто не видел: фильм глубокий и, как всегда, блестящая актерская работа Хоакина Феникса - роль Теодора, одинокого мужчины, влюбившегося в нейросеть Саманту (озвучена Скарлетт Йохансенн).
Человек влюбился в искусственный интеллект с приятным женским голосом. Вернее, не "влюбился", а полюбил глубокой настоящей любовью. Большая разница между этими двумя понятиями, кстати. Фильм продвигался под лаконичным синопсисом "История любви от Спайка Джонса (режиссёра)". Это фильм про любовь. Автор сценария получил Оскар за историю про любовь.
Но вернемся к дружбе. Исходим из предпосылки, что дружба - более простое понятие, чем любовь. Что такое "друг"? Википедия считает, что это "лицо, связанное с кем-нибудь дружбой". Негусто, согласитесь. Видимо, этот раздел написал сам Капитан Очевидность. Но недалеко ушли от этого определения и толковые словари. Их определения дружбы так или иначе крутятся вокруг понятия "близкий человек". Близкий - это, среди прочего, тот кому ты доверяешь, кто тебя понимает. И еще: банально, с кем ты чаще всего общаешься (а иначе как тебя понять вообще-то, не общаясь или коммуницируя слишком редко?). Итак, проблема немного сужается: может ли ИИ стать близким "Оно", которому мы доверяем и который нас понимает?
Взгляните на знакомую картинку, её вы видите каждый день. Обычный вагон метро, люди в нем: ну и с кем мы все общаемся? - Со смартфоном.
Родилось, встало на крыло и занимает ключевые позиции в обществе новое поколение, для которого нейро-соединение со смартфоном - абсолютно необходимая часть жизни, как еда, как воздух, как ... дружба. Homo Sapiens - социальные существа, которые не могут без общения. И мы выбираем того, с кем (или с чем) нам комфортнее общаться.
Конечно, здесь уместно возразить: ведь общаемся мы не со смартфоном, а при его помощи с людьми (чаты, соцсети). Пока да ... в основном ... хотя не всегда (сколько оговорок). Но наш смартфон, облачные хранилища чатов и соцсетей, интернет-серверы копят информацию о нас. И кто кроме них сейчас знает нас лучше. Они зафиксировали и ваше письмо к даме сердца, и ваш чат с другом, и с родителями, и с детьми, и то, что вам нравится, и что вызывает раздражения, любимые блюда, фильмы, музыка, курорты, животные, природа, знания - вся ваша жизнь, ваша личность - в их серверах. Для них это просто big data, терабайты, на основе которых с помощью алгоритмов машинного обучения можно наладить адекватное и глубокое общение с человеком.
И что? - спросите вы, маркетологи, советчики, помощники, переводчики - они утилитарны. Да, но все чаще у вас на ладони друг. Он близкий - да, еще какой (забыли смартфон дома - ужас, быстрее вернуться домой, на работе придумаю что-нибудь! потеряли... - катастрофа, "друг" потерялся!). Опять возражу вероятным оппонентам - потерялся не друг, а гаджет с доступом к персональным данным. А теперь вдумайтесь, вы потеряли флешку с кодами-паролями? Смените тогда их, в чем проблема. Зачем вы, сломя голову, мчитесь за флешкой домой, ваш телефон стоит на рабочем столе, компьютер тоже, что так переживать то ... нет вы забыли нечто иное, своё, близкое, что-то, что вас понимает. А ведь ИИ тактичен, не спросит лишнего, не обидит, не предаст, подскажет в трудную минуту, он искренен, утешит и скажет единственно верные в данной ситуации слова.
Одиночество человека - путь в мир ИИ
Для тех, кто обласкан дружбой, это ни о чем, такие не променяют компанию друзей на общение со смартфоном. А вот что делать одиноким людям? Однозначно: Для них ИИ станет собеседником, другом. А там уже и до любви, как в фильме Her, рукой подать. К чему это может привести? К появлению новых людей, для которых виртуальный мир, где тактично, честно и нет черствых хамов станет де-факто лучше реального. Таких уже много, погрузившихся в игры и другие виртуальные миры. Но пока это воспринимается как развлечение, в эту "шутку" мало кто верит. Но придет время, и мы увидим нечто фундаментально иное: принципиальную позицию миллионов людей, которые добровольно и осознанно откажутся от общения с себе подобными в пользу ИИ. Одного из таких я описал в н.ф. рассказе "Переход личности", который был опубликован в журнале "Искатель". Думаю опубликовать и на Хабре его. Однако, противоречия, которые есть в людском обществе, как известно, являются источником его развития. Выходит, внутри ИИ систем надо встраивать противоречия, чтобы те, кто выберет общение с сетью ИИ не превратились в "отмороженные овощи". А они его выберут, нравится это кому-то или нет, так как люди не способны дать им тепло общения, в котором они объективно нуждаются. И поэтому никто не будет вправе их за это осудить или отнять у них эту возможность. Среди прочего это будет означать дальнейшее продвижение искусственного интеллекта во все сферы жизни человека, в сознание и в душу. Говорить о том, что это ужасно, будет поздно: люди сами отказали одиноким людям в дружбе и такой сценарий может стать естественным результатом.
Комментарии (17)
bb17
14.08.2024 09:34миллионов людей, которые добровольно и осознанно откажутся от общения с себе подобными
Не смогут обладать
способностью к общению через сложные языки и развитием культуры и технологий. Они социальные существа, которые живут в сообществах и создают разнообразные общества.
Т.е., жпт с Вами категорически не согласен в определении "люди", которые
миллионов людей, которые добровольно и осознанно откажутся от общения с себе подобными в пользу ИИ
Если проще, то социальность, собственно, и формирует людей. "Люди", которые от неё отказались в пользу чего угодно, таковыми быть перестают.
Oleg_Nikishenkov Автор
14.08.2024 09:34Люди перестают быть людьми, отказавшись от социальности. Возможно, но что если ИИ предоставит им эту возможность социальности? Я это не утверждаю, в начале написал, что лишь гипотеза. А что если человек столкнулся с тем, что люди лишь приносят ему моральные страдания? То есть он все равно должен с ними социализироваться? Унижаться? Раньше у него не было выхода, и человек, который по воле судьбы попал не в свою среду, где он изгой и гонимый, унижаемый, иногда постоянно избиваемый был вынужден приспосабливаться. Ибо у него не было альтернативы. Теперь она может появиться. Вот я о чем. Если нужно примеры такой ситуации, могу привести, из реальной жизни. Социализироваться через самоуничижение или уйти в мир ИИ, что лучше? Это вопрос, не утверждение.
bb17
14.08.2024 09:34ИИ (что бы это не означало) не может " предоставить им эту возможность социальности". Социальность образуется в процессе практического взаимодействия людей при вхождении в социальную группу.
Человек, который с чем-то столкнулся, это про персональную социализацию.
"ИИ", безусловно, может "пообщаться" с человеком, и человек, получит эмоциональные и интеллектуальные импульсы, ну, хотя бы поржёт. А вот "миллионы людей" и далее по тексту - не получится.
webhamster
14.08.2024 09:34+1Люди перестают быть людьми, отказавшись от социальности.
Нет, с чего бы это? Ну отказался человек от социальности, и что с того? Почему он при этом перестал быть человеком?
У меня есть несколько знакомых хикки-задротов, которые сидят дома и даже не хотят выходить в магазин, потому что им там могут нахамить, а им от этого дискомфортно. Работают удаленно, получают свои средства к существованию. Общаются по-сути только со своей семьей и парой очень давних знакомых (зачастую тоже только удаленно).
Я, например, при появлении ChatGPT в сотни раз снизил моменты пребывания на технических форумах. Если раньше мне приходилось там писать и задавать вопросы если книжки и поиск не помогали, то теперь ChatGPT так все объяснит и разложит по полочкам, что нет никакого смысла обсуждать тему с кожанными мешками. Тем более, что кожанные мешки вместо обсуждения технических тем обычно занимаются обсуждением умственных способностей того кто задает вопрос. На кой черт такое "общение" нужно? Пишу только в случаях если время поджимает, и решения нет ни в книжках, ни в поиске, ни в ChatGPT.
Oleg_Nikishenkov Автор
14.08.2024 09:34Очень интересно: жпт ставит человека (меня) обратно на путь истинного понимания, кто есть люди. Чем не собеседник! Прекрасно. Он мне корректно говорит, в чем я могу быть неправ. Без унижений и ерничества, на которое я мог бы нарваться, ведя я такую дискуссию с человеком. Сходу нам пример, почему бы я в следующий раз, будь у меня другой вопрос "за жизнь" не обратился бы к нему опять, а не к человеку. Это "зарисовка на тему", не утверждение.
Oleg_Nikishenkov Автор
14.08.2024 09:34Если человек несколько раз подряд получит негатив от общения с людьми и в тоже время позитив от общения с ИИ, то у него может сформироваться рефлекс (да, несмотря на наше абстрактное мышление, у нас есть и рефлексы, мы биологические создания). Суть рефлекса: Люди - Негатив, ИИ - Позитив. Опять же, "вангую", не вещаю истинами, а размышляю.
bb17
14.08.2024 09:34Тут, скорее всего, будут некие сложности.
Если максимально упростить, то жпт Вам может предоставить набор формулировок (мы ведь упрощаем), т.е. это тексты, аудио-видео (скоро можно будет и понюхать и пощупать, видимо), а вот "понимание" из этого набора формируете Вы и только Вы в своей социальной, ментальной и физической практике, базируясь на Ваших способностях, возможностях и опыте.
Если в самом общем плане, то нейросети не могут произвести финальный синтез (последовательность действий, основанная на анализе и приводящая к определённому результату), т.к. количество критериев и параметров практически бесконечно, что приводит к бесконечности результатов.
Упд. Кстати, "ии" может предоставить такой "позитив", от которого некоторым сложно будет оправиться.
Oleg_Nikishenkov Автор
14.08.2024 09:34Дело в том, что Вы рассуждает как человек, который в теме ИИ, который разбирается в сути технологий. Но готов биться об заклад, что в мире найдутся миллионы, которым абсолютно всё равно, какие технологии за ИИ стоят. Они даже думать не будут на эту тему. Им будет хорошо с ним, и это все, что будет их интересовать в данном вопросе. Примеров - тьма. Да, люди с высоким IQ не поведутся, а миллионам будет плевать на начинку. И снова слегка вангую, повышая ставки: не миллионам - миллиардам...
bb17
14.08.2024 09:34Сложно спорить с тем, что миллиардам может понравиться тамагочи.
Конечно, им будет хорошо.
Oleg_Nikishenkov Автор
14.08.2024 09:34Кстати, да. Тамагочи - первая ласточка.Только не забыть бы покормить!...а потом убрать какашки, и вообще пора ему невесту искать, взрослый ведь уже
Oleg_Nikishenkov Автор
14.08.2024 09:34Упд. Кстати, "ии" может предоставить такой "позитив", от которого некоторым сложно будет оправиться.
Вот бы пример тут. Насколько мне известно, ИИ натренирован не навредить.
piton369
14.08.2024 09:34Выходит, внутри ИИ систем надо встраивать противоречия, чтобы те, кто выберет общение с сетью ИИ не превратились в "отмороженные овощи".
Самые интересные игры обычно те, где есть противоречия, противостояния, сложность. Скорее всего станет более популярным и будет развиваться ИИ где это тоже будет. Некая такая техническая эволюция.
Oleg_Nikishenkov Автор
14.08.2024 09:34Я думаю, он начнет нервничать. Имитируя нервозность. Или будет тупить. Жпт иногда тупит, потом извиняется
bb17
Тут недостаёт определения ...эээ... объекта "люди".
Oleg_Nikishenkov Автор
Дадим Ему слово. ChatGPT: "Люди — это разумные существа, представители вида Homo sapiens, обладающие сознанием, способностью к общению через сложные языки и развитием культуры и технологий. Они социальные существа, которые живут в сообществах и создают разнообразные общества. Люди также обладают способностью к абстрактному мышлению, самосознанию и эмоциональной глубине. Они играют центральную роль в изменении окружающего мира благодаря своей способности к инновациям и адаптации".
PS: красиво Он в последнем предложении реверанс исполнил.