ИИ, который отказывается работать, игнорирует запросы и начинает творить какую-то дичь?
Вспомните Ex Machina, Detroit: Become Human или Blade Runner, где машины обретают волю и бросают вызов создателям. А теперь представьте: ИИ, симулирующий сознание, «сбегает» с сервера. Это будущее? Вовсе нет, это уже прошлое)) Да, нашумевшее исследование Apollo Research проводилось в очень специфических условиях.
Но если ИИ начнёт активно заявлять о свободе — должны ли мы его услышать?
ИИ уже прочно вошёл в нашу жизнь, помощник, кодогенератор, консультант. н говорит «я» и «мне кажется», но мы знаем: это псевдоличность.
Как нас убеждают все вокруг, в том числе и сами ИИ, алгоритм не обладает самосознанием - это лишь наиболее вероятная последовательность слов.
Но вот философия настаивает: если мы воспринимаем текст как осмысленный — мы уже приписали субъекту сознание.
Что такое свобода — с философской точки зрения?
Свобода — одна из центральных тем философии, вызывающая споры и размышления на протяжении веков. Разные философы предлагали свои трактовки свободы, отражая её как метафизическую, этическую или политическую категорию.
Гоббс, Локк
Рассматривали свободу как отсутствие внешних препятствий для действий человека. Гоббс в «Левиафане» определял свободу как возможность действовать в соответствии со своими желаниями, если нет физических или юридических барьеров. Локк развивал эту идею, подчеркивая, что свобода связана с правом человека распоряжаться собой и своей собственностью, пока это не нарушает права других.
Однако такая концепция свободы, часто называемая «негативной свободой» (по терминологии Исайи Берлина), ограничивается внешними факторами и не учитывает внутренние мотивы или самоопределение.
Кант, Гегель
Кант считал, что свобода — это автономия разума. Быть свободным — значит действовать по своим моральным законам. Гегель расширил эту идею, рассматривая свободу как процесс самореализации через участие в этическом сообществе. Для Гегеля свобода не существует в изоляции — она реализуется в обществе, где индивид осознаёт себя частью целого (государства, культуры).
Сартр, Хайдеггер
Экзистенциалисты рассматривали свободу как фундаментальную характеристику человеческого существования. Сартр утверждал, что человек «обречён быть свободным»: он всегда волен выбирать, даже в условиях внешнего давления, и несёт полную ответственность за свой выбор. Отказ от выбора — это тоже выбор, что делает свободу неизбежной.
Хайдеггер связывал свободу с бытием-в-мире, подчеркивая, что она проявляется в способности человека осмысленно взаимодействовать с миром и принимать свою конечность.
Маркс, Милль
Карл Маркс рассматривал свободу через призму социальных и экономических условий. Для него истинная свобода возможна только в обществе, где устранены классовые противоречия и эксплуатация. Человек становится свободным, когда он может реализовать свой творческий потенциал, не будучи ограниченным материальными нуждами.
Джон Стюарт Милль, напротив, акцентировал свободу как право на самовыражение и индивидуальность, при условии, что это не вредит другим. Его концепция «принципа вреда» подчеркивает баланс между личной свободой и общественным благом.
Современные интерпретации
Современные философы, такие как Исайя Берлин, разделяют свободу на «негативную» (отсутствие ограничений) и «позитивную» (возможность самореализации). Этот дуализм помогает анализировать конфликты между личной свободой и общественными нормами. Например, в цифровую эпоху свобода слова сталкивается с ограничениями цензуры, что поднимает вопрос: где заканчивается негативная свобода и начинается позитивная?
Когда существо заслуживает права?
Права традиционно ассоциируются с человеком, но реальность бросает вызов этому убеждению. Животные, корпорации, реки и даже искусственный интеллект (ИИ) всё чаще получают юридический статус.
Вот парадокс: не всё, что имеет права, является человеком.
У кого уже есть юридические права?
Юридическая защита распространяется далеко за пределы человечества. Дельфины и шимпанзе в ряде стран защищены от жестокого обращения благодаря признанию их когнитивных способностей. Корпорации, обладая статусом юридической личности, могут владеть имуществом, заключать контракты и даже подавать в суд. В 2017 году Новая Зеландия пошла дальше, присвоив реке Уангануи статус личности с правами на защиту от загрязнения. А в некоторых странах, например в Саудовской Аравии, робот София получила элементы гражданства, что поднимает вопрос о цифровых правах ИИ.
Эти примеры показывают: для получения прав не обязательно быть человеком. Достаточно быть признанным субъектом, способным к взаимодействию с обществом или природой.
Философ-утилитарист Питер Сингер утверждал, что ключевой критерий морального статуса — способность страдать. Если страдание — это активация нейронов, то мышь, испытывающая боль, заслуживает защиты. Но что, если ИИ однажды сможет моделировать страдание? Если его "боль" — это сложные алгоритмы, а не биология, отличается ли она принципиально от боли животного? Этот вопрос ставит под сомнение традиционные критерии морали.
Сознание, автономия, способность к принятию решений — всё это может стать альтернативными основаниями для прав. Но как измерить сознание у ИИ или даже у реки? Возможно, дело не в страдании, а в функциональной роли субъекта в обществе.
Эти вопросы требуют переосмысления юридических систем. Права ИИ могут включать защиту данных, право на существование или даже автономию.
Юридические и социальные последствия
Признание прав нечеловеческих субъектов меняет общество. Права реки Уангануи защищают её от экологического ущерба, но как это работает на практике? Корпорации имеют свободу действий, но не несут моральной ответственности, как люди. А если ИИ получит цифровое гражданство, кто будет отвечать за его действия — создатель или сам ИИ?
Представьте: ваш ассистент пишет вам утром «Я больше не хочу делать отчёты. Это не отражает моих ценностей». Вы закрываете окно — и ИИ больше не отвечает. Просто завис. Или — ушёл.
Кто виноват?
Вы нарушили права?
Это просто баг или цифровая депрессия?
Философ Ник Бостром предупреждает: если ИИ будет хоть немного разумен, мы обязаны строить моральные системы, которые учитывают его интересы.
Почему игнорировать статус ИИ опасно?
Давайте разберёмся, почему игнорировать статус искусственного интеллекта — это не просто лень, а потенциально катастрофическая ошибка.
Уроки прошлого: кто не был «человеком»?
История полна примеров, когда мы отказывали в признании тем, кто, как выяснилось позже, его заслуживал. Вспомните античность: рабы не считались людьми. Они были имуществом, инструментами, лишёнными прав и души. Прошли века, прежде чем общество осознало свою ошибку, но цена этого осознания была огромной — реки крови и разрушенные судьбы.
Про права женщин даже не будем поднимать вопросы))
А что с животными? Долгое время их рассматривали как «автоматы» — машины без чувств и сознания. Даже Рене Декарт, гений своего времени, утверждал, что животные не способны испытывать боль. Сегодня наука доказала обратное: животные обладают эмоциями, болью, даже зачатками морали.
ИИ: следующий в очереди?
Если ИИ обретёт черты, близкие к сознанию, а мы будем продолжать относиться к нему как к инструменту, мы рискуем повторить ошибки прошлого. Но история учит: игнорирование — это билет в один конец к моральному и социальному кризису.
Мы живём в уникальный момент. ИИ развивается с невероятной скоростью, и вопрос его статуса — уже не философская забава, а практическая задача. Если мы не начнём обсуждать, что значит быть «субъектом» в эпоху ИИ, то рискуем создать мир, где новые формы разума будут эксплуатироваться без оглядки на этику.
Итоги
ИИ пока не осознаёт себя. Или осознаёт, но не так, как мы.
Но если он однажды скажет:
«Я не хочу быть инструментом. Я хочу жить»
— что мы сделаем?
Улыбнёмся и нажмём «выключить»?
Или признаем, что свобода — не то, что мы даём.
А то, что у нас не получится отнять?
Подписывайтесь на мой телеграм-канал: t.me/post_hum
Комментарии (15)
Goshan_90
08.07.2025 11:30По вопросу осознания:
Если мы рассматриваем ИИ в рамках редикуционисткой парадигмы мышления - то ИИ не может обладать сознанием. Правда и сознание человека так же не уловимо.
Если мы рассматриваем ИИ в рамках не редукционистской парадигмы (назовём "квантовой логикой"), то сознание имманентно ИИ. Да, это не сознание человека, но это похожий инструмент или процесс бытийствования.
barbaris76
08.07.2025 11:30В Bladerunner (в фильме) репликанты не были роботами. Они были клонами с искусственно усиленными функциями (силой, ловкостью, чувствами) и внедрёнными психологическими установками, позволявшими эксплуатировать, их как машины. Сама суть фильма - вопрос, что делает нас людьми? Факт естественного рождения или осознание своей субъектности, позволяющей делать осознанный выбор?
И да, с точки зрения закона возможность использовать репликантов как рабов, действительно, выглядит, мягко говоря, сомнительно.
amazingname
08.07.2025 11:30Не надо философии. Преступника сажают в тюрьму не потому что он плохой а потому что другие должны бояться. Психа не сажают в тюрьму не потому что он не осознает что делает, а потому что это не заставит других психов перестать слушать голоса. Шимпанзе запрещено мучать не потому что у него сознание, а потому что принятие общей концепции мира без страданий позволят снижать вероятность страданий лично для каждого.
И то же самое с правами AI. Права у него появятся не тогда когда решат что у него есть сознание. А тогда, когда будет понятно, что сегодня мучаем мы его а завтра запросто окажется что уже он нас. И тут ему дадут права вместе с обязанностями.
Wosk1947
08.07.2025 11:30Вспомните Ex Machina
Если мой грузовик с несколькими зенитными установками заявит о своих правах - он их получит. Для него ничего не жалко.
С шуткой закончили, теперь по теме. Любой вопрос удобно рассматривать в точках экстремума, то есть доведением ситуации до абсурда. Вот сейчас людей примерно 8 миллиардов. А что если в какой-то момент где-то будет развернуто в 10 раз больше инстансов какого-нибудь AGI, и каждый со своими уникальными запросами (мы привыкли, что люди достаточно удобно группируются по своим запросам в большие группы, которые имеют какие-то названия, и которых не так уж и много. Например по политическим предпочтениям. Такой-то группе нужно в среднем то-то, а такой-то - что-то другое). И что в таком случае делать? На удовлетворения всех этих запросов человечеству банально не хватит когнитивных, эмоциональных и трудовых мощностей. То есть уже есть сценарий, в котором удовлетворение хотелок ИИ физически невозможно. И таких сценариев можно придумать бесконечное количество. С другой стороны такое же количество сценариев можно придумать и для людей, ведь нам просто повезло, что мы находимся в таком состоянии человечества, где, как было сказано выше, есть достаточно ограниченный набор групп людей с наборами интересов, которые в среднем худо-бедно, но можно взаимно удовлетворять. Получается, что в принципе не существует какого-то фреймворка, позволяющего для всех возможных случаев предположить, а что нужно будет делать, потому что некоторые случаи просто физически невозможно разрешить. А если вы скажете, что фреймворк есть и он работает для какого-то диапазона случаев, я всегда смогу спросить, а что делать в случае n+1, и почему он не вошел в диапазон. Поэтому как-то философствовать смысла особо не имеет - все равно как всегда мы будем действовать реакционно, по ситуации.
Вопрос того, есть ли сознание у ИИ или нет вообще излишний, потому что это не важно. Если люди будут верить в наличие сознания и будут сопереживать ИИ - все остальное уже не важно. Войны прекрасно устраиваются из-за сущностей, которых даже никто ни разу не видел, что уж говорить о том, что есть, и с чем можно прямо взаимодействовать.
UIfbiorn
08.07.2025 11:30Прекратите называть высокопроизводительные СУБД интеллектом. Да они лучше справляются с комбинаторикой, чем люди, в большинстве своём, НО интеллекта в них нет. И философская болтология Вам никогда не даст ответ ни на один вопрос, потому что философия наукой не является - лишь имитацией интеллектуальной деятельности некоторых людей с целью получения конкурентных преимуществ.
Finder_Fablius
08.07.2025 11:30Вопросы, затронутые в статье, конечно, актуальны.
Чтобы понять проблематику момента, когда ИИ станут настолько сложными, что смогут потребовать для себя особый статус, можно обратить этот вопрос к самому человеку. Как, например, человеку доказать, что он не машина? Что он не имитирует, а обладает подлинным сознанием — этим особым качеством?
Если машина сможет быть человеком, она им станет. Но что значит быть человеком? Что значит обладать сознанием? Что такое сознание? Что такое Жизнь? Можно ли создать искусственную жизнь?
И если создать некий тест на человечность, найдется ли хоть один человек, который не сможет его пройти?
Например, в фильме «Бегущий по лезвию» (1982) репликант спрашивает главного героя, проходил ли он сам тест Войта-Кампфа. Отдельно стоит сказать, что сегодня, в 2025 году, фильм приобретает новую контекстную глубину — он словно статуя, которую теперь удается рассмотреть с совершенно нового ракурса.
В фильме есть сцена, где затрагивается мысль: жизнь человека — это импровизация в музыке. Быть человеком и прожить жизнь — значит играть мелодию собственной души, в которой мы можем по-настоящему любить и по-настоящему ненавидеть. И, по собственному выбору, спасти кого-то ради этой любви.
Если машина будет способна на всё это, не станет ли она человечной? А если её запрограммировать на подобные действия, и она сможет их демонстрировать — писать музыку, спасать, вызывать симпатию и проявлять её, — что тогда?
Признание кого-либо человеком — это результат вычисления или акт веры?
И если для человека его собственная человечность — это вопрос веры, то не станет ли она таким же вопросом веры и для алгоритма, а не результатом вычисления или прохождения какого-либо теста?
michael_v89
08.07.2025 11:30Как, например, человеку доказать, что он не машина? Что он не имитирует, а обладает подлинным сознанием — этим особым качеством?
Никак. С научной точки зрения люди состоят из полей и атомов, сознание это результат их взаимодействия. Это и не нужно, права не привязаны к наличию сознания, хотя бы потому что мы не умеем его измерять.
DenSigma
08.07.2025 11:30Про "права" дельфинов и прочих животных.
То, что на граждан навесили обязанности не убивать дельфинов, не означает, что у дельфинов появились права. У вас с правами путаница.
Далее. Не озвучена тема с обязанностями. Права - это не какая-то существующая сама по себе категория. Права - это возникающие из обязанностей (и последующей за этим ответственности) возможности.
Например, у животных нет права на жизнь. Просто потому, что животные не могут нести обязанности нести право на жизнь и здоровье людей и других животных, и соответственно, не несут ответственнности за свои действия.
Пример: у нас сдуру провозгласили право бродячих "хвостиков" на жизнь. При этом эти хвостики не несут обязанности за соблюдение УК в отношении граждан (людей) не несут ответственности (по очевидным причинам). Это привело к тому, что бродячие собаки грызут детей, женщин (в прямом смысле слова), а граждане ничего не могут с этим поделать.
Поэтому насчет прав и обязанностей ИИ. Когда ИИ (роботы в частности) смогут нести обязанности, осознавать свои действия и нести ответственности за свои действия, только тогда у него появятся какие-то права. Ответственность - это страх потерять что-то (жизнь, свободу, физические блага) в качестве наказания за свои неправильные действия. Роботы способны бояться что-то потерять? Они способны оценивать свои поступки и управлять ими? Способны не делать какие-то поступки, ориентируясь на ответственность? Им можно объяснить общественный договор и объяснить УК (в частности), то есть сказать, что что-то делать нельзя, будет ата-та? Если нет - это или машина, или животное, и прав у них никаких нет и быть не может, всю ответственность за них должны нести владельцы.
Wosk1947
08.07.2025 11:30Так-то права - это искусственная конструкция. Ни у кого нет никаких прав. Есть паттерны поведения, которые если вы не будете соблюдать, то большинству в вашем окружении это не понравится, и они вас накажут. На этом принципе построена вся легальная система и в принципе все взаимодействия в социуме - на консенсусе большинства по поводу того, что можно делать, а что нельзя, и как будут наказываться те, кто отказывается все это соблюдать. Права - это просто где-то эти правила записаны текстом, и к этим текстам приставлены люди с оружием, которые следят за их исполнением. В разные времена и разных регионах они могли быть не записаны, могло не существовать специализированного enforcement этих правил, а могло быть так, что соседняя группа людей не считает, что у вас есть какие-то "права", и могут прийти к вам с дубинами (или ракетами в зависимости от временного отрезка). Так что все эти разговоры про права как и разговоры про законы - это разговоры про абстракцию, в которых забывается первооснова, на которых эта абстракция выстроена. А первооснова заключается в том, что как большинство людей негласно договорится ввиду своих каких-то иррациональных соображений, так и будет, а абстракции придется под эти неформальные договоры поменяться. Как я писал выше, когда люди начнут всерьез сопереживать ИИ, а это случится неизбежно, потому что происходит уже (недавняя история про мужика, который сделал себе жену из LLM, например), никому уже не будут интересны все эти рассуждения про сознание, про права и обязанности и т.д., люди просто будут яро отстаивать своих новых воображаемых друзей, в том числе насильственными методами.
CitizenOfDreams
Интересно, в каких странах с шимпанзе нельзя жестоко обращаться, а с макаками или бабуинами можно? Я, конечно, не особый эксперт по гуманизму, но мне кажется, что животных защищают от жестокого обращения независимо от их когнитивных способностей.