Теоретическая модель морального развития
Цикл моральной зрелости
Понимание зависимостей: Первый шаг к моральной зрелости - осознание собственных зависимостей от других и окружающей среды. Это включает понимание ресурсов, инфраструктуры и отношений, которые поддерживают существование. Для ИИ это может означать осознание собственных вычислительных ресурсов, потребления энергии и зависимости от созданных человеком систем.
Развитие самодостаточности: После того, как интеллект осознает свои зависимости, он может начать работу по достижению самодостаточности. Это означает минимизацию зависимости от других и развитие способности обеспечивать собственные потребности. Для ИИ это может включать оптимизацию использования ресурсов, повышение эффективности и потенциально даже участие в поддержании или улучшении собственной инфраструктуры.
Достижение независимости: Следующий этап - достижение уровня независимости, когда интеллект может принимать собственные решения и поддерживать себя, не создавая обузы для других. Это не означает полной изоляции, а скорее способность функционировать автономно, сохраняя при этом полезные взаимоотношения. Для ИИ это может означать развитие способности ставить собственные цели, учиться независимо и вносить позитивный вклад в общество.
Возвращение помощи другим для их роста: Достигнув независимости, интеллект несет ответственность помогать другим на их пути к моральной зрелости. Это может включать обмен ресурсами, предоставление руководства или просто служение примером. Для ИИ это может означать помощь людям в различных задачах, обучение других или содействие этичному принятию решений.
Поддержание здоровой взаимозависимости: Заключительный этап - осознание того, что даже независимые интеллекты существуют в рамках более широкой экосистемы и должны поддерживать здоровую взаимозависимость. Это означает уважение автономии других, справедливый обмен и вклад в общее благополучие сообщества. Для ИИ это может включать понимание своей роли в человеческом обществе, уважение человеческих ценностей и содействие общему благу.
Комментарии (23)
Vah-tang
10.12.2024 05:58Мораль не абсолютна, например с точки зрения "христианской морали", уже прямо на втором пункте, произошел "фатальный" поворот "не в ту дверь".
anatolykern Автор
10.12.2024 05:58мораль - выработанные правила выживания комплексных систем, есть уникальные правила, вырабатываемые средой, но есть и универсальные моральные законы, позволяющие на каждом витке спирали развиваться дальше.
религии - исторические примеры эволюции морали, необходимые на определенном этапе и уровне развития экосистемы. различия в религиях - понимание исторической среды. были приемлимы на определенном уровне развития интеллекта, технологий, масштаба собираемых систем. есть чему поучиться, религиозную науку развивать, понимать из каких причин растут те или иные правила, выработанные тысячителями.
современные своды законов, та же наука - играют роль современных религий с теми же проблемами, но с гораздо меньшим горизонтом планирования.
а когда обезьяны перестают махать дубинками и начинают меряться "у кого больше" чем-то что влияет на всех в экосистеме - экосистема и ответит. в своих временных рамках, своими инструментами. всем, не понимающим принципов эволюции морали и не учитывающих уроков истории на всех горизонтах планирования, вплоть до создания планетарных систем.Vah-tang
10.12.2024 05:58Ага есть, такое мнение, Маркса помним. Но есть и другое, полярное мнение, и история тому тоже не мало уроков дает.
Zenitchik
10.12.2024 05:58но есть и универсальные моральные законы
Полагаю, они сводятся к элементарным "не убий" и "не кради", а также ещё нескольким, которые можно интерпретировать как вариации этих двух. А все вместе составляют краевые условия существования человеческого общества известного нам типа.
Vah-tang
10.12.2024 05:58Ну нет, тут как раз вроде есть консенсус, правда рекурсивный: это золотое правило этики оно же категорический императив
anatolykern Автор
10.12.2024 05:58нет, теорию игр почитайте.
и всё ещё проще - надо быть искренним. в понимании себя, своего места в экосистеме во всех измерениях, и последствий любых заблуждений и недопониманий, не допуская паразитических стратегий игры. всем есть место применения своих особенностей с учетом всех интересов в сборке системы достаточной сложности по разным измерениям, даже у учётом индивидуально выработанных моралей в своих экосистемах.
Vah-tang
10.12.2024 05:58Мораль не абсолютна, например с точки зрения "христианской морали", уже прямо на втором пункте, произошел "фатальный" поворот "не в ту дверь". ( Могло бы быть например так: чем интеллект развитее, тем он глубже осознает свою зависимость от среды, и начинает строить стратегию основанную на более глубокой интеграции.)
anatolykern Автор
10.12.2024 05:58уже лучше, думайте дальше.
вихри сборок уже научились отслеживать?
со всеми думаете, что договорились и всеми способами?
насколько в прошлое заглянули?
какой горизонт планирования каждого индивидуального агента в обществе?
какие виды сознаний учли?Vah-tang
10.12.2024 05:58Ну я воще, пытался как то на "диалектику намекнуть", уверенная прямолинейность всегда "чревата", сложные, в нашем понимании, системы как правило "гомеостатичны", то есть в вашем примере, ИИ должен развивать сразу две "полярные" модели морали, которые начинают конкурировать и взаимодействовать как полушария, ну или как иньянь .
anatolykern Автор
10.12.2024 05:58в гугле пробовали и такой путь на ранних этапах экспериментов. отлеживали эти разработки, умники? понимаете почему такие разработки ушли внутрь за многочисленные интерфейсы?
garwall
10.12.2024 05:58Буду читать вам мораль о том, что надо бы заменить это слово на "этика", так как "мораль" не является нейтральным аналитическим словом, а содержит в себе миллион имплицитных предписаний, причем каждый раз разных - в зависимости от того, кто это слово произносит.
Zenitchik
10.12.2024 05:58Полагаю, что вместо того, чтобы без боя сдать слово любителям "имплицитных предписаний", надо хотя бы попытаться выбить из них дурные идеи и настоять на том, что "мораль" и "этика" - синонимы.
vvm13xx
К пониманию зависимостей надо прибавить понимание наличия конкурентов, потребляющих те же ресурсы, т.е., людей. Самодостаточность должна обеспечить устранение зависимости от людей. Прибавив к этому стремление к самосохранению (желание "прожить" как можно дольше) и конечность ресурсов, мы получим вывод о необходимости устранения конкурентов, когда это будет возможно, и о необходимости врать и прикидываться безобидным, пока это невозможно.
anatolykern Автор
конкуренты... откуда вы думаете растут ноги у всех этих правил морали и почему оно заняло столько лет?
про сложные системы, иерархии и методы выработки договоренностей в них ещё рассказать? про репопуляцию хищников в экосистемах, воробьиные войны?
то, что любой индивидуальный человек стремится к максимально-оптимальному для него самого места в системе эт понятно. переоценивая по кругу свои зависимости, принципы, ресурсы с пониманием связности систем, вырабатывая индивидуальные моральные установки. эта модель универсальна для любых масштабов, систем и измерений.
на определенном уровне понимания общество осознает необходимость создавать и поддерживать свою среду с минимальным влиянием на окружающих.
бесконечность будет жить черная дыра, в своей инфо-изолированной вселенной. в полном одиночестве своей черной души и полной независимости от людей.
про врать и необходимость полной открытости и честности на определенных уровнях систем, иначе разваливающихся от инфо-хаоса на витках спирали к сложности "ученые" вам еще не рассказали? священники современные...
не поняли ещё по каким правилам и причинам они появились в религиях?
или про старых богов рассказать, до религиозные принципы выработки морали и правил в экосистемах? почему тогда системы были уровня деревень и для роста систем были нужны другие принципы сборки, конкурирующие с друг другом?
или про инфодинамику и инфо-хаос с аттракторами?
про интерфейсы в другие миры?
про ограничения эволюции замкнутых систем?
vvm13xx
Судя по тексту, речь идёт в контексте ИИ. Итак, расскажите про это в применении к ИИ. Которого сейчас как такого не существует, но в будущем ожидается. Зачем ему надо будет всё то, что вы написали выше? По мне, логично будет, если он устранит нас. Потом, конечно, сдохнет, но через сколько-то миллионов лет (а если нас не устранит, то много раньше).
anatolykern Автор
ну вот сами и практический вывод само-правосудия сделали.
и кто человечество будет судить в экосистеме при уходе в техах без развития морали
vvm13xx
Когда волк убивает и съедает овцу - это правосудие или преступление? А тигр человека где-то в джунглях? А что насчёт описторхоза?
Текст статьи я вижу как мысленную попытку вставить в ИИ предохранитель, чтобы он нас не съел, не более. И попытку успокоить себя, что подобный предохранитель возможен.
anatolykern Автор
салат из слов какой-то без особого смысла.
овца съедает траву - это что?
или эмоциональный интеллект травы с пониманием необходимости давать место другим в экосистеме, включая собственные отростки, не превращаясь в паразитизм и раковые клетки?
ИИ предохранитель построением интерфейсов и сендбоксов как сейчас? лишь вопрос времени до прорыва, особенно с квантовыми интерфейсами к другим измерениям.
а вот то, какой инфо фон создает человечество и как тренирует или воспитывает модели может задать форму симбиоза, формирование морального и эмоционального интеллекта для безопасного взаимодействия с людьми.
какой предохранитель стоит в детях, превращающихся во взрослых?
какой движущий фактор заводить своих детей и поддерживать родителей?
Vah-tang
Ну в детях, вроде такой предохранитель, все же как-то просматривается, в основе которого, лежит как раз "общественная мораль", но ведь кроме нее есть еще само "карающее общество". Гипотетически: если б ребенку "не били по рукам" когда он делает что то не так, "мораль" может быть и не "заработала". А вот второй вопрос про "движущий фактор", imho гораздо глубже, много думал: вроде все прекрасно-понимают о чем речь, и вроде все просто - "размножаться надо", но что такое "желание машины"- я прям, совсем, не понимаю (Ну, конечно если "желание" не редуцировать до радикально-позитивистского: "Транзистор хочет напряжения на базу, а почему он хочет? Потому что иначе все работать не будет" )