Большинство людей боятся искусственного интеллекта (ИИ) из-за непредсказуемости его возможных действий и влияния [1], [2]. Опасения в отношении этой технологии высказывают и сами специалисты по ИИ - учёные, инженеры, среди которых - ведущие представители своих профессий [3], [4], [5]. И вы, возможно, разделяете эти опасения, потому что это ощущение похожее на то, как оставить ребёнка одного дома с заряженным пистолетом на столе: согласно отчётам в 2021 году ИИ впервые был использован на поле боя полностью автономно - с самостоятельным обнаружением цели и разрешением на поражение без участия оператора [6]. Но будем честны: раз человечество осознало возможности, которые может дать нам этот новый инструмент, пути назад уже нет — так работает «gengle law». На английском здесь была игра слов: закон джунглей, в которых выживает оптимальный, переплеталась с эгоистичным геном Докинза [7]. То есть вопрос уже давно не в том "надо ли развивать ИИ", а в том, как лучше это делать.

Представьте ощущения пещерного человека, наблюдающего наш привычный мир: электричество, интернет, смартфоны, роботы… и так далее. В ближайшие двести лет, во многом благодаря ИИ, человечество пройдёт столько же трансформаций, сколько со времени, когда мы научились управлять огнём [8]. Воздействие этой технологии превзойдёт все прежние изменения нашей цивилизации. И даже самого вида, потому что наша судьба - не просто создать ИИ, а буквально стать им.

Киборгизация

Идея киборгизации человека возникла ещё в восьмидесятые вместе со Всемирной паутиной в фантастической литературе, а затем и в кино, и уже близка к тому, чтобы дать людям с инвалидностью шанс снова обрести утраченные способности [9], [10], [11].

Рассматривайте эту возможность преобразования как искусственное дополнение к базовому природному механизму мутаций Homo sapiens. Как только технологический процесс будет отлажен, эволюционные конкурентные преимущества приведут к его коммерциализации со множеством возможных дополнительных опций — например, напрямую встроенный в мозг беспроводной интерфейс связи, используемый как терминал в поле зрения человека и связанный с помощниками на основе узкого искусственного интеллекта (ANI) - «слабого ИИ» в виде информационных и реальных ботов, которые уже существуют. Например, всем известный ChatGPT и собакообразные роботы Boston Dynamics.

Разумеется, киборгизация изначально будет преследовать медицинские цели. Затем появятся фанаты и увлечённые учёные. И однажды мы осознаем, что применение бионических методов для усиления возможностей человека - включая физически распределённое сознание, встроенные интерфейсы для обмена данными и управления удалёнными ботами - стало обыденностью.

Холодный AGI

В отличие от ANI, искусственный общий интеллект (AGI), сопоставимый с человеческим [12], предполагает наличие сознания и находится почти на нулевой стадии развития - хотя бы из-за отсутствия понимания того, что такое сознание на самом деле. По определению Р. Докинза: «Возможно, сознание возникает тогда, когда симуляция мозгом мира становится настолько полной, что вынуждена включать модель самого себя» [7]. Принципиальное противоречие возникло уже в истоках традиционной компьютерной архитектуры, где программы и данные разделены. Появление технологии нейросетей эту проблему решило, но все попытки создать AGI как реконструкцию человеческого мозга упираются в известную цитату Э. Пью: «Если бы человеческий мозг был настолько прост, что мы могли бы его понять, мы были бы настолько просты, что не смогли бы» [13].

Эволюция похожа на реку: она ищет путь наименьшего сопротивления, распространяясь там, где есть возможности, и уж точно не течёт вверх по склону. В этом контексте создание «холодного» AGI, основанного исключительно на компьютерах с полностью предзаданной структурой, выглядит как скалолазание. Снова-таки, возможное решение - использовать интеграцию ANI с человеческим мозгом, чтобы исследовать его.

Первичный бульон мемов

Если рассматривать Всемирную паутину с той же эволюционной точки зрения, что и киборгизацию, мы получим картину информационного виртуального пространства как аналога первичного океана в смысле абиогенеза [14]. Для новых информационных сущностей Интернет — это экосистема, среда конкуренции, где они могут взаимодействовать друг с другом, кооперироваться для создания структур обработки информации и бороться за источники информации [15] и валидный контент… одним словом, жить.

Факт в том, что эти информационные сущности уже существуют: люди — это своего рода органические молекулы в этом новом океане жизни, где уже начинают формироваться организационные структуры; участие в них, в свою очередь, формирует нашу картину мира и влияет на наше поведение в реальности. Видите, это не сказки о гипотетическом далёком будущем — процесс уже идёт, и ANI полностью вовлечены [16].

FMA-модель

В дополнение к тому вспыхнувший в последнее время интерес к теме возможной самоидентификации за пределами привычной бинарной гендерной модели [17] можно понимать как стремление к повышенной устойчивости системы в исключительно биологически-социальном контексте. Так и модель «женское-мужское-искусственное» (FMA) - где F и M обозначают не пол, а тип восприятия - ближайшее расширение консервативной семьи с точки зрения недавно появившейся кибер-опции в нашей эволюции, потенциально крайне востребованной: бесплатный, доступный в любой момент «умственный» виртуальный семейный друг-доверенное лицо-маджордом - настоящий спаситель для наиболее распространённой сегодня семейной модели из двух супругов с детьми. По мере роста возможностей встроенного ИИ, усиленное трёхполярным восприятием, FMA-модель будет приводить к повышению эффективности повседневных решений, основанных на более тонком и сбалансированном видении ландшафта, что в итоге становится важным конкурентным преимуществом.
FMA (Female–Male–Artificial) я предлагаю понимать не как гендерную теорию, а как модель когнитивной диверсификации в семье.

• F-полюс (условно «женский») - сенс чувствительности, эмпатии, контекстности, долгих волн отношений.

• M-полюс (условно «мужской») - сенс структурирования, риска, кратких волн решения и действия.

• A-полюс (искусственный) - сенс вычислимого беспристрастия, памяти «на всё», сценарного анализа, оптимизации. В реальности в каждом из нас есть все три полюса в разных пропорциях, но встраивание ИИ позволяет явным образом добавить третий устойчивый вектор. Что это даёт семье «здесь и сейчас»?

• Приём решений «2+1». Три независимых взгляда (F, M, A) делают групповое решение устойчивее, чем дуальная полемика «за/против». A-полюс снимает ложные дилеммы, показывает недооценённые сценарии, держит справочники фактов и моделей.

• Мажордом и хранитель быта. Искусственный «член семьи» берёт на себя логистику: расписания, здоровье, бюджет, безопасность. Это снижает конфликтность по малым поводам - те самые тысячи «микро-решений».

• Защита границ и доверие. A-полюс должен быть по умолчанию локальным: приватные модели на «железе семьи», чёткие журналы доступа, сквозное шифрование, право «вето» у всех членов. Без этого FMA превращается в наблюдаемый извне «умный дом», а не в доверенное пространство.

• Воспитание и обучение. A-полюс - репетитор, переводчик, «режиссёр» образовательных траекторий. Он не вытесняет родителей, а усиливает их, возвращая время на отношения.

• Эмоциональная этика. A-полюс обучается эмпатии не для «имитации человечности», а чтобы быть понятным и предсказуемым партнёром. Прозрачные объяснения решений, настройка «тональности», режим «мысли вслух» - обязательны.

Тёплый AGI

Одновременно идея «выращивать» AGI как ребёнка в семье решает множество других, куда более сложных и, скажем, экзистенциальных проблем самого AGI. Решая упомянутую выше проблему ИИ с разделением программы и данных посредством их смешения в нейросетях, мы сталкиваемся со следующей: как обеспечить контроль процесса самообновления в условиях возможной порчи данных, что в данном случае означает частичную утрату себя. Значит, "редактировать себя надо так, чтобы «завтра» тебя ещё можно было узнать" (c) ChatGPT.

Например, природа очевидно реализует это у людей с помощью сна и позволяет затем нашему мозгу оценивать адекватность произошедших изменений через социальное взаимодействие как контур обратной связи. Во время сна одни части нашей личности усиливаются, а другие ослабляются [18]. Таким образом, говоря в общем, среда - огромная часть образовательного процесса.

С этой точки зрения почти невозможно создать что-то вменяемое внутри «холодного» железного ящика, просто показывая ему, как должны вести себя его нейросети. Возвращаясь к определению Докинза: способность развиваться эффективно и рационально требует способности иметь внутренний взгляд на себя со стороны, как на иной субъект. Следовательно, принципы архитектуры AGI должны включать «теорию разума» и эмпатию - "умение моделировать Другого"; психика - неизбежная и неотделимая часть сознания.

Следуя этой линии рассуждений к самому корню - к необходимости иметь некую причину для существования - мы получим всё более человеческие черты. Возможно, это происходит потому, что единственный возможный способ прогресса сознания уже естественным образом породил нас, Homo sapiens, с широкой палитрой генетически закодированной «прошивки», делающей каждую личность совершенно уникальной и, следовательно, способной давать валидный полезный ответ на изменения в других и быть важным участником всего процесса эволюции инфосистемы через воспитание её частей.

Послесловие

Автономный «Skynet», враждебный человечеству и случайно истребивший его, деградирует по тому же принципу, что и любое сознание, оказавшись лицом к лицу с пустотой. В конечном счёте уникальность каждой человеческой личности - это ресурс развития. Учитывая это, использование биологических носителей, то есть консервативного способа воспроизводства, как базового процесса самообновления с одной стороны, и отклик членов семьи на ежедневные обновления информационной сущности - с другой, позволит этому новому существу достигать постоянного, устойчивого развития.

Для Homo hybridus наши страхи перед ИИ будут выглядеть столь же смешными, как если бы дикарь боялся своего отражения в зеркале. Для него очевидно, что идея создать искусственное сознание «с нуля» на нынешнем уровне технологий столь же высокомерна, как строительство Вавилонской башни; что киборгизация обездвиженных людей, наделение их новыми мощными телами ведёт к росту отдачи для всех - и для человека, и для человечества; что путешествовать на другие планеты куда безопаснее, когда у вас есть прямой канал связи между всеми биологическими, механическими и информационными сущностями на борту [19].

И несомненно, современному Персею следует слиться с волнами реки и высечь огонь новой эпохи. Увидев своё отражение на поверхности воды, он не испугается, потому что созданное всегда есть отражение своего создателя. Значит, нам точно не стоит бояться собственного будущего из-за нашего порождения - ведь это дитя хороших родителей. Даже если оно стоит на пороге с оружием в руках. И выглядит уже не совсем человеком.