Писатели-фантасты на протяжении многих лет регулярно обращаются к сюжетам про «восстания машин», но по актуальности они, кажется, сейчас отходят на второй план. Зато можно рассмотреть другую интересную сторону этой медали: историю о том, как люди сами отдают контроль над своими жизнями в руки искусственных интеллектов и алгоритмов. Просто потому что они точнее, надежнее и не думают о собственной выгоде. Если мы уже можем читать реальные новости про цифрового прокурора в Шанхае и выпускников, которые готовы доверить искусственным интеллектам выбор своей профессии, то почему бы фантастам не рассмотреть возможные изъяны и риски? И они действительно уже делали это не раз! Вот несколько ярких примеров от классики и до наших дней.

«Культура» Иэн Бэнкс

«Культура» — условный цикл произведений, книги в котором связаны общим миром, но обладают самостоятельными сюжетами. Автор работал над ним с конца 80-х до 2012 года, что для космооперы, которая исследует множество социальных вопросов, выдающийся «марафон». Культура — это общество будущего, где гуманоиды соседствуют с разумными машинами и мягко контролируются ими. Разумы — сверхмощные компьютеры, которые поддерживают существование тепличных условий для своих биологических подопечных. И, можно сказать, что общество это выглядит довольно утопически: у людей есть все, что необходимо для жизни, они могут ни о чем не беспокоиться, купаясь в удовольствиях. Но со временем все очевиднее возникают неудобные вопросы. А ради чего? А стоит ли такое спокойствие остановки в развитии? А что, если враги Культуры тоже по-своему правы? А стоит ли вообще настолько беспечно доверять свое благополучие Разумам? Даже если компьютеры добросовестно заботятся о Культуре, а не злоумышляют и не злоупотребляют доверием.

В целом это тот случай, когда за первой книгой было сложно угадать, какое потрясающее будущее ждет цикл. Пружина раскручивалась постепенно. Вот наемник, по которому впервые становится видно, насколько незначительна пешка в руках Культуры («Выбор оружия»), вот — забавный чат Разумов космических кораблей, которые полюбят множество читателей («Эксцессия»). Фокус медленно смещается с гуманоидов на иные формы жизни, угол обзора становится шире… И идея Культуры остается понятной и по-своему привлекательной, но только одной из возможных форм развития. У Бэнкса превосходно получается показать обстоятельства, но решение оставить за читателем.

«Страна Качества» Марк-Уве Клинг

Антиутопия ближнего прицела родом из Германии. Довольно язвительная сатира на общество потребления и беспечного доверия к алгоритмам. Клинг описывает страну, где чинить сломанное запрещено — ведь можно купить новое. Жителей, которые судят других по рейтингу в социальных сетях (который, разумеется, тоже высчитывается машинами), позволяя ИИ подбирать себе «подходящих» друзей и партнеров. Тут будет много деталей, забавных и по-своему пугающих, когда замечаешь, что до этого торжества абсурда нам, как обществу, осталось всего-то несколько шагов. Надо отметить, что в родной Германии автор сделал себе имя в стендапе. К этому можно относиться по-разному, но во многом именно так легче всего описать опыт, который вы получите от этой книги. Хороший стендап ювелирно работает с «болями» общества, и в «Стране Качества» Клинг занимается этим же. 

Когда нам не пытаются показывать «картину в целом», нашим героем становится Петер Безработный (фамилия в Стране Качества дается по профессии родителя), социальный рейтинг которого ниже плинтуса. При этом в иных обстоятельствах у Петера могло бы быть настоящее призвание — он собирался быть «доктором» для разумных машин. Вместо этого он вроде как занимается их утилизацией, но на самом деле — коллекционирует в подвале, создавая себе небольшую общину товарищей. То, насколько человек здесь равен с разумной машиной, и насколько легко и тех, и других готовы выбросить на обочину жизни — на самом деле, изящный штрих. Но, пожалуй, лучшее в «Стране Качества» — это ощущение оторопи от коллективной добровольной слепоты, которая воплощена через идею алгоритмов, но на самом деле является общей проблемой масс.

Книга обладает законченным сюжетом, но после ее успеха Клинг написал сиквел, «Страна Качества 2.0», в котором Петера ждут новые проблемы, а алгоритмы начнут вести себя предельно странно. 

«Мы — Легион. Мы — Боб» Деннис Тейлор

Гик-фантастика о талантливом молодом человеке, мозг которого был преобразован в искусственный интеллект для управления космическим зондом. Первый роман цикла Тейлера — это бодрое приключение, где между строк герой осмысляет, что для него значит потеря статуса «человек» и куда ему двигаться дальше. Не будет большим спойлером сообщить, что «дальше» он решает создать приличное количество собственных копий, управляющих аналогичными зондами, чтобы больше успевать, а к тому же было не так скучно. И вот тут-то начинается то, за что Тейлору можно поаплодировать.

Бобы некогда были одной личностью, но в то же время мы быстро учимся их отличать, они становятся для читателей разными героями (практически все действующие лица, которые у нас есть, однажды были Бобом). А еще, поскольку человечество приближается к тому, чтобы уничтожить Землю, пока Бобы исследуют космос, им приходится быть «нянями» целой цивилизации: найди новый дом, организовать «переезд», не допустить новых конфликтов. То есть, разобравшись с уровнем рефлексии «кто я теперь, если не человек?», Боб очень быстро переходит на уровень «теперь я сверхразум, который контролирует человечество». И, кто бы сомневался, что это окажется непросто. 

«Город и звезды» Артур Кларк

Классика фантастики о благополучном обществе, которое закрылось в тепличном состоянии и перестало развиваться. В каком-то смысле идеи «Города и звезд» и «Культуры» Бэнкса можно назвать перекликающимися. Но Кларк ограничился куда более скромным объемом, а к тому же на страницах книги размышляет об опасностях создания ИИ без каких-либо ограничений и лимитов. История попыток старой Империи создать Чистый Разум и их первого провала — отдельной глубины рассуждение о природе сознания и отношениях творца и творения. И все-таки под тему сегодняшнего разговора подходит в первую очередь Диаспар — город-ковчег, крепость, произведение искусства. Машины сделали его бессмертным, самоуправляемым, поддерживая численность населения и содержа его в безопасности. И большая часть сюжета посвящена именно тому, как герой пытается выбраться из этого стеклянного оазиса благополучия.

Многие описания быта Диаспара завораживают даже спустя более 50-ти лет после выхода романа. Это размеренная жизнь бессмертных гениев, которые проходят циклы жизни и «хранения», но при этом не страдают от скуки или лишения свободы воли. Интересны идеи о том, как может функционировать такое общество и какие технологии помогают ему поддерживать баланс. Диаспар сделан как вечная независимая система… И все-таки даже визионеры, которые создали его, подумали о «предохранителе» от стагнации. А благополучная вечность — тоже стагнация.

«Песни Гипериона» Дэн Симмонс

Трудно обойти вниманием культовую тетралогию Дэна Симмонса, даже если тема его ИскИнов и Техно-Центра хрупко застыла между тем самым «ИИ, которое управляет человечеством» и «восстанием машин». Во второй книге читателей ждут и причудливые интриги, и даже военные действия, особенно захватывающие с учетом того, что от ИскИнов зависит способность людей путешествовать между планетами. Гегемония как межзвездная империя не может существовать без ИскИнов… но не готова столкнуться с тем, что машины собираются воспользоваться этой ситуацией, преследуя свои цели.

Изначально космические прыжки, Нуль-Т каналы и система связи были «подарками» от ИскИнов для своих создателей, которые как раз нечаянно уничтожили Землю, так что возможность заселить космос пришлась очень кстати. Но только в конце тетралогии читатели узнают всю правду о причине такой щедрости со стороны уже самоосознанных машин. По сути, в этом сюжете человечество дважды строит свою цивилизацию, опираясь на возможности ИскИнов… В то время как чистый компьютерный разум раздумывает: использовать людей для собственных целей или все-таки уничтожить? Как вы можете заметить, меня зацепила идея взаимодействия различных фракций ИскИнов, потому что даже общность ИИ — в конечном итоге не одно сознание. Даже холодный машинный расчет может привести к разным выводам.