О том, что бездушные алгоритмы рано или поздно лишат работы всех (или почти всех) написано немало статей — от новостей с громкими заголовками до аналитических отчетов. Разбираемся, так ли правы эти неутешительные прогнозы — и попробуем проследить, откуда в нас страх перед системами ИИ, как на него повлияли несколько поколений научной фантастики и как миф о «страшных роботах из будущего» может подпортить жизнь разработчикам и специалистам уже сегодня.

Почему алгоритмы сейчас недолюбливают

Искусственный интеллект — постоянный спутник новостей, научных и научпоп-статей и даже юмористических подборок в стиле «нейросеть придумала анекдот». При этом широкая общественность относится к ИИ скорее как к нежелательному соседу, с которым нам приходится мириться. Об этом говорят социологические исследования — например, по данным Университета Монмута, в этом году только 9 процентов американцев посчитали, что ИИ «приносит обществу больше пользы, чем вреда».

Остальные 91% разделились практически поровну — часть (46%) решила, что польза и вред от ИИ-систем примерно одинаковы, другая (41%) — что вред перевешивает. К слову, 30 с лишним лет назад, в 1987 году подобным вопросом задавалась организация Cambridge Research International. На тот момент 20% американцев посчитали искусственный интеллект «скорее благом».

Скептические настроения отмечают и другие исследования — по данным Pew Research Center, только 15% опрошенных воодушевляет тот факт, что ИИ-системы активнее используются в повседневной жизни. Остальные 75% этому не очень-то рады. Исследователи делают вывод: тема ИИ гораздо больше вдохновляла людей пару-тройку десятилетий назад, когда искусственный интеллект казался чем-то из далекого будущего.

Сейчас алгоритмы прочно входят в нашу жизнь, и многие начали воспринимать их как угрозу. Одна из причин тому — страх остаться профессионально невостребованным. Постоянным рефреном к достижениям в сфере ИИ идет список должностей, которые в ближайшем будущем заменит искусственный интеллект. McKinsey еще в 2017 году давала «оптимистичный» прогноз: к 2030 году автоматизация позволит сократить до 800 миллионов рабочих мест. Другие консалтинговые фирмы в своих отчетах напирают на то, что автоматизация затронет не только «синих воротничков», а также, к примеру, юристов и менеджеров среднего звена.

В таких условиях и под градом кликбейт-новостей в стиле «ИИ вместо бухгалтера/тестировщика/дизайнера: какие профессии уйдут в 2024 году» сложно сохранять оптимизм по поводу технологий. Сейчас отношение широких масс к ИИ называют «алармистским»; на Западе ИИ все чаще критикуют с позиций лонгтермизма — последователи подхода убеждены, что искусственный интеллект несет экзистенциальную угрозу человечеству. Такие опасения озвучили авторы открытого письма с просьбой о приостановке обучения нейросетей, которое наделало много шума в прессе весной этого года — в первую очередь потому, что его подписали Илон Маск, Стив Возняк и ряд других известных предпринимателей и ученых.

Опасения по поводу использования ИИ наблюдаем и мы — не так давно Максим Картушенко, наш эксперт по анализу данных и машинному обучению, написал материал о том, что делать, чтобы пользователи (например, диспетчеры) не боялись инноваций и прислушивались в работе к рекомендациям ML-моделей.

Что-то здесь не так

Итак, социологи вполне однозначны: народ недолюбливает ИИ. Но что понимают сами опрашиваемые под «искусственным интеллектом»? На этот вопрос у ученых тоже есть ответ, и он неутешительный. В исследовании 2019 года, которое провели специалисты из Кембриджа, выяснилось, что четверть респондентов не может дать «удовлетворительного» описания ИИ-системы (проще говоря, опрашиваемые были уверены, что «AI» — это роботы, как в кино). Точно так же, далеко не всем респондентам известна концепция сильного и слабого ИИ — и у них нет оснований не верить тому, что ChatGPT может рано или поздно эволюционировать до уровня Skynet.

Более того, даже поколение Z и младше порой не в курсе, что ИИ-алгоритмы — это огромная часть современных сервисов, выполняющих хорошо известные, рутинные и «нестрашные» задачи, вроде фильтрации спама или продуктовых рекомендаций. Патрик Мюррей (Patrick Murray), директор Центра изучения общественного мнения Университета Монмута, рассказал журналисту Washington Post: для многих его студентов стал сюрпризом тот факт, что они регулярно пользуются результатами работы ИИ-систем.

Участники разнообразных опросов не всегда верно оценивают проникновение технологий в жизнь и их реальные возможности и ограничения. При этом сам термин «искусственный интеллект» остается для них размытым и насыщенным смыслами, почерпнутыми из кино и художественной литературы.

Откуда в нас страх перед ИИ

Сейчас мотив ИИ-антиутопии в медиа, и особенно в кино, встречается как никогда часто: от экшн-фильмов («Миссия невыполнима-7», «Чон-и») до ужасов («М3ган») и комедий («(Не)идеальные роботы»). Однако сама идея не нова: ее истоки прослеживаются еще в литературе XIX века — если не брать во внимание «Франкенштейна» Мэри Шелли (о нем чуть ниже), то одно из первых предостережений против мыслящих машин можно найти в «Едгине» Сэмюэла Батлера (1872 г.). Книга рассказывала о некоем государстве («Едгин» — анаграмма «нигде»), где жители намеренно отказались от технического прогресса из опасений перед тем, что в результате эволюции у машин может появиться сознание.

Большой популярности произведение не снискало, но идеи «Едгина» живы в научной фантастике и по сей день. С тех пор было написано и снято множество произведений в жанре ИИ-антиутопии, их сюжеты чаще всего содержат один или несколько тропов:

• Комплекс Франкенштейна (искусственный интеллект, обернувшийся против своего создателя). Этот антиутопический сюжетный ход использовали на заре научно-фантастического кино (например, в советском фильме 1935г. «Гибель сенсации») и продолжают эксплуатировать до сих пор («Прометей», «Ex machina»). Еще один пример реализации этого тропа — американский фильм 1956 года «Запретная планета». По словам Пола Муцио (Paul Muzio), в прошлом вице-президента Network Computing Systems, фильм особо примечателен предсказательной силой. В середине пятидесятых его создателям удалось изобразить то, что сейчас мы назвали бы «гуглом планетарного масштаба» — и показать опасности человеческого взаимодействия с таким сверхинтеллектом.

• Восстание машин — еще один популярный троп лежит в основе пьесы Карела Чапека «R.U.R.» (1920г.), произведения, благодаря которому в научно-фантастическом лексиконе появилось слово «робот».

• ИИ-диктатура и жизнь после ИИ — эти два тропа (а также «восстание машин») служат фоном для событий «Дюны» Фрэнка Герберта.

• Жизнь в симуляции — относительно новый сюжетный ход, главным популяризатором которого стала «Матрица» Вачовски (а также вышедшие практически одновременно с ней «Тринадцатый этаж» и «Экзистенция»).

Современному зрителю, хорошо знакомому со всеми этими приемами, привычно ассоциировать термин «искусственный интеллект» с чем-то потенциально враждебным — и переносить такое отношение с экрана в реальную жизнь. Однако сами создатели научно-фантастических произведений далеко не всегда прямолинейны и за маской роботов часто прячут вполне обычные «человеческие» проблемы.

Изабелла Херманн (Isabella Hermann) из Берлинского Технического Университета в своем научном эссе «ИИ в художественном творчестве» указывает на то, что за образом ИИ в научной фантастике нередко стоит «ненаучный» и «нефантастический», а современный социальный нарратив. С этой позиции, например, HAL 9000 из «Космической одиссеи» выступает как метафора организаций или общественных институтов, которые не хотят признавать свои ошибки и вместо этого ссылаются на «человеческий фактор».

Такого же мнения об образе ИИ в популярной культуре, кстати, придерживаются члены британской Палаты лордов — в 2018 году они выпустили отчет, в котором отметили следующее:

«Изображение искусственного интеллекта в поп-культуре представляется невероятно далеким от зачастую более сложной реальности. Не-специалисту, который основывается на образах из медиа, простительно представлять ИИ как человекообразного робота (иногда с преступными намерениями), или по меньшей мере как очень умный бестелесный голос, который может помочь с массой задач — но это не имеет ничего общего с реальными возможностями ИИ-алгоритмов».

Тема «подозрительного и опасного ИИ» продвигается в медиа настолько активно, что некоторые журналисты считают неискренними манифесты и другие заявления глав бизнеса и известных разработчиков о том, что «ИИ может положить конец человечеству». В The Guardian, например, предположили, что цель таких выступлений — желание «набить себе цену» и поддержать миф о потенциальном всемогуществе искусственного интеллекта, при том, что реальные разработки оказываются далеко не такими «умными», как это хочется показать Кремниевой долине.

Нагнетание эмоций приводит к тому, что под раздачу попадают не крупные корпорации, а инди-разработчики. Один из таких случаев произошел несколько месяцев назад: Бенджи Смит (Benji Smith), разработчик инди-сервиса для писателей Shaxpir, был вынужден приостановить работу над другим своим проектом — Prosecraft — под влиянием общественного мнения. Prosecraft использовал алгоритмы текстового анализа для составления «лингвистической карты» художественных произведений. Сервис подсчитывал общее количество слов в книге, объем прилагательных и т.д., оценивал текст по грамматическим категориям (напр. объем активного/пассивного залога) и сравнивал с другими произведениями.

Волну возмущения в соцсетях по этому поводу подняли писатели — те, чьи книги проанализировал Prosecraft. И, как подозревает Смит, большая часть авторов испугалась не результатов анализа или оценок, а того, что их дал алгоритм — «ИИ прочитал мою книгу и украл мои идеи». Сам Смит отмечает, что занимался разработкой сервиса давно, рассказывал о нем на писательских конференциях и везде находил положительный отклик — но это было до «бума нейросетей». Поп-культурный образ «всемогущего плохого робота» сыграл с разработчиком злую шутку: иронично, учитывая, что сервис должен был помогать писателям, а не отнимать у них работу.

Как жить дальше в мире с алгоритмами

Можно прислушаться к мнению Кена Голдберга (Ken Goldberg), профессора Калифорнийского Университета и CEO Ambidextrous Robotics — одного из тех представителей ИТ-сообщества, кто не разделяет страхов перед грядущей сингулярностью. По его словам, главные преимущества современных машин (в широком смысле этого слова): умение распознавать паттерны в больших объемах данных, точность вычислений и способность не терять бдительность. Все это хорошо подходит, к примеру, для разработки систем видеонаблюдения. Тем не менее, на текущем этапе машинам чрезвычайно плохо удается принимать адекватные решения в сложных ситуациях, ловко оперировать новыми материалами и объектами: «Я убежден, что в этом смысле ничего принципиально не изменится как минимум в ближайшие 20, а то и 50 и 100 лет». Те, кто не разделяет всеобщей ИИ-паники, убеждены: вряд ли нейросети заменят собой людей, новые системы просто изменят подход к работе.

Возвращаясь к Кену Голдбергу: он предлагает заменить концепцию «сингулярности» идеей «комплементарности». По его словам, постепенное внедрение ИИ-алгоритмов вряд ли приведет к резкому сокращению штата где бы то ни было. Скорее, такие изменения помогут уменьшить рутину и сократить объем тяжелой работы — позволяя людям делать то, что они умеют лучше всего (решать задачи вне стандартных, максимально шаблонизированных процедур).

Во второй части расскажем о том, с чего можно начать «кооперацию с системами ИИ» — как использовать алгоритмы для уменьшения рутины уже сейчас — в том числе на примерах наших коллег из ПГК.