Источник

У порога встали горы громадно,
Я к подножию щекой припадаю.
И не выросла еще та ромашка,
На которой я себе погадаю.

Роберт Рождественский

Искусственный интеллект (ИИ) или же Artificial Intelligence (AI) — быстроразвивающаяся технология, о которой стоит говорить даже чаще, чем это делают сегодня. Она стремительно развивается вместе с такими дополняющими друг друга технологиями, как нейронные сети и машинное обучение (к которым в последнее время подключился Интернет вещей – IoT), и, по слухам, даже собирается захватить весь мир. Причем с нашей непосредственной помощью. О ней непрерывно говорят и пишут, пишут и говорят. ИИ уже применяется в сложном моделировании, в играх, в медицинской диагностике, в поисковых движках, в логистике, в военных системах и много где еще, обещая в обозримом будущем охватить и, возможно, основательно «перелопатить» весь постиндустриальный ландшафт. И он даже начал писать литературные произведения вроде вот таких: «Давным-давно жила-была золотая лошадь с золотым седлом и красивым фиолетовым цветком в волосах. Лошадь принесла цветок в деревню, где принцесса пустилась в пляс от мысли о том, как красиво и хорошо выглядит лошадь».

Что можно сказать? — Лошади, они такие. Да и принцессы обретаются, как известно, больше по деревням… Однако ИИ имеет способность обучаться в отличие от пришедшего на ум от приведенных выше строк незабвенного Ляписа Трубецкого из Ильфа и Петрова. «Первый блин комом» бывает не только в литературе, поэтому и всем остальным почитателям ИИ стоит к нему также приготовиться.

И еще ИИ – это мантра, которую раз от раза повторяют технологи, академики, журналисты и венчурные капиталисты для привлечения внимания как к проблемам человечества, так и к себе, любимым. Одни специалисты в лице известных представителей науки и бизнеса, как Стивен Хокинг, Билл Гейтс и Элон Маск не так давно беспокоились по части будущего ИИ, поскольку дальнейшее развитие ИИ-технологий может приоткрыть «ящик Пандоры», когда ИИ станет доминирующей формой «жизни» на нашей планете. Другие специалисты озабочены разработкой этических норм, дабы обуздать разрушительную силу ИИ (впрочем, ИИ пока еще ничего не разрушил), направив ее на служение общему благу цивилизации.

А вот Пентагон, к примеру, уже решил, что ИИ – это ключевое направление, в которое необходимо вложить максимум усилий, чтобы не дать Китаю и России вырваться вперед. В связи с этим в США под руководством министра обороны создается соответствующий центр ИИ.

В настоящее время значительная часть того, что в публичной сфере называется ИИ, является лишь так называемым «машинным обучением» (МL – Machine Learning). В частности, с помощью технологии Big Data ML позволяет компьютерной программе обучаться на всех собранных данных и выдавать предсказания/прогнозы с растущей по мере обучения точностью для использования при автоматическом (или под контролем человека) принятии решений. В целом ML – это алгоритмическое поле, объединяющее идеи из статистики, информатики и многих других дисциплин для разработки алгоритмов, которые позволяют делать указанное выше.

Кстати, ML родилось не сегодня. Его роль в промышленности была в целом понятна еще в начале 1990-х годов, и к концу ХХ века такие перспективные компании, как Amazon, уже использовали ML во всем своем бизнесе, решая критически важные проблемы с обнаружением мошенничества, прогнозированием логистических цепочек или созданием рекомендаций потребителям. По мере того, как объемы данных и вычислительные ресурсы компьютеров быстро возрастали в течение последующих двух десятилетий, стало ясно, что вскоре ML будет управлять не только Amazon, но и практически любой компанией, в которой решения могут быть привязаны к крупномасштабным данным. По мере того, как специалисты в области алгоритмов ML сотрудничали со специалистами в области баз данных и распределенных систем для создания масштабируемых и надежных систем ML, раздвигались шире социальные и экологические границы полученных систем. Сегодня именно это слияние идей и технологических тенденций и называется ИИ.

С другой стороны, исторически сложилось так, что термин AI появился еще в конце 1950-х годов, чтобы на взлете появившихся идей по части развития кибернетики (по большей части там, где она не считалась «лженаукой») окунуться в столь пьянящее душу ученого стремление реализовать в программном и аппаратном обеспечении сущность с интеллектом, приближенном к интеллекту человека. Революция представлялась такой близкой, и искусственная разумная сущность должна была казаться одной из нас, если не физически, по крайней мере, мысленно. Новый термин сразу же подхватили писатели-фантасты, но в реальной жизни у творцов «новых сущностей» успехи не особо приближались к успехам Господа или же просто Природы (как принято говорить у атеистов).

В те далекие времена термин ИИ использовался на «высоком уровне», приближающемся к способности людей «рассуждать» и «думать». Как отмечают специалисты, несмотря на то, что с тех пор прошло почти 70 лет, все те былые высокоуровневые рассуждения и идеи по-прежнему остаются неуловимыми и не получили какого-либо программно-аппаратного воплощения. В отличие от восторженных прошлых ожиданий весь сегодняшний «реальный» ИИ в основном сформировался в областях техники, связанных с низкоуровневым распознаванием образов и управлением движением. И частично в области статистики в отношении дисциплин, ориентированных на поиск шаблонов данных и на создание логически связанных с ними прогнозов. То есть столь давно ожидаемой революции в области ИИ пока еще не случилось.

Впрочем, в отличие от человеческого мозга, поверх которого существует и наш интеллект, ИИ не зависит от атомов углерода, белковой жизни и всяческих эволюционных ограничений. Благодаря этому он способен непрерывно обучаться и совершенствоваться, и, в конце концов, он позволит человечеству решить массу насущных проблем — от климатических изменений до онкологических заболеваний. Такого мнения придерживается, в частности, Макс Тегмарк, физик из MTI и сооснователь так называемого «Института будущего человечества». В интервью изданию The Verge Тегмарк представил свое видение трех эволюционных форматов жизни (на нашей планете).

Жизнь 1.0 характерна для бактерий, которых Тегмарк называет «небольшими атомами, соединенными вместе в простейший алгоритм саморегулирования». Бактерии не способны освоить ничего нового в течение своей жизни, а механизмы их работы крайне примитивны – они могут только поворачиваться в ту сторону, где больше еды. В свою очередь, развитие их «программного обеспечения» (современные ученые теперь легко разделяют все сущее на ПО и «железо») возможно только в рамках эволюционных изменений.

Жизнь 2.0 воплощается в людях. И, несмотря на то, что человек также обладает жестко заданным и ограниченным эволюцией телом — «железом», он также обладает серьезным преимуществом в виде более совершенного разума – «программного обеспечения», которое позволяет ему учиться самостоятельно. Благодаря способности совершенствовать свое программное обеспечение по собственному усмотрению, приобретая знания и не дожидаясь эволюционного развития, люди начали доминировать на этой планете, создали современную цивилизацию и культуру. Тем не менее, несмотря на все преимущества, у нашего совершенствования есть предел. Именно поэтому со временем жизнь 2.0 будет вытеснена менее ограниченной жизнью 3.0 (учитывая сказанное немного выше, делать подобные заявления было бы несколько опрометчивым).

Жизнь 3.0 характеризуется тем, что в ней не существует не только эволюционных, но и биологических ограничений. ИИ, в отличие от предыдущих форматов, будет способен развивать как свое ПО, так и «железо». Например, установить в себя больше памяти, чтобы запоминать в миллион раз больше информации или получить большую вычислительную мощь (кстати, было бы интересно посмотреть – нет ли у Тегмарка где-нибудь за ухом USB-разъема). В отличие от жизни 3.0, мы, довольствующиеся жизнью 2.0, – хотя и можем поддерживать собственное сердцебиение при помощи кардиостимуляторов или облегчить пищеварение таблеткой – не в состоянии внести в свои тела кардинальные изменения. Ну, разве что небольшую коррекцию с помощью пластических хирургов или вживления чипов. Нам не дано серьезно увеличить свой рост или в тысячу раз ускорить мышление в собственном мозге. Человеческий интеллект работает на биологических нейронных связях, причем объем нашего мозга ограничен таким образом, чтобы при рождении голова могла пройти через родовое отверстие матери. ИИ же ничем не ограничен и может совершенствоваться бесконечно – поясняет ученый.

Впрочем, похоже, что Тегмарк как-то не учитывает прогресс в генетическом проектировании – неровен час, люди таки научатся корректировать свои тела, чтобы отрастить длинные ноги, цепкие щупальца, увеличить родовое отверстие или добавлять ума тем, кому его катастрофически не хватает.

Тегмарк отмечает, что многие люди сегодня воспринимают разум как загадочное свойство биологических организмов. Однако, по его словам, эти представления ошибочны. «С точки зрения физика, разум — это всего лишь обработка информации, которую выполняют элементарные частицы, движущиеся по определенным физическим законам», – говорит он. Законы физики никак не препятствуют созданию машин, намного превосходящих человека по интеллекту (хорошо бы при этом поточнее знать – что же такое интеллект). Помимо этого, подчеркивает Тегмарк, нет никаких свидетельств в пользу того, что разум зависит от наличия органической материи:

«Я не думаю, что есть какой-то секретный соус, в котором обязательно должны присутствовать атомы углерода и кровь. Я много раз задумывался, каким может быть предел интеллекта с точки зрения физики, и каждый раз приходил к выводу, что если такой предел и существует, то мы от него находимся очень и очень далеко. Мы даже не можем его вообразить. Тем не менее, я уверен, что именно человечество вдохнет во Вселенную то, что впоследствии станет жизнью 3.0 – и это, с моей точки зрения, звучит очень романтично».

В ответ хочется не менее романтично добавить – а нас туда с нашим ИИ со всеми так сказать нашими «трещинками» звали? Что касается «трещинок». Если жизнь 3.0 не будет знать ограничений, то неплохо бы узнать, в каких именно: в обмане, в безразличии, в подлости? А, быть может, в возможности убивать? Точно такие же проблемы регулярно встают перед отдельными представителями рода человеческого, которые раз за разом поддаются искушению.

«Мы сталкиваемся с ограничениями нашего разума каждый раз, когда проводим то или иное исследование. Именно поэтому я полагаю, что как только нам удастся объединить наш собственный ум с ИИ, перед нами откроются огромные возможности по решению практически всех проблем», – утверждает Тегмарк, а проблем, как мы знаем, у людей бывает много.
Ну что же. Для этого не нужно, как говорится, далеко ходить. За последние 20 лет как в промышленности, так и в научных кругах наблюдался значительный прогресс в создании так называемого «усиления интеллекта» или IA (Intelligence Amplification). В этом случае вычисления и данные используются для создания служб, которые дополняют человеческий интеллект и творчество. Поисковая система тоже может рассматриваться как пример IA (она увеличивает человеческую память и фактические знания), а также естественный перевод языка (он увеличивает способность человека общаться). Генерация звуков и изображений служит палитрой и усилителем творчества для художников. В то время как услуги такого рода могут, вероятно, включать в себя высокоуровневые рассуждения и идеи, в настоящее время этого не происходит. В основном все сводится к выполнению различных сопоставлений наборов данных с шаблонами или числовых операций. Возможно, мы еще увидим какие-нибудь облачные сервисы типа InaaS (Intellect-as-a-Service), помогающие пользователю поумнеть в разных областях знаний, но это будет лишь развитием поисковых систем, но ни в коем случае не заменой человеческого интеллекта.

Существует также такая «умная» вещь, как «интеллектуальная инфраструктура» (II – Intelligent Infrastructure), в которой сосуществуют сети вычислений, данных и физических объектов и которая начинает появляться в таких областях, как транспорт, медицина, торговля и финансы. Все это имеет огромное значение для отдельных людей и сообществ. Иногда понятие II возникает в разговорах об интернет-вещах, но обычно это относится к простой проблеме получения «вещей» в Интернете, а не к решению значительного набора проблем, связанных с этими «вещами», чтобы анализировать потоки данных, обнаружить их связи с внешним миром и взаимодействовать с людьми и другими «вещами» на гораздо более высоком уровне абстракции, чем просто биты. В общем, IA и II – это еще не «настоящий» ИИ.

А что есть «настоящий» интеллект? Надо ли именно его имитировать в рамках создания ИИ? Конечно, человеческий интеллект – это единственный вид интеллекта, который нам известен. Но мы знаем и то, что на самом деле люди не очень хорошо разбираются в некоторых суждениях: у нас есть свои упущения, предвзятости и ограничения. Бывает, люди ошибаются. Более того, критически мы не эволюционировали для того, чтобы выполнять виды широкомасштабного принятия решений, с которыми сталкиваются современные системы, уготованные на роль ИИ. Разумеется, можно сколько угодно рассуждать о том, что система ИИ не только подражает человеческому интеллекту, но и дополняет, исправляет его, а потом будет еще и масштабироваться до решения сколь угодно больших проблем, стоящих перед человечеством. Но, извините, это уже из области научной фантастики. И подобные умозрительные аргументы, вот уже 70 лет питающие художественную литературу, не должны становиться основной стратегией формирования ИИ. Очевидно, ИА и II будут и дальше развиваться, решая свои частные задачи, но без претензии на то, чтобы стать «настоящим» ИИ. Пока еще мы очень далеки хотя бы от реализации «человекоподражательного» ИИ.

К тому же успех в ИА и II не является ни достаточным, ни необходимым для решения важных проблем ИИ. Если обратиться к беспилотным автомобилям, то для реализации подобной технологии необходимо будет решить ряд технических проблем, которые могут иметь совсем мало отношения к компетенциям человека. Интеллектуальная транспортная система (а это система II), скорее всего, будет в большей степени напоминать существующую систему управления воздушным движением, чем популяция слабо связанных, ориентированных на собственные цели и в целом невнимательных людей-водителей. Точнее, она будет намного сложнее, чем нынешняя система управления воздушным движением хотя бы в части использования огромных объемов данных и адаптивного статистического моделирования для информирования о частных решениях по каждому маневру каждого автомобиля.

Вместе с тем, несмотря на в целом оптимистичный настрой по части будущего ИИ, специалисты признают, что ИИ несет серьезные риски. Помнится, Стивен Хокинг и др. полагали, что ИИ станет или самым худшим, или самым лучшим явлением в истории человечества. К тому же, когда люди говорят о нынешней тотальной автоматизации рабочих мест, они часто забывают, что намного важнее заглянуть вперед, чтобы понять, что будет дальше.

По этому поводу Тегмарк сказал: «Дело в том, что сегодня перед нами стоят вопросы, на которые мы должны дать ответ прежде, чем на свет появится первый суперинтеллект. Причем эти вопросы довольно сложны, возможно, ответить на них мы сможем не ранее, чем через 30 лет. Но как только мы их разрешим, то сможем обезопасить себя от угроз». «Как мы сможем обеспечить надежность будущих систем ИИ, когда сегодня наши компьютеры очень легко взламываются? Как сделать так, чтобы ИИ понимал наши цели, если он станет умнее нас? Какими должны быть цели у самого ИИ? Сможет ли искусственный разум выработать перед собой высокие задачи, на которые сегодня уповают многие американские программисты, или ИИ вдруг станет мыслить, как сторонник запрещенного в РФ ИГ или человек из Средних веков? Как изменится наше общество после изобретения ИИ? – Когда ваш компьютер зависает, вы начинаете нервничать, потому что потеряли час работы. Но представьте, что речь идет о бортовом компьютере самолета, на котором вы летите, или о системе, отвечающий за ядерный арсенал в США – вот это уже в разы страшнее».

А вот кто, к примеру, должен отвечать, если ИИ или вооруженным им робот совершат действие, причинившие людям вред? Это действие может быть случайным, но это один из многих встающих перед обществом вопросов об автономии и ответственности ИИ, когда его наиболее продвинутые формы, скажем, самоуправляемые автомобили (возможно, первые роботы, которым мы учимся доверять), дроны или даже средства ведения войны, получают все более широкое распространение. Специалисты по ИИ и праву пытаются это понять, однако не видят простого ответа. В любом случае вопрос остается юридически трудным. Как, например, разделить зоны ответственности программиста и владельца, учитывая, что роботы и ИИ обучаются из окружающей их среды?

По словам Тегмарка, чтобы нивелировать исходящие от ИИ риски, надо чаще устраивать дискуссии. Причем в дискуссиях должны принимать участие все слои общества, а не только «повернутые» на ИИ ученые. Ведь ИИ обещает изменить саму сущность нашей цивилизации и затронет жизни буквального каждого человека. Пусть каждый человек и участвует. И что интересно – сегодня в исследования ИИ вкладывают миллиарды, при этом изучения его безопасности практически не финансируются. Кто стал бы строить ядерный реактор, не спроектировав предварительно его защиту? Очевидно, что все бы выиграли, если бы государства и корпорации стали больше вкладывать денег в исследования на тему безопасности ИИ. И тогда у нас что-нибудь получится.

А теперь рассмотрим идеальное информационное общество, в котором окружающая среда увешана датчиками, которые исправно передают адекватную информацию и их никто не «хакает» (в смысле, этому никто не мешает). И вот этот огромный окружающий мир поставляет в нашу высокотехнологичную компанию огромный поток данных, который в реальном времени обрабатывается в ЦОДах, преобразуется, визуализируется и пр., чтобы предстать в «человекочитаемом» виде. И потом человек, которому предназначена эта информация, напрягая мозги, смотрит на все это и принимает операционное решение, которое он транслирует другому человеку, воплощающему это решение в некий в код. Далее этот оптимизированный код управляет производством, компанией или даже государством, и далее производство и пр. начинает улучшать что-то в окружающем мире и так далее.

А вам не кажется, что в истории про ИИ появилось слабое звено, и человек становится просто лишним? Специалисты отмечают, что хорошо «обученный» алгоритм уже сегодня в состоянии сам принимать операционные решения, особенно в более или менее повторяющемся производственном процессе. Причем может делать это гораздо лучше любого самого опытного технолога (не говоря уже о начальнике транспортного цеха), который, к примеру, «жизнь и здоровье положил» на то, чтобы хорошо управлять тем самым производственным процессом. И получается, что наличие человека в цепи принятия решений попросту непрактично. То есть, еще не построив «настоящий» ИИ, человечество уже начинает осознавать собственную ненужность в ряде известных процессов. То ли еще будет, когда появится «настоящий» или «классический» ИИ… Посчитает ли этот ИИ нужным кормить миллионы и даже миллиарды ненужных бездельников на «белковой тяге»? Ведь питающиеся электричеством роботы не нуждаются в сельском хозяйстве, жилье, переработке бытового мусора, отоплении, водоснабжении и пр. и пр. Тут и без ИИ легко сообразить, на чем целесообразно сэкономить. Кто-нибудь кроме писателей-фантастов просчитал такие риски?

Возможно, когда-нибудь какие-нибудь беспроводные технологии и облачные сервисы позволят наделить интеллектом кого угодно. И тогда все вокруг станут умные и образованные. Только это будет уже никому не нужно. ИИ вам заявит, что, мол, ваш поезд, товарищи люди, уже ушел. Что же останется нам? – Ну, хотя бы песня:

Я мечтала о морях и кораллах.
Я поесть мечтала суп черепаший.
Я шагнула на корабль, а кораблик
Оказался из газеты вчерашней…

По материалам: radio.ru, The Verge, hightech.fm, vz.ru, anews.com, pcweek.ru, medium.com, Defense News

Александр Голышко, к.т.н., системный аналитик