В России 30 мая 2019 года на совещании по развитию цифровой экономики под председательством В. В. Путина было принято решение о подготовке национальной стратегии по искусственному интеллекту. В её рамках разрабатывается федеральная программа с выделением 90 млрд рублей. В октябре 2021 года в РФ подписан Кодекс этики искусственного интеллекта, разработанный с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года.

Несколько раньше Всемирная комиссия ЮНЕСКО по этике научных знаний и технологий (КОМЕСТ) опубликовала в 2017 г. доклад «Об этике робототехники». В феврале 2017 года парламент ЕС принял Civil Law Rules on Robotics. В 2019 был сформирован Специальный комитет по ИИ.

Но еще раньше в 2007 году правительство Южной Кореи начало разрабатывать "Устав этических норм для роботов". Основные положения Устава напоминают сформулированные Азимовым законы робототехники. В конце 2008 года в Корее приняли закон "О создании и распространении умных роботов".

За основу разработки Кодекса этики для ИИ явно или неявно берется классическая идея –Трех законов робототехники, дополненные позже нулевым законом, сформулированные еще в 1950-х Айзеком Азимовым:

0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Нулевому и Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.

Комиссия, созванная Соединенным Королевством в 2010 году, пересмотрела законы Азимова, чтобы уточнить, что ИИ является ответственностью либо его производителей, либо его владельца/оператора.

Сообщества ученых по искусственному интеллекту и робототехнике, представленные их профессиональными участниками, обязаны занять позицию, как это сделали физики в отношении использования ядерного оружия, химики в отношении использования химических агентов и биологи в отношении использования возбудителей болезней в войне.

Введение

Понятия Естественный интеллект и Искусственный интеллект (ЕИ, ИИ от лат. intellectus - познание - понимание, рассудок), способность мышления, рационального познания, у человека – ЕИ, у робота – ИИ. ИИ можно определить как область компьютерной науки, занимающуюся автоматизацией разумного поведения неживых объектов. Здесь не будем оценивать и анализировать многочисленные другие определения ИИ и заострять внимание на предлагаемых разными авторами текстах, чтобы не застрять на этом. Понимание ИИ как системы, способной решать задачи доступные в прошлом только человеку, без всяких упоминаний эмуляции сознания, — также используется. И современные системы ИИ вполне этому определению отвечают.     

Кроме того, в ИИ должно быть реализовано основное свойство,– это возможность и стремление к самообучению без участия человека через интернет. Искусственный интеллект прежде всего, это самостоятельное обучение и самостоятельное мышление на основе полученной информации, знаний в результате самообучения.                

К основным понятиям ИИ (в международных обозначениях) следует отнести: Artificial Intelligence (AI-Искусственный Интеллект), Machine Learning (ML - Машинное обучение) – раздел AI, Data Science (DS -Наука о данных) – это три основных понятия ИИ.

Автор термина «искусственный интеллект» – американский информатик Джон Маккарти. В 1956 году на семинаре в Дартмуте он сформулировал перед 10 учеными задачу: понять, как обучить машины использовать естественные языки, формировать абстракции и концепции, решать задачи, подвластные пока только людям, и улучшать самих себя. Двухмесячный мозговой штурм стал импульсом для формирования множества научных лабораторий в разных странах по созданию ИИ, в том числе нейронных сетей.

ИИ позднее стали рассматривать на разных уровнях. Нижний уровень иерархии – слабый ИИ, где применяются нейронные сети, генетические алгоритмы и другие формы эволюционирующих вычислений, обеспечивающие понимание процессов адаптации, восприятия, воплощения и взаимодействия с окружающим физическим миром.

Посредством некоторого частично понятного процесса разрешения этот набор вычислительных схем преобразуется в более определенные схемы второго уровня – сильный ИИ, шаблоны логического вывода, где рассматриваются и изучаются схемы дедукции, абдукции, индукции, поддержки истинности, а также другие многочисленные модели и принципы рассуждений.

На этом более высоком уровне абстракции проявляется стремление специалистов воплотить закономерности социальных процессов в ИИ, передаче и подкреплении знаний. Здесь речь идет о разработках систем экспертных, интеллектуальных агентов, систем понимания естественного языка.

Высший уровень Artificial general intelligence (AGI) – сильный искусственный интеллект – это сам разум, превосходящий человеческий. Создаваемый сегодня ИИ подразумевает любую деятельность компьютера, имитирующую человеческий интеллект, сильный ИИ — только такую, которая претендует на что-то универсально общее, похожее на то, как мыслит человек.

Термин «сильный искусственный интеллект» ввёл Джон Сёрль, его же словами подход и характеризуется: «…более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум — это разум».Автор  известен во всём философском мире благодаря своей жёсткой критике идеи искусственного интеллекта и когнитивной психологии.

Искусственный сверхинтеллект (ASI). Оксфордский философ и ведущий мыслитель в области ИИ Ник Бостром определяет ASI как «интеллект, который намного умнее лучших человеческих умов практически в любой сфере, в том числе научного творчества и социальных навыков».

Относительно высшего уровня ИИ процитируем  нейролингвиста Татьяну Черниговскую: « Мы должны про себя решить, мы кто: мы те, кто быстрее всех, гнутся лучше всех, считают лучше всех? Если мы про это, то мы уже проиграли. Наша цивилизация закончилась. Потому что искусственные устройства точно будут делать это лучше, чем мы».

Мысленный эксперимент «Китайская комната» Джона Сёрля — аргумент в пользу того, что прохождение теста Тьюринга не является основанием (критерием) наличия у машины подлинного процесса мышления.

Аналогичную позицию занимает и Роджер Пенроуз, который в своей книге «Новый ум Короля » аргументирует невозможность получения процесса мышления на основе формальных систем.

Мышление и логика

В предшествующем тексте использованы многие понятия, которые желательно прояснить и уточнить. Следуя А. Шопенгауэру, будем рассматривать во взаимосвязи логику, диалектику и риторику, которые и составляют технику разума (не рассудка и сознания): логика с ее силлогизмами – техника собственно мышления, диалектика – техника диспута и риторика – техника речи. В риторике риторические фигуры являются примерно тем же, чем в логике являются фигуры силлогизма. 

Моделирование сознания животных с целью изучения предлагается выполнять путем устранения некоторых свойств нашего человеческого сознания. Но сознание животных подвержено влиянию инстинктов, которые у животных более развиты, чем у человека. Животные обладают интеллектом и рассудком не имея разума, следовательно, у них есть наглядное, а не абстрактное познание: их мозг правильно воспринимает и схватывает даже непосредственную причинную связь, а у высших животных – даже некоторые звенья ее цепи, но они не мыслят в собственном смысле этого слова.

У животных отсутствуют понятия и язык в человеческом понимании, т. е. абстрактные представления, и как следствие отсутствие настоящей памяти. Именно этот недостаток, главным образом обосновывает различие между их сознанием и сознанием человека. Способность воспоминания у животных, как и весь их интеллект, напротив, ограничены наглядным и состоят прежде всего только в том, что возвращающееся впечатление заявляет о себе как об уже бывшем благодаря тому, что созерцание, относящееся к настоящему, освежает след более раннего.

Задачи, предлагаемые для решения ИИ

Перечень задач, рассматриваемых в рамках «искусственного интеллекта», достаточно обширный и весьма неопределенный. В этот перечень можно включить как основные задачи, использующие автоматические методы решения, задачи «понимания» и перевода ЕЯ , доказательства теорем и распознавания зрительных и звуковых образов (речи).

Это круг «интеллектуальных» задач, которые предполагается решать автоматическими методами посредством написания и использования программ для вычислительных машин. Так, например, решение сложных вычислительных задач несомненно относят к интеллектуальной деятельности человека. Практически важным и интересным задачам, при решении которых необходимо привлекать интеллектуальные способности человека, часто отыскиваются аналогии в геометрии, комбинаторном анализе, даже в логических, математических головоломках и играх.

Пример одной из таких аналогии приводится ниже. О разработке, создании теории ИИ пока речь не идет, но сформировался перечень научных дисциплин, образующих ядро направления. Сюда следует отнести: математическую логику, структурную лингвистику, теорию вычислений, теорию информационных структур, теорию управления, статистическую теорию классификации, теорию графов и теорию эвристического поиска. Легко представить применения умных вычислительных машин в будущем мире, сродни фантастическому:

• в сфере производства вычислительные машины (ВМ) должны выполнять различного рода задачи по сборке и техническому контролю;

• в горной промышленности ВМ призваны работать там, где возникают слишком опасные условия для людей. Со дна океана они должны доставлять различные руды, например, марганцевую;

• в с\х ВМ должны оберегать посевы от вредителей, обеспечивать избирательный уход за разнообразными посевами, подрезать деревья;

• в учебных заведениях ВМ должны рассматривать задачи, решаемые обучаемыми, в поисках ошибок, подобно тому как ищутся ошибки в программе, и устранять их; обеспечивать обучаемых литературой, учебниками, хранящимися в памяти ВМ для озвучивания музыкальной партитуры, демонстрации в динамике физические и химические процессы и явления;

• в медучреждениях ВМ должны помогать ставить диагноз, проводить хирургические операции, направлять больных в соответствующие отделения, контролировать ход лечения, застилать кровати, проводить уборку помещений;

• в учреждениях ВМ обязаны заниматься составлением расписаний для коллективов и отдельных людей, направлять вопросы к компетентным специалистам, делать краткую сводку новостей, отшлифовывать черновики документов, устранять описки и грамматические ошибки;

• в домашнем хозяйстве ВМ должны закупать продукты, следить за состоянием порядка в квартире, газонов в саду, стирать белье и обеспечивать различные виды обслуживания.

Такие виды деятельности как распознавание образов, различного рода игры, головоломки и т. п. часто не удается четко алгоритмизировать, расчленить процесс поиска решения на отдельные элементарные шаги.

Эти трудности обычно проистекают из трудностей формального описания таких задач. Мозг человека позволяет легко отличить кошку от собаки, но предложить формальное описание процедуры распознавания затрудняется. Многие задачи (игровые, научные, практические и др.) в принципе могут быть решены путем перебора, заведомо конечного числа вариантов и выбора из них в каком-то смысле наилучшего. Решение задач посредством эвристически направляемого метода проб и ошибок в пространстве возможных решений доминирующая тема в области ИИ.

ВМ уже сейчас способны делать много вещей, которые, по-видимому, требуют наличия какой-то доли интеллекта. Они могут решать многие задачи на профессиональном уровне, вести рассуждения на геометрическом языке, решать математические задачи, обучаться простым понятиям, разбираться в простых чертежах, участвовать в несложном диалоге и выполнять полезную работу. К основным понятиям задач ИИ относятся: объект, состояние, пространство состояний, оператор, преобразующий объект, ограничения, накладываемые на пространство состояний и на оператор, и др.

Иллюстрация проблем в задачах ИИ

Проблемы, с которыми сталкивается разработчик и исследователь ИИ многочисленны и бывают сложны настолько, что для алгоритмизации и получения решения задачи строгие математические методы применить не удается. В таких ситуациях прибегают к эвристикам. Эвристика - искусство нахождения истины. Эвристики представляют собой правила здравого смысла, руководствуясь которыми интеллектуальная система движется к цели. Порой они похожи на административные методы. Методы эти не всегда работают, но часто используются.

Головоломка-игра в 15. Квадратная рамка 4×4 заполнена пятнадцатью фишками (малыми пронумерованными от 1 до 15 квадратиками размером 1×1). В рамке одна позиция из 16 остается пустой. Фишкой делается ход (можно ее передвигать в поле рамки 4×4) в соседнюю пустую позицию. Ход чаще связывают не с самой фишкой, а с перемещением «пустой позиции» на место сдвигаемой соседней фишки (по аналогии смещения электронов и «дырок» в полупроводниках).

Для выполнения очередного хода необходимо проверить, что фишка (пустая клетка) в результате хода не выходит за пределы рамки 4×4. Отсюда некоторые ходы становятся недопустимыми.

Обычно для игры задаются начальное и требуемое конечное (целевое) состояние.  Цель игры — упорядочить фишки по возрастанию номеров, перемещая их внутри рамки, желательно сделав как можно меньше перемещений (ходов).

После появления игры на рынке за сборку фишек из заданного начального положения в целевое была даже объявлена премия. Позднее для этой игры было строго доказано, что из приведенного на рисунке начального состояния невозможно получить конечное. Для подробностей рассмотрения вводятся для данной задачи полезные понятия состояние и оператор.

Формализация задачи. Объектом является перестановка из 16 элементов, представленная рамкой позиций 4×4. Рамка – ограничение для оператора.

Определение. Состояние – это просто некоторое конкретное упорядоченное по позициям расположение фишек в квадрате (комбинаторная перестановка). Отсюда пространство всех состояний – 16! перестановок. Процесс поиска решения (переход к целевому состоянию) осуществляется последовательностью ходов. Задачи ИИ могут иметь чрезвычайно большие пространства состояний (шашки 10⁴⁰, шахматы 10¹²⁰), которые очень сложны и их невозможно исследовать за приемлемое для практики время простым перебором вариантов даже с привлечением ВМ или даже сетей ВМ. Стратегии поиска решения в пространствах больших размеров используют эвристики, позволяющие уменьшить сложность поиска.

Эвристика определяет метод поведения в пространствах состояний, помогающий достижению цели, но который не может быть строго математически охарактеризован, поскольку мы знаем, чего хотим, но не знаем, как этого достичь, где лежит решение.

Предикатное представление предполагает использование предиката состояния с 16 параметрами (для локализации фишек в квадрате).

Определение. Оператор – действие, преобразующее одно состояние в другое. Примем за один ход – одно смещение пустой клетки:

• переместить пустую клетку вверх;

• переместить пустую клетку вправо;

• переместить пустую клетку вниз;

• переместить пустую клетку влево.

В некоторых случаях оператор может оказаться не приложимым к какому-то состоянию.

Состояния описываются массивом размерности 4×4. Подпространство состояний, достижимых из заданного начального состояния, удобно представлять в виде графа, вершины которого соответствуют этим состояниям (массивам 4×4) и связаны дугами, отвечающими 4-м операторам.

Для игры в пятнадцать состояние задачи описывается расположением фишек на поле квадрата. Полное пространство состояний состоит из двух несвязных подграфов (одинакового размера). Из этого следует, что ровно половина состояний являются недостижимыми из любой заданной начальной вершины. Если поменять местами (нарушая правила) две соседние фишки, все состояния из другой части пространства состояний окажутся достижимыми. Вид пространства состояний позволяет определить сложность задачи. Здесь не будем углубляться в проблему решения игры в 15. Это тема другого поста.

Средства решения задач ИИ

В перечень средств включают языки математической логики, теории предикатов первого порядка (LISP, PROLOG), предназначенные для описания основных свойств предметной области; методы поиска, применяемые для рассуждения об этих описаниях; комбинаторные и генетические алгоритмы и структуры данных, используемые для реализации этого поиска; эвристики для ограничений пространства поиска; методологии «классной доски» и продукционные систем, семантических и нейронных сетей.

Математическая логика. Основными объектами при изучения математической логики являются формальный язык логики (синтаксис и семантика) и правила вывода. Формальный язык необходим для символьного описания процессов, явлений или событий и логических связей между ними. Правила вывода необходимы для формирования процедуры рассуждения. Для обеспечения вывода в рамках аксиоматического подхода (теории) вводится система аксиом, формализующая весь механизм дедуктивного или индуктивного вывода заключения.

Математическое описание логики следует воспринимать, как некую формальную систему, оперирующую с символами по определенным правилам, облегчающим интерпретацию результатов (выявление семантики, смысла результата) и часто промежуточных действий в реальном мире.

Выделяют несколько типов математических моделей формальной логики. Среди них можно выделить Логику высказываний, Логику предикатов 1-го порядка, Логику нечетких множеств и отношений, Реляционную логику и др.

Нейронные сети (НС) представляются графами. НС часто  называют суб-символьными или коннекционистскими моделями обучения. В нейронной сети знания, информация структурированы неявно. Информация в НС распространяется между набором взаимосвязанных процессоров с учетом весовых коэффициентов, а обучение сводится к пересортировке и модификации весов узлов связи. Это и обучение персептрона, метод обратного распространения ошибки и встречного распространения, модели Кохонена, Гроссберга и Хебба, аттракторная модель и ассоциативное обучение, сети Хопфилда.

Представление знаний. В методах для решения задач ИИ, интенсивно используются разные подходы к знаниям. Примером могут служить Семантические сети и их расширение на теорию концептуальной зависимости, фреймы и сценарии.

Разработка и создание ИИ предполагает использование законов разумного мышления.

Законы человеческого поведения. В учебных планах средней школы 1950-х годов включались «Психология» и «Логика»  учеников знакомили с основными понятиями, процессами, явлениями и законами. Рассматривались основные связанные между собой стороны психической жизни: познание, чувства и воля, законы образования временных (условных) нервных связей, сигнальная деятельность, закон взаимной индукции, закон иррадиации и концентрации нервных процессов, возбуждения и торможения, динамический стереотип в области психики человека.

 Законы человеческого мышления. В области логики учащиеся старших классов знакомились с  4-мя основными законами логики.

Три из них, присущих человеческому мышлению, в IV в. до н. э. были открыты известным греческим мыслителем Аристотелем: закон тождества (А=А или А ⊃А), закон непротиворечия (А ∧ А) и закон исключенного третьего (А˅А). В XVII в немецкий философ и математик Лейбниц открыл еще один логический закон достаточного основания (А ⊃В).

Закон тождества – логический закон, согласно которому всякое высказывание влечет (имплицирует) само себя. Это самый простой из логических законов. Законом выражается идея, что каждое высказывание является необходимым и достаточным условием своей собственной истинности.

Закон непротиворечия – два несовместимых друг с другом суждения не могут быть одновременно истинными; как минимум одно из них ложно.

Закон исключенного третьего – «…ничего не может быть посредине между двумя противоречивыми суждениями об одном, каждый отдельный предикат необходимо либо утверждать, либо отрицать» Аристотель.

Закон достаточного основания – «…ни одно явление не может оказаться истинным или действительным, ни одно утверждение справедливым, – без достаточного основания, почему именно дело обстоит так, а не иначе, хотя эти основания в большинстве случаев вовсе не могут быть нам известны» Лейбниц.

Все наши мысли подчиняются действию этих законов независимо от их конкретного содержания. Ни одна мысль не может возникнуть вне слова, вне языка. Основу языка составляют грамматический строй языка и его словарный фонд.

Мышление – высший продукт особым образом организованной материи, активный процесс отражения объективного мира в человеческом мозге в форме суждений, понятий, умозаключений; духовная теоретическая деятельность человека, заключающаяся в том, что человек выделяет определенные стороны и свойства отображаемого в мозге объекта и ставит их в соответствующие отношения, связи с целью получения нового знания.

Основу мышления, его специфику составляют логический строй мышления и его фонд понятий, в которых отобразились закономерности объективного мира.

Логический строй мышления не совпадает, не является полностью тождественным грамматическому строю. Грамматический строй – это структура слова и формы связи и сочетания слов в предложении. Логический строй – это структура мыслей, формы сочетаний и связи мыслей в рассуждениях.

Рассуждение – цепь умозаключений на какую-нибудь тему, изложенных в логически последовательной форме.

 Умозаключение – форма мышления или логическое действие, в результате которого из одного или нескольких известных нам и определенным образом связанных суждений путем их сравнений получается новое суждение, в котором содержится новое знание.

Суждение – форма мысли, в которой утверждается или отрицается что-либо относительно предметов и явлений, их свойств, связей и отношений и которая обладает свойством выражать либо истину, либо ложь. Суждение, как и любая мысль, является отображением действительности в человеческом мозге.

Процесс суждения – это основная и самая важная операция мысли, состоит в сравнении двух понятий; процесс умозаключения состоит в сравнивании двух суждений.

Понятие – целостная совокупность суждений, т.е. мыслей, в которых что-либо утверждается об отличительных признаках исследуемого объекта, ядром которой являются суждения о наиболее общих и в то же время существенных признаках этого объекта.

Истиной называется соответствие нашей мысли предмету, который отображается нашим мозгом.

Силлогизм (греч. syllogismos - сосчитывание) – умозаключение, в котором из двух категорических суждений, связанных общим средним термином, получается третье суждение, называемое выводом; при этом средний термин в заключение не входит.

Силлогизм – умозаключение, в силу которого, признав истинность посылок силлогизма, нельзя не согласиться с истинностью заключения, вытекающего из посылок. Материалом силлогизма являются не простые понятия, а суждения.

Знания в ИИ

Зна́ние — это осведомленность или понимание кого и чего угодно, которое можно логически или фактически обосновать и эмпирически или практически проверить.

Познание не ограничено сферой науки, знание в той или иной форме существует и за пределами науки.Человек в своей деятельности общается с другими людьми. Он понимает речь и изображения, осознает мир вокруг себя, чем пользуется при решении множества возникающих задач. При этом человек использует знания соответствующих предметных областей. Если возложить решение каких-то задач на компьютер, то в первую очередь необходимо там представить знания в какой-нибудь форме и разработать программу, которая эти знания будет использовать.

Обычно знания человеком классифицируются. Классификация имеет разновидности:

• систематика – установление такой упорядоченности объектов, которая приобретает статус привилегированной системы (выделенной самой природой) и

• таксономия – учение о любых классификациях по структуре таксонов и признаков.

По природе знания бывают:

• декларативные – знания о структуре и представление любых понятий;

• процедурные – знания с трансформационной и управляющей природой.

По степени научности: научные (эмпирические, теоретические), вненаучные (паранаучные, лженаучные, антинаучные, псевдонаучные, квазинаучные и др.).

По местонахождению: документы, электронные носители, Интернет, базы знаний.

Процедурные знания, в которых представлены средства и пути преобразования, проверки, управления данными, способы генерации и получения новых знаний, более подходят для компьютерного использования, чем декларативные знания.

Обычно знания, используемые человеком в его деятельности, – это декларативные знания. Для их обработки персональным компьютером (ПК) такие знания необходимо представить (транслировать) в форму процедурных перед загрузкой в ПК.

Знания часто осознаются в форме иерархической структуры вида «живое существо – животное – человек – мужчина – Иван». Элементы такой цепочки упорядочиваются в процессе обучения, в ходе которого устанавливаются также многочисленные связи с элементами других подобных иерархических структур. Этот набор элементов и связей легко представить сетью (орграфом) – узлы – элементы, связи – дуги графа (отношения). Этот подход справедлив и при структуризации правил принятия решения.

Если обратиться к словарям, то в них знания определяются как «система суждений с принципиальной и единой организацией, основанная на объективной закономерности», или более кратко «результат, полученный познанием». С позиций ИИ и инженерии знаний определение знаний необходимо увязывать с логическим выводом. Еще одно определение «знания –это формализованная информация, на которую ссылаются или используют в процессе логического вывода».

Если решение задач возлагается на программы, исполняемые компьютером, и программами реализуется получение заключений из имеющихся фактов (исходных данных) посредством логических выводов, то знания – это обязательно информация, представленная в определенной форме.

При рассмотрении знаний в процессе решения задач в некоторой предметной области их для удобства разделяют на две важные категории – факты и эвристику. Первые иногда называют текстовыми, подразумевая хорошую их освещенность в учебниках и специальной литературе. Вторая категория знаний базируется на опыте эксперта в данной предметной области, на многолетней его практике.

В экспертных системах именно эта категория знаний играет решающую роль в повышении эффективности интеллектуальных систем. В эту категорию знаний включают, например, «способы использования нечеткой информации», «способы удаления бесполезных идей» и т.п. Но из-за недостаточной научной обоснованности и отсутствия исчерпывающих сведений рекомендуется осмотрительно использовать знания этой категории.

Знания разделяют также на факты и правила. Под фактическими знаниями подразумевают факты вида «А это А», их хранят в базах данных, в сетевых моделях. Под правилами для принятия решения подразумеваются знания вида «ЕСЛИ – ТО». Важную категорию знания представляют так называемые метазнания (знания о знаниях). Понятия из этой категории используются при управлении базой знаний, логическим выводом, при отождествлениях, обучении и др. Другими словами, метазнания – это знания о том, как использовать знания, знания о свойствах знаний.

Негатив и позитив ИИ

К участникам «четвертой промышленной революции» относят не только Интернет-гиганты GAFAM (Google, Apple, Facebook, Amazon и Microsoft), но и многие страны, инвестирующие огромные средства в ИИ.

 К достижениям практики ИИ можно отнести проекты:

• IBM Watson, использующий алгоритм машинного обучения, ставший знаменитым после победы на телевикторине под названием «Jeopardy» в 2011 г.;

• победу над чемпионом мира в Го – и Седолем, ИИ играл интересно и удивил новой оригинальной тактикой;

• помощник в iOS Siri (которая, кстати, скоро заговорит по–русски) — это ИИ, а женский голос — это персонификация ИИ, и при этом нет никакого робота.

В «Белой книге», опубликованной в Японии, с прогнозами на 20 лет вперед речь идет о создании аппарата, связывающего мозг и машину функциональной магнитно-резонансной томографии, искусственного интеллекта, устройств для передачи мыслей, оказания помощи страдающим глухонемотой. Такое устройство по задумке авторов сможет читать мысли животных (и не только это).

Заявляется, что с помощью устройства можно будет не только разговаривать с животными, но и передавать мысли на расстоянии (ученые из Университета Киото Тоситака Судзуки, Юкиясу Камитани и др.) Конечно, в первую очередь подобные устройства будут предназначены пациентам, которые не имеют возможности говорить.

В США людям с ограниченными возможностями поможет интерфейс «мозг-компьютер» (публикация в журнале «Nature»). Добровольцу 65 лет с травмой позвоночника, парализованному ниже шеи, в мозг имплантировали два чипа со 100 электродами каждый, управляющих движениями руки и кисти. Электроды погружались в моторную кору мозга для считывания сигналов от нейронов, направляемых в компьютер.

Предварительно обученный ИИ распознавал закономерности, определяемые сигналами мозга пациента, представляющего себе, что он пишет буквы и слова. При скорости 16 слов в минуту устройство распознавало правильно около 95% букв. Разработка позволит вводить текст без использования рук. Для пациентов (например, с боковым амиотрофическим склерозом), лишенных способности разговаривать, устройство обеспечит контакты с окружающими людьми. Интерфейс сам по себе дорог, а нейросеть должна обучаться под конкретного пациента.

Такие виды деятельности как распознавание образов, различного рода игры, головоломки и т. п. часто не удается четко алгоритмизировать, расчленить процесс поиска решения на отдельные элементарные шаги, что является важной проблемой ИИ.

Создана и обучена нейронная сеть, которая по изображению лица человека на фотографии, может назвать его политические убеждения. НС разработана ученым США из Стэнфордского университета Майклом Косински. (журнал Nature Scientific Reports). Нейросеть, обучалась им на огромной базе фотографий людей, чьи политические пристрастия известны.

При тестировании НС миллион фотографий реальных людей требовалось рассортировать на консерваторов и либералов. Программа в 72% выполнила задание правильно, а человек смог получить подобный результат только в 55% случаев. Принцип действия сети (как сеть это делает) Косински установить не удалось.

Коллеги работу жестко раскритиковали. Она может угрожать безопасности и тайне личной жизни людей. Авторы в оправдание заявили, что хотели только сказать о надвигающейся опасности, которую несет ИИ. Этот инструмент несет массу негатива, что и продемонстрировал Косински. Нейросеть делает человека «прозрачным», способна открыть о нем то, о чем сам он возможно и не догадывается. Убеждает в этом опять же пример США, где победители на выборах президента намерены выявить голосовавших за их противника и применить к ним различные санкции. 

Недостатки и угрозы широкого внедрения ИИ

Разработка ИИ–систем финансируется намного больше, чем исследование их безопасности. Недостаток состоит в том, что самые оптимизированные модели (например, нейронные сети) часто работают как «чёрные ящики», не давая возможности ни понять, ни изучить мотивы и причины выбора ими того или иного решения. Этот факт может привести к этическим проблемам, связанным с прозрачностью информации.

В принятом в РФ Кодексе этики в сфере искусственного интеллекта, явно отмечается:

2.4 Непричинение вреда;

2.6 Безопасность работы с данными;

2.7 Информационная безопасность.

Эти пункты свидетельствуют – авторы Кодекса понимают недостатки и возникающие угрозы широкого внедрения ИИ. В пункте 2.9 читаем «… выявлении и проверке информации о способах и формах создания так называемых универсальных («сильных») СИИ и предотвращении возможных угроз, которые они несут. Вопрос применения технологий «сильного»  ИИ должен находиться под контролем государства».

Хакеры будут пытаться взламывать бортовые системы автомобилей, шантажировать угрозой устроить аварию. В США два программиста перехватили управление внедорожником Jeep Cherokee им удалось подчинить своей воле электронную бортовую систему авто. Они удаленно заставляли авто разгоняться и тормозить, поворачивать, открывать двери  и др. Управлял автомобилем  журналист интернет-издания Wired Энди Гринберг. Это возможно осуществить из любой точки мира, где есть Интернет.  В погоне за новыми технологиями производители сделали владельцев транспортных средств беззащитными перед хакерами.

Дроны уже пытаются применять для убийства (покушение во время парада на Николаса Мадуро).

По прогнозам специалистов на планете со временем появится сверхсильный ИИ (ASI). По среднему прогнозу экспертов, это произойдет к 2060, Курцвейл считает, что к 2045, Бостром думает, что это может произойти в любой момент, через десять лет или к концу века, но когда это произойдет, быстрый взлет ИИ застигнет нас врасплох:

Перед перспективой интеллектуального взрыва человечество подобно детям играющим с бомбой — так сильно не совпадает мощь нашей игрушки с незрелостью нашего поведения. Сверхинтеллект — это испытание, к которому мы не готовы и еще долго не будем готовы. Мы не знаем, когда устройство детонирует, но поднося его к уху, мы слышим тихий звук тиканья.                               

К другим недостаткам (угрозам) внедрения ИИ государственного и международного уровня относятся:

• порождение нестабильности экономик;

• рост неравенства для имеющих доступ к новым технологиям и теми, кто лишен доступа;

• принятие ошибочных решений (например, газопровод Канада – США);

• сокращение разнообразия культурных индустрий;

• безработица, колебания рынков труда.

Этический кодекс для ИИ (робота)

В настоящее время не существует международных этических рамок, затрагивающих все сферы разработки и применения ИИ. В октябре 2021 г. в Москве прошел международный форум «Этика искусственного интеллекта: начало доверия». На нем представители целого ряда компаний подписали Кодекс этики искусственного интеллекта, устанавливающий основные нормы этичного поведения бизнеса, ведущего разработку и внедрение технологий в этой области.

Всемирная комиссия ЮНЕСКО по этике научных знаний и технологий (КОМЕСТ) опубликовала доклад "Об этике робототехники", в котором сформулированы рамки для разработки рекомендаций в области этики робототехники, учитывающих различия между детерминированными и когнитивными роботами.

Современная робототехника, получившая название когнитивной, основывается на технологиях искусственного интеллекта (ИИ). Такие роботы, которые могут взаимодействовать с людьми и другими роботами, способны к решению проблем, к обучению и даже к творчеству, способны к восприятию пространственного окружения, к использованию языка, отличаются от так называемых детерминированных роботов, чье поведение определяется программой, контролирующей их действия.

Принимаемые ими решения непредсказуемы, а их действия зависят от полученного опыта и некоторых стохастических (случайных) условий. Все это заставляют задуматься о безопасности, неприкосновенности частной жизни человека и защите его достоинства.

В докладе также представлены этические ценности и принципы, которые могут быть полезны при когерентной разработке нормативных документов всех уровней, от кодексов поведения инженеров до текстов законов отдельных стран и международных конвенций. Особо подчеркиваются такие ценности и принципы, как человеческое достоинство, независимость, неприкосновенность частной жизни, безопасность, ответственность, использование во благо и справедливость. Все рассматриваемые в докладе ценности объединены принципом ответственности человека.

КОМЕСТ также предлагает ряд конкретных рекомендаций по применению робототехники, касающихся, в числе прочего, разработки свода этических правил для инженеров-робототехников и предостережения в отношении разработки и использования автономных систем вооружения.

Ответственность за действия когнитивных роботов весьма критична. Кто будет отвечать за принятые роботом решения, когда во время операции робота-хирурга пациент скончался, а например, беспилотный автомобиль сбил человека. Или ответственность как-то разделят создатель ИИ, пользователь и, может быть, страховая компания. Алгоритм принятия решения сложный концепт, который не просто вписать в существующую юридическую систему права. Другими словами, вначале необходимо придумать множество ситуаций и как такие ситуации должны юридически регулироваться.

Заключение

Мы живем в мире, которым в первую очередь правит бизнес, рынок. А реклама, как известно, двигатель бизнеса. Отсюда и заявления о необходимости действовать без особой оглядки в интересах производителей ИИ, о высокой эффективности применения и повсеместного внедрения ИИ, рекламщики даже если и осведомлены о побочных явлениях, в рекламе об этом не скажут.  

Да, действительно, ИИ является мощным средством обработки данных и может находить решения сложных задач быстрее, чем традиционные алгоритмы, написанные программистами. ИНС и методики глубокого обучения могут помочь решить ряд разнообразных проблем.

«Есть мнение», что тайна мышления и сознания спрятан даже глубже, чем биологические тайны живой материи. Современным технологиям «не по зубам» (и еще очень долго будет!) воспроизвести даже мельчайший «элемент конструкции» биологического организма — живую клетку.

Законы робототехники Азимова небезопасны, поскольку, например, могут побудить ИИ захватить власть на Земле, чтобы «защитить» людей от вреда.

Тем не менее, за основу разработки Кодекса этики для ИИ явно или неявно берется классика –Три закона робототехники, дополненные позже нулевым законом, сформулированные в 1950-х Айзеком Азимовым.

Список источников

• Робототехника: этика искусственного интеллекта Архивная копия от 11 октября 2019 на Wayback Machine. «Четыре ведущих исследователя делятся своими проблемами и решениями для снижения социальных рисков от интеллектуальных машин». Nature, 521, 415—418 (28 мая 2015 г.), doi: 10.1038 / 521415a.

• BBC News: Игры, чтобы жить своей жизнью Архивная копия от 31 марта 2008 на Wayback Machine

• Кто боится роботов? Архивная копия от 22 марта 2018 на Wayback Machine статья о страхе человечества перед искусственным интеллектом.

• Краткая история компьютерной этики

• AI Ethics Guidelines Global Inventory Архивная копия от 30 ноября 2019 на Wayback Machine от Algorithmwatch Архивная копия от 13 ноября 2019 на Wayback Machine

• Разработка рекомендации об этических аспектах искусственного интеллекта Архивная копия от 23 ноября 2021 на Wayback Machine

• Проект Рекомендации об этических аспектах искусственного интеллекта Архивная копия от 23 ноября 2021 на Wayback Machine

• ЮНЕСКО приняла рекомендацию об этических аспектах искусственного интеллекта | Digital Russia Архивная копия от 23 ноября 2021 на Wayback Machine