Разумный робот Дзенъятта. Скриншот из игры Overwatch. © Blizzard.
Тем, кто только начинает свой путь в изучении искусственного интеллекта (ИИ, ИскИн, Artificial Intelegence, AI), подчас бывает сложно разобраться с тем, что это вообще такое. Несмотря на то, что в окружающем инфополе этот термин встречается довольно часто, помощи в понимании это не добавляет, а иногда и просто вредит. Проблема в том, что практически везде он трактуется по-разному.
В этой статье мы проведем обзор существующих определений ИИ, попытаемся их систематизировать и разложить полученные знания по полочкам.
Хаос
Наше исследование начнем с поиска и анализа существующих определений ИИ, а первым источником, к которому мы обратимся, будет Википедия.
(1) Так в русскоязычной версии Вики термин ИИ определяется следующим образом:
Искусственный интеллект — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека.
(2) В англоязычной версии этот же термин определен несколько по другому:
Artificial intelligence is intelligence demonstrated by machines, as opposed to natural intelligence displayed by animals including humans.(перевод на русский)Искусственный интеллект — это интеллект, демонстрируемый машинами, в отличие от естественного интеллекта, демонстрируемого животными, включая людей.
По фату мы видим, что в одной статье термин ИИ определяется через свойство системы, а в другой через противопоставление естественного и машинного интеллектов. Причем оба вида интеллекта рассматриваются через призму поведения.
(3) В книге Романа Душкина «Искусственный интеллект» [1] термин ИИ определяется следующим образом:
«… искусственный интеллект – это междисциплинарная область исследований и набор технологий, позволяющий создавать технические системы, решающие задачи, ранее доступные только человеку. …»
(4) В Большой российской энциклопедии термин ИИ определен так:
Искусственный интеллект, раздел информатики, в котором разрабатываются методы и средства компьютерного решения интеллектуальных задач, традиционно решаемых человеком.
В двух последних рассмотренных источниках мы видим, что авторы рассматривают ИИ не как техническую систему, а как науку, изучающую подобные системы.
(5) В книге «Искусственный интеллект: современный подход» [2] авторы тоже попытались сформулировать определение ИИ (правда, потом отказались от этой идеи и выбрали другой подход). Они, также как и мы сейчас, провели поиск определений ИИ, после чего свели в таблицу найденные результаты:
Примечание. За расшифровкой ссылок из таблицы прошу обращаться в первоисточник.
В этих определениях ИИ рассматривался скорее с позиции области исследования, нежели с позиции технической системы.
Книги книгами, но давайте теперь посмотрим на что-то более официальное. В рамках Росстандарта работает технический комитет (ТК 164) «Искусственный интеллект», который занимается стандартизацией в интересующей нас области. Проанализируем плоды его трудов.
(6) ГОСТ Р 59276-2020 «Национальный стандарт Российской Федерации. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения»
3.6 искусственный интеллект, ИИ: Способность технической системы имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.
(7) ГОСТ Р 59277-2020 «Системы искусственного интеллекта. Классификация систем искусственного интеллекта»
3.18 искусственный интеллект (artificial intelligence): Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Примечание — Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения). процессы и сервисы по обработке данных, анализу и синтезу решений.
ГОСТы смотрят на ИИ с позиции технической системы. Первый стандарт определяет ИИ как «способность технической системы...», что по сути характеризует поведение, а второй определяет ИИ как «комплекс технологических решений...», что в общем-то указывает на состав системы. На самом деле очень удивило, что в двух, выпущенных одним и тем же комитетом и утверждённых в один и тот же день стандартах используются разные определения. Ну да ладно, с отечественных стандартов переведем взор на международные.
(8) В проекте стандарта ISO/IEC DIS 22989 Information technology — Artificial intelligence — Artificial intelligence concepts and terminology термин ИИ определен так:
3.1.2 artificial intelligence AI (engineered system) set of methods or automated entities that together build, optimize and apply a model (3.1.26) so that the system can, for a given set of predefined tasks (3.1.37), compute predictions (3.2.12), recommendations, or decisionsОфициальный перевод этих определений на русский язык можно взять из проекта ГОСТа и звучит он следующим образом:
Note 1 to entry: AI systems are designed to operate with varying levels of automation (3.1.7).
Note 2 to entry: Predictions (3.2.12) can refer to various kinds of data analysis or production (including translating text, creating synthetic images or diagnosing a previous power failure). It does not imply anteriority.
3.1.3 artificial intelligence AI (discipline) study of theories, mechanisms, developments and applications related to artificial intelligence (engineered system) (3.1.2)2.1.2 искусственный интеллект (ИИ) (artificial intelligence, AI): Способность приобретать, обрабатывать, создавать и применять знания (2.1.5), определенные в форме модели (2.1.6), для выполнения одной или нескольких поставленных задач (2.1.7). Примечание — Данный термин приведен в контексте системы.
2.1.3 искусственный интеллект (artificial intelligence, AI): Дисциплина о создании и изучении ИИ (2.1.2). Примечание — Данный термин приведен в контексте инженерной дисциплины.
Интересно то, что анализируемый ISO разделят точку зрения на ИИ как на техническую систему и точку зрения на ИИ как на научную дисциплину. Техническая система при этом определяется через демонстрируемые ей свойства.
Со стандартами все, перейдем на законодательный уровень. Практически в каждой стране есть понимание того, что ИИ — это ключевое направление ближайшего будущего. Все страны хотят его развивать, чтобы стать первыми и самыми крутыми по этому вопросу. Свой взгляд на развитие ИИ страны, как правило, оформляют в виде национальных стратегий развития ИИ. Хороший обзор подобных стратегий можно посмотреть на Medium'е. Мы же с вами глянем лишь несколько наиболее значимых стратегий и посмотрим, как в них определяется термин ИИ.
(9) В Указе Президента РФ от 10.10.2019 N 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») термин ИИ определен практически идентично определению, данному в ГОСТ Р 59277-2020.
(10) В американском законе H.R.6216 — National Artificial Intelligence Initiative Act of 2020 под ИИ понимают следующее:
The term ‘‘artificial intelligence’’ means a machine-based system that can, for a given set of human-defined objectives, make predictions, recommendations or decisions influencing real or virtual environments. Artificial intelligence systems use machine and human-based inputs to—(перевод на русский)
( A ) perceive real and virtual environments;
( B ) abstract such perceptions into models through analysis in an automated manner; and
( C ) use model inference to formulate options for information or action.Термин ‘искусственный интеллект’ означает техническую систему, которая для определенных человеком целей может делать прогнозы, выдавать рекомендации или принимать решения, влияющие на реальную или виртуальную среду. Системы искусственного интеллекта используют машинные и предоставленные человеком входные данные для:
( A ) восприятия реальной и виртуальной среды;
( B ) автоматического абстрагирования подобного восприятия в модели;
( C ) использования полученных моделей для формирования информации или выполнения действий.
(11) Европейский союз сформулировал свое видение развития ИИ в документе EUROPEAN COMMISSION. COMMUNICATION FROM THE COMMISSION. Artificial Intelligence for Europe {SWD(2018) 137 final}. В частности под ИИ европейцы понимают следующее:
Artificial intelligence (AI) refers to systems that display intelligent behaviour by analysing their environment and taking actions – with some degree of autonomy – to achieve specific goals.(перевод на русский)Искусственный интеллект (ИИ) относится к системам, демонстрирующим разумное поведение, которое заключается в анализе окружающей среды и совершении действий – с некоторой степенью автономии – для достижения поставленных целей.
Для систематизации всего этого хаоса определений распишем учебную модель предполагаемого ИИ, к которой затем применим найденные определения и посмотрим, что из этого получится.
Модель
Как несложно было догадаться, в качестве модели будет выступать разумный робот-монах Дзенъятта, путешествующий по миру в поисках духовного просветления.
В отличии от всяких «терминаторов» Дзеннъята — добрый и призван лечить союзников. С технической точки зрения в нем можно выделить следующие составные части:
- Сенсоры: видеокамеры, микрофоны и другие датчики, с помощью которых робот получает информацию об окружающей среде и своем состоянии.
- Исполнительные механизмы: руки, ноги, динамики и т.д — то есть компоненты робота, с помощью которых он воздействует на окружающую среду или изменяет свое состояние.
- Вспомогательные системы: вычислительные устройства, на базе которых функционирует система управления, источник энергии, система коммутации, каркас, система смазки и т.д.
Схема информационных потоков, циркулирующих в роботе, выглядит следующим образом:
- Данные о состоянии среды (внутреннее состояние робота будем далее считать частью среды) оцифровываются сенсорами и передаются в систему управления робота.
- Система управления в целях решения стоящих перед роботом задач генерирует управляющие команды на основании сенсорных данных.
- Управляющие команды поступают в исполнительные механизмы, в результате чего те выполняют определенные действия, осуществляя воздействие на среду.
Применяем определения к модели
Что в нашей модели будет является искусственным интеллектом?
По определениям (1), (2), (6), (11) ИИ — это не какая-либо часть робота, а особенности его поведения, проявляемые им в ходе функционирования.
Определения (3), (4), (5) рассматривают ИИ как область исследования и не применимы к технической системе, которой является робот.
Определения (7), (8) и (10) рассматривают ИИ как «софт и железо», на котором он функционирует. Соответственно в нашем случае к ИИ можно отнести всего робота целиком.
Классная статья получилась! Вроде в начале обещали разложить все по полочкам, а в итоге вышло непонятно что. К сожалению, так и есть, и с определениями ИИ творится действительно непонятно что, вернее понятно — полный бардак.
Подобный расклад происходит по множеству причин, и самая главная заключается в том, что ИИ до сих пор не изобрели. Тот, кто это сделает, тот и даст ему единое правильное толкование. Но почему его еще не изобрели? Во многом потому, что сам термин очень неудачный.
Что не так с терминологией ИИ
Основной проблемой с термином ИИ является использование в его трактовке человека (человеческого интеллекта, человеческого поведения, человеческих когнитивных способностей и т.д.). Конечно, понятно, почему так происходит — в глубине души люди мечтают разработать искусственную разумную жизнь по своему образу и подобию. А поскольку считается, что разумом обладает только человек, то и все определения делаются на основании сравнения ИИ с человеческим разумом. Однако, понятие «человеческий интеллект (разум)» в технических терминах не определено, и нет никакой уверенности, что его вообще можно определить.
Кроме того, говоря про разум или разумное поведение, часто имеют в виду поведение нормального здорового человека, мотивированного в решении поставленной задачи. Ок, а что, если поведение человека не вписывается в это правило? Например, человек болен шизофренией в стадии дебильности или всячески саботирует решение стоящей перед ним задачи. Получается, что у подобных людей нет интеллекта, но ведь это не так.
Еще одна проблема в том, что нет точной уверенности, что человеческий разум можно представить в виде алгоритма или программы. Ведь, если это так, то никакой пресловутой свободы воли нет, и человек по сути не решает ничего, все его действия предрешены и обусловлены его внутренним состоянием и состоянием окружающей среды. Но это уже религиозный спор, развивать его не будем.
Если бы люди пытались в лоб повторить полет бабочки, то авиации у человечества не было бы до сих пор. Вывод: для описания «разумных машин» следует использовать термины, не содержащие в себе отсылки к человеку.
Одним из шагов, направленных на то, чтобы в исследовании ИИ уйти от сравнения с человеком, послужило введение понятия агент. В проекте международного стандарта ISO/IEC DIS 22989 этому понятию дается следующая трактовка:
3.1.1 agent — automated entity that perceives its environment and takes actions to achieve its goals(русский перевод)
Note 1 to entry: An AI agent is an agent that maximizes its chance of successfully achieving its goals by using AI techniques.3.1.1 агент — автоматизированный объект, который воспринимает свое окружение и предпринимает действия для достижения своих целей.
Примечание 1 к записи: Агент ИИ — это агент, который максимизирует свои шансы на успешное достижение своих целей с помощью методов ИИ.
В книге «Искусственный интеллект: современный подход» [2] термин агент определяют так:
«Агентом считается все, что действует. Но предполагается, что компьютерные агенты обладают некоторыми другими атрибутами, которые отличают их от обычных „программ“, такими как способность функционировать под автономным управлением, воспринимать свою среду, существовать в течение продолжительного периода времени, адаптироваться к изменениям и обладать способностью взять на себя достижение целей, поставленных другими.»
Как отмечалось ранее, авторы этой книги разочаровались в термине ИИ как объекте исследования и выбрали вместо него термин «рациональный агент».
Стоит отдельно обратить внимание на то, что агентом можно считать не только «разумного» робота, возможны и другие варианты, например:
- Игровой бот — программа, управляющая действиями персонажей в компьютерных играх. Сенсоры бота — это программный код, получающий состояние среды от игры через ее API. Исполнительные механизмы — команды API игры, приводящие к изменению поведения управляемого персонажа. Если реализация ботов изначально не заложена создателями игры, то сенсорами могут выступать программные модули, перехватывающие вывод на экран, а исполнительными механизмами — программный код, эмулирующий нажатия кнопопк на клавиатуре и движения курсора мыши.
- Интеллектуальная система управления дорожным движением. Сенсоры — видеокамеры на дорогах, исполнительные механизмы — светофоры.
- и др.
Сила интеллекта
(с) Яндекс.Картинки
До этого момента мы рассматривали термин ИИ только в контексте «разумного» робота, вернее агента, но в инфополе данный термин используется шире. Например, к технологиям ИИ относят разработки в области распознавания речи, синтеза изображений по описанию и др.
Тут следует дать поясниние. Дело в том, что все разработки в области ИИ условно разделяют на несколько категорий: слабый ИИ и сильный ИИ. Простыми словами можно сказать, что слабый ИИ проявляет ограниченные возможности и позволяет решать узкоспециализированные задачи, которые раньше мог решать только человек. Сильный ИИ, в отличии от слабого, обладает всеми возможностями человеческого разума, а возможно и лучше (причем это «лучше» в итоге может привести к технологической сингулярности). Различные варианты слабого ИИ, такие как голосовые помощники, автопилоты и др., прочно вошли в нашу жизнь, в то время как сильный ИИ — это пока не достижимая мечта. Ну и рассматриваемый нами разумный робот — это, конечно, сильный ИИ. Не исключено, что сильный ИИ будет сделан в результате удачного объединения нескольких технологий слабого ИИ. Далее под ИИ будем понимать только сильный ИИ.
Свои пять копеек
Какая же статья про ИИ обойдется без попытки автора определить этот термин своими словами? Наверняка такие статьи есть, но эта к ним точно не относится. Не буду растекаться мыслью по древу и максимально кратко изложу свое видение этого вопроса.
- Человеческий интеллект — это то, что управляет поведением человека, соответственно ИИ — это то, что управляет поведением агента, таким образом ИИ по сути является системой автоматического управления (САУ).
- Отличительными особенностями ИИ от других видов САУ будет реализация ей следующих свойств:
- ...
- ИИ — это система, совершенствующая сама себя (или по-другому: ИИ — это программа, пишущая сама себя.
Изначально здесь я описал довольно большое количество свойств, среди которых были автономность, адаптация, управление знаниями и т.д. Потом подумал и удалил их. При желании о них можно узнать из других источников. Тут же я хочу отметить лишь одну ключевую, на мой взгляд, характеристику системы, придающую ей интеллектуальность — это самосовершенствование.
Данное качество направлено на повышение эффективности решения стоящих перед агентом задач. Оно может проявляться в уменьшении ресурсов, требуемых для решения задачи, повышения скорости достижения целей и т.д. Совершенствование ИИ заключается в виде совершенствования моделей данных, с помощью которых он описывает среду функционирования, и совершенствование (или создание новых) алгоритмов, используемых для решения задач.
Если сравнивать предлагаемое качество с самообучением, речь о котором шла в определении ИИ в ранее рассмотренных ГОСТах, то самосовершенствование несколько шире и на, мой взгляд, лучше отражает интеллектуальность.
Резюме
- C определениями ИИ беда — единого трактования нет, практически все под ИИ подразумевают что-то свое.
- Большую часть найденных в процессе исследования трактовок термина ИИ можно разделить на два больших класса: первый — рассматривающий ИИ в контексте технической системы; второй — рассматривающий ИИ в контексте научной дисциплины.
- Во многих трактовках термина ИИ используется сравнение с человеком (человеческим интеллектом, человеческими когнитивными способностями и т.д.). Данный факт вносит дополнительную неопределенность, поскольку все, что связано с человеком, крайне сложно или даже невозможно определить в технических терминах.
- В некоторых источниках делаются попытки трактовать термин ИИ без отсылки к человеку (например, в ISO/IEC DIS 22989). В других источниках при попытке изучать «разумное поведение машин» делается попытка уйти от термина ИИ и перейти к термину рациональный агент [2].
- Автор статьи предлагает считать, что ИИ это одна из разновидностей систем автоматического управления, а ее главной (но не единственной) отличительной способностью является возможность самосовершенствования.
Литература
- Душкин Р. В. Искусственный интеллект. – М.: ДМК Пресс, 2019. – 280 с., ISBN 978-5-97060-787-9.
- Рассел, Стюарт, Норвинг, Питер. Искусственный интеллект: современный подход, 2-е изд..: Пер. с англ. — М.: Издательский дом «Вильямс», 2006. — 1408 с.: ил. — Парал. тит. англ. ISBN 5-8459-0887-6 (рус.)
Комментарии (31)
paranoya_prod
07.04.2022 09:08+2Начну с конца:
Человеческий интеллект — это то, что управляет поведением человека,
Человеком управляют инстинкты, чувства, психика. Являются ли приведенные "управленцы" интеллектуальными? Если да, то тогда ИИ не будет никогда!
Если же говорить по теме статьи, то все определения крутятся вокруг слова "искусственный", и дают различные определение только этому слову, а надо сначала прийти к определению слова "интеллект", хотя это определение дано в русскоязычной Википедии, но оно ссылается на определение слова "психика", которое вроде как дано, но имеет несколько определений, в зависимости от рассматриваемого вектора. Что, по сути, не даёт однозначного толкования слову "психика", а значит и слову "интеллект".
PS. Сам ИИ очень похож на кота Шредингера - он и существует и не существует одновременно и зависит от применяемого определения.
DrinkFromTheCup
07.04.2022 09:49Хорошо подмечено.
У ИИ в его нынешнем "виде" не может быть полного подобия человеческому интеллекту, поскольку отсутствует эволюция от рационального зверя к творчески расковавшейся личности (со всеми её противоречиями и неизлечимыми атавизмами). Истинного человекоподобного ИИ действительно не будет ещё долго...
imbasoft Автор
07.04.2022 09:57По моему мнению в недалеком будущем появятся системы которые будут в поведении похожи на человека. Алгоритмизация инстинктов, психики, чувств несложна, взять хотя бы ту же игру Sims.
Ключевую фишку, которую нельзя будет сделать - это истинное творчество. Оно заключается в нахождении решения задач алгоритм решения которых неизвестен. Когда ИИ или человек сталкивается с неизвестной задачей у них всегда есть вариант полного перебора возможных действий для решения задачи. Но только у человека есть возможность получить решение "как-то" еще, способом который нельзя описать словами. Примеров истинного творчества полно: социальное поведение, изобретение математики, изобретения компьютера и т.д. Я не знаю как бы выглядел алгоритмы, которые бы использовали пустые базы знаний, а затем пришли бы к указанным примерам..
DrinkFromTheCup
07.04.2022 15:59Примеров истинного творчества полно: социальное поведение, изобретение математики, изобретения компьютера и т.д.
Я недостаточно образован, чтобы аргументированно (и связно) опровергнуть это суждение :(
Но Интуиция подсказывает, что эти примеры... несколько некорректны.Из дочеловеческой аксиомы "не больно лучше, чем больно" N шагов спустя выросла вполне человеческая аксиома "два лучше, чем один". Несколько погодя трансформировавшаяся в "два больше, чем один, но меньше, чем три".
N шагов таких рассуждений спустя, мы научились строить машины, которые бы эти логические построения автоматизировали (и, желательно, пропускали все рутинные шаги как можно быстрее при этом) - компьютеры.
Человек вообще любит строить такие машины - даже если они существуют исключительно на бумаге и производят исключительно бумагу... даже для творчества, заметьте!
VladPavlushin
07.04.2022 09:59Интеллект, как раз то , что может управлять / подчинять себе инстинкты, чувства, психику
а машинный интеллект, лишенный этих отвлекающих метрик, должен мочь больше, но будет ли он человечным, вот вопрос
imbasoft Автор
07.04.2022 10:06+1Чувства/эмоции - эволюционное приобретение. Во многом они являются интегральной функцией сводящей все многомерные данные о среде (внутренней и внушений) к общему показателю, на базе которого затем можно принимать решения.
Эмоции помогают приоретизировать внимание. Например, боль - как интегральный показать того, что носитель может умереть заставляет бросить все и заниматься только ее устранением.
AlexeyALV
07.04.2022 11:03+3Неистово плюсую. Все изложено отлично. Сколько меня на Хабре минусили за то, что указывал, что ИИ ещё нет, а нейросети ещё далеко не ИИ, ибо просто дрессура, а не когнитивные функции ...
DrinkFromTheCup
07.04.2022 13:42Это даже не дрессура, вот в чём дело.
Это тупая зубрёжка, причём результат зубрёжки всё ещё не полностью предсказуем.
Потому, что нейросети всё ещё не оперируют полноценными цельными образами, которые способен постичь (и сгенерировать) человек. А полноценную имитацию такого "нейросетью" не сделать - мощности не хватит.
imbasoft Автор
07.04.2022 14:49Идея интерпретации, как создания абстрактной модели на базе сырых сенсорных данных известна науке и даже есть в некоторых определениях ИИ рассмотренных выше. Другое дело, что пока неизвестно как ее реализовать.
Размышления о том, что человек мегамощный вычислитель, бесконечно сложный и т.д. несколько не соответствуют действительности. В предыдущей работе я писал о том, что за жизнь (100 лет) мы потребляем от 4 до 400 Пб данных. Цифра хоть большая, но посильная современной технике. Инфопоток от зрения всего 2.5 Мб/с что по современным меркам вообще смешно. Но тем не менее, смоделировать человека (создать ИИ) мы пока не можем.
Попытки в лоб смоделировать все имеющиеся нейроны и синапсы мозга обречены на провал, поскольку подобный подход не дал практических результатов при моделировании нервных систем примитивных существ.
Hardcoin
07.04.2022 15:26Создать сильный ИИ мы можем, просто ещё немного не успели. Очередной шаг в этом направлении можно посмотреть в сегодняшней статье на Хабре https://habr.com/ru/news/t/659603/
Таких шагов ещё нужно несколько десятков, возможно в десять лет уложимся.
DrinkFromTheCup
07.04.2022 15:53+1Видел эту статью, заинтригован очень, особенно частью про объяснение юмора (которая в новость не попала). Между прочим, один из ответов этой модели можно было бы охарактеризовать как неприкрытый сарказм - когда этот экземпляр хайтека сможет не выбрать его из предзаготовленных, а сам так ответить, тогда можно будет с уверенностью сказать, что мы на правильном пути...
Но эта технология УЖЕ может произвести революцию в связанных с языкознанием областях, раз смогла выйти на такой уровень абстракции (сами люди то не всегда могут вникнуть в понятие юмора!)
Но и для рождения разума следующего поколения пригодится...
imbasoft Автор
07.04.2022 16:25Это конечно все здорово. Но есть одна проблема, как этой нейронке поменять задачу, например, чтобы вместо юмора она управляла беспилотником для вспахивания поля, или чтобы боролась с хакерскими атаками в сети? Ответ никак. Почему? Да потому что-то систему обучиЛИ, а для того, чтобы сталь сильным ИИ надо чтобы она обучаЛАСЬ.
Нельзя отрицать, что заявленные результаты ее работы довольно неплохие. Отличный пример технологии слабого ИИ.
Hardcoin
07.04.2022 16:31Вы, вероятно, не очень внимательно читали статью и источник. Особенность этой нейросети именно в том, что она может поменять задачу.
А поводу лингвистики обучили/обучалась - хотел бы я посмотреть на человека, который обучился управлять беспилотником для вспашки без посторонней помощи (а то ведь выйдет, что "обучили"). А если не справился, тогда вы ему прямо скажете - интеллекта нет.
imbasoft Автор
07.04.2022 16:35Я это видел, что указанная сеть работает в нескольких задачах, но задачи эти для нее заранее определены.
Про обучение я наверно криво написал. Я имел ввиду, что сильный ИИ должен обучаться постоянно, разовое обучение это не то, хотя и дает значимые практические результаты в узких задачах.
DrinkFromTheCup
07.04.2022 15:34Потому, что мы чистим этот банан не с того конца.
Нам не нужно полностью копировать человеческие восприятие, соображалку, etc - в т. ч. потому, что натягивать неорганические технологии на органические паттерны есть крайне дорогое удовольствие. Компьютер мощнее - но мозг (и душа, if any) человека "спроектированы" ИМЕННО под эту задачу...
Достаточно при проектировании заведомо нечеловеческого разума, оборудованного (естественно!) заведомо нечеловеческими органами чувств, озаботиться переводчиком на человеческий. Что для нас феномен под названием "зелёный луч" - то для AI просто частный случай преломления излучения атмосферой...
У Дж. Мартина был такой интересный рассказ: "Стеклянный Цветок". Он неплохо дополняет идею "Голема XIV" Лема потому, что касается этой проблемы с другого конца.
У Лема раскрывается проблема контакта с "неорганическим разумом следующего поколения" собственного производства - а у Мартина превращение человеческого разума в этот самый "неорганический разум следующего поколения" при замене органов чувств.P. S. Обычно я бы "Стеклянный Цветок" не рекомендовал к прочтению ввиду его избыточной нигилистичности (в т. ч. избыточной образности кое-каких нехороших моментов). Но тут у меня под рукой просто нет других вариантов.
P. P. S. Перед "Стеклянным Цветком" было бы неплохо осилить "Умирающий Свет" - без него некоторые внутрисерийные культурные отсылки могут быть непонятны. Но это, во-первых, целый роман, а во-вторых, у него своя проблематика... не под эту тему беседы, совсем не под эту.
garwall
07.04.2022 13:02Автору ещё советую посмотреть на позапрошлогоднего нобелевского лауреата Роджера Пенроуза и его книгу "The Emperor's new mind"
Ne345
07.04.2022 18:54Роджер Пенроуз шоумен, а не ученый. Много лет назад я был на конференции по ИИ в Стокгольме, где выступал Пенроуз. С тех пор ничего не поменялось. У него нет никаких идей в области ИИ.
Kotig999
07.04.2022 15:19Автору плюс безусловно...Но субьективно мое мнение все таки нейросеть и ИИ это разные понятие в принципе
imbasoft Автор
07.04.2022 16:27Спасибо.
Нейросеть одна из технологий, на базе которой можно реализовать слабый ИИ. Но сама по себе она не ИИ. Возможны и другие технологии, на базе которых можно реализовать слабый ИИ например, генетические алгоритмы.
ksbes
08.04.2022 13:54<...>позволяет решать узкоспециализированные задачи, которые раньше мог решать только человек<...> ( и т.д. и т.п. по тексту)
Проблема с таким определением про «задачи, которые раньше мог решать только человек» заключается в том, что как только что-то начинает решать эти задачи, эти задачи сразу выпадают из категории «мог решать только человек». Т.е. подобного ИИ невозможно достичь никогда по определению, даже если это будет искусственный интеллектуальный «бог».
А если давать послабление (вроде «задачи, которые раньше мог решать только человек, до появления этого… » ), то под определение начинает попадать много чего явно неинтеллектуального, вроде мехов и молота, работающих от водяного колеса. И добавление требований вроде того, что это должен быть «агент» — сильно не поможет: просто перенесёт из античности в 19й век (ткацкий станок на перфокартах — вполне себе агент).
Так что выбор не такой уж и большой: либо «давать интеллект» компьютерам, ткацким станкам, пчёлам и собакам (разного уровня, разумеется), либо вводить менее общее определение. Которое подразумевает не любые действия вообще, а конкретно «интеллектуальное» взаимодействие с человеком.
Я бы дал такое определение «сильного ИИ»: искусственный субъект, способный общаться вербально и невербально в человеческом обществе, быть участником этого общества.
Ну а «слабый ИИ» — считать просто не удачным, но приживимся термином( вроде «эфира», куда регулярно выходят радио и телепередачи) и который означает просто сложный эвристический алгоритм, чаще всего (но не обязательно) построенный на нейросетях.imbasoft Автор
08.04.2022 14:47Оценка ИИ по возможности вербального общения - это тест Тьюринга. А что если одной из "моделей" для определения будет человек в эмоционально нестабильном состоянии или ребенок или иностранец, не разделяющий культурного стандарта и вообще безграмотный? Как его отличить от плохого ИИ?
Попытка дать определение ИИ очень похоже на попутку предсказать результат боевого применения всепроницающего копья против всеблокирующего щита.
Однако выход есть. Вместо термина ИИ использовать "рационального агента" и дополнительно описать его свойства без отсылок к человеческим возможностям.
ksbes
08.04.2022 15:42Оценка ИИ по возможности вербального общения — это тест Тьюринга. А что если одной из «моделей» для определения будет человек в эмоционально нестабильном состоянии <...>
Вы не вдумчиво прочли моё определение. Я не о тесте Тьюринга говорю, где ИИ один на один ведёт пустые беседы с одним человеком. А об участии ИИ в обществе — т.е. полноценном и плодотворном общении с сообществом людей (т.е. более менее организованной группой, что-то делающей сообща). «Коллектив», так сказать.
А абстрактный «рациональный агент» ни с кем не общающийся никак не отличим от заранее запрограммированного на определённые пусть и сложные действия «слабого ИИ». Так же как человек закручивающий 8 часов одну и ту же гайку в машинах на конвеере никак не отличим (по этим действиям) от робота делающего то же самое.
В конце концов вопрос можно поставить и по другому: как «сильный ИИ» сможет доказать нам, что он — «сильный ИИ»?imbasoft Автор
08.04.2022 18:57Вербальное общение не является необходимым, если ИИ занимается защитой сети от хакерских атак или предсказаниями котировок валют.
В тесте Тьюринга участвуют несколько моделей среди которых есть ИИ. Испытуемый общается с каждой моделью и должен определить ИИ она или нет.
Сила ИИ может проявляться в следующем:
Возможности решать несколько разных Задач
Возможности функционирования в различных Средах и в условиях активного противодействия со стороны Среды.
Постоянном самосовершенствовании
gnatukvi
08.04.2022 16:49Вот характерный пример, когда неправильное определение детерминанта и единичного функционала технической реальности вновь и вновь заводит в тупик. Наша точка зрения здесь: http://gnatukvi.ru/mono_pdf/text.pdf
DrinkFromTheCup
Там, где серьёзная наука (и техника) катастрофически проваливает попытки договориться о терминологии, нам может помочь старая добрая научная фантастика.
Станислав Лем так даёт определение Искусственного Интеллекта в своей нетленке "Голем XIV":
Независимо от степени "человечности" синтетической личности, она должна прежде всего быть "личностью", сформировавшейся под действием опыта, полученных знаний и внешних стимулов.
Вообще, ооооочень рекомендую "Голема XIV" к прочтению. Немножко отрезвляет от наведённого новомодными нейросетями-блокчейнами-прочей-туфтой тумана.
Xander_d
Интересно.
Тождественны ли понятия "интеллект" и "свобода воли"? Или, по крайней мере, нераздельны?
DrinkFromTheCup
Я бы поставил на ответ "нет" - иначе не существовало бы понятия рабства (или произошло бы разделение вида Homo Sapiens на два).
С другой стороны, что понимать под понятием "свобода воли"?
Как оборудованное интеллектом не очень живое существо, я могу не только оценить безвыходность своей ситуации, но и попытаться её трактовать как некий замысел свыше (религия).
Или изыскать выгоду (разновидности коллаборационизма).
Или заранее просчитать свой путь, чтобы не допустить безвыходной ситуации (подумать наперёд, анализировать факторы, которые ещё не материализовались).
Или просто отдаться животному инстинкту...
Зверь дрессируется. Разум рассуждает.
imbasoft Автор
Философия - наука, ставящая хорошие вопросы, но никогда не дающая на них хорошие ответы.