Майкл Джордан объясняет, почему современные системы искусственного интеллекта на самом деле не являются интеллектуальными

Автор: Кэти Претц

СИСТЕМЫ искусственного интеллекта института далеко не настолько развиты, чтобы заменить людей во многих задачах, связанных с рассуждением, реальными знаниями и социальным взаимодействием. Они демонстрируют компетентность на уровне человека в низкоуровневых навыках распознавания образов, но на когнитивном уровне они просто имитируют человеческий интеллект, а не участвуют глубоко и творчески, — говорит Майкл И. Джордан, ведущий исследователь в области искусственного интеллекта и машинного обучения. Джордан является профессором кафедры электротехники и компьютерных наук, а также кафедры статистики в университете Нью-Йорка. Калифорнийский университет в Беркли.

Он отмечает, что имитация человеческого мышления не является единственной целью машинного обучения — инженерной области, которая лежит в основе недавнего прогресса в области ИИ или даже лучшей целью. Вместо этого машинное обучение может способствовать развитию человеческого интеллекта посредством кропотливого анализа больших массивов данных, подобно тому как поисковая система расширяет человеческие знания, организуя сеть. Машинное обучение также может предоставлять новые услуги людям в таких областях, как здравоохранение, коммерция и транспорт, объединяя информацию, найденную в различных наборах данных, находя закономерности и предлагая новые направления действий.

«“Люди путаются в значении ИИ в дискуссиях о технологических тенденциях, что в компьютерах есть какая-то интеллектуальная мысль, которая отвечает за прогресс и конкурирует с людьми, - говорит он. — У нас этого нет, но люди говорят так, будто у нас есть».

В конце концов, Джордан должен знать разницу. Стипендиат IEEE является одним из ведущих мировых авторитетов в области машинного обучения. В 2016 году он был признан самым влиятельным компьютерным ученым по версии программы, которая анализировала научные публикации, сообщает Science. Джордан помог преобразовать неконтролируемое машинное обучение, которое может находить структуру в данных без заранее существующих меток, из набора несвязанных алгоритмов в интеллектуально согласованную область, Вики-историю инженерии и технологий объясняет. Неконтролируемое обучение играет важную роль в научных приложениях, где отсутствует устоявшаяся теория, которая могла бы обеспечить маркированные обучающие данные.

Вклад Джордана принес ему множество наград, в том числе премию Ульфа Гренандера в области стохастической теории и моделирования от Американского математического общества. В прошлом году он получил медаль IEEE Джона фон Неймана за вклад в машинное обучение и науку о данных.

В последние годы он занимался тем, чтобы помочь ученым, инженерам и другим понять весь объем машинного обучения. Он говорит, что считает, что развитие машинного обучения отражает появление новой области техники. Он проводит параллели с появлением химической инженерии в начале 1900-х годов из основ химии и механики жидкости, отмечая, что машинное обучение строится на десятилетиях прогресса в области компьютерных наук, статистики и теории управления. Более того, по его словам, это первая инженерная область, которая является гуманоцентрической, ориентированной на взаимодействие между людьми и технологиями.

«Хотя научно-фантастические дискуссии об ИИ и суперинтеллекте забавны, они отвлекают внимание”, — говорит он. — Не было достаточного внимания к реальной проблеме, которая заключается в создании систем машинного обучения планетарного масштаба, которые действительно работают, приносят пользу людям и не усиливают неравенство».

ПРИСОЕДИНЕНИЕ К ДВИЖЕНИЮ

Будучи ребенком 60-х годов, Джордан интересовался философскими и культурными взглядами на то, как работает ум. Он вдохновился изучением психологии и статистики после прочтения автобиографии британского логика Бертрана Рассела. Рассел исследовал мышление как логический математический процесс.

«Размышляя о мышлении как о логическом процессе и понимая, что компьютеры возникли из программных и аппаратных реализаций логики, я увидел параллель между разумом и мозгом, — говорит Джордан. — Мне казалось, что философия может перейти от туманных рассуждений о разуме и мозге к чему-то более конкретному, алгоритмическому и логичному. Это меня и привлекло».

Джордан изучал психологию в Университете штата Луизиана в Батон-Руже, где в 1978 году получил степень бакалавра по этому предмету. В 1980 году он получил степень магистра математики в Университете штата Аризона в Темпе, а в 1985 году-степень доктора когнитивных наук в Калифорнийском университете в Сан-Диего.

Когда он поступил в колледж, область машинного обучения еще не существовала. Это только начало проявляться, когда он закончил школу.

«Хотя я был заинтригован машинным обучением, — говорит он, — в то время я уже чувствовал, что более глубокие принципы, необходимые для понимания обучения, должны быть найдены в статистике, теории информации и теории управления, поэтому я не называл себя исследователем машинного обучения. Но в конце концов я занялся машинным обучением, потому что в нем были интересные люди и велась творческая работа»

В 2003 году он и его ученики разработали латентное распределение Дирихле, вероятностную структуру для изучения тематической структуры документов и других коллекций данных без надзора, согласно Вики. Этот метод позволяет компьютеру, а не пользователю, самостоятельно находить закономерности и информацию из документов. Фреймворк является одним из самых популярных методов моделирования тем, используемых для обнаружения скрытых тем и классификации документов по категориям.

Текущие проекты Джордана включают идеи экономики в его раннее смешение компьютерных наук и статистики. Он утверждает, что целью обучающих систем является принятие решений или поддержка принятия решений человеком, а лица, принимающие решения, редко действуют изолированно. Они взаимодействуют с другими лицами, принимающими решения, каждый из которых может иметь различные потребности и ценности, и общее взаимодействие должно основываться на экономических принципах. Джордан разрабатывает “программу исследований, в которой агенты узнают о своих предпочтениях из реальных экспериментов, где они смешивают разведку и эксплуатацию, когда они собирают данные, чтобы учиться, и где рыночные механизмы могут структурировать процесс обучения, обеспечивая стимулы для учащихся собирать определенные виды данных и принимать определенные виды скоординированных решений. Бенефициаром таких исследований будут реальные системы, которые объединяют производителей и потребителей на рынках, основанных на обучении, которые внимательно относятся к социальному благосостоянию.”

УТОЧНЯЮЩИЙ ИИ

В 2019 году Джордан написал книгу “Искусственный интеллект—революция еще не произошла”, опубликованную в журнале Harvard Data Science Review. Он объясняет в статье, что термин ИИ неправильно понимают не только люди, но и технологи. Еще в 1950-х годах, когда был придуман этот термин, пишет он, люди стремились создать вычислительные машины, которые обладали интеллектом человеческого уровня. Это стремление все еще существует, говорит он, но то, что произошло за прошедшие десятилетия, - это нечто иное. Компьютеры не стали интеллектуальными сами по себе, но они предоставили возможности, которые увеличивают человеческий интеллект, пишет он. Более того, они преуспели в низкоуровневых способностях распознавания образов, которые в принципе могли бы быть выполнены людьми, но с большими затратами. Системы, основанные на машинном обучении, способны обнаруживать мошенничество в финансовых операциях в массовом масштабе, например, тем самым катализируя электронную торговлю. Они играют важную роль в моделировании и контроле цепочек поставок в производстве и здравоохранении. Они также помогают страховым агентам, врачам, педагогам и кинематографистам.

Несмотря на то, что такие разработки называют “технологией искусственного интеллекта”, пишет он, лежащие в их основе системы не включают в себя высокоуровневые рассуждения или мышление. Системы не формируют тех семантических представлений и умозаключений, на которые способны люди. Они не формулируют и не преследуют долгосрочных целей.

«В обозримом будущем компьютеры не смогут сравниться с людьми в их способности абстрактно рассуждать о реальных ситуациях, — пишет он. — Для решения наших самых насущных проблем нам понадобится хорошо продуманное взаимодействие людей и компьютеров. Мы должны понять, что разумное поведение крупномасштабных систем возникает в такой же мере из взаимодействий между агентами, как и из интеллекта отдельных агентов».

Более того, подчеркивает он, человеческое счастье не должно быть запоздалой мыслью при разработке технологий. «У нас есть реальная возможность постичь нечто исторически новое: гуманоцентрическую инженерную дисциплину», — пишет он.

Перспектива Джордана включает в себя оживленное обсуждение роли инженерии в государственной политике и академических исследованиях. Он отмечает, что когда люди говорят о социальных науках, это звучит привлекательно, но термин "социальная инженерия" звучит непривлекательно. То же самое справедливо и для науки о геноме в сравнении с геномной инженерией.

«Я думаю, что мы позволили термину инженерия уменьшиться в интеллектуальной сфере», — говорит он. Термин наука используется вместо инженерия, когда люди хотят обратиться к духовным исследованиям. Такие фразы, как просто инженерия, не помогают.

«Я думаю, важно помнить, что из всех замечательных вещей, которые наука сделала для человеческого вида, именно инженерия — гражданская, электрическая, химическая и другие инженерные области — самым непосредственным и глубоким образом увеличила человеческое счастье».

ПОСТРОЕНИЕ СООБЩЕСТВА

Джордан говорит, что он особенно ценит IEEE за ее инвестиции в создание механизмов, с помощью которых сообщества могут общаться друг с другом через конференции и другие форумы.

Он также высоко ценит продуманную издательскую политику IEEE. Многие из его работ доступны в цифровой библиотеке IEEE Xplore.

«Я думаю, что коммерческие издательства построили бизнес-модель, которая сейчас неэффективна и фактически блокирует поток информации, — говорит он. — Через журнал открытого доступа IEEE Access организация позволяет и помогает потоку информации».

Членство в IEEE предлагает широкий спектр преимуществ и возможностей для тех, кто разделяет общие интересы в области технологий. Если вы еще не являетесь членом IEEE, подумайте о том, чтобы присоединиться к ней и стать частью всемирной сети, насчитывающей более 400 000 студентов и специалистов.