Представьте, что вы идете на собеседование, и еще до того, как вы произнесете хоть слово, бот-интервьюер c ИИ оценит вас по выражению лица. Можно ли судить о книге по ее обложке?

Недавнее исследование, проведенное учеными из нескольких университетов, утверждает, что искусственный интеллект может предсказать вашу карьеру и успех в учебе, просто проанализировав ваше лицо. Учитывая все этические и научные дебаты, которые наверняка вызовет это исследование, оно, несомненно, станет весьма спорной темой.

Но как это вообще работает?

Действительно ли искусственный интеллект может распознать черты личности и использовать их для оценки будущих достижений человека? И если да, то насколько точно?

Определение личности по изображениям лица

Исследователи разработали систему под названием Photo Big 5, которая определяет черты личности по одному изображению лица. Big Five (Большая пятерка) черт личности, также известная как OCEAN (Openness, Conscientiousness, Extraversion, Agreeableness и Neuroticism), широко известна в психологии в качестве ключевых показателей поведения и успеха.

• Открытость. Ассоциируется с любопытством и креативностью.

• Сознательность. Связана с организованностью, ответственностью и трудолюбием.

• Экстраверсия. Отражает общительность и напористость.

• Доброжелательность. Указывает на сострадание и готовность к сотрудничеству.

• Невротизм. Связан с эмоциональной нестабильностью и тревожностью.

ИИ-система была обучена на основе изображений 96 000 выпускников MBA из ведущих американских бизнес-школ. Анализируя эти изображения, ИИ определил профили личности и сопоставил их с результатами карьеры, такими как зарплата, переход на другую работу и рейтинг школы.

Что делает этот подход интересным, так это его способность измерять черты личности в больших масштабах, не прибегая к традиционным опросам. Это может сыграть огромную роль при приеме на работу и поступлении в учебные заведения.

Подробнее о технических деталях можно узнать здесь.

Как искусственный интеллект предсказывает ваш будущий успех

Методика основана на использовании нейросетей, обученных на больших массивах данных изображений лиц. Эти сети учатся определять тонкие закономерности в чертах лица, которые связаны с различными чертами личности.

Исследования показывают, что как генетика, так и ранний жизненный опыт влияют на структуру лица и личность, что может объяснить, почему определенные черты связаны с определенными чертами характера.

Например, если на вашей фотографии видна склонность к невротизму, у вас меньше шансов быть принятым на работу, на которую вы претендуете.

Если вы менее добросовестны, то вас могут не принять в колледж. Личность может играть определенную роль при поступлении, поскольку учебные заведения могут искать кандидатов, способных преуспеть в будущей карьере, или стремиться к разнообразию личностей. Личность оказывает значительное влияние на многие результаты.

Кроме того, более «желательная» личность, как определил ИИ, имеет связь с более высокой начальной зарплатой и более высоким ростом зарплаты с течением времени.

Интересно, что эти черты личности, похоже, предсказывают успех в работе в той же степени, что и такие факторы, как раса, привлекательность и уровень образования. Эти прогнозы личности не просто измеряют, насколько человек умен, поскольку они не сильно коррелируют с оценками и результатами тестов.

ИИ анализирует такие факторы, как:

• Симметрия лица

• Строение челюсти и скул

• Расположение и выражение глаз

Затем эти черты сопоставляются с Большой пятеркой личностных качеств. Исследование показало, что такие черты, как добросовестность и экстраверсия, являются значимыми показателями, предсказывающими результаты карьеры. Например, люди с высоким уровнем совестливости, как правило, получали более высокую зарплату и занимали более высокие должности.

Важно отметить, что прогнозы ИИ совпадали даже в том случае, если фотографии были сделаны с разницей в несколько лет, что говорит о том, что метод определения личности относительно стабилен с течением времени. Система также контролировала такие факторы, как качество изображения, освещение и выражение лица, чтобы добиться точных результатов.

Но то, что ИИ может предсказывать определенные результаты, не означает, что мы должны спешить внедрять эту технологию при приеме на работу или в образовании.

Расовая классификация

Для расовой классификации система использует данные Revelio Labs, которая применяет основанную на имени модель, предсказывающую расовую или этническую принадлежность человека на основе его имени, фамилии и географического положения.

Эта модель обучена на данных переписи населения США. Компонент, учитывающий лица, использует классификатор VGG-Face - алгоритм глубокого обучения, созданный на основе пакета DeepFace Python, разработанного Серенгилом и Озпинаром (2020). ИИ объединяет эти два метода, группируя людей по пяти категориям: азиаты, чернокожие, латиноамериканцы, белые и другие.

Чтобы еще больше повысить точность системы, исследователи использовали данные о расовой принадлежности, полученные от поступающих на программы MBA. Когда возникали расхождения между методами, основанными на имени и лице, система решала их, присваивая расовую принадлежность на основе переменной с наибольшей диагностической точностью - другими словами, на основе подхода с наименьшим числом ложных срабатываний в спорном подмножестве.

Однако даже при таких мерах предосторожности опасения по поводу потенциальной предвзятости остаются. Критики утверждают, что черты лица зависят от сочетания генетических и экологических факторов, которые могут не соответствовать расовым признакам. Кроме того, если не уделять должного внимания классификации расы с помощью искусственного интеллекта, это может привести к закреплению вредных стереотипов.

Действительно ли это работает?

Скептицизм оправдан, когда речь заходит об искусственном интеллекте, делающем прогнозы на основе чего-то столь субъективного, как лицо человека. Критики утверждают, что такой подход может усилить предвзятость и укрепить стереотипы. Например, если искусственный интеллект будет обучаться на наборе данных, не отличающемся разнообразием, он может получить необъективные результаты, благоприятствующие определенным демографическим группам.

Кроме того, личность - это сложный процесс, на который помимо внешности влияет множество факторов. Сможет ли ИИ по статичному изображению передать всю глубину человеческой личности? Исследователи сами признают ограниченность своей модели. Они подчеркивают, что, хотя ИИ может выявить корреляции, это не означает причинно-следственную связь. Другими словами, если по лицу человека можно определить определенную черту характера, это не значит, что его поведение всегда будет соответствовать этой черте.

Существует также этическая дилемма. Должны ли работодатели и университеты иметь право использовать искусственный интеллект для проверки личности? Эта технология может привести к антиутопическому сценарию, когда людей будут оценивать исключительно по внешности, что подорвет индивидуальность и личностный рост.

Исследователи не скрывают, что не выступают за использование технологии распознавания лиц при приеме на работу. Они признают, что суждение о людях по их лицам вызывает серьезные этические вопросы, поскольку может привести к дискриминации по неизменным признакам.

Несмотря на эти опасения, результаты исследования трудно игнорировать. Исследователи продемонстрировали, что прогнозы ИИ не уступают традиционным показателям, таким как средний балл аттестата и результаты стандартизированных тестов. Это говорит о том, что личностные качества, определяемые искусственным интеллектом, имеют такое же значение для успеха в карьере, как и когнитивные навыки.

Этические и практические последствия

Если эта технология получит широкое распространение, она может изменить подход организаций к оценке кандидатов. Компании могут использовать ИИ для отбора кандидатов на основе личностных качеств, которые предсказывают эффективность работы. Школы могли бы отдавать предпочтение при приеме студентов, чьи личностные характеристики указывают на высокий потенциал успеха.

Однако такая практика, скорее всего, столкнется с юридическими проблемами. Законы о дискриминации во многих странах запрещают принимать на работу на основе физических характеристик. Даже если оценки ИИ будут статистически достоверными, они все равно могут быть расценены как дискриминационные.

Кроме того, эта технология вызывает опасения по поводу конфиденциальности. Как организации будут получать и хранить данные о лицах? Могут ли эти данные быть использованы не по назначению или взломаны? Эти вопросы необходимо будет решить регулирующим органам, прежде чем прогнозирование личности на основе ИИ станет массовым.

Концепция искусственного интеллекта, анализирующего лицо человека, чтобы предсказать его потенциал успеха, кажется почти антиутопической, однако она основана на научных исследованиях. Однако то, что мы можем что-то сделать, не означает, что мы должны спешить это применить, особенно когда на кону стоят человеческие жизни и карьера.

Прежде чем внедрять искусственный интеллект для проверки личности, необходимо провести серьезный разговор о его последствиях. Можем ли мы создать гарантии, чтобы предотвратить злоупотребления? Как сбалансировать инновации и уважение к человеческому достоинству и частной жизни?

Кроме того, существует проблема предвзятости. Если ИИ можно запрограммировать так, чтобы он не допускал дискриминации по демографическому признаку, то как быть с более тонкими предубеждениями внутри демографических групп? Если мы будем судить о людях по тому, как они выглядят сегодня, мы рискуем проигнорировать их способность учиться, адаптироваться и меняться с течением времени.

Человеческий потенциал не статичен. Люди растут благодаря опыту, возможностям и усилиям. Сводить все будущее человека к тому, что алгоритм видит на фотографии его лица, не только бесчеловечно, но и недальновидно.

Пока что обществу предстоит решить, насколько далеко мы готовы зайти, позволив машинам оценивать наш потенциал.

Друзья, буду рад, если вы подпишетесь на мой телеграм-канал про нейросети, чтобы не пропускать анонсы статей, и канал с советами для тех, кто только учится работать с нейросетями - я стараюсь делиться только полезной информацией.