Алгоритм обрезки изображений Twitter предпочитает более молодые лица и более светлую кожу. К таким выводам пришли участники конкурса, посвященного расследованию предвзятости программного обеспечения.
Лучше всех проблему удалось продемонстрировать Богдану Кулиничу, аспиранту швейцарского университета EFPL. Он сгенерировал множество человеческих лиц, а затем пропустил их через алгоритм обрезки Twitter, чтобы увидеть, на что ориентируется ПО. Некоторые лица были почти идентичными, но разного пола, возраста и цвета кожи. Кулинич выяснил, что алгоритм действительно фокусировался на более молодых, стройных и светлых лицах чаще, чем на тех, что были старше, толще или темнее. Компания выплатила студенту $3,5 тысячи долларов.
Другие участники отметили также, что алгоритм обрезает фотографии, оставляя вне кадра пожилых людей и инвалидов. При публикации фото с надписями (например, мемов) алгоритм предпочитал латинские шрифты арабским. Полные результаты конкурса подтвердили расизм, сексизм и эйджизм алгоритма. Один участник даже обнаружил, что технология предпочитает смайлики с более светлым оттенком кожи смайликам с темным оттенком.
ПО Twitter подверглось критике в 2020 году, когда пользователи заметили, что алгоритм чаще фокусируется на белых лицах, чем на темнокожих. Компания сначала извинилась, заявив, что команда платформы провела тест на предвзятость перед запуском модели и не нашла доказательств расовой или гендерной предвзятости.
В более позднем собственном исследовании Twitter обнаружила лишь очень умеренную предвзятость в пользу белых лиц.
Комментарии (24)
third112
11.08.2021 17:00Лучше всех проблему удалось продемонстрировать Богдану Кулиничу, аспиранту швейцарского университета EFPL. [...] Компания выплатила студенту $3,5 тысячи долларов.
Аспиранту или студенту?
wataru
11.08.2021 17:19А есть какая-то разница? Если аспиранты не студенты — то кто? На курсы какие-то ходить кредиты получать — надо. По результатам аспиранства также выдается диплом. То, что кроме учебы есть исследования и публикации не вычеркивает их из студентов.
third112
11.08.2021 17:33Аспиранты не студенты — читайте вики. В аспирантуру сдают экзамены, и принимают только с дипломом вуза. Есть форма заочной аспирантуры, когда человек уже работает. Цель аспирантуры — защита диссера (точнее — сдача канд. минимума), вуз такой цели не ставит. По результатам аспиранства НЕ выдается диплом. Мне и моим соученикам-аспирантам не выдавали.
wataru
11.08.2021 17:42+1Возможно это российская специфика. Мне вот диплом об окончании аспирантуры в финляндии выдали. Вообще на английский слово "аспирант" переводится как "graduate student".
alashkov83
11.08.2021 17:54Теперь и в РФ по-другому. Диплом выдаётся и в конце аналог дипломной работы - квалификационная работа. Плюс часы на обязательные предметы, и их не 2 как раньше.
Vsevo10d
12.08.2021 10:33И все это к лету 2021 уже отменили. До этого с самой реформы РАН талдычили об образовательном процессе длиной 20 лет, а теперь вдруг постановили, что аспирант должен заниматься научной работой, убрали госы и ВКР, перестали выдавать квалификацию "педагог-исследователь".
ViktorZ
11.08.2021 17:01+5>Полные результаты конкурса подтвердили расизм, сексизм и эйджизм алгоритма
Мне кажется это не этично по отношению к алгоритму. Мне кажется подобные высказывания могут оскорбить чувства реализовавших этот алгоритм и придумавших. Я, пожалуй, даже не буду ставить теги сарказм.wataru
11.08.2021 17:20+3Неверно вы тут придумали. Авторы алгоритма — почти наверняка, белые, цисгендерные мужчины, да еще и богатые программисты. Стрелочка не поворачивается — у них не может быть чувств, которые можно оскорбить.
mad_god
11.08.2021 18:19+1Результаты конкурса Twitter подтвердили, что ее алгоритм обрезки фотографий на самом деле «расистский и сексистский»
Простите, может я тупой (скорее всего так и есть), но к какому слову относится "её"?
Xo4y_3uMy
11.08.2021 19:04+5Какой же бред..... На костёр редактора! :)
Читаем исходник:1st place goes to
whose submission showcased how applying beauty filters could game the algorithm’s internal scoring model. This shows how algorithmic models amplify real-world biases and societal expectations of beauty.
Потом читаем заголовок:
Результаты конкурса Twitter подтвердили, что ее алгоритм обрезки фотографий на самом деле «расистский и сексистский»
Технический сайт, а тут такие кликбейтные, желтушные заголовки.
А по факту система старается оценить каждое рандомное изображение по "средневзвешанному" по всей выборке. Светлокожих больше чем темнокожих, женщин больше чем мужчин, молодых больше чем пожилых. Чисто статистически. Что и показано в исследовании.Я против такой "личной" переработки информации. Я хочу точно, занудно и по делу, а не VC.ru (извините, наболело)
gsaw
11.08.2021 19:35В толерантном мире будущего будет трудно зафиксировать приметы человека.
В науке и жизни, ещё в 80-х читал статью. Учёные фотографировали людей одной этнической группы и потом все снимки с короткой выдержкой фотопроектором светили на фотопластинку (бог мой, забыл уже как все это называется). В результате получался усреднённый образ этноса.
Теоретически в "голове" у сетки должно же такое же что то сформироваться. Интересно было бы посмотреть, что получится у нетолерантной и толерантной сети, если результат спроецировать в картинку.
Может оно так и выходит на самом деле, если усреднить все, то получится белый, стройный человек.
Кстати пришел на ум ещё фантастический рассказ или повесть. Там пришельцы из будущего фигурировали. Все смуглые и рыжие, типа в далёком будущем все смешаются в одно среднее.
Goupil
Что-то мне подсказывает что нейросетка в нашем мозге тоже эволюционно предпочитает более молодые и светлые лица. Политкорректность против эволюции.
nomn
Это смотря в чьем «нашем». Эволюционно предпочтение отдается своей расе, чужая раса, с эволюционной точки зрения — опасность.
Goupil
Смотря где и как жить. Расы плавно перетекают друг в друга, всегда есть куча смешанных популяций.
И я не слышал чтобы у кого либо этноса в тропических странах было стойкое предпочтение в сторону более темной кожи. Светлая кожа ассоциируется с молодостью и благородным происхождением.
etozhesano
И стройных! :)
Am0ralist
Ха. Вы арабских принцесс не помните? Да и в РИ тоже большие телеса были признаки достатка и возможности есть сколько хочешь, а не сколько получилось.
А в жарких странах незагорелость была признаком, что богатые и не вынужден работать на солнце всё время.
Так что гибкая, оооочень гибкая нейросетка у нас…