Фото: Jim/FlickrБанк Goldman Sachs позволит семьям пользоваться одной кредитной картой Apple Card. Такое решение было принято после того, как учреждение обвинили в предоставлении разных кредитных условий мужчинам и женщинам — супружеским парам.
Гендиректор американского подразделения Goldman Sachs Кэри Халио пообещала, что клиенты смогут обратиться в банк с просьбой пересмотреть их кредитный лимит по Apple Card. «Мы услышали вас. Ваши проблемы важны для нас, и мы относимся к ним серьезно», — отметила она. По словам Халио, Goldman Sachs не учитывает пол клиентов, когда принимает решение о кредитном лимите. «На самом деле мы даже не знаем пол и семейный статус тех, кто оформляет Apple Card», — утверждает она.
Халио пояснила, что лимит каждого клиента зависит от его личной кредитной истории, без учета семейных счетов. Ранее банк уже озвучивал эту позицию.
«Если вы считаете, что ваша кредитная линия некорректно отражает вашу кредитную историю, свяжитесь с нами. Мы пересмотрим ваш кредитный лимит на основании дополнительной информации, которую можем запросить», — сказала Халио.
На ситуацию с разными кредитными лимитами обратили внимание бывшей автогонщик, программист Давид Ханссон и сооснователь Apple Стив Возняк. Ханссон написал, что его жена получила меньший лимит при лучшей кредитной истории, а разница между его кредитным лимитом и таковым у жены является 20-кратной. Возняк заявлял, что у его жены лимит ниже в 10 раз, хотя «отдельных банковских счетов или счетов кредитных карт или каких-либо отдельных активов» у пары нет.
Департамент финансовых услуг Нью-Йорка пообещал, что проверит работу Goldman Sachs: «Любой алгоритм, который намеренно дискриминирует женщин или другие группы населения, является нарушением закона в штате Нью-Йорк».
Ханссон уже отреагировал на новое обещание Goldman Sachs. По его мнению, исключение семейных счетов — это тоже дискриминация. «Как вы думаете, сколько «домохозяек» — женщины? Если они не могут полагаться на совместное имущество, семейный доход и предыдущие заработки, чтобы доказать, что они могут выплатить кредит, они лишаются доступа», — написал он в Twitter.
«Когда менеджер Apple Card сообщила мне, что знает о твитах Дэвида, и что мой кредитный лимит будет увеличен до того же размера, что у него, я ощутила весь вес моих абсурдных привилегий и вину за них… Это история не просто о сексизме и тайных кредитных алгоритмах, но о том, как богатые люди почти всегда добиваются своего. Справедливость для еще одной богатой белой женщины — это не справедливость», — поддержала его супруга Джейми Хейнемейер.
После разгоревшегося скандала пользователи пытались найти объяснение тому, почему это разнополым владельцам карт предлагают разные условия, если в процессе задействован алгоритм.
Они предположили, что супруга Ханссона могла ввести данные только о личном доходе без учета совместного. Пользователи отмечали, что в подобном случае стоило просто указать общий доход, и тогда банк бы предоставил более высокий лимит. Кроме того, они обратили внимание на возможное соотношение дохода и долгов. Пользователям показалось странным, что Ханссон так и не привел никаких данных о доходах своей супруги.
Пользователи также посчитали, что алгоритм мог действительно учитывать демографические данные. Эти данные могли демонстрировать, что мужчины используют большой объем кредита в виде возобновляемого способа получения большой прибыли для компании, выпускающей кредитные карты.
Сам Ханссон отмечал, что банк, вероятно, не имел намерения дискриминировать пользователей, однако его подвел алгоритм «черного ящика» (Black box). Он мог задать женщинам меньший кредитный лимит, оценив предыдущие платежи и в целом ситуацию на рынке труда, а также другие параметры.
«Никто не хочет жить, подчиняясь капризам Алгоритма. Ни в финансах, ни в недвижимости, ни в рекламе, ни в найме, ни в одной другой из миллиона сфер, где решения начинают принимать машинное обучение и ИИ», — заявил позднее Ханссон.
По мнению программиста, в банке так и не поняли, в чем действительно заключается проблема. По его словам, зафиксированы и случаи полного отказа в выдаче Apple Card женщинам, а представители финансового надзорного органа уже 14 ноября встретятся с руководством Goldman Sachs.
Заместитель руководителя Департамента финансовых услуг Нью-Йорка Гарет Родс поддержал позицию Ханссона: «… алгоритмы, несмотря на то, что они, предположительно, основаны на искусственном интеллекте, полагаются на данные из реального мира, которые могут отражать давно существующую дискриминацию в отношении женщин или групп меньшинств».