законы США прямо запрещают
Nov. 4th, 2025 07:09 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
arbekaчасть утверждения соответствует исследовательским находкам, но оно слишком спрощённое и требует уточнения. Вот как выглядит ситуация:
✅ Что подтверждается
Исследования показывают, что модели машинного обучения, применяемые для оценки кредитоспособности, часто используют данные-прокси, которые коррелируют с расой, этнической принадлежностью или районом проживания.
PMC
+3
FinRegLab
+3
news.cornell.edu
+3
К примеру, ZIP-код (почтовый индекс) или район проживания клиента часто выступают сильными предикторами дефолта или отказа в кредите, потому что отражают социально-экономический статус, окружение, инфраструктуру.
SpringerLink
+1
При этом законы США (например, Equal Credit Opportunity Act) прямо запрещают учитывать расу, национальность, цвет кожи при кредитовании.
PMC
+1
Обзор показывает, что даже если прямая переменная «раса» не используется, модели могут выявлять её через другие признаки: «адрес проживания», «район», «ZIP-код», «название улицы» и др.
news.cornell.edu
+1
⚠️ Что утверждение не полностью корректно
Утверждение «самыми сильными предсказательными признаками оказались адрес и раса» — это упрощение. Исследования не всегда говорят, что адрес и раса были самыми сильными индивидуально. Чаще — множество признаков вместе (доход, кредитная история, задолженность, уровень финансовой активности, район) дают прогноз.
«Если негр или латинос живёт в гетто → скорее не отдаст кредит» — здесь много условностей. Действительно, статистически лица из расовых меньшинств и/или проживающие в бедных районах чаще имеют низкую кредитоспособность, но это связано с историческими и структурными обстоятельствами (меньше накоплений, меньше доступа к финансовым инструментам, дискриминация), а не просто признак расы как таковой.
Нет публичных доказательств того, что при внедрении машинного обучения в кредитование в США автоматически расу использовали как прямой признак (закон запрещает). Что используется — это скрытые коррелирующие признаки (proxy variables).
🧠 Как правильно воспринимать
Модель машинного обучения может выглядеть «нейтральной», но если она обучена на исторических данных с дискриминацией или на данных, где район проживания тесно связан с расой/этнической группой, то она репродуцирует и усиливает существующее неравенство. Почтовый адрес + ZIP-код могут быть сильным предиктором просто потому, что они отражают много факторов: уровень дохода, качество жилья, стабильность занятости, инфраструктура района.
..................
/вырвано из клевера/
"- Это как когда в США внедряли методы машинного обучения в задачу предсказания отдаст ли кредит клиент, то сразу выяснилось что самыми сильными предсказательными признаками оказались адрес и раса. Если негр или латинос живет в гетто, то кредит он скорее всего не отдаст со значительно большей вероятностью, чем белый в пригороде.
https://ivanov-petrov.livejournal.com/2609971.html?thread=283620403#t283620403
✅ Что подтверждается
Исследования показывают, что модели машинного обучения, применяемые для оценки кредитоспособности, часто используют данные-прокси, которые коррелируют с расой, этнической принадлежностью или районом проживания.
PMC
+3
FinRegLab
+3
news.cornell.edu
+3
К примеру, ZIP-код (почтовый индекс) или район проживания клиента часто выступают сильными предикторами дефолта или отказа в кредите, потому что отражают социально-экономический статус, окружение, инфраструктуру.
SpringerLink
+1
При этом законы США (например, Equal Credit Opportunity Act) прямо запрещают учитывать расу, национальность, цвет кожи при кредитовании.
PMC
+1
Обзор показывает, что даже если прямая переменная «раса» не используется, модели могут выявлять её через другие признаки: «адрес проживания», «район», «ZIP-код», «название улицы» и др.
news.cornell.edu
+1
⚠️ Что утверждение не полностью корректно
Утверждение «самыми сильными предсказательными признаками оказались адрес и раса» — это упрощение. Исследования не всегда говорят, что адрес и раса были самыми сильными индивидуально. Чаще — множество признаков вместе (доход, кредитная история, задолженность, уровень финансовой активности, район) дают прогноз.
«Если негр или латинос живёт в гетто → скорее не отдаст кредит» — здесь много условностей. Действительно, статистически лица из расовых меньшинств и/или проживающие в бедных районах чаще имеют низкую кредитоспособность, но это связано с историческими и структурными обстоятельствами (меньше накоплений, меньше доступа к финансовым инструментам, дискриминация), а не просто признак расы как таковой.
Нет публичных доказательств того, что при внедрении машинного обучения в кредитование в США автоматически расу использовали как прямой признак (закон запрещает). Что используется — это скрытые коррелирующие признаки (proxy variables).
🧠 Как правильно воспринимать
Модель машинного обучения может выглядеть «нейтральной», но если она обучена на исторических данных с дискриминацией или на данных, где район проживания тесно связан с расой/этнической группой, то она репродуцирует и усиливает существующее неравенство. Почтовый адрес + ZIP-код могут быть сильным предиктором просто потому, что они отражают много факторов: уровень дохода, качество жилья, стабильность занятости, инфраструктура района.
..................
/вырвано из клевера/
"- Это как когда в США внедряли методы машинного обучения в задачу предсказания отдаст ли кредит клиент, то сразу выяснилось что самыми сильными предсказательными признаками оказались адрес и раса. Если негр или латинос живет в гетто, то кредит он скорее всего не отдаст со значительно большей вероятностью, чем белый в пригороде.
https://ivanov-petrov.livejournal.com/2609971.html?thread=283620403#t283620403
