Пример совместной пары профилей: сценарий досудебного выпуска, противостояние человека и алгоритма. Кредит: Бансак и Полсон.
Общество все чаще использует алгоритмы для принятия важных решений в таких сферах, как уголовное правосудие, здравоохранение и финансы. Эта тенденция подвергается критике за институционализацию предвзятости и принесение в жертву справедливости.
В исследовании, опубликованном в журнале PNAS Nexus, Кирк Бансак и Элизабет Полсон попросили 9000 участников исследования из США выбрать между лицами, принимающими решения в двух ситуациях с высокими ставками: освобождение из-под стражи и заявки на банковский кредит. Участники выбирали либо между двумя людьми, принимающими решения, либо между двумя алгоритмическими лицами, принимающими решения, либо между одним человеком и одним алгоритмическим лицом, принимающим решения.
В каждом сценарии участникам была представлена смоделированная статистика эффективности работы лиц, принимающих решения. При выборе лиц, принимающих решения, участники отдавали приоритет эффективности, а не справедливости. Эта закономерность в целом сохранялась независимо от расы, политической партии, уровня образования или убеждений участников в отношении искусственного интеллекта.
Эта закономерность также сохранялась независимо от того, были ли лица, принимающие решения, людьми или алгоритмами. Однако участники с большей вероятностью выбирали людей, чем алгоритмы. Республиканцы отдавали предпочтение людям сильнее, чем демократы.
