Исследователи выяснили, что человек слабее реагирует на половую дискриминацию со стороны компьютерных алгоритмов, чем на аналогичные действия со стороны других людей. Об этом в пятницу сообщила пресс-служба Американской психологической ассоциации (APA).
Проблема сексизма и половой дискриминации стала острее в в последние двадцать лет. Помимо различий в среднем уровне оплаты труда, женщины реже добиваются успеха в естественно-научных дисциплинах, а также в тех сферах деятельности, где “традиционно” доминируют мужчины.
Психологи решили выяснить, как на отношение мужчин и женщин к половой дискриминации повлияли алгоритмы, которые применяют при подборе кандидата на должность. Технология также вычисляет размер заработной платы, премии и штрафов, связанных с трудовой деятельностью.
Незаметный алгоритмический сексизм
Один из самых известных алгоритмов компания Amazon создала в середине 2010 года. Программисты разработали систему, которая помогала кадровикам компании отбирать кандидатов на разные вакансии. Однако в 2018 году выяснили, что алгоритм проявлял "сексистские тенденции" и ставил женщинам заведомо низкие оценки.
Исследователи собрали две группы из нескольких сотен добровольцев, проживающих в США и Норвегии, и попросили их оценить качество работы кадровых департаментов вымышленных IT-корпораций. Для этого участники прочитали несколько отчетов "аудиторов" или "журналистов" о том, как эти компании нанимают новых работников, как их руководство относится к сексизму и прочим формам дискриминации.
Анализ ответов указал на то, что они значительно реже видели дискриминацию в действиях корпораций, если их кадровые отделы нейросеть и прочие алгоритмы в своей работе. По словам исследователей, это было связано с тем, что респонденты считали, что люди опираются в основном на свои предубеждения при отборе новых сотрудников и распределении премий, тогда как алгоритмы используют только объективные данные.
"Это открытие вызывает особенную тревогу, так как этой особенностью психики человека могут воспользоваться компании для защиты себя от обвинений в сексизме. Если люди будут меньше возмущаться по поводу возможной дискриминации, то в таком случае они, как правило, будут предпринимать меньше действий для борьбы с несправедливостью", - отметил доцент Еврейского университета Иерусалима (Израиль) Йоханан Бигман, чьи слова приводит пресс-служба APA.