Искусственный интеллект становится все более значительным достижением человечества и начинает использоваться там, где ранее справлялись только люди. Особенно сильно он востребован, если требуется повышенная концентрация внимания, аналитические способности и умение сопоставлять и соотносить различные факты, предвидя последствия.
Так, компания Amazon некоторое время назад запустила сервис, который создавался исключительно для эффективного подбора персонала. Сервис был полностью автоматизирован и управлялся обученной нейросетью.
Но в какой-то момент в компании поняли, что все идет не так, как планировалось изначально. Выяснилось, что нейросеть предвзято относится к соискателям-женщинам и сознательно отсеивает их на предварительной стадии отбора. ИИ по только ему понятным причинам решил, что работники-мужчины будут более полезны Amazon. Компания хотела оставить эту проблему в тайне, но газетчики узнали о ней, и в прессе начали появляться разоблачительные публикации.
Эксперты прокомментировали проблему. По их мнению, во всем виновата система обучения. Оказалось, что нейросеть была обучена на 500 резюме реальных соискателей. При этом в компании работало больше мужчин, чем женщин. Вероятно, это и стало для ИИ основанием для дискриминации женщин.
Примечательно, что в первое время администрация компании доверяла ИИ и принимало на работу тех, кого рекомендовала нейросеть. Сейчас этот рекрутинговый проект закрыт.