Amazon прекратил разрабатывать ИИ. Он оказался «сексистом»

Искусственный интеллект, который был опробован в качестве инструмента по просмотру резюме и отбору новых сотрудников, оказался сексистом.

Reuters поговорили с членами команды разработчиков ИИ, которые с 2014 года занимались созданием и обучением программы. По словам разработчиков, искусственный интеллект буквально должен был выбирать из ста резюме пять лучших. Каждому просмотренному резюме программа выставляла оценку по пятибалльной шкале.

Но уже в 2015 году стало ясно, что программа не может оценить кандидатов гендерно-нейтрально, потому что была построена на данных, полученных из 500 резюме сотрудников Amazon десятилетней давности, большинство из которых принадлежали мужчинам.

Система ошибочно посчитала, что компания специально нанимает больше мужчин, чем женщин. Нейросеть автоматически пропускала все резюме, в которых встречались слова «женщина» или «женский». Так же она отдавала предпочтения текстам, содержащим так называемый «мужской язык», или сильные глаголы, типа «executed» (приводить в исполнение) и «captured» (захватить).

Проект сначала пытались исправить, но спустя время было объявлено о его непригодности. Однако Reuters сообщает, что ИИ использовался компанией в течение некоторого периода. Amazon смотрела на рекомендации, сгенерированные нейросетью, но никогда не полагались исключительно на них.

Источник: Reuters