Рекрутерский ИИ Amazon закрыли — он стал сексистом

Агентство Reuters сообщило, что внутренняя команда Amazon несколько лет работала над рекрутерским софтом, который мог бы эффективно отсеивать лучших кандидатов для найма. Однако в процессе работы стало ясно, что при анализе резюме система дискриминирует женщин — несмотря на все попытки инженеров исправить движок.

Пять источников связанных с автоматизированной системой просмотра резюме рассказали, что работа началась еще в 2014 году. По их словам, команда состояла из дюжины инженеров, которым была поставлена миссия — создать программу, которая использовала бы машинное обучение для просмотра десятилетней коллекции резюме, высланных Amazon потенциальными кандидатами. Команда должна была научить ИИ выделять лучших из лучших, упрощая процесс работы отдела кадров. 

По сути, система Amazon научила себя, что кандидаты-мужчины предпочтительнее. Система "штрафовала" резюме, в которых были слова, связанные с женщинами, например "капитан женского клуба по шахматам". Кроме того, как сообщат источники, ИИ снижал рейтинг выпускниц женских колледжей. Конкретные учебные заведения не названы.

Amazon редактировала программы, чтобы сделать их нейтральными в отношении к ряду терминов. Однако это не гарантировало, что машины не стали бы дискриминировать кандидатов по другим параметрам.

По данным Reuters, рекрутеры Amazon изучали рекомендации, предоставленные ИИ, однако они не полагались на эту систему. Проблемы системы стали очевидны примерно через год после его запуска, а закрылся он еще в прошлом году.

Главным виновником стало то, что ИИ использовал данные Amazon, накопленные за прошлое десятилетие, когда большая часть резюме была выслана мужчинами и техносектор в целом находится в основном под контролем мужчин.