Нейросеть Amazon считала женщин плохими и была закрыта
Фото © AP Photo/Richard Drew
Искусственный интеллект сделал ошибочный вывод, что женщины в принципе не могут работать.
Amazon закрыла свой проект по разработке ИИ для найма персонала. Оказалось, что инженеры компании создали настоящего женоненавистника, передаёт Reuters.
Проект HR-нейросети, способной самостоятельно нанимать персонал, был закрыт из-за дискриминации соискателей по половому признаку. Искусственный интеллект решил, что женщины по умолчанию неспособны работать, и нанимал в компанию только мужчин. В Amazon хотели скрыть факт существования враждебного ИИ, но информация просочилась в прессу.
По сути, система не виновата: по статистике, в Amazon трудоустроено больше мужчин, чем женщин. Поэтому нейросеть ошибочно решила, что компания специально нанимает меньше женщин. По слухам, работа над ИИ стартовала в 2014 году, нейросеть был обучена на основе 500 настоящих резюме.
Источник Reuters рассказывает, что сперва компания сильно доверяла искусственному интеллекту. По слухам, руководство Amazon загрузило 100 резюме в систему и тут же наняло пятерых соискателей, на которых указала нейросеть.