Очки заставили систему распознавания лиц считать мужчину Миллой Йовович

Очки заставили систему распознавания лиц считать мужчину Миллой Йовович

20328

Фото: © Flickr/Joe Green

Системы для распознавания образов всё ещё можно обмануть с помощью старой шутки: нужно надеть смешные очки с узорами.

Биометрические системы с самообучающимся искусственным интеллектом имеют множество уязвимостей. Одну из них выявили учёные из Университета Карнеги — Меллон и Университета Южной Каролины. Алгоритмы распознавания лиц дают сбой, если человек надевает большие очки. При использовании таких очков системы не распознают лица из базы данных или присваивают распознаваемому неверные пол и личность. Исследование представлено в сборнике Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security.

У американской полиции имеются в распоряжении фотографии почти половины жителей страны. Основываясь на такой базе данных, алгоритмы для распознавания лиц могли бы без труда узнать многих преступников. Очевидно, что нарушители придумывают и будут придумывать различные способы уйти незамеченными от таких систем. Значит, надо выявлять уязвимости раньше преступников.

Авторы работы имитировали атаки на коммерчески успешную и достаточно новую систему для распознавания объектов в реальном времени Face++. Они показывали камерам, соединённым с устройством для обработки информации, фотографии, на которых мужчинам и женщинам подрисовывали очки. Все очки были одинаковой формы и несли на себе жёлто-зелёный узор, напоминающий черепаший панцирь.

Появление очков на лице виртуального испытуемого существенно изменяло реакцию системы на него. В ряде случаев алгоритм в принципе не идентифицировал лицо как принадлежащее какому-либо человеку, хотя информация обо всех "испытуемых" была в базе. Кроме того, Face++ путал не только личность, но даже пол распознаваемого. Например, одного из мужчин в жёлто-зелёных узорчатых очках система распознала как известную актрису Миллу Йовович, только уже без очков. А одну женщину азиатской внешности программа приняла за мужчину-европеоида. Ошибки были не единичны, они повторялись с высокой вероятностью.

Опасность такой уязвимости в том, что злоумышленнику совсем не обязательно досконально знать свойства конкретной системы распознавания лиц, чтобы успешно обойти её. Очки можно использовать полуслучайно, как "сумасшедшую идею". Теперь разработчикам подобных систем потребуется более подробно изучить, чем именно для алгоритма отличается одно и то же лицо в очках и без очков.

Комментарии: 
  • Популярные
  • По времени
Похоже, что вы используете блокировщик рекламы :(
Чтобы пользоваться всеми функциями сайта, добавьте нас в исключения!
как отключить
×