Обмануть систему распознавания лиц — легко

Повсеместное внедрение систем распознавания лиц начало приводить к появлению программ, обманывающих искусственные интеллекты. Это закон равенства действия и противодействия — третий закон Ньютона, который вполне применим и к социальной сфере.

Мысль о том, что фотографии, которыми мы делимся, собираются компаниями для обучения алгоритмов ИИ — не самая приятная. Но все мы так или иначе попадаем в базы. Сегодня можно купить доступ к одной из них, сфотографировать незнакомого человека и узнать все о нем за считанные секунды.

Например, фирма Clearview AI, занимающаяся распознаванием лиц, заверяет, что собрала около трех миллиардов снимков лиц с таких сайтов, как Facebook, YouTube и Venmo, которые используются для идентификации незнакомцев. Как не бороться с таким безобразием?

Поэтому был разработан специальный инструмент под названием Fawkes, созданный учеными из лаборатории SAND Sands университета Чикаго. В ней тоже используется искусственный интеллект, но он на нашей стороне. Тонко и почти неуловимо ИИ вносит коррективы в снимки, обманывая тем самым системы распознавания лиц.

Метод работы программного обеспечения нельзя назвать простым. Использование инструмента не сделает вас невидимым для систем распознавания лиц. Но программное обеспечение внесет незначительные изменения в ваши снимки, благодаря чему алгоритм сканирования изображений будет определять вас как совершенно другого человека. Это словно добавление невидимой маски.

По словам разработчиков Fawkes, эффективность программы составляет 100% и она легко обманывает современные сервисы распознавания лиц от Microsoft (Azure Face), Amazon (Rekognition) и Face ++ от китайской Megvii.

Попробуйте рассмотреть изменения сами. Слева представлены фото до обработки, а справа — после:

SAND Lab, University of Chicago

Источник

31.03	37-й IT talk »
17.11	MBLTdev #2 »
16.11	GeekWeek-2015 »