Система распознавания лиц перепутала политиков с преступниками
Американский союз гражданских свобод — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего 12 долларов и 33 цента, проверила систему, от которой вполне может зависеть жизнь и свобода многих людей.
Используя настройки Rekognition, выставленные по умолчанию, то есть порог уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнила их с фотографиями всех членов Конгресса. В результате система идентифицировала 28 конгрессменов как преступников.
Стоит заметить, что это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого опознали неверно.
Представитель Amazon заявил сайту The Verge, что в столь удручающих результатах скорее всего виновата недостаточная калибровка «Восьмидесятипроцентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей». Также он заявил, что для любой идентификации, способной повлечь за собой серьезные последствия, нужна уверенность минимум в 95%.
Amazon не отказывается от идеи продавать систему правоохранительным органам, несмотря на петиции со стороны собственных акционеров и работников.
Читайте также
- Xiaomi представила маршрутизатор Redmi Router AX5400 с чипом Qualcomm
- Western Digital повысила цены на флеш-память NAND — это следствие загрязнения производства в январе
- 4 вида вооружения, которые отправили в Европу из-за Украины, но никогда не испытывали в деле
- Twitter позволит вешать ярлыки на ботов, чтобы люди могли отличать их от живых пользователей
- Найдена загадочная "невидимая" черная дыра: космическая аномалия
- Новая статья: Обзор игрового 4K-монитора ASUS TUF Gaming VG28UQL1A: лучше поздно, чем никогда