Распознавание лиц когда-то было отличительной чертой научной фантастики, но уже прошло много лет с момента его внедрения во многие сферы современного общества. Социальные сети используют его для пометки людей на фотографиях, таким образом миллионы людей разблокируют свои устройства, и он играет все большую роль, помогая правоохранительным органам по всему миру в равной степени выявлять преступников и пропавших без вести детей.
Это удивительная технология, которая стала возможной только благодаря развитию алгоритмов машинного обучения, огромным массивам данных, которые современное общество сопоставляет каждый день, и все более быстрым компьютерам для их обработки. Но, несмотря на все эти достижения, у технологии распознавания лиц есть и темная сторона. Часто это неправильно, что может создать множество потенциально довольно серьезных проблем для тех, кто нарушил это правило. Его также легко обмануть, ставя под сомнение его легитимность для чего угодно, кроме самых поверхностных целей.
Несовершенство: враг хороших парней
Одна из самых очевидных проблем с распознаванием лиц заключается в том, что оно подвержено ошибкам. Это не редкость во всех технологических областях, но поскольку распознавание лиц используется для идентификации людей, результаты ошибок могут быть катастрофическими. Простая неправильная идентификация кого-то при попытке разблокировать телефон может означать предоставление доступа неавторизованному лицу, но если полиция арестует не того человека из-за неправильного совпадения лиц, это изменит жизнь.
Это особенно проблематично, если учесть, что распознавание лиц особенно подвержено такого рода ошибкам при работе с определенными группами; особенно женщины, люди с более темным оттенком кожи и пожилые люди.
Исследование проблем гендерной классификации в распознавании лиц, проведенное в 2018 году, показало, что чернокожих женщин ошибочно идентифицировали в 35% случаев. Федеральное исследование 2019 года сделало аналогичные выводы, показав, что чернокожих женщин более чем в 10 раз чаще ошибочно идентифицируют по сравнению с белыми мужчинами. Чернокожие мужчины, белые женщины и пожилые люди также сталкивались с более высокой вероятностью ошибочной идентификации с помощью алгоритмов распознавания лиц.
Все это исследование и серьезное противодействие полицейскому насилию в отношении групп меньшинств в 2020 году привели к тому, что Amazon, IBM и Microsoft прекратили продажу программного обеспечения для распознавания лиц полиции. Это не остановило его использование ни в других странах, ни в других компаниях, разрабатывающих эти технологии в других областях, но для групп таких как ACLU, которые выступают против его использования правоохранительными органами, это была огромная победа.
Прятаться на виду
Распознавание лиц не просто ошибается, его также можно обмануть. Computer Vision Dazzle (CV Dazzle) — это фраза, придуманная в 2010 году художником Адамом Харви, который предположил, что определенный макияж и одежда могут использоваться для обмана алгоритмов распознавания лиц. Из-за того, что они полагаются на определенные лицевые показатели для целей идентификации, изменение глаз и формы лица или просто придание им более общего вида с помощью макияжа, причесок и аксессуаров может обмануть системы распознавания лиц, заставив их ошибочно идентифицировать кого-то или не узнавать их. вообще как человек.
Эффективность традиционной тактики CV Dazzle в последние годы снизилась по мере улучшения алгоритмов, но это привело лишь к появлению новых стратегий противодействия им. Некоторые протестующие предполагают, что светоотражающие украшения могут быть полезны, в то время как другие подчеркивают, насколько важно прятать уши, поскольку они могут быть важным фактором идентификации.
Также были попытки использовать полные лицевые проекторы для отображения полностью вымышленного лица поверх существующего лица человека, и некоторые исследователи обнаружили, что простое удерживание фотографии толпы полностью ослепляет некоторые алгоритмы.
Тупость, основанная на уверенности
Сама по себе технология распознавания лиц не является злодеем. Это невероятно полезная технология, которая может повысить безопасность личных устройств и помочь найти людей, которые в противном случае ускользнули бы из социальной щели. Но его несовершенства чрезвычайно велики, и если его не использовать в сочетании с интуицией, которая пока еще является исключительно человеческой, его потенциал искажается в сторону негатива.
Были настоящие уголовные приговоры невиновным людям не только из-за неудач распознавания лиц, но и из-за отсутствия подтверждающей информации от людей, которые должны контролировать его использование.
По мере того, как неуклонный прогресс отсеивает проблемы в алгоритмах, эти опасения будут уменьшаться, но можно привести аргумент, что если они будут отставать хотя бы на один шаг от совершенства, то их использование в условиях, которые могут навсегда изменить жизнь тех, кого они касаются , должны быть ограничены.
