Распознавание лиц — важная тема, затрагивающая многие аспекты жизни современного общества. За последние несколько лет он повлиял на траекторию деятельности полиции, правительства, закона и более широкой технологической индустрии в Соединенных Штатах и ​​во всем мире.

[Статья по теме: Microsoft, IBM и Amazon запрещают полиции использовать лицевые технологии]

Недавние протесты против расовой предвзятости полиции в США, в частности, привлекли внимание к роли распознавания лиц в работе полиции, что заставило несколько известных компаний пересмотреть свою политику в отношении разработки и использования этой технологии. И Майкрософт, и Амазон обязались не продавать свою технологию распознавания лиц полицейским управлениям до тех пор, пока не будут приняты соответствующие правила, и в течение года соответственно. Тем временем IBM объявила о прекращении дальнейшей разработки своей технологии распознавания лиц. Кроме того, два крупных города США, Сан-Франциско и Бостон, запретили использование этой технологии.

Одна из основных проблем с доступной в настоящее время технологией заключается в том, что она менее способна точно идентифицировать небелые, немужские лица. К сожалению, некоторые недавние попытки решить эту проблему показали, насколько сложно полностью устранить предвзятость в технологии.

Недавно группа исследователей попыталась сделать технологию распознавания лиц более инклюзивной, создав две базы данных: одну расово сбалансированную и включающую сегмент ЛГБТ-сообщества, а другую гендерно-инклюзивную.

Хотя намерения исследователей могли быть альтруистическими, способ, которым они классифицировали пол для этого набора данных, сам по себе определяется скрытыми предубеждениями относительно того, как должны выглядеть мужские, женские и небинарные лица. Эти наборы данных еще раз показывают, насколько сложно полностью исключить предвзятость из технологии распознавания лиц.

Несмотря на разногласия вокруг распознавания лиц, во всем мире есть надежда, что эта технология поможет решить проблемы во многих отраслях, таких как здравоохранение. В странах, где идентификация пациентов может быть очень сложной, например, технология распознавания лиц может использоваться для предотвращения ошибочной идентификации пациентов и обеспечения того, чтобы у врачей были правильные медицинские записи.

Кроме того, сообщество специалистов по данным, а также общество в целом предприняли несколько многообещающих шагов в решении и устранении текущих проблем, связанных с технологией. Габриэль Бьянкони, основатель Scalar Research, выделил, в частности, три области прогресса:

  • Уменьшение предвзятости: распознавание лиц (как и многие другие области машинного обучения) исторически страдало от непреднамеренных предубеждений (например, расовых, гендерных), возникающих из данных, на которых они обучались. Сообщество машинного обучения приняло к сведению эту проблему и активно разрабатывает решения (например, лучшие данные, лучшие алгоритмы) для ее решения.
  • Конфиденциальность: велась работа по разработке методов, ориентированных на конфиденциальность пользователя; например, федеративное обучение позволяет моделям учиться и делать прогнозы, не требуя, чтобы конфиденциальные данные покидали устройство.
  • Регулирование наблюдения: Конгресс изучает возможность регулирования использования системы распознавания лиц государственными учреждениями. Опять же, как и многие технологии, [распознаванием лиц] можно злоупотреблять/использовать не по назначению, или же оно может быть положительным, поэтому мы надеемся, что надлежащее регулирование использования [распознавания лиц] правительством приведет к лучшему и положительному внедрению.

Если вам интересно узнать больше об этике технологии ИИ и о том, как уменьшить предвзятость в моделях машинного обучения, ODSC Europe проводит несколько сессий по темам, в том числе

Для получения дополнительной информации о ODSC Europe и избранных докладах и спикерах посетите веб-сайт здесь.