Что легче исправить: предвзятость алгоритма или ошибку человека?
В увлекательной статье New York Times Предвзятые алгоритмы легче исправить, чем предвзятых людей »исследуются растущие опасения по поводу того, что многие алгоритмы, используемые для оценки кандидатов на работу, настроены против женщин , отражают предубеждения в приложениях для знакомств и настроены против определенных групп в отношении криминального профиля, здравоохранения или рекламы.
Алгоритмы по своей природе не дают никаких гарантий против предвзятости, и к настоящему времени это утверждение должно быть достаточно очевидным для всех. В частности, эта предвзятость исходит из данных, которые мы используем для их обучения, которые вполне могут содержать неявные предубеждения или предубеждения различного рода, некоторые из которых не так легко обнаружить. Однако смещения в данных, создаваемых алгоритмами, относительно легко обнаружить, проверить и исправить с помощью математики, и они аналогичны тем, которые использовались в течение многих лет для определения или уравновешивания смещений выборки.
Люди предвзяты, особенно в отношении определенных тем: наш процесс принятия решений часто искажается в пользу той или иной позиции или отражает наши идеи, воспитание и убеждения. Хотя личную предвзятость также можно выявить с помощью математического анализа, по сравнению с предвзятостью алгоритмов машинного обучения, ее гораздо труднее исправить, и иногда требуется замена людей или внесение изменений в цепочку команд, принимающих решения.
Когда мы критикуем алгоритм за предвзятость, вызванную данными, которые мы использовали для его обучения, мы должны помнить, что если мы воспользуемся этим алгоритмом для замены процессов принятия решений, которые раньше выполнялись людьми, что, как мы увидим, будет происходить все чаще и чаще, мы будем вводить замену, предвзятость которой не только легко обнаружить, но и исправить. Рассмотрение наличия предубеждений в процессе принятия алгоритмических решений как своего рода поправки ко всему, просто демонстрирует незнание математики. Да, алгоритмы могут содержать предубеждения, но их можно изменить, перевоспитать, а их процессы исправить гораздо проще и эффективнее, чем люди. Подумайте об этом: сколько решений принимается в вашей компании на основе критериев людей, которые могут иметь предубеждения? В какой степени эти процессы можно было бы улучшить, если бы мы могли просто скорректировать некоторые математические параметры или ввести механизмы для исправления систематической ошибки выборки, вместо того, чтобы полагаться на что-то столь же сложное, как восприятие человека, его опыт или предполагаемая интуиция?
В будущем каждый алгоритм будет содержать аналитику, которая будет оценивать возможные ошибки, которые он несет, генерировать механизмы предупреждения, когда эти ошибки имеют место, и обеспечивать их последующую корректировку и исправление. Если бы только это было так просто с суждением отдельных людей: наши общества и организации получили бы огромную выгоду.
(En español, вода)
