Мысли о машинном обучении и справедливости
В последнее время в сообществе ведется много дискуссий о разработке алгоритмов машинного обучения, которые являются справедливыми. Сегодня была аналогичная дискуссия среди коллег. Как мы можем гарантировать, что ОД не приведет к неравенству и дискриминации?
Я только начал тренировать свой мозг по этой теме, и в этой статье собраны мои самые первые взгляды.
Прежде чем ответить на вопрос, необходимо уточнить, как справедливость воспринимается/должна восприниматься в алгоритмическом мире машинного обучения. Природа алгоритмов ML заключается в том, чтобы изучить истинный механизм генерации наблюдений/данных. Если в этом есть предвзятость и дискриминация, алгоритм/модель ML должен быть в состоянии изучить это. Простым примером несправедливости является решение о назначении людям лекарств на основе их дохода, сценарий, который может быть правдой. Разработка модели, учитывающей эту несправедливость, имеет решающее значение; важно изучить несправедливость, прежде чем решать ее. Таким образом, мы лучше понимаем причину. Следующий шаг — сделать алгоритм способным реагировать на несправедливость; зная причину, мы можем дополнить модель компонентом, смягчающим несправедливость и дискриминацию.
Задача состоит в том, чтобы создать алгоритмы машинного обучения, которые изучают несправедливость, но также действуют в соответствии с ней.
Более серьезные проблемы возникают, когда несправедливость не очевидна. В данном случае отсутствие стандартизированного способа и инструментов выявления несправедливости – это как раз то, что необходимо решить.
