Публикации по теме 'fairness'
Объяснение предвзятости в ваших данных
Углубленный анализ причин несправедливости
За последние пять лет несправедливость в машинном обучении превратилась из почти неизвестной в частые заголовки, и часто обнаруживаются новые случаи нежелательной предвзятости, вносимой в автоматизированные процессы. Однако до сих пор не существует универсального стандартного инструмента машинного обучения для предотвращения и оценки такой предвзятости. В этой статье мы разберемся, как объяснить несправедливость в алгоритме машинного обучения...
Системы искусственного интеллекта: обнаруженная предвзятость и неотложный поиск истинной справедливости
Автоматизируем ли мы предрассудки?
Искусственный интеллект (ИИ) больше не является футуристической концепцией — он стал неотъемлемой частью нашей жизни. С его всепроникающим влиянием крайне важно установить этические принципы для обеспечения ответственного ИИ. Чтобы обеспечить ответственное использование ИИ, нам нужны строгие критерии справедливости, надежности, безопасности, конфиденциальности, защищенности, инклюзивности, прозрачности и подотчетности в системах ИИ. В этой статье мы..
Борьба с предвзятостью: борьба ИИ за справедливость
Обеспечение равенства в машинном обучении
Поскольку искусственный интеллект (ИИ) продолжает играть важную роль в различных отраслях и аспектах повседневной жизни, проблема предвзятости в алгоритмах ИИ становится все более распространенной.
Предвзятые системы искусственного интеллекта могут увековечивать существующее социальное неравенство и приводить к несправедливому обращению, создавая острую потребность в устранении и смягчении дискриминации в приложениях машинного обучения.
В..
Оценки риска, справедливость и невозможность
В течение следующих нескольких лет глубокое обучение будет внедрено в нашу повседневную жизнь в больших и малых делах, от беспилотных автомобилей (это произойдет?!) до медицинской диагностики и, ну, в общем, всевозможных вещей. Однако по мере того, как мы идем по этому пути, нам действительно нужно обдумать, что именно говорят нам алгоритмы. И причина этого в том, что информация, которую мы получаем, по определению будет необъективной в той или иной форме.
Хорошо, термин предвзятый..
🔍 Откуда берутся предубеждения в ML? (2/Н) ❌ Исключение
В этом втором посте о причинах предубеждений в ML мы сосредоточимся на одном из самых важных предубеждений в ML: предубеждениях исключения. ⚠
⬇ Что говорят нам о них исследования?
Смещения исключения возникают, когда некоторые важные переменные не учитываются в модели. Также называемые смещениями пропущенных переменных, они наиболее распространены на этапе предварительной обработки данных. Как представлено Mehrabi et al. (2019), они представляют собой предубеждения, возникающие..
Каковы последствия кодирования категориальных защищенных атрибутов для справедливости?
Изучение влияния кодирования защищенных атрибутов на справедливость в машинном обучении
Мы изучим мир кодирования категориальных атрибутов и его значение для моделей машинного обучения с точки зрения точности и справедливости. Категориальные атрибуты, такие как страна рождения или этническая принадлежность, играют решающую роль в определении наличия конфиденциальной информации в данных. Однако многим алгоритмам машинного обучения трудно напрямую обрабатывать категориальные атрибуты,..
Справедливость в машинном обучении: алгоритмы предварительной обработки
Соавторы: Кэролин Саплицки , специалист по обработке и анализу данных в Expert Labs, и Митали Банте , специалист по анализу данных в Expert Labs.
В нашем предыдущем блоге Объяснение честности: определения и показатели мы обсуждаем определения и показатели справедливости на реальном примере. Это закладывает основу для того, как можно определить предвзятость в машинном обучении. В частности, мы используем такие инструменты, как Компас справедливости и Справедливость AI 360 , чтобы..
