Публикации по теме 'fairness'
Мысли о машинном обучении и справедливости
Мысли о машинном обучении и справедливости
В последнее время в сообществе ведется много дискуссий о разработке алгоритмов машинного обучения, которые являются справедливыми. Сегодня была аналогичная дискуссия среди коллег. Как мы можем гарантировать, что ОД не приведет к неравенству и дискриминации?
Я только начал тренировать свой мозг по этой теме, и в этой статье собраны мои самые первые взгляды.
Прежде чем ответить на вопрос, необходимо уточнить, как справедливость..
Ландшафт и пробелы в наборах инструментов обеспечения справедливости с открытым исходным кодом
С появлением большого количества литературы, посвященной оценке и смягчению несправедливых результатов в алгоритмах, недавно появилось несколько «инструментов справедливости» с открытым исходным кодом, чтобы сделать такие методы широко доступными. Однако мало изучены различия в подходах и возможностях существующих наборов инструментов обеспечения справедливости, а также их пригодность для использования в коммерческих условиях. Поскольку эти наборы инструментов должны быть интегрированы в..
Восприятие вашей машиной справедливости — A.I Ethics II.
Справедливость
Автор: Олуфеми Виктор Толулоп.
В течение долгого времени ученые-компьютерщики пытались свести справедливость алгоритма к единому определению, в то время как некоторые сдались, некоторые другие пришли к выводу, что математически невозможно удовлетворить всем критериям без некоторого компромисса (Kleinberg, Mullainathan, & Raghavan, 2016). Исследователи и психологи тоже не упростили задачу, предложив различные определения справедливости (Ebert, 2020). Однако правда..
Справедливость в машинном обучении и продуктах с поддержкой ML
В этом посте рассказывается о лекциях Справедливость нашего курса Машинное обучение в производстве . Остальные главы смотрите в содержании .
Справедливость — одна из наиболее обсуждаемых тем в машинном обучении. Она возникла из-за осознания того, как модели, обученные на данных, могут выявлять предубеждения в этих данных и, возможно, даже усиливать существующие предубеждения. Несправедливые модели могут привести к продуктам, которые просто не подходят для некоторых групп..
Расскажи мне историю: мысли об интерпретируемости модели
В последнее время мои мысли вращались вокруг того, что кажется одним из самых больших мета-разговоров по машинному обучению: потенциал и ограничения обучения в целом умного актера, нюансы и подлинная нормативная проблема алгоритмической справедливости, а теперь, что это значит для моделей быть интерпретируемыми и понятными для людей.
По мере того как рынок идей наводнился когда-либо - более - сложными архитектурами, казалось бы, балансирующими под тяжестью всех этих уровней, хор..
Введение в справедливость в машинном обучении
Цель
Вступление
Фундаментальный принцип машинного обучения (ML) - «обучение на собственном примере». Более ясно, набор данных вводится в модель машинного обучения, и она пытается выявить закономерности в этих данных, чтобы справиться с поставленной задачей. Однако для модели не дается никаких ЯВНЫХ инструкций относительно того, какие шаблоны следует или не следует искать. Как прямое следствие, во многих случаях модель вырабатывает нежелательные гипотезы. Конкретно, принятие..
Понимание несправедливой предвзятости и последствий для продукта в сфере технологий: обучение на практике
Я присоединился к Wellcome Data Labs в качестве исследователя пользователей в ноябре 2018 года. С тех пор я вместе со своей командой изучал, что значит объединить науку о данных, этику, социальные науки и дизайн, ориентированный на пользователя, для создания удобных и справедливых продуктов.
В 2019 году мы поставили эксперимент по внедрению этического мышления в разработку продукта. С самого начала нашим основным подходом было учиться на практике. Наша цель - рассмотреть этические..
