Публикации по теме 'bias'
Как мы можем устранить предвзятость алгоритмов ИИ? Манифест ручного тестирования
Гендерная предвзятость в кредитном скоринге ИИ?
Несколько месяцев назад ряд пользователей Apple Card в США сообщали, что им и их партнерам были назначены совершенно разные кредитные лимиты по фирменной кредитной карте, несмотря на одинаковый доход и кредитный рейтинг (см. Статья BBC ). Стив Возняк, соучредитель Apple, написал в Твиттере, что его кредитный лимит на карте был в десять раз выше, чем у его жены, несмотря на то, что у пары одинаковый кредитный лимит на всех остальных..
ТЕМНАЯ СТОРОНА БОЛЬШИХ ДАННЫХ — КАК МАТЕМАТИЧЕСКИЕ МОДЕЛИ УВЕЛИЧИВАЮТ НЕРАВЕНСТВО
Мы живем в век алгоритмов. Где интернет, там и алгоритмы. Приложения на наших телефонах — результат работы алгоритмов. Система GPS может привести нас из точки А в точку Б благодаря алгоритмам. Все больше и больше решений, влияющих на нашу повседневную жизнь, передаются автоматизации. Поступаем ли мы в колледж, ищем ли работу или берем кредит, математические модели все чаще участвуют в принятии решений. Они пронизывают школы, суды , рабочие места и даже процесс голосования . Нас..
Ошибка обобщения в машинном обучении (смещение против дисперсии)
Фундаментальной целью машинного обучения является обобщение: возможность делать выводы о невидимых данных из конечных обучающих примеров. Поэтому методы количественной оценки ошибки обобщения имеют решающее значение для оценки эффективности любого подхода к машинному обучению. В обучении с учителем мы делаем предположение, что существует отображение f между признаками и метками. мы можем выразить это как y=f(x). f, показанное здесь красным цветом, — это неизвестная функция, которую вы..
Этический ИИ II: как ИИ скрывает предвзятость
Попытка исправить предвзятость ИИ имеет решающее значение для ответственного использования ИИ. Но эта коррекция иногда может просто скрыть, а не устранить предвзятость. Вот как.
Введение
Это вторая статья из серии блогов, посвященных предвзятости ИИ. Если вы не читали первую часть, я бы посоветовал вам просмотреть введение здесь , чтобы понять основные моменты.
В этой статье будет рассмотрена другая сторона предвзятости ИИ: «скрытая предвзятость» ИИ, которая может обойти..
Объяснимость и справедливость искусственного интеллекта (потребительский кредит) — Аналитика Стэнфорда и FinRegLab
Глубокая исследовательская работа от FinRegLab и Стэнфорда. Белая книга и панельные доклады семинара доступны здесь .
Технический документ составляет ~120 страниц, мои заметки — ~20 страниц, а этот блог, вероятно, состоит из 4–5 страниц. Так что это очень-очень сжато — рекомендую прочитать статью полностью — но, конечно же, после прочтения моего блога!
Для привлечения внимания я аннотировал рекомендации таким образом, чтобы вы могли отсканировать и выбрать 13 рекомендаций, игнорируя..
От предвзятости к балансу: продвижение справедливости в прогнозировании заработной платы с помощью машинного обучения
Проверка гендерного разрыва с помощью пакета Python dalex и его уменьшение за счет перетасовки чувствительных столбцов и масштабирования данных
Один из выводов моей предыдущей статьи о сообщаемых зарплатах в США,
Опасности постоянного превращения машинного обучения в оружие
Недавно (как и вчера) @forcriticaltech опубликовал письмо ( https://bit.ly/316JHsx ) с осуждением и рекомендацией не публиковать Модель глубокой нейронной сети для прогнозирования преступности с использованием обработки изображений . Это отличное и тщательное чтение, и я призываю всех, кто читает это, действительно пройти через это.
Хотя письмо имело силу, и Springer Nature с тех пор отменила публикацию, это событие по-прежнему вызывает большое беспокойство. Тот факт, что статья..
