Руководство разработкой и развертыванием систем искусственного интеллекта для ответственного будущего
Поскольку интеграция систем машинного обучения (ML) становится все более распространенной в различных областях, крайне важно обеспечить их этичную и ответственную разработку и развертывание.
Стремясь к прозрачности и подотчетности, мы представляем восемь принципов этичного и ответственного машинного обучения.
Эти принципы направлены на решение критических проблем, таких как расширенный интеллект, оценка предвзятости, объяснимость с помощью обоснования, воспроизводимость операций, стратегия перехода рабочей силы, контекстуальная точность, доверие через гарантии конфиденциальности и осведомленность о безопасности данных.
Придерживаясь этих принципов, мы можем способствовать развитию систем ОД, которые приносят пользу обществу и сводят к минимуму потенциальный вред.
Расширенный интеллект
Принцип дополненного интеллекта подчеркивает важность оценки последствий неточных прогнозов. Включая процессы проверки человеком в цикл принятия решений, системы машинного обучения могут извлечь выгоду из человеческого опыта, обеспечивая более надежные и обоснованные результаты.
Оценка смещения
Чтобы решить проблему предвзятости в системах ML, принцип оценки предвзятости подчеркивает непрерывную разработку процедур для понимания, документирования и отслеживания предвзятости на этапах разработки и развертывания. Выявляя и устраняя предубеждения, мы можем обеспечить справедливость и равноправие результатов работы системы ML.
Объяснимость через обоснование
Принцип объяснимости через обоснование направлен на повышение прозрачности и объяснимости в системах ML. Разрабатывая инструменты и рабочие процессы, которые дают представление об основных обоснованиях решений, пользователи могут лучше понять и доверять процессу принятия решений в системах ML.
Воспроизводимые операции
Воспроизводимость является фундаментальным принципом в исследованиях и разработках машинного обучения. Принцип воспроизводимости операций подчеркивает необходимость создания необходимой инфраструктуры для обеспечения разумного уровня воспроизводимости операций систем машинного обучения. Это гарантирует, что результаты могут быть воспроизведены и последовательно оценены, повышая надежность системы.
Стратегия перехода рабочей силы
Признавая потенциальное влияние систем автоматизации и машинного обучения на должностные обязанности, принцип стратегии перехода рабочей силы делает упор на идентификацию и документирование соответствующей информации. Эта информация служит основой для разработки процессов изменения бизнеса, которые смягчают потенциальное негативное воздействие на работников, например, предоставление альтернативных возможностей трудоустройства или инициатив по повышению квалификации.
Контекстная точность
Принцип контекстуальной точности подчеркивает важность разработки процессов, которые согласовывают показатели точности и стоимости с конкретными требованиями приложений, специфичных для предметной области. Оптимизируя точность в соответствующих контекстах, системы машинного обучения могут давать практические и эффективные результаты для предполагаемых приложений.
Доверие через гарантии конфиденциальности
Укрепление доверия к системам машинного обучения требует защиты пользовательских данных и решения проблем конфиденциальности. Принцип доверия через гарантии конфиденциальности фокусируется на создании и передаче процедур, которые отдают приоритет защите и ответственному обращению с данными. Благодаря прозрачности и подотчетности в работе с данными заинтересованные стороны могут доверять системе и ее операторам.
Осведомленность о безопасности данных
Принцип осведомленности о безопасности данных подчеркивает необходимость разработки и улучшения процедур и инфраструктуры для обеспечения безопасности данных и моделей на протяжении всего жизненного цикла разработки и развертывания системы машинного обучения. Активно устраняя риски безопасности данных и моделей, мы можем защитить конфиденциальную информацию и уменьшить потенциальные уязвимости.
Интегрируя эти восемь принципов этичного и ответственного машинного обучения, разработчики, исследователи и организации могут внести свой вклад в разработку прозрачных, справедливых и подотчетных систем машинного обучения.
Эти принципы подчеркивают важность участия человека в принятии решений, устранения предвзятости, предоставления объяснений решений, обеспечения воспроизводимости, уменьшения смещения рабочей силы, оптимизации точности для конкретных контекстов, уделения приоритетного внимания конфиденциальности и обеспечения безопасности данных и моделей.
Соблюдение этих принципов открывает путь к ответственному использованию машинного обучения, укреплению доверия и положительному влиянию этой преобразующей технологии на отдельных людей и общество в целом!
Если вы дочитали до этого момента, спасибо, что прочитали мою историю!
Подпишитесь бесплатно, чтобы получать уведомления, когда я публикую новую историю!
Хотите неограниченный доступ к моим историям и остальной части Medium? Стань участником!
… и я буду рад вашим отзывам!
Дополнительные материалы на PlainEnglish.io.
Подпишитесь на нашу бесплатную еженедельную рассылку новостей. Подпишитесь на нас в Twitter, LinkedIn, YouTube и Discord .
