Учебное пособие по переводу концепций, основанных на ценностно-ориентированном дизайне и исследованиях в области науки и технологий
Роэл Доббе (@roeldobbe) и Морган Эймс (@morgangames).
Вторая Конференция по справедливости, подотчетности и прозрачности в социально-технических системах, состоявшаяся в Атланте на прошлой неделе, отметила растущее сообщество ученых и профессионалов, исследующих, разрабатывающих или иным образом участвующих в интеграции вычислений в социальные системы, услуги и делает ставку на принятие решений.
Основной докладчик Дейдра Маллиган открыла второй день тревожным звонком. Она отметила, что невнимание к демократическим ценностям, как правило, является нормой при разработке алгоритмов для государственного сектора. Множество вариантов моделирования и допущений, которые используются при построении вычислительных систем, имеют реальные последствия. Маллиган утверждал, что мы должны быть глубоко обеспокоены тем, что об этих человеческих оценочных суждениях, как правило, не сообщают, скрывают за соглашениями о коммерческой тайне и ограждают от любой формы значимого демократического обсуждения.
Обращая внимание, Маллиган подчеркнула, что аудитория FAT * испытывает озабоченность в более широком смысле. Невнимание к ценностям и социально-политическому контексту стало критикой, также услышанной о работе, представленной на конференции самой. Хотя некоторые усилия были хорошо обоснованы в практическом контексте, росло понимание того, что технологи склонны делать предположения об истории и контекстах, с которыми они не знакомы, без включения тех, кто имел соответствующий опыт и знания или был близок к ограничениям политики и политика.
В некоторых из представленных документов содержались предложения о том, как сделать выбор ценностей и допущения более явным в строительных системах. В документе Карточки моделей для создания отчетов по моделям от Google предоставлен шаблон для разработчиков моделей, позволяющий сообщать значения, используемые при выборе модели. В своем Руководстве по переводу Джейкоб Меткалф определил (не) справедливость как человеческое суждение и предвзятость как статистическое свойство, чтобы доказать, что первое не может быть решено путем исправления последнего: Устранение несправедливости требует решения вопросов ценностей. .
На первом занятии Обрамление и абстракция Суреш Венкатасубраманян доказывал, что желание абстрагироваться от социального контекста проблем справедливости в машинном обучении может привести к различным ловушкам, делая технические вмешательства неэффективными, неточными, а иногда и опасно ошибочными, когда они входят в социальный контекст, окружающий системы принятия решений . Наконец, исторический отчет Бена Хатчинсона показал, как показатели справедливости, разработанные в 60-х и 70-х годах, не смогли оказать длительного значимого воздействия, побудив сообщество связать будущую работу с человеческими ценностями.
Несмотря на этот положительный вклад, доминирующий нарратив в большинстве разговоров по-прежнему имеет тенденцию изображать компьютерных ученых и технических специалистов в более широком смысле как средоточие этических агентств и, в конечном итоге, тех, кто должен звонить о том, как создавать системы, которые являются справедливыми и подотчетными. или прозрачный. Почему группа профессионалов с этим конкретным набором тренингов должна быть в состоянии принимать эти решения с самого начала? И сколько на самом деле агентских полномочий у технических специалистов, если решения о политиках или контрактах принимаются в зале заседаний или в отделе продаж? Какой набор ценностей лежит в основе этих нарративов и политической реальности, в которой мы работаем?
Чтобы начать раскрывать эти вопросы о ценностях и социально-политическом контексте, мы публикуем наш учебник по переводу «Ценности, вовлеченность и размышления в автоматизированных системах принятия решений», который мы провели в первый день конференции. Опубликованные в виде слайдов с подробными примечаниями, мы охватываем три области.
В первом разделе мы мотивируем, почему сообщество и, в более широком смысле, инженерные дисциплины и информатика должны заботиться об обосновании своей работы в социальном и политическом контексте. Вторая часть знакомит с методологией из области ориентированного на стоимость проектирования в качестве отправной точки для взаимодействия с широким кругом заинтересованных сторон, затронутых или иным образом вовлеченных в разработку системы. В третьем разделе мы рассматриваем присущие ценностно-чувствительному дизайну ограничения как панацею от всех этических и ценностных проблем. Чтобы развить грамотность и свободное владение ситуативным пониманием ценностей, мы представляем подборку работ из исследований в области науки и технологий - области, которая уже давно занимается этими проблемами.
Это руководство ни в коем случае не является исчерпывающим и является частью постоянных усилий по переводу из разных дисциплин. Мы приветствуем ваши комментарии, вопросы и предложения, чтобы продвигать это вперед и делиться этим с широкой аудиторией!
Доступ к учебнику здесь.
Эта работа была поддержана Центром технологий, общества и политики Калифорнийского университета в Беркли. Роэл Доббе - научный сотрудник Института AI Now при Нью-Йоркском университете. Морган Эймс - временно исполняющий обязанности заместителя директора по исследованиям в Центре науки, технологий, медицины и общества и преподаватель Калифорнийского университета в Беркли.
