Доктор Джиллиан Пауэрс
Ответственный ИИ полностью охватывает управление, этику и прозрачность.
Программа Responsible AI предоставляет рекомендации и направления для анализа данных и развития ML (машинного обучения) в организациях и учреждениях, которые сосредоточены на снижении вреда, надзоре и понимании.
Поскольку законодательство, ожидания, общественное мнение и возможности меняются, ответственный ИИ позволяет организациям реализовать преобразующий потенциал ИИ, демонстрируя при этом соответствие нормативным требованиям и этическим стандартам/передовым практикам.
Однако в настоящее время у нас очень ограниченное представление о том, что влечет за собой ответственный ИИ. Ответственный ИИ — это больше, чем просто готовность к аудиту, безопасность данных или соответствие нормативным требованиям. Как указано во Всеобщей декларации прав человека (ВДПЧ) и сформулировано для Cognizant нашим Управлением по этике и устойчивому развитию, права человека и гражданина, а также благополучие людей (индивидуально и коллективно) должны учитываться при разработке ИИ. системы.
Разработка ИИ, как и самих моделей ИИ, сложна, и у нас есть основания для беспокойства. ИИ может причинить вред в масштабе. Решение может отправить работника на активный путь для ремонта и причинить травму, смерть или значительный материальный или нематериальный ущерб. Модель или система ИИ могут столкнуться с нарушением безопасности, могут быть использованы для других целей или использоваться таким образом, который нарушает конфиденциальность. Без надлежащей прозрачности и надзора система с поддержкой ИИ может привести к повторяющейся дискриминации защищенных или исторически исключенных групп населения, усугубить существующее неравенство и лишить людей возможностей и достойной жизни. Кроме того, разработка систем искусственного интеллекта истощает ресурсы и способствует изменению климата.
Поскольку развертывание решений с поддержкой ИИ — это всего лишь небольшая часть социотехнической матрицы, влияние находит отклик и расширяется. Чтобы учесть это, подход, который мы используем в Cognizant, учитывает более широкое социальное и человеческое значение нашей технологии и нацелен на влияние, которое наши решения оказывают на наших клиентов и людей, чтобы вместе с нашими сотрудниками мы могли реализовать более устойчивый, справедливый, основанный на участии и приятный мир. Используя основанный на данных, полноконтекстный и ориентированный на людей подход, мы можем выявить не только риски, но и экспансивные и устойчивые формы ценности.
Например:
Ответственный ИИ обеспечивает ценность, выходящую за рамки краткосрочной прибыли, эффективности или снижения затрат. Принося пользу пользователям, клиентам, сотрудникам и обществу в целом, мы повышаем качество обслуживания клиентов и пользователей. Ответственный искусственный интеллект улучшает перспективы в долгосрочной перспективе и обеспечивает готовность к регулированию, поскольку он обеспечивает конфиденциальность и безопасность для устойчивости данных, применяя ориентированную на человека линзу к PII субъектов данных и конфиденциальной информации на предприятиях. Он укрепляет доверие и расширяет потоки доходов, концентрируя силу дизайна, поскольку для понимания систем ИИ требуется тесное сотрудничество и доступное общение. Это укрепляет отношения с заинтересованными сторонами и повышает качество услуг/решений, потому что это честно. Предвзятость существует в наших данных, моделях и нашем мире; Ответственный подход к системам ИИ направлен на то, чтобы ИИ был справедливым, непредвзятым и репрезентативным на всех этапах и в командах. Это улучшает удержание и привлечение талантов, потому что дает людям возможность участвовать; четкие процессы и стимулы для участия создают культуру, в которой каждый человек имеет право защищать людей, минимизировать риск и открывать пространства, представляющие гуманную ценность.
Ответственный ИИ может стать важной инвестицией. Ожидается, что к 2022 году расходы на системы искусственного интеллекта превысят 77 миллиардов долларов, но в настоящее время только 10% этих моделей фактически внедряются в производство. Плохо определенные или выполненные программы, проблемы с качеством данных, разработкой моделей и сроком годности моделей, а также отсутствие стандартов, передовой практики и прозрачности влияют на масштабирование и внедрение ИИ.
Чтобы успешно масштабироваться, требуется ответственность. Основанный на данных, полноконтекстный и ориентированный на людей подход к управлению ИИ, этике и прозрачности делает этот процесс как конкурентным преимуществом. Это путь к раскрытию устойчивых инноваций, основанных на данных, потому что он намеренно находится на пересечении корпоративной и социальной ценности.
В разработке технологий и использовании данных есть много необходимых и грязных человеческих частей; это требует намерения, организационных изменений, этических и четко задокументированных методов обработки данных, а также широких форм сотрудничества. Это непросто, и если кто-то говорит вам обратное, вам продают магические средства.
Что вы делаете, чтобы взять на себя ответственность, каков ваш подход? С чего мы можем начать или как мы можем поддержать?
Давайте работать вместе.
Об авторе:
@«Доктор. Джиллиан Пауэрс — руководитель отдела ответственного ИИ в Cognizant
