Проектирование ИИ, ориентированного на человека
Потребности пользователей и определение успеха
Машинное обучение (ML) — это наука о том, как помочь компьютерам обнаруживать закономерности и взаимосвязи в данных, а не программировать их вручную. Это мощный инструмент для создания персонализированных и динамичных впечатлений, и человеческое восприятие управляет практически каждым аспектом искусственного интеллекта.
Есть еще один важный уровень ориентированного на человека ИИ (HCAI). Мы можем быть создателями продуктов, но мы также люди, люди, которые намеренно и непреднамеренно формируют каждый аспект машинного обучения. Давайте взглянем на высокоуровневый процесс работы машинного обучения:
- Данные обучения собираются и помечаются (ввод)
- Модели построены, обучены и оценены
- Генерируются прогнозы (Вывод)
Именно мы выбираем источники данных (входные данные), мы определяем метрики оценки и на нас влияют результаты (выходные данные).
Чтобы помочь вам принимать решения о продуктах ИИ, ориентированные на человека, Google создал руководство «Люди + ИИ»: pair.withgoogle.com/guidebook. Это руководство было написано, чтобы сделать партнерство людей и ИИ продуктивным, приятным и справедливым. Он предназначен для специалистов по пользовательскому опыту (UX) и менеджеров по продуктам, стремящихся следовать подходу искусственного интеллекта, ориентированному на человека. Основная цель — убедиться, что время и ресурсы, которые вы вкладываете в создание ИИ, окажут значительное влияние, при этом все время ставя пользователя на первое место.
В этом проекте Google:
- Проводить и публиковать исследования взаимодействия человека и ИИ.
- Создавайте и запускайте инструменты и платформы с открытым исходным кодом для ответственного создания ИИ.
- Расширьте круг тех, кто может участвовать в разработке и применении ИИ.
Руководство состоит из шести глав, которые охватывают все: от того, как определить потребности пользователей и определить успех вашего продукта, управляемого ИИ, до того, как проектировать на случай неудачи, и как обеспечить правильный уровень контроля для ваших пользователей. .
В главе 1 (потребности пользователей и определение успеха) авторы исследуют, как определить, добавляет ли искусственный интеллект уникальную ценность вашему продукту. Важный вопрос, который нужно задать: «Должны ли мы использовать AI/ML?». Глава 1 — одна из самых важных глав, поскольку в ней рассматриваются многие вопросы, неотъемлемые от фазы формулирования проблемы жизненного цикла разработки продукта. Как многие из нас знают, этап формулирования проблемы является основой для всего последующего.
По сути, Руководство подходит к этапу формулирования проблемы не с точки зрения технологий, а скорее с точки зрения человека, фокусируясь на потребностях пользователей и гарантируя, что время и ресурсы, которые вы инвестировать в создание ИИ для создания полезных и ценных продуктов для людей.
Во-первых, мы спрашиваем, является ли стоящая перед нами проблема полезной для решения, а затем задаемся вопросом, может ли ИИ решить эту проблему уникальным способом.
Я видел, как несколько команд заявляли что-то вроде: «У нас есть OKR для реализации 10 функций ИИ в следующем квартале». Часто у пользователей возникает неправильное представление о том, что ИИ — это вариант использования. И это не так. Мы должны отойти от:
«Можем ли мы использовать ИИ для ______?»
и двигаться больше к:
«Как мы можем решить ______?»
«Может ли ИИ решить эту проблему уникальным способом?»
Одно из полезных упражнений на этапе формирования идей — собрать команду и представить ее идеи в виде матрицы 2x2. На оси Y у нас есть «Влияние пользователя», а на оси X у нас есть «Потребность в ИИ». Решения машинного обучения требуют времени для производства. Выбирая эти ценные пользовательские пути с машинным обучением в качестве уникального решения, вы должны сосредоточиться в первую очередь.
В этом упражнении основное внимание уделяется вероятно лучше с ИИ/не лучше с ИИ, потому что, как и все хорошие эмпирические правила, оно в конечном итоге зависит от ваших потребностей пользователя и возможностей команды.
Возможно, лучше с искусственным интеллектом
- Обнаружение аномалий. Например, мошенничество с кредитными картами постоянно развивается и редко случается с отдельными людьми, но часто с большой группой. ИИ может изучать эти развивающиеся модели и обнаруживать новые виды мошенничества по мере их появления.
- Персонализация: например, рекомендации разного контента разным пользователям.
- Прогнозирование будущих событий. Например, предложение следующего лучшего действия, которое следует выполнить, чтобы закрыть сделку.
- Понимание естественного языка. Программа для диктовки требует, чтобы искусственный интеллект хорошо работал для разных языков и стилей речи.
Вероятно, с искусственным интеллектом не лучше
- Ошибки, которые дорого обходятся. Если цена неправильных прогнозов очень высока и перевешивает выгоды от незначительного увеличения вероятности успеха, например, навигационный гид предлагает маршрут по бездорожью, чтобы сэкономить несколько секунд пути. время.
- Прозрачность: если пользователям, клиентам или разработчикам необходимо точно понимать все, что происходит в коде, как в случае с программным обеспечением с открытым исходным кодом. ИИ не может постоянно обеспечивать такой уровень объяснимости.
- Люди говорят вам, что они этого не хотят. Определенные задачи, которые люди считают ценными и с удовольствием выполняют, или конкретные предпочтения, трудно сообщить.
Когда дело доходит до улучшения продуктов с помощью ИИ, все в вашей команде должны чувствовать себя одинаково в отношении того, как выглядит успех и неудача вашей функции, и предупреждать команду, если что-то пойдет не так. После принятия решения о том, какую проблему решать, ваша команда должна создавать и использовать ИИ ответственным образом. Принципы искусственного интеллекта Google и Ответственная практика искусственного интеллекта предлагают практические шаги, чтобы гарантировать, что вы создаете функцию с большей пользой.
В качестве следующего шага мы должны решить, следует ли автоматизировать или дополнить некоторые части опыта. В Руководстве говорится, что мы должны «автоматизировать задачи, которые сложны или неприятны, и в идеале те, которые люди, которые делают это в настоящее время, могут договориться о «правильном» способе их выполнения. Дополняйте более масштабные процессы, которыми людям нравится заниматься или которые имеют социальную ценность».
Наконец, спланируйте успехи и неудачи вашего ИИ-продукта, т. е. вашу «функцию поощрения», чтобы создать отличный пользовательский опыт для всех и в долгосрочной перспективе. Другими словами, ваша команда захочет сознательно разработать функцию вознаграждения, в том числе оптимизировать долгосрочные выгоды для пользователей, визуализируя последующие результаты вашего продукта и ограничивая их потенциальные неблагоприятные последствия.
