Гибридный интеллект Xperience DesignWH
HIx-Hybrid Intelligence Xperience Design — это то, как мы определяем наш подход к разработке интеллектуальных систем, сочетающих человеческий и искусственный интеллект. Многие люди думают, что создание ИИ-решений — это исключительно техническая задача, когда специалисты по данным сидят перед экраном и обрабатывают огромные объемы данных. Но это только половина дела и одна из основных причин, почему многие приложения ИИ не работают в корпоративных условиях. Проектирование гибридных интеллектуальных систем полностью посвящено пользователю и его взаимодействию с интеллектуальным агентом. Вот почему мы думаем, что настало время для новой эры разработки интеллектуальных программных приложений, в которой UX-дизайн сочетается с разработкой программного обеспечения ИИ и бизнес-опытом.
КАК?
Разработка систем искусственного интеллекта, с которыми люди должны сотрудничать, является сложной задачей. С самого первого дня системные инженеры и проектировщики должны разбираться не только в технической и пользовательской сторонах, но и глубоко понимать предметную область, в которой должна применяться система. Это требует нового пользовательского и ориентированного на ИИ подхода к разработке новых решений.
ХОЛСТ
Чтобы помочь компаниям, заинтересованным в разработке гибридных интеллектуальных систем для своих организаций, или инженерам-программистам и UX-дизайнерам, интересующимся этой темой, мы разработали HIx Design Canvas, чтобы поделиться нашим подходом к разработке интеллектуальных систем в vencortex. Это многократный и экспериментальный процесс, который требует от вас разработки решений, их технического тестирования и тестирования с участием пользователей, а также извлечения уроков из этого процесса. Подобно Подходу бережливого стартапа учит вас разрабатывать свой MVP.
Холст основан на предыдущем исследовании, которое мы недавно опубликовали на ведущей конференции по компьютерным наукам. HIx Canvas — это тизер нашего предстоящего выпуска книги и репозитория кода по гибридным интеллектуальным системам.
Есть вопросы или отзывы? Не стесняйтесь связаться с нами."
РАБОТА
Разработка гибридных интеллектуальных систем позволяет добиваться превосходных результатов благодаря сотрудничеству людей и машин. Центральным компонентом, который определяет проектные решения для гибридных интеллектуальных систем, является работа, которую люди и машины решают совместно, и то, как работа распределяется между ними. Определение этих должностей требует сочетания понимания проблемной области, дизайна UX и опыта машинного обучения.
Задача
Задача, которую необходимо решить, — это первое измерение, которое необходимо определить для разработки гибридных интеллектуальных систем. Эта задача может относиться к одной из пяти общих категорий: распознавание, предсказание, рассуждение, действие и согласование. Распознавание определяет задачи, которые распознают, например, объекты, изображения или естественный язык. На уровне приложений такие задачи используются для автономного вождения или интеллектуальных помощников, таких как Alexa, Siri или Duplex. Задачи прогнозирования направлены на предсказание будущих событий на основе предыдущих данных, таких как цены на акции или динамика рынка. Третий тип задач, рассуждение, фокусируется на понимании данных, например, путем индуктивного построения (мысленных) моделей определенного явления и, следовательно, позволяет решать сложные проблемы с небольшим объемом данных. Задачи действия характеризуются как такие, которые требуют от агента выполнения определенного вида действия, такого как автономные движения. Наконец, согласование можно рассматривать как способ гарантировать, что агент ИИ действует в соответствии с человеческими желаниями, нормами и ценностями, и является центральной точкой безопасности ИИ.
Цели
Хотя термин цель может вводить в заблуждение с эпистемологической точки зрения, у людей и системы ИИ может быть общая цель, например, решение проблемы путем объединения знаний и способностей обоих. Примером таких общих целей являются рекомендательные системы (например, Netflix), которые изучают модель принятия решений пользователем, чтобы предлагать предложения. В других контекстах цели агентов также могут быть враждебными. Например, в условиях, когда ИИ пытается победить людей в таких играх, как IBM Watson в игре Jeopardy! или DeepMinds AlphaZero и AlphaStar. Во многих других случаях цель человека и ИИ также может быть независимой, например, когда люди обучают классификаторы изображений, не участвуя в конечном решении.
Представление данных
Представление общих данных — это то, как данные отображаются как человеку, так и машине для выполнения их задач. Это нетривиальное дизайнерское решение, например, данные изображения (например, изображение кошки) легко представить людям, но их необходимо преобразовать в числовые данные для ИИ. С другой стороны, использование огромного количества неструктурированных данных может быть легко доступно алгоритму, но его необходимо каким-то образом визуализировать, чтобы сделать его понятным и доступным для пользователей. Данные могут быть представлены на разных уровнях детализации и абстракции для создания общего понимания между людьми и машинами. Признаки описывают явления в различных измерениях, таких как рост и вес человека. Экземпляры — это примеры явлений, которые определяются функциями. Концепты, с другой стороны, представляют собой несколько экземпляров, принадлежащих к одной общей теме, например. изображения разных людей. Наконец, схемы иллюстрируют отношения между различными понятиями.
Сроки
Время определяет момент в жизненном цикле системы, когда происходит сотрудничество. Например, инженерия человеческих особенностей позволяет интегрировать знания предметной области в модели машинного обучения. В то время как более поздние достижения позволяют полностью автоматически (то есть только машине) изучать функции посредством глубокого обучения, человеческий вклад может быть объединен для создания и расширения функций, таких как идентификация художника на изображениях и классификация качества статей Википедии. На следующем этапе жизненного цикла можно применить настройку параметров для оптимизации моделей. Здесь эксперты по машинному обучению обычно используют свое глубокое понимание статистических моделей для настройки гиперпараметров или выбора моделей. Такая настройка параметров только для человека может быть дополнена такими подходами, как AutoML или автоматизированный поиск нейронной архитектуры при проектировании моделей машинного обучения, что делает его гораздо более доступным для неспециалистов. Более того, участие человека имеет решающее значение для обучения моделей машинного обучения во многих областях. Например, большие наборы данных, такие как ImageNet или набор данных по раку легких LUNA16, основаны на человеческих аннотациях. Например, рекомендательные системы в значительной степени полагаются на ввод данных о поведении человека для адаптации к конкретным предпочтениям, а роботизированные приложения обучаются на примерах людей.
ПАРАДИГМА ОБУЧЕНИЯ
Аугментация
Увеличение человеческого интеллекта сосредоточено на типичных приложениях, которые позволяют людям решать задачи с помощью прогнозов алгоритма, таких как финансовое прогнозирование или решение сложных задач, таких как экспертные системы расширения. Напротив, многие приложения в машинном обучении до сих пор сосредоточены на использовании человеческого вклада для обучения с целью увеличения возможностей машин. Наконец, более поздняя работа выявила большой потенциал для одновременного увеличения обоих в одно и то же время с помощью гибридного увеличения. В качестве примера можно привести Альфа-го, которая началась с изучения ходов человеческой игры (т. е. машинного увеличения) и, наконец, предложила гибридное увеличение путем изобретения творческих ходов, которые научили даже зрелых игроков новым стратегиям.
Машинное обучение
Парадигма машинного обучения, применяемая в гибридных интеллектуальных системах, сильно влияет на общий дизайн системы и поэтому должна быть понятна группе разработчиков. Часто одновременно сочетаются многие парадигмы. В обучении с учителем цель состоит в том, чтобы изучить функцию, которая отображает входные данные x в определенные выходные данные y, учитывая помеченный набор пар вход-выход. При неконтролируемом обучении таких выходных данных y не существует, и обучаемый пытается идентифицировать закономерность во входных данных x. Другие формы обучения, такие как обучение с подкреплением или полуконтролируемое обучение, могут быть отнесены к этим двум парадигмам. Обучение с полуучителем описывает комбинацию обеих парадигм, при которой для решения определенной задачи используется как небольшой набор размеченных, так и большой набор неразмеченных данных. Наконец, обучение с подкреплением. Агент взаимодействует с окружающей средой, тем самым учась решать проблему, получая вознаграждение и наказание за определенное действие.
Человеческое обучение
Кроме того, гибридная интеллектуальная система и правильный дизайн HIX также предлагают большой потенциал для человеческого обучения. У людей есть ментальная модель окружающей их среды, которая обновляется посредством событий. Это обновление выполняется путем поиска объяснения события. Таким образом, человеческое обучение может быть достигнуто на основе опыта и сравнения с предыдущим опытом, описаниями и объяснениями.
Взаимодействие HAI
HAI (взаимодействие человека и ИИ) определяет, как пользователь-человек взаимодействует с интеллектуальным агентом при использовании системы, и поэтому требует хорошего понимания психологии пользователя и его предпочтений.
Машинное обучение
Это дизайнерское решение определяет, как люди вносят свой вклад. Люди могут демонстрировать действия, которые машина учится имитировать. С другой стороны, люди могут аннотировать данные для обучения модели, например, с помощью краудсорсинга, который называется маркировкой. Человеческий интеллект также можно использовать для активного выявления неправильной спецификации учащегося и отладки модели, которую мы определяем как устранение неполадок. Более того, человеческое обучение может принимать форму проверки, когда люди проверяют или фальсифицируют машинный вывод.
Обучение взаимодействию
Вклад, предоставляемый посредством человеческого обучения, может быть как явным, так и неявным. В то время как явное обучение использует активный ввод пользователя, например, маркировку задач, таких как изображение или текстовая аннотация, неявное обучение учится на наблюдении за действиями пользователя и, таким образом, адаптируется к их требованиям. Например, Майкрософт использует алгоритмы контекстного бандита, чтобы предлагать пользователям определенный контент, используя действия пользователя как неявное обучающее взаимодействие.
Требования к экспертизе
Гибридные интеллектуальные системы могут предъявлять определенные требования к опыту людей, которые обеспечивают входные данные для систем. В настоящее время как большинство исследований, так и практических приложений сосредоточены на человеческом участии эксперта по машинному обучению, что требует глубоких знаний в области ИИ. Кроме того, конечные пользователи могут предоставлять системе данные для рекомендаций по продуктам и электронной коммерции или информацию от людей, не являющихся экспертами, доступ к которым осуществляется через платформы коллективной работы. Однако более поздние усилия сосредоточены на интеграции экспертов в предметной области в гибридных интеллектуальных архитектурах, которые используют глубокое понимание семантики проблемной области для обучения машины, не требуя при этом каких-либо знаний в области машинного обучения.
Стимулы
Необходимо стимулировать людей вносить свой вклад в гибридные интеллектуальные системы. Поощрения могут быть денежными вознаграждениями, такими как массовая работа на платформах (например, Amazon Mechanical Turk), или платежами в рамках должностных инструкций организации, внутренними вознаграждениями, такими как интеллектуальный обмен в области гражданской науки, развлечения в играх с целью или обучение. Еще одним стимулом для человеческого вклада является индивидуализация, которая позволяет повысить индивидуальное качество обслуживания для пользователей, которые вносят больший вклад в обучение. Самая интересная структура стимулов для людей, которую мы обнаружили, — это шкура в игре. Этот подход в значительной степени сосредоточен на том, чтобы позволить пользователю участвовать в успехе конечного продукта. Мы в vencortex считаем, что это наиболее многообещающий способ побудить людей сотрудничать с ИИ.
Взаимодействие АИГ
AIH (AI-Human Interaction) определяет, как интеллектуальный агент взаимодействует с пользователем, и поэтому требует хорошего понимания науки о данных и разработки программного обеспечения.
Стратегия запроса
Стратегия запросов определяет подход к тому, как и когда ИИ запрашивает человеческий ввод. Стратегии автономных запросов требуют, чтобы пользователь завершил свою задачу до того, как его действия будут применены в качестве входных данных для ИИ. Выполняя типичную задачу маркировки, человек сначала должен просмотреть все данные и пометить каждый экземпляр. После этого размеченные данные передаются алгоритму машинного обучения для обучения модели. Напротив, стратегии онлайн-запросов позволяют человеку выполнять подзадачи, которые напрямую передаются алгоритму, так что обучение и обучение могут выполняться почти одновременно. Другой возможностью является использование стратегий активных обучающих запросов. В этом случае машина опрашивает человека, когда требуется больше входных данных для точного прогноза.
ИИ-обратная связь
Обратная связь ИИ описывает, как интеллектуальный агент взаимодействует с пользователем, чтобы внести свой вклад. Пользователи могут получать прямые предложения от машины, которая дает пользователю четкие рекомендации о том, как действовать. Например, рекомендательные системы, такие как Netflix или Spotify, предоставляют пользователям такие предложения. Прогнозы как форма обратной связи ИИ могут помочь пользователям, например, обнаруживать ложь или выявлять раковые узлы на КТ. Третья форма обратной связи ИИ — это структурирование данных. Таким образом, машины сравнивают точки данных и упорядочивают их, например, для определения приоритетов элементов или организации данных по выявленному шаблону. Кроме того, еще одной возможностью обратной связи является оптимизация. Интеллектуальные агенты улучшают и подталкивают пользователей, например, в принятии более последовательных решений путем оптимизации их стратегии.
Интерпретируемость
Для взаимодействия AIH в гибридных интеллектуальных системах интерпретируемость имеет решающее значение для предотвращения предубеждений (например, расизма), достижения надежности и устойчивости, обеспечения причинно-следственной связи обучения, при необходимости отладки учащегося и создания доверия, особенно в контексте безопасности ИИ. Мы настоятельно рекомендуем эту книгу для более глубокого понимания темы. Интерпретируемость может быть достигнута за счет прозрачности алгоритма, которая позволяет открыть черный ящик самого алгоритма, глобальной интерпретируемости модели, которая фокусируется на общей интерпретируемости модели машинного обучения, и интерпретируемости локального прогноза, которая пытается сделать более сложные модели интерпретируемыми для одного прогноза. . Наконец, интерпретируемость на основе прецедентов позволяет алгоритму показывать пользователю архетипы прецедентов, которые приводят к определенному результату, и позволяют затем использовать для применения рассуждений по аналогии к таким прецедентам.
Хотите узнать, как применить ИИ в своей организации? "Связаться с нами."
