Как создавать системы искусственного интеллекта для каждого

Системы искусственного интеллекта часто создаются изолированно, в пресловутом гараже, без связи с внешним миром и разными людьми. В результате создаются системы, которые реально работают только для той части населения, которая похожа на производителей. Чтобы восполнить этот пробел в вашем продукте и дизайне для неуслышанных голосов, вот некоторые идеи от исследовательской и дизайнерской группы сообщества feminist.ai.

Подробно рассмотрите более широкий контекст технологии

Недавние подходы к рассмотрению всего пользовательского опыта улучшают наши технологические разработки по сравнению с отдельными перспективами, такими как удобство использования. Однако он по-прежнему привязан исключительно к конечному пользователю и часто к нашим предположениям о нем. Исследования пользователей можно улучшить, чтобы узнать больше о пользователях, но они по-прежнему часто сосредоточены на потребностях, вытекающих из их технических навыков или рабочей среды. Для некоторых технологий этих подходов может быть достаточно, но для ИИ необходим новый подход, который также включает более широкий контекст, в том числе культурный ландшафт, технологии в наши проекты.

Чтобы учесть точку зрения производителя, культуру использования системы и более широкий культурный ландшафт системы, Feminist.AI создал и использует структуру, которую они называют Cultural AI Toolkit, основываясь на их философии сообщества. Он сопоставляет вход воображаемой системы ИИ, ее внутреннюю обработку и среду, в которой она существует, с ее воображаемым выходом.

Например, агент машинного обучения для современного влиятельного лица в социальных сетях и их последователей был представлен и сопоставлен с инструментарием.

  • Для ввода были заданы такие вопросы, как: Что можно считать датчиком?, Кто создал эти данные? и Нужно ли мне добавлять данные или Достаточно ли этого самого по себе? Первой идеей было использование голосового пользовательского интерфейса.
  • В отношении обработки или правил и поведения системы были заданы такие вопросы, как Меняется ли связь с данными при изменении алгоритма ?, Какие виды взаимодействия допускают различные алгоритмы? и Как и почему в выбранном алгоритме представлен пользователь? ImageNet, база данных изображений, связанная с существительными, представляющими концепции, была выбрана для связи произнесенных слов с изображениями.
  • В отношении среды или формы, в которой находится система, задавались вопросы вроде Как пользователь воспринимает агент ИИ?, Имеет ли форма агента культурную значимость для пользователей? и Насколько абстрактной может быть форма? Из-за его удобства и распространенности во всем мире и среди культурных групп был выбран мобильный телефон.
  • Наконец, для воображаемого результата работы системы и культурного ландшафта были заданы такие вопросы, как Как этот результат вписывается в культуру пользователей ?, Как пользователь воспринимает результат?, Что какова перспектива создателей? и В какой культуре будет жить эта система? Чтобы вписаться в культуру обмена фотографиями в социальных сетях, результатом будут публикации с изображениями на Instagram.

В целом, получившаяся система представляет собой агент, который использует слова из голоса для поиска изображений для публикации в Instagram. Носитель мобильных телефонов предоставляет датчик для получения входных данных из голоса, он соответствует культуре пользователя и создает изображения, публикуемые в социальных сетях, чтобы соответствовать этой культуре. Был создан прототип, который и его исходные данные были переданы сообществу, чтобы они могли помочь создать и улучшить систему с более реалистичными данными. Использование Cultural AI Toolkit помогло создателю взглянуть на исследования и дизайн по-новому, учитывая все важные, более широкие контекстуальные и культурные вопросы, тем самым очеловечив их.

Привлекайте сообщество к разработке

Рассмотрение более широкого контекста систем, которые мы создаем, - хорошее начало, но проиллюстрированный приведенным выше примером показывает, что вовлечение затронутого сообщества в сам дизайн дает людям заинтересованность в обществе и его технологиях, когда они чувствуют, что у них ее нет.

Для начала познакомьтесь с новыми людьми, чтобы узнать их точки зрения, рассказать им, что такое ИИ и как они могут это сделать. Это делает системы ИИ более понятными, вселяет в них уверенность и улучшает обсуждение возникающих в результате социальных проблем.

Затем вовлечение их в дизайн улучшает систему, поскольку они вносят разнообразные идеи и реалистичные данные. Это также дает им чувство причастности к полученной системе.

Например, в рамках проекта под названием Контекстуальная нормальность Feminist.AI стремится исследовать общий смысл чувств. Диагностическое и статистическое руководство по психическим расстройствам, или DSM, исторически определяет, что является нормальным и ненормальным для клинических психологов при постановке диагноза своим пациентам. Однако это приводило к тому, что женщинам безрезультатно ставили диагноз истерика, гомосексуалисты считались психически больными до 1974 года, а гендерное несоответствие считалось ненормальным до 1990-х годов!

Поскольку разные люди испытывают одни и те же эмоции, это не одно и то же, а чувства неосязаемы, их трудно формализовать, чтобы с ними можно было взаимодействовать без предвзятых коннотаций того, что это такое или как выглядит. Этот амбициозный проект пытается сделать это с помощью Cultural AI Toolkit и помощи сообщества.

В качестве входных данных используются вопросы, ответы и ключевые слова сообщества, которые запрашивают у людей всю информацию об их чувствах и о том, что они с этим делают (например, прыгать вверх и вниз, когда они счастливы). Правила и поведение системы использует Word2vec для отображения ключевых слов ответов в общее информационное пространство. Форма или носитель технологии - два приложения для мобильных телефонов (iOS, Android) и веб-версия, которые используют технологии дополненной и виртуальной реальности для визуализации эмоций и их места в мире, где они были испытаны. На выходе получаются пятна разных цветов, которые меняются и трансформируются со временем в зависимости от ввода пользователя.

Не бойтесь пробовать новое!

Думает ли он о новых способах использования данных в электронной таблице или представляет чувства в виде визуальных пятен, важно не бояться пробовать что-то новое в мире ИИ. Как показано выше, привлечение членов сообщества значительно улучшает качество и доступность получаемых систем, но также позволяет людям придумывать новые идеи. Более того, жизнь, конечно, может стать серьезной, но радость от совместной игры также позволяет исследовать эти идеи.

В качестве третьего примера Feminist.AI реализовала проект Интеллектуальные протесты. Некоторые люди не могут пойти на акции протеста, но что, если бы они все еще могли участвовать? Одним из решений является новая форма гражданского участия, называемая интеллектуальными протестами, которая использует машинное обучение и XR - расширенную реальность, включая виртуальную реальность, дополненную реальность, реальную реальность и другие среды опыта, - чтобы позволить люди протестуют удаленно, используя свои лица и голоса.

Этот проект включал 14 семинаров, на которых участники обсуждали идеи о данных, моделях и результатах / материалах. Было проведено голосование за фаворитов, а затем были созданы и протестированы бумажные и аппаратные прототипы различных аспектов конструкции, которые даже были представлены на заседании городского совета.

Искусственный интеллект сложен, и его объяснение может помочь, но экспериментирование или экспериментирование с различными другими формами и средами делает взаимодействие с ним еще проще. Создание и тестирование физических прототипов в группе - один из способов сделать это.

Примите участие!

Если вы не можете делать такого рода совместное проектирование или создание физического прототипа на своей работе, как это делают многие из нас, вы все равно можете принять участие! Вы можете внести свой вклад в проект« Контекстуальная нормальность », указав свои чувства в разных местах и ​​в разное время дня. В более общем плане вы можете участвовать в таких организациях, как feminist.ai, например, участвовать в их сабреддите r / feministai. В какой бы форме оно ни принималось, участие может вдохновить вас в вашей работе, а также позволит вдохновить других. Несмотря на то, что будущее искусственного интеллекта может быть не идеальным, все же важно попытаться сделать его лучше!

Большое спасибо нашим участникам и спонсорам за то, что поделились с нами своим опытом!

Кристин Майдерс: музыкальный факультет CalArts и основательница Feminist.AI

Яна Томпсон: дизайнер данных в Fjord

Шивиш Фотедар: дизайнер-технолог Amazon

Мишель Гонг: графический дизайнер в Google

Спасибо Reddit за спонсирование этого мероприятия!

О встрече по машинному обучению и взаимодействию с пользователем (MLUX)

Мы воодушевлены созданием будущего интеллектуальных продуктов, ориентированных на человека, и считаем, что первым шагом к этому будет объединение специалистов, занимающихся UX и Data Science / Machine Learning, чтобы они могли собираться вместе и учиться друг у друга на регулярных встречах, технических переговорах и т. Д. панели и события в районе залива Сан-Франциско.

Хотите узнать больше? Присоединяйтесь к нашей встрече, будьте первыми в курсе наших мероприятий, присоединившись к нашему списку рассылки (Информационный бюллетень за сентябрь 2019 года) , смотрите прошлые события на нашем канале YouTube и подписывайтесь на нас в twitter (@mluxsf) и Linkedin.