Абстрактное обновление

С оцифровкой нашей повседневной жизни появляются потребности и последствия, о которых раньше никто не задумывался. Алгоритмы машинного обучения определяют каждую мелочь нашей жизни, от ленты социальных сетей до кредитных рейтингов, и мы поражаемся тому, насколько эти алгоритмы могут помочь нам принимать быстрые решения, и все же этические соображения, лежащие в основе решений, принимаемых этими алгоритмами, остаются непроверенными. . Я хотел бы изучить пространство, в котором дизайн может вмешаться, чтобы обеспечить прозрачность этой системы черного ящика, установить доверие между машинами и их пользователями и предоставить пользователям больше контроля.

Исследовательские вопросы интервью относительно осведомленности о данных

  • знаете ли вы о том, какие личные данные добываются для вас?
  • Вы в курсе, для чего они используются?
  • насколько вам с ним комфортно?
  • зная, что они в основном используются для подбора релевантных продуктов/контента для вас, вы бы все равно предпочли получать эти данные? Если вы колеблетесь, расскажите мне об этом подробнее.
  • взаимодействие с пользователями для выяснения некоторых из их проблем; сопоставление того, что вы читаете, с реальными пользователями:
  • Можете ли вы вспомнить случай, когда вы искали что-то, может быть, что-то важное, и отвлеклись, потому что увидели рекламу чего-то, что вы искали в прошлом, но больше не имеете к вам отношения?
  • или вы можете вспомнить время, когда вы что-то искали и были сбиты с толку или разочарованы, потому что вам были показаны результаты, которых вы на самом деле не ожидали?
  • ты отвлекся? как ты это преодолел?

О методах исследования

  • Что может тестировать Itest? На самом деле довольно сложно точно определить, какая именно дискриминация практикуется в поиске Google о работе или кредитах и ​​т. д. (Стратегии на основе местоположения доказали свою эффективность у маркетологов, при этом в среднем рейтинг кликов по геозоне превышал 0,90 %. город, почтовый индекс, прямой доступ к памяти, аудитория и сторонняя аудитория на основе места. В отчете также показано, что маркетологи все чаще используют таргетинг на основе местоположения, при этом количество кампаний на основе местоположения в сети Verve подскочило с 17 процентов в 2011 году. до 36 процентов в 2012 г.) http://www.mobilemarketer.com/cms/news/research/14731.html
  • Будет сложно нацелиться и протестировать эту разницу в 0,90%, слишком много переменных, которые мне нужно протестировать. Могу ли я просто делать предположения о будущем и исследовать восприимчивость людей к идее иметь несколько различных цифровых моделей самих себя? Как со спекулятивным дизайном?
  • Я мог бы сосредоточиться на: 1. практике покупки или 2. практике исследования.

Цели и вопросы открытого исследования

  • Каков хороший вариант использования машинного обучения для решения проблемы конфиденциальности в будущем?
  • как проверить алгоритм на дискриминацию?
  • как доказать, что AI/ML предвзят?
  • как сделать алгоритм принятия решений («черный ящик») более прозрачным?
  • чего я хочу добиться, сделав это прозрачным?
  • как сделать эту прозрачность справедливой для всех, чтобы люди не копались в лазейках и не пользовались системой?