Абстрактное обновление
С оцифровкой нашей повседневной жизни появляются потребности и последствия, о которых раньше никто не задумывался. Алгоритмы машинного обучения определяют каждую мелочь нашей жизни, от ленты социальных сетей до кредитных рейтингов, и мы поражаемся тому, насколько эти алгоритмы могут помочь нам принимать быстрые решения, и все же этические соображения, лежащие в основе решений, принимаемых этими алгоритмами, остаются непроверенными. . Я хотел бы изучить пространство, в котором дизайн может вмешаться, чтобы обеспечить прозрачность этой системы черного ящика, установить доверие между машинами и их пользователями и предоставить пользователям больше контроля.
Исследовательские вопросы интервью относительно осведомленности о данных
- знаете ли вы о том, какие личные данные добываются для вас?
- Вы в курсе, для чего они используются?
- насколько вам с ним комфортно?
- зная, что они в основном используются для подбора релевантных продуктов/контента для вас, вы бы все равно предпочли получать эти данные? Если вы колеблетесь, расскажите мне об этом подробнее.
- взаимодействие с пользователями для выяснения некоторых из их проблем; сопоставление того, что вы читаете, с реальными пользователями:
- Можете ли вы вспомнить случай, когда вы искали что-то, может быть, что-то важное, и отвлеклись, потому что увидели рекламу чего-то, что вы искали в прошлом, но больше не имеете к вам отношения?
- или вы можете вспомнить время, когда вы что-то искали и были сбиты с толку или разочарованы, потому что вам были показаны результаты, которых вы на самом деле не ожидали?
- ты отвлекся? как ты это преодолел?
О методах исследования
- Что может тестировать Itest? На самом деле довольно сложно точно определить, какая именно дискриминация практикуется в поиске Google о работе или кредитах и т. д. (Стратегии на основе местоположения доказали свою эффективность у маркетологов, при этом в среднем рейтинг кликов по геозоне превышал 0,90 %. город, почтовый индекс, прямой доступ к памяти, аудитория и сторонняя аудитория на основе места. В отчете также показано, что маркетологи все чаще используют таргетинг на основе местоположения, при этом количество кампаний на основе местоположения в сети Verve подскочило с 17 процентов в 2011 году. до 36 процентов в 2012 г.) http://www.mobilemarketer.com/cms/news/research/14731.html
- Будет сложно нацелиться и протестировать эту разницу в 0,90%, слишком много переменных, которые мне нужно протестировать. Могу ли я просто делать предположения о будущем и исследовать восприимчивость людей к идее иметь несколько различных цифровых моделей самих себя? Как со спекулятивным дизайном?
- Я мог бы сосредоточиться на: 1. практике покупки или 2. практике исследования.
Цели и вопросы открытого исследования
- Каков хороший вариант использования машинного обучения для решения проблемы конфиденциальности в будущем?
- как проверить алгоритм на дискриминацию?
- как доказать, что AI/ML предвзят?
- как сделать алгоритм принятия решений («черный ящик») более прозрачным?
- чего я хочу добиться, сделав это прозрачным?
- как сделать эту прозрачность справедливой для всех, чтобы люди не копались в лазейках и не пользовались системой?