Я думаю, что один из уроков моего исследования состоит в том, что это [не сработает, потому что представление о том, что является справедливым и объективным, меняется в результате взаимодействия с самой технологией.

На этой неделе мы представляем Эльмиру ван ден Брук, научного сотрудника KIN с опытом работы в области социологии, экономики и бизнеса. Она изучала разработку и внедрение приложения искусственного интеллекта (ИИ) при подборе персонала в крупной транснациональной компании и их поставщиках ИИ. Ее исследование сосредоточено на понимании того, как организации разрабатывают и используют алгоритмические технологии на практике, а также на проблемах, с которыми они сталкиваются при этом.

Эта статья изначально была опубликована в нашем Блоге КИН.

Шона: Что привело вас в KIN, Центр цифровых инноваций?
Эльмира: Я начала полтора года назад в качестве аспиранта в центре KIN. Перед тем, как поступить в докторантуру, я получил двухлетнюю магистерскую программу по направлению «Бизнес в обществе», которая также является частью бизнес-школы здесь. Я познакомился с Марлин и Анастасией, моими нынешними руководителями, и участвовал в исследовательском проекте по использованию цифровых технологий в секторе здравоохранения. Мы рассмотрели, как прозрачность медицинских записей для пациентов меняет отношения между врачом и пациентом.

Этот проект сильно отличался от того типа исследования, к которому я привык во время учебы на степень бакалавра социологии, экономики и экономики бизнеса, которые в основном были сосредоточены на количественных исследованиях с использованием методов опросов и наборов исторических данных. Это был отличный опыт - получить некоторые первые представления о том, какие качественные исследования, в частности, что такое этнография, повлечет за собой… действительно проникновение внутрь организации и наблюдение за повседневной работой, связанной с технологией. Я буду там пару дней в неделю, чтобы наблюдать и разговаривать с врачами и пациентами и сосредоточиться на том, как они взаимодействуют с технологией.

Шона: А как насчет вашей докторской диссертации? Над чем вы работаете?
Эльмира: В настоящее время мои исследования сосредоточены на разработке и использовании искусственного интеллекта (ИИ) в человеческих ресурсах (HR). Есть много споров о том, как эти очень большие, мощные технологические компании, которые имеют большое влияние на дизайн и делают выбор в отношении технологий. Но в нашем случае мы фокусируемся на масштабируемых поставщиках ИИ и их клиентах. Мы смотрим, как люди на самом деле разрабатывают эти приложения на практике, и как создание систем искусственного интеллекта может создать новые проблемы для разработчиков.

Помимо разработчиков, мы также изучаем использование ИИ при найме на работу. В настоящее время я провожу время у одного из основных клиентов поставщика, крупной транснациональной компании, которая недавно внедрила ИИ для поддержки решений о найме своих кандидатов. Они просят новых соискателей записывать собственные видеоролики и играть в игры. Из этого алгоритм извлекает определенные черты и навыки кандидатов. В видеороликах основное внимание уделяется «микровыражениям» лиц кандидатов, в играх рассматриваются когнитивные, эмоциональные и социальные черты и навыки, такие как кратковременная память, рискованное поведение и лидерство.

Шона: Чем вы хотели бы поделиться с вами о своем исследовании?
Эльмира: Я думаю, что одно важное открытие касается этики и искусственного интеллекта ... у вас есть два лагеря. Первый гласит: «ИИ поможет нам создать более этичный мир». Я часто слышу это на встречах, которые посещаю. Второй лагерь обвиняет AI в совершении этических нарушений, таких как дискриминация и нарушение конфиденциальности. Одна из идей состоит в том, чтобы создать этику по замыслу ... что мы должны разработать этические нормы и технологии проектирования таким образом, чтобы они могли принимать этические решения.

Я думаю, что один из уроков моего исследования заключается в том, что это не сработает, потому что представление о том, что является справедливым и объективным, меняется в результате взаимодействия с самой технологией. Итак, когда люди начинают разрабатывать и использовать ИИ в своей повседневной работе, они начинают вести переговоры и пересматривать то, что они считают этичным в первую очередь. Заглянуть внутрь этих организаций крайне важно, чтобы понять, как этика и ИИ на самом деле проявляются на практике.

Шона: Можете ли вы поделиться с нами рекомендациями по книгам? Что вы сейчас читаете для развлечения?
Эльмира: Мне нравится читать абсурдистские романы. Сейчас читаю «Замок» Кафки. Речь идет о человеке, который приезжает в небольшую деревню, расположенную недалеко от замка. Человек полон решимости выполнить задачу, для которой он был вызван, но он сталкивается с таинственными властями, которые делают его цель недостижимой. Вместе с моим книжным клубом мы погружаемся в «Эпоху капитализма слежки» Зубоффа. Обязательно к прочтению, но здорово иметь некоторую поддержку в процессе прочтения этого огромного труда!

Будьте на связи!

Более подробное интервью будет выпущено в ближайшие несколько недель как часть нашей серии статей о том, как ИИ меняет характер работы в организациях. Следуйте за нами и подпишитесь на нашу рассылку, чтобы оставаться на связи.

Заинтересованы в теме AI в HR? Эльмира будет организовывать специальную панель на нашей конференции Reshaping Work 6 марта 2020 года.

О KIN:

Центр цифровых инноваций KIN является частью Школы бизнеса и экономики (SBE) при Vrije Universiteit Amsterdam (VU).

Наше исследование сосредоточено на разработке, использовании, значении цифровых инноваций и их ценности для бизнеса. Мы - многопрофильная группа исследователей с академическим образованием в области делового администрирования, социологии, коммуникативных наук, антропологии, философии, инженерии, промышленного дизайна и информатики.

Автор: Шона Джин