Ваша активность в социальных сетях может мешать вам найти работу способами, о которых вы даже не догадывались.
Я возглавляю отдел найма крупного агентства социальных услуг Нью-Йорка. Недавно мы приобрели в социальных сетях справочные отчеты о каждом из кандидатов-финалистов на руководящие должности. Отчеты поступили от ведущего провайдера скрининга социальных сетей, который использует компьютерные алгоритмы для сбора и анализа языка в любом общедоступном контенте социальных сетей.
Вот несколько выдержек из одного из этих отчетов. Рассматриваемый кандидат сделал успешную карьеру в правительстве и связях с общественностью и является высоко ценимым профессионалом в этой сфере. Важно отметить, что представленные ниже твиты - это даже не сообщения самого кандидата, а сообщения, которые ему понравились. Да, алгоритмы тоже оценивают вас таким образом.
Кандидат оказался цветным человеком. И, что примечательно, единственное, что объединяет эти посты, - это то, что они ссылаются на цветных людей как с одобрением, так и с поддержкой. Ни один из них не является даже отдаленно экстремальным или непристойным при понимании этих терминов, и тем не менее алгоритмы отметили их как таковые.
В этом конкретном случае человек (я) оценивал полезность информации, которую мы получили в этом настраиваемом отчете. Однако эта технология также используется для одновременной оценки «рискованности» очень большого количества кандидатов. И вот тут-то и становится страшно.
Рассмотрим это обещание от компании по просмотру социальных сетей ThirdPro:
Перебор большого количества кандидатов или найм неподходящих - это дорогое удовольствие для вашей компании. Аудит ThirdPro позволяет рекрутерам быстро исключать из процесса рискованных кандидатов и страхует от риска найма кандидата, который представляет реальный риск для организации.
Допустим, вы и еще 99 человек подали заявку на одну и ту же работу, но поскольку вы цветной человек и, как правило, любите сообщения о цветных людях и о них, алгоритмы (созданные программистами, которые на 71% являются белыми, на 20% азиатскими , и только 5% черных ») считают ваши посты политически экстремальными или непристойными. Как рекрутер, я вижу 100 кандидатов, отсортированных по схеме с цветовой кодировкой, которая показывает мне, где они попадают в спектр рисков. Зеленый = безопасно, красный = рискованно. Поскольку у меня мало времени на рассмотрение кандидатов (и давайте посмотрим правде в глаза, приветствуется все, что может помочь мне сузить стопку разумным образом), я сосредотачиваюсь на зеленых резюме. И я никогда даже не увижу ваше резюме, потому что алгоритмы ограничили вас красной зоной.
Компании, занимающиеся технологиями скрининга, нанимают экспертов в области промышленной организационной психологии, чтобы гарантировать, что их поиски не являются достаточно расистскими, чтобы предотвратить судебные иски. Я хотел бы верить, что они также обращаются к моральным последствиям своей работы, а не просто следят за минимальным соблюдением требований, но мой личный опыт работы с компанией, которую мы использовали, заставляет меня сомневаться.
Я подумал, что, возможно, компания встревожится, узнав, что их результаты проблематичны с расовой точки зрения, поэтому я написал о своих опасениях по электронной почте:
Были ли они обеспокоены?
(Ваше здоровье?)
Я не понимаю, как черный отец гордится своим сыном; или чернокожая женщина, гордая тем, что преодолела проблемы психического здоровья, чтобы окончить колледж; или несоответствие показателей материнской смертности между чернокожими и не чернокожими матерями; или Чернокожие девушки и женщины, вдохновленные положением профсоюзного обращения, составляют политическую позицию. Сравнение с активизмом в отношении абортов абсурдно и жестоко.
Я сказал об этом в своем последующем ответе этой компании. Неудивительно, что это было последнее, что я слышал от них.
Всегда есть люди с неосознанной предвзятостью, принимающие решения: программисты, специалисты по данным, аналитики. Каждый, кто касается этих данных, влияет на результат. И результат, как мы видели, может быть шокирующе несправедливым. Сколько цветных людей никогда даже не будут рассматриваться для работы из-за присутствия в социальных сетях, которое любой разумный человек сочтет добрым?
Я спросил Роя Альтмана, эксперта по управлению кадровыми технологиями и аналитике, есть ли аудиторские фирмы или государственные регулирующие органы, проводящие объективные оценки для защиты населения от непреднамеренного вредного воздействия. «Абсолютно нет, - ответил он, - эта технология настолько нова, что сейчас это Дикий Запад».
Поэтому, пожалуйста, если вы компания: дважды подумайте, прежде чем инвестировать в технологию, которая обещает сэкономить ваше время и деньги, подвергая ваших кандидатов проверке в социальных сетях, личностной оценке, анализу выражения лица (да, именно это они делают с вашим видео. собеседование) или любое другое компьютерное отсеивание «нежелательных» кандидатов. Я знаю, что просматривать резюме - заноза в заднице, но именно этому ваши рекрутеры обучены.
Если вы рекрутер или менеджер по найму, постарайтесь выявить собственные подсознательные предубеждения и противостоять им. Предубеждение глубоко укоренилось, и его невозможно устранить, но последствия можно смягчить, если вы позаботитесь о создании рабочего места, дающего равные возможности людям любого происхождения.
А если вы кандидат, сделайте все свои аккаунты в социальных сетях приватными, пока вы ищете работу. Насколько мне известно, поиск по личным аккаунтам невозможен. Удаление контента, который, по вашему мнению, может вам не понравиться, не только сведет вас с ума, но и в ваших аккаунтах есть долгая история лайков, с которыми вы ничего не можете поделать.
Для получения дополнительной информации об алгоритмической предвзятости ознакомьтесь с докладом Джой Буоламвини на TED Как я борюсь с предвзятостью в алгоритмах и готовящейся к выходу книгой Справедливость декодируется; и книгу Сафии Умоджи Нобл Алгоритмы угнетения.
Если вам известно о вреде или предвзятости ИИ, вы можете сообщить об этом, связавшись с Лигой алгоритмической справедливости.
Узнайте больше о моей работе здесь
