Люди по своей природе придерживаются трайбализма. Врожденное желание группироваться на основе общности, связано ли это с географией, языком, внешним видом, социальным статусом или другими факторами, коренится в вековой потребности в выживании. Со времен ранее записанной истории до наших дней мы находили комфорт и безопасность в группах, в которых у нас есть общая идентичность, культура, идеология и другие общие знаменатели. В Соединенных Штатах и ​​в огромном сегменте мира мы отвергли узаконенные предрассудки и дискриминацию в отношении тех, кого воспринимают как других или «других», что определяется как сознательная предвзятость. Эти предубеждения иногда сопровождаются стереотипами, которые могут быть положительными или отрицательными по своей природе (например, члены группы A более умны и этичны, а группа B менее умна и имеет тенденцию к неэтичности).

«Когда мы видим человека незнакомой расы, срабатывает миндалевидное тело в нашем мозгу (компоненты размером с грецкий орех, вызывающие страх и тревогу), даже до того, как наше сознание сможет интерпретировать ситуацию». - Д-р Дженнифер Лернер, профессор Гарвардской школы Кеннеди

Предвзятость встроена в наши нейроны из-за природы и воспитания, способа, которым мы социализируемся со стороны родителей, групп сверстников, средств массовой информации (традиционных и социальных) и других влияний. Исследование из нескольких источников подтвердило так называемую теорию подобия / притяжения. Мы по-прежнему инстинктивно предпочитаем ассоциироваться с представителями нашего собственного племени (внутри группы) и стремимся отмежеваться от представителей других кругов (чужих групп), независимо от того, определяется ли это отношениями и убеждениями, расой или этнической принадлежностью, национальным происхождением, социально-экономическим положением. статус, образование или профессия. Психолог и профессор Школы государственного управления Гарвардского Кеннеди Дженнифер Лернер говорит, что человеческий мозг запрограммирован так, чтобы отвергать иммигрантов. Такое понимание человеческой психики помогает нам понять, почему пренебрежительное отношение к иммигрантам, расовым и религиозным меньшинствам продолжает оставаться эффективной, хотя и беспринципной стратегией кампании для политиков во всем мире.

Сознательные ментальные различия и решения о том, с кем взаимодействовать - или нет - являются формами явной предвзятости. Бессознательные ассоциации между категориями людей с определенными характеристиками неявны. Теория двойных систем дает полезную информацию для понимания того, как бессознательная (неявная) и сознательная (явная) предвзятость действуют в нашем мозгу. Теория утверждает, что есть две системы мышления, которые обрабатывают наше восприятие реальности, включая наши взаимодействия с людьми. Мышление Системы 1 происходит без осознания, по сути автоматически, без когнитивных усилий. Система 2 - это осознанное мышление, требующее времени для обработки информации и стимулов.

Это вторая система, в которой мы наиболее развиты. На сознательном уровне большинство людей сегодня не хотят иметь преднамеренного предубеждения по отношению к какой-либо группе людей. Однако нейробиологи подсчитали, что до 98 процентов мозговой активности происходит бессознательно, поэтому, несмотря на антидискриминационные законы и политику, мы все еще боремся с предвзятостью на индивидуальном и институциональном уровне. Не имеет значения, считает ли он себя расистом, сексистом, гомофобом или ксенофобом. Важны системные (личные, организационные и социальные) предубеждения, которые продолжают сохраняться, несмотря на наши лучшие сознательные намерения.

Хотя человеческий мозг нельзя буквально приравнять к компьютеру, нельзя оспаривать, что оба объекта представляют собой сложные системы. Вопрос в том, можем ли мы взломать свой разум, чтобы обратить вспять предвзятость, вызванную биологическими факторами и факторами окружающей среды? Абсолютно невозможно добиться снижения смещения, но мы можем улучшить его по степеням. Институт Кирвана, ведущая исследовательская организация по изучению когнитивных предубеждений, перечислил несколько вмешательств, таких как знакомство с людьми, которые противостоят негативным стереотипам групп, с которыми они связаны, участие в группах с представителями разного мышления и происхождения, стремление понять другие точки зрения (особенно те, с которыми вы не согласны) и намеренная обработка своих представлений о других людях и группах, чтобы разрушить предвзятое мышление и решения. Развитие нашего самосознания и принятие на себя ответственности за наше устранение нарушений жизненно важно, чтобы постепенно становиться более инклюзивными в нашем мировоззрении и взаимодействии.

Все большее число организаций обучают сотрудников скрытому пристрастию, поощряют изменение поведения и меняют методы управления талантами, которые мешают им быть действительно разнообразными и инклюзивными рабочими местами. Тем не менее, несмотря на весь достигнутый нами прогресс, перспектива реального решения проблемных аспектов нашего естественного и институционализированного трайбализма кажется устрашающей. Академическое исследование ведущих фирм, оказывающих профессиональные услуги, документально подтверждает, что они, как правило, явно и неявно используют источники начального уровня. талант из узкого круга элитных школ со схожими культурными качествами. Другие исследования свидетельствуют о том, что черные или афроамериканские и азиатские имена в резюме реже, чем белые соискатели, с которыми связываются для собеседования.

«Разнообразие и инклюзивность - это источник стратегического преимущества, а также вопрос фундаментальной справедливости и равноправия при поиске кандидатов, которые могут быть проигнорированы технологической индустрией. Перспектива использования искусственного интеллекта для смягчения предвзятости Системы 1 с помощью автоматизированной эвристики очень многообещающая, чтобы помочь гарантировать, что будет выбран самый лучший кандидат, независимо от сокращений, на которые неизбежно будут полагаться интервьюеры ». - Джон Эспи, основатель и генеральный директор Levvel

Согласно отчету SAP, ИИ способен выявлять предвзятость и смягчать ее в наших решениях и действиях. В качестве примера в отчете указывается, что компания, практикующая прием на работу с предвзятым отношением к женщинам, может использовать ИИ, чтобы отмечать предвзятые гендерные высказывания в объявлениях о вакансиях, которые могут оттолкнуть женщин от подачи заявлений. Чтобы обратить вспять любую дискриминацию, связанную с полом или этнической принадлежностью, связанной с именами или предпочтениями в отношении брендов определенных колледжей и предыдущих работодателей, ИИ может быть интегрирован в платформы отслеживания кандидатов для интерпретации и удаления информации, которая приводит к предвзятости, и выделения того, что является наиболее важным для оценка опыта и возможностей кандидатов.

Даже если кандидаты преодолеют экран резюме с минимальной предвзятостью, им все равно придется пройти процесс собеседования. Другими словами, если существует врожденная предвзятость по отношению к представителям определенных групп, демографические идентичности нельзя скрывать до бесконечности, если не будет полностью слепого отбора. Этот процесс отбора был предложен некоторыми защитниками предвзятости и был внедрен некоторыми профессиональными оркестрами с положительным эффектом (оркестры экспериментировали со слепыми прослушиваниями перед серией реалити-шоу Голос), но он не получил широкого распространения. экосистема занятости. Некоторые компании используют тесты на работу или профессиональные качества, которые должны быть более объективными, чем чисто поведенческое собеседование. (Не) известное собеседование на доске - один из таких тестов, но он подвергся значительной критике за то, что исключает большую часть разнообразных талантов.

Поиск и найм - чрезвычайно важный компонент жизненного цикла талантов, но он составляет лишь часть борьбы с предвзятостью на рабочем месте. Качество разнообразия и вовлеченности в организацию определяется не только ее персоналом, но и ее лидерством. Предвзятость также закрадывается в оценки работы и решения о продвижении по службе. Как и в случае найма во многих компаниях в США и Европе, белые сотрудники (особенно мужчины) часто оцениваются более благоприятно, чем сотрудники из групп, менее репрезентативных для устоявшегося руководства.

Здесь, опять же, есть возможность для ИИ дополнить человеческие попытки уменьшить предвзятость, но данные, на которых учатся алгоритмы не должны быть заражены человеческими предрассудками, которые он был создан для нейтрализации. Он должен уметь видеть слепые пятна, которые ускользают от нас, если использовать термин Махзарин Банаджи и Энтони Гринвальд, ведущих исследователей, занимающихся неявной предвзятостью. Чтобы быть эффективным, ИИ-решение должно выявлять любые отзывы сотрудников, которые не соответствуют их объективным показателям, и в идеале обеспечивать независимую оценку, которую можно сопоставить с оценками, полученными человеком.

С ИИ или без него мы, как отдельные лица, так и организации, обязаны выполнять самостоятельную работу, чтобы добиться более инклюзивных результатов в сфере занятости и преемственности. Это не только правильно с юридической и этической точек зрения, но и на основе обширных исследований, демонстрирующих значительную корреляцию между командами и предприятиями, которые более разнообразны и инклюзивны, с более высокими уровнями производительности, инноваций и прибыльности. Возможно, нам никогда не удастся полностью искоренить предвзятость, но с постоянными усилиями и поддержкой со стороны достижений в области технологий можно резко уменьшить его последствия.

___________________________________________________________________

Если вы изучаете искусственный интеллект и машинное обучение для устранения предвзятости на рабочем месте или для решения другой системной проблемы, рассмотрите Levvel как стратегического и технического партнера, который обеспечит принятие единого интегрированного решения.