- Предвзятость, как у человека: основа когнитивной предвзятости для создания графа сцен (arXiv)
Автор: Сяогуан Чан, Тэн Ван, Чанъинь Сун, Вэньчжэ Цай
Аннотация. Создание графа сцены является сложной задачей, поскольку не существует определенного шаблона распознавания (например, «смотрящий» и «рядом» не имеют заметной разницы в отношении зрения, тогда как «рядом» может встречаться между объектами с разная морфология). Таким образом, некоторые методы генерации графа сцены оказываются в ловушке наиболее частых прогнозов отношений, вызванных капризными визуальными особенностями и тривиальными аннотациями набора данных. Поэтому в недавних работах подчеркивались «беспристрастные» подходы к прогнозированию баланса для более информативного графа сцены. Однако быстрые и точные суждения человека об отношениях между многочисленными объектами следует отнести не к чистому видению, а к «предвзятости» (т. е. опыту и лингвистическим знаниям). Чтобы расширить возможности модели, вдохновленные механизмом «когнитивной предвзятости», мы предлагаем новую структуру из трех парадигм, которая имитирует то, как люди используют лингвистические особенности ярлыков в качестве руководства для представлений на основе зрения, чтобы лучше выявить скрытые шаблоны отношений и уменьшить шумовое визуальное распространение. . Наш фреймворк не зависит от любой модели графа сцены. Всесторонние эксперименты доказывают, что наша структура превосходит базовые модули по нескольким показателям с минимальным увеличением параметров и достигает новой производительности SOTA в наборе данных Visual Genome.
2.Взаимосвязь данных и когнитивных искажений при управлении кризисной информацией — предварительное исследование ответных мер на эпидемии (arXiv)
Автор:Дэвид Паулюс, Рамиан Фати, Франк Фидрих, Бартель Ван де Валле, Тина Комес
Аннотация. Гуманитарные кризисы, такие как эпидемия лихорадки Эбола в Западной Африке в 2014 году, бросают вызов управлению информацией и, таким образом, угрожают цифровой устойчивости реагирующих организаций. Управление информацией в кризисных ситуациях (CIM) характеризуется безотлагательностью реагирования, несмотря на неопределенность ситуации. В сочетании с высокими ставками, ограниченными ресурсами и высокой когнитивной нагрузкой кризисы склонны вызывать предвзятость в данных и когнитивных процессах аналитиков и лиц, принимающих решения. Когда предубеждения остаются незамеченными и не лечатся в CIM, они могут привести к решениям, основанным на предвзятой информации, что увеличивает риск неэффективного реагирования. Литература предполагает, что кризисное реагирование должно устранять первоначальную неопределенность и возможные предубеждения, адаптируясь к новой и более качественной информации по мере ее поступления. Однако мы мало знаем о том, смягчают ли адаптивные подходы взаимодействие данных и когнитивных искажений. Мы исследовали этот вопрос в рамках исследовательского трехэтапного эксперимента по реагированию на эпидемии. Нашими участниками были опытные практики в области принятия кризисных решений и анализа информации. Мы обнаружили, что аналитикам не удается успешно устранять предвзятость данных, даже когда обнаруживаются предвзятости, и что эта неудача может быть связана с недооценкой усилий по устранению предвзятости в пользу быстрых результатов. Эта неудача приводит к разработке предвзятых информационных продуктов, которые передаются лицам, принимающим решения, которые, следовательно, принимают решения на основе предвзятой информации. Предвзятость подтверждения усиливает зависимость от выводов, сделанных на основе предвзятых данных, что приводит к порочному кругу, в котором предвзятые предположения остаются неисправленными. Мы предлагаем осознанное устранение предубеждений в качестве возможной контрстратегии против этих эффектов смещения в CIM.
3.Динамика эволюции общественного мнения с асимметричным когнитивным искажением (arXiv)
Автор:Янбин Мао, Наира Овакимян, Тарек Абдельзахер
Аннотация: в этой статье мы предлагаем модель общественного мнения с учетом асимметричной когнитивной предвзятости: предвзятости подтверждения и предвзятости негатива. Затем мы изучаем общее руководство по моделированию для выявления асимметричной предвзятости подтверждения и предвзятости негативизма. Численные примеры приведены для демонстрации правильности модели асимметричного когнитивного искажения.
4. Устранение когнитивных искажений в дополненных системах принятия бизнес-решений (arXiv)
Автор:Томас Бодель, Манон Вербокхейвен, Гийом Рой, Виктуар Кузерг, Рида Лаарах
Аннотация. Как алгоритмические средства принятия решений, внедренные в бизнес-процессы принятия решений, влияют на выполнение задач? В первом эксперименте мы изучаем эффективное сотрудничество. Столкнувшись с решением, одни испытуемые добиваются успеха в 72%; С помощью рекомендателя, который имеет показатель успеха 75%, их показатель успеха достигает 76%. Таким образом, сотрудничество человека и системы имело больший успех, чем каждое из них по отдельности. Однако мы заметили склонность к самоуспокоенности/авторитету, которая снижала качество решений на 5%, когда рекомендатель был неправ. Это говорит о том, что любые сохраняющиеся алгоритмические предубеждения могут быть усилены средствами принятия решений. Во втором эксперименте мы оценили эффективность 5 вариантов презентации в снижении предвзятости самоуспокоенности. Мы обнаружили, что необязательная презентация повышает устойчивость испытуемых к неправильным рекомендациям. В заключение мы утверждаем, что наши метрики в реальных сценариях использования, когда средства принятия решений встроены в качестве общесистемных функций в программное обеспечение для управления бизнес-процессами, могут привести к дополнительным преимуществам.
5. К социально ответственному ИИ: многоцелевое обучение с учетом когнитивных искажений (arXiv)
Автор:Прочета Сен, Дебасис Гангули
Аннотация: Человеческое общество долгое время страдало от когнитивных искажений, ведущих к социальным предрассудкам и массовой несправедливости. Распространенное существование когнитивных искажений в больших объемах исторических данных может представлять угрозу того, что они проявятся в виде неэтичных и, казалось бы, бесчеловечных прогнозов в результате работы систем ИИ, обученных на таких данных. Чтобы смягчить эту проблему, мы предлагаем многоцелевую структуру обучения, учитывающую предвзятость, которая, учитывая набор атрибутов идентичности (например, пол, этническая принадлежность и т. д.) и подмножество чувствительных категорий возможных классов результатов прогнозирования, учится уменьшать частоту предсказания определенных их комбинаций, т.е. предсказание таких стереотипов, как «большинство чернокожих используют оскорбительные выражения» или «страх — это добродетель женщин». Наши эксперименты, проведенные в задаче прогнозирования эмоций со сбалансированными априорными классами, показывают, что набор базовых моделей, не зависящих от предвзятости, демонстрирует когнитивные предубеждения в отношении пола, например, женщины склонны бояться, тогда как мужчины более склонны злиться. Напротив, показано, что предлагаемая нами методология многоцелевого обучения с учетом предвзятости уменьшает такие предубеждения в прогнозируемых эмоциях.
