На Эксиби-роуд в лондонском районе Кенсингтон и Челси расположены одни из величайших музеев мира. Но это также часть недавнего эксперимента в области городского дизайна под названием Общее пространство. По всей длине улицы линии между дорогой и тротуаром были растворены: автомобили и пешеходы делят одно и то же пространство, дорожная разметка, светофоры и пешеходные переходы исчезли. Идея заключается в том, что за счет увеличения неопределенности и предполагаемого риска водители будут снижать скорость, что приведет к более безопасной среде как для пешеходов, так и для транспортных средств.
Подход основан на теории гомеостаза риска, впервые предложенной голландским психологом Джеральдом Уайлдом в 1980-х годах. Теория основана на наблюдении, что, когда деятельность становится более безопасной, частота несчастных случаев часто остается прежней. Обязательные ремни безопасности снижают вероятность травмы в результате несчастного случая, но не снижают уровень смертности на душу населения. Водители с антиблокировочной тормозной системой подъезжают ближе к идущей впереди машине. Когда в 1967 году Швеция перешла на правостороннее движение, произошло заметное снижение уровня смертности, который вернулся к исходному уровню через полтора года. Рискованное поведение человека, по-видимому, тесно связано с предполагаемым уровнем опасности. Уменьшите риск, который покажется вам занятием, и люди станут более смелыми.
Чем больше рецептов, тем больше у людей ослабевает чувство личной ответственности. (Ганс Мондерман)
Гомеостаз риска вызывает споры с самого начала, но за последние несколько десятилетий идея поведенческой адаптации к предполагаемому риску стала принята научным сообществом.
Кажется, что в некоторых случаях применение этого на практике срабатывает. Подход общего пространства был реализован прямо за углом от Эксибишн-роуд, на Хай-стрит, Кенсингтон. Анализ общедоступных данных за два года до внесения изменений и два года после них показал сокращение дорожно-транспортного травматизма на 43%.
Гомеостаз риска для человека и человека
Риск в клинической практике часто маскируется из-за сложности науки. Но доказательства гомеостаза риска между врачами были обнаружены, например, в недавнем исследовании медсестер в отделении интенсивной терапии в Великобритании. Меры безопасности, применяемые во время отпуска лекарств, включают многократные перекрестные проверки разными коллегами перед тем, как лекарство будет дано пациенту. Хотя медсестер обучены проверять дважды, меры безопасности снижают предполагаемый уровень риска, и медсестры в этом исследовании предположили, что вероятность ошибки будет меньше.
Я думаю, что сотрудники очень доверяют друг другу при проверке лекарств, вместо того, чтобы внимательно изучать рецепт, как следует. Умм, потому что они считают само собой разумеющимся, что вы не ошибетесь, я полагаю . (Сангера и др., 2007)
В своей книге Цифровой доктор Боб Вахтер рассказывает историю Пабло Гарсиа, молодого пациента, получившего 38-кратную передозировку противоэпилептического средства. Он описывает, как персоналу не удавалось обнаружить ошибку при назначении лекарства, несмотря на то, что они прошли 50 различных этапов и несколько проверок, прежде чем она была выдана.
Прописывание ошибок имеет своего рода импульс. Чем больше проверок проскальзывает ошибка, тем меньше вероятность того, что она будет подвергнута сомнению при последующих проверках. Точно так же диагностические ошибки могут демонстрировать диагностический импульс. Когда диагноз распространяется среди бригады по уходу, вероятность того, что его будут ставить под сомнение, и его труднее встряхнуть, если окажется, что он ложный.
Человеко-машинное взаимодействие: предвзятость автоматизации
Люди демонстрируют аналогичное поведение при взаимодействии с машинами, выполняющими автоматизированные задачи, известное как предвзятость автоматизации:
Предвзятость автоматизации: «Склонность игнорировать или не искать противоречивую информацию в свете компьютерного решения, которое считается правильным» (Parasuraman & Riley, 1997)
Изучение предвзятости автоматизации в медицине имеет богатую историю, но стало особенно актуальным с появлением новых подходов к машинному обучению, которые вошли в поддержку принятия клинических решений. Отсутствие прозрачности в том, как эти модели приходят к решению, представляет собой проблему для завоевания доверия врачей и предотвращения предвзятости автоматизации.
Автоматизированные системы существуют в диапазоне от систем, требующих участия человека, до полной автоматизации, когда люди не участвуют в принятии каких-либо решений.
Полная автоматизация работает для задач, которые не требуют гибкости в принятии решений, имеют низкую вероятность отказа и низкий риск. Но в динамических средах, где принятие решений связано с множеством изменяющихся переменных, таких как здравоохранение, полной автоматизации добиться гораздо труднее.
Эффективность системы в беспорядочной реальной клинической практике, несомненно, будет иметь точность менее 100%, поэтому операторы-люди должны знать, когда можно доверять, а когда нет. То, как мы проектируем взаимодействие между человеком и машиной, приобретает первостепенное значение для предотвращения появления новых предубеждений и ошибок.
Гомеостаз риска предполагает, что чрезмерная автоматизация аспектов клинической практики может привести к самоуспокоенности и увеличению количества ошибок и несчастных случаев. Исследования из других областей показали, что люди действительно страдают от предвзятости автоматизации и снижения личной ответственности, когда их задачи берут на себя машины.
Действия по ошибке или бездействие
Чрезмерное доверие к несовершенной автоматизированной системе приводит к двум конкретным типам ошибок: ошибкам комиссии и ошибкам упущению. Ошибки совершения происходят, когда человек действует ошибочно, а ошибки бездействия возникают, когда человек не действует, когда им следовало бы.
Недавнее исследование исследовало эти две ошибки в задаче с использованием системы поддержки принятия решений. Когда система выдавала правильные рекомендации по поддержке принятия решений, участники принимали решения быстрее, точнее и требовали меньшей когнитивной нагрузки. Но когда система давала неправильную рекомендацию (автоматизация неправильная), эффективность принятия решений снижалась почти до нуля. Участники предположили, что система правильная, и допустили ошибки комиссии - они действовали неправильно. Когда система просто не давала никаких рекомендаций (автоматизация ушла), участники с большей вероятностью совершали ошибку в виде бездействия - они бездействовали когда они должны были иметь.
Интересно, что точность участников упала в большей степени в состоянии «автоматизация неправильная», чем в состоянии «автоматизация отключена». Мы делаем больше ошибок при использовании неправильной системы поддержки принятия решений (предвзятость автоматизации) по сравнению с тем, когда система поддержки принятия решений дает сбой, и мы оказываемся предоставлены нашим собственным устройствам (ошибки здесь происходят из-за «самоуспокоенности автоматизации»). Авторы рекомендовали, чтобы во избежание предвзятости автоматизации системы поддержки принятия решений раскрывали пользователю их более низкую степень уверенности, когда они не уверены.
Такая прозрачность будет иметь важное значение при разработке интеллектуальных инструментов поддержки принятия клинических решений. Несмотря на высокомерие в отношении подходов к машинному обучению, эти технологии по-прежнему подвержены ошибкам и предвзятости (например, смещение набора данных), и об этом необходимо сообщить врачу, чтобы избежать предвзятости автоматизации.
Одна из особых проблем с автоматизацией здравоохранения заключается в том, что об ошибках часто не сообщают, а их влияние трудно измерить. Последствия для здоровья от эпизода оказания медицинской помощи также только начинают отслеживаться с появлением системы здравоохранения, основанной на ценностях. Это означает, что после внедрения в клиническую практику как положительное, так и потенциальное отрицательное влияние интеллектуальных систем поддержки принятия решений может быть трудно идентифицировать. Тем более важно, чтобы мы разработали дизайн заранее.
