Обзоры статей AI4HEALTH #04
Справедливость – это принцип, который необходимо учитывать в общественной жизни. В нем есть строительные блоки, такие как пол, религия, раса, уровень дохода и т. д. Хотя об этом мало говорят, хотя алгоритмы искусственного интеллекта разрабатываются для здравоохранения, каждый из них влияет на окончательный прогноз алгоритма.
В этом посте я рассказал о бесценной статье, цель которой — повысить осведомленность экспертов в области здравоохранения и политиков о важной теме предвзятости в ИИ, чтобы определить будущие направления надзора.
Вот основные моменты статьи:
✅ С точки зрения регулирования крайне важно, чтобы лица, определяющие политику, понимали, что устранение предвзятости не должно заканчиваться разработкой модели ИИ, а, скорее, должно распространяться на весь жизненный цикл продукта (от разработки модели до проверки и внедрения, при этом обслуживание и обновления также возможны в пост-процессе). - период реализации).
✅ Чтобы отключить факторы, основанные на данных, как минимум, данные должны включать пациентов из разных рас в тех случаях, когда отсутствие учета расы связано с известными различиями в уходе. Другим вариантом может быть предварительное обучение моделей с большими неспецифическими наборами данных или с созданием синтетических данных.
✅ Совместные методы обучения, такие как федеративное обучение и циклический перенос веса, могут позволить проводить модельное обучение в нескольких учреждениях без передачи данных пациентов.
✅ Разработчики должны продумать и передать как любые субъективные или отсутствующие данные о здоровье, например записи в электронной медицинской карте.
✅ Проверка модели только на ретроспективных данных недостаточно строга. Проспективные исследования в медицинских учреждениях, в идеале в форме рандомизированного исследования, должны быть санкционированы на федеральном уровне для приложений ИИ, которые могут причинить пациенту телесные повреждения или смерть.
✅ Разработчики могут использовать интерпретируемость для обнаружения предвзятости на этапе проверки. Разработчики искусственного интеллекта в здравоохранении и конечные организации должны нести совместную ответственность за проверку производительности и предвзятости, и они должны регулярно включаться в настройку и обслуживание алгоритмов.
Спасибо за эту ценную статью:
Николь Томасян, Карстен Эйкхофф, Эли Ю. Адаши,
📑 Томасиан Н.М., Эйкхофф С., Адаши Е.Ю. Повышение справедливости в отношении здоровья с помощью искусственного интеллекта. J Политика общественного здравоохранения. 2021 г., декабрь; 42 (4): 602–611. doi: 10.1057/s41271–021–00319–5. Epub 2021, 22 ноября. PMID: 34811466; PMCID: PMC8607970.
📑 Нажмите здесь, чтобы просмотреть статью в формате PDF
