Искусственный интеллект, Мнение
Два основных препятствия для применения ИИ в медицинской промышленности
Некоторые соображения по поводу ИИ после пандемии COVID-19
ИТ-индустрия, вероятно, является одной из отраслей, которые пострадали относительно меньше других во время вспышки COVID-19. Мы наблюдали ускорение роста Zoom.us и других ИТ-компаний, которым эта катастрофа на самом деле «выиграла». Фактически, помимо инструментов для общения, есть еще одна область ИТ, которая раньше была актуальной, но стала еще более популярной и противоречивой. Это искусственный интеллект.
Поскольку многие страны, особенно медицинские работники, страдают или страдают от нехватки медицинских ресурсов, все больше и больше начинают обращать внимание на ИИ. Это связано с тем, что появление искусственного интеллекта призвано освободить наши руки от некоторых ручных и повторяющихся работ.
Приложения искусственного интеллекта во время COVID-19
Одно из самых популярных приложений искусственного интеллекта в медицинской промышленности - чтение томографии. Когда началась вирусная вспышка в Ухане, Китай, очень скоро обнаружилась нехватка ресурсов. Этот большой город с 10-миллионным населением очень сильно пострадал. Однако в марте компания ИИ под названием YITU выпустила интеллектуальную систему оценки на базе ИИ для автоматического считывания КТ грудной клетки [1]. Это сняло огромное бремя с плеч врачей, помогая диагностировать COVID-19 с очень высокой точностью. Впоследствии эта система была использована во многих других городах и помогла диагностировать подозрительные случаи, в общей сложности 100 000 человек к концу марта.
Китай - не единственный, кто задействовал ИИ для облегчения борьбы с вирусом. Фактически, почти во всем мире так поступают. Например, сотрудничество между Microsoft и Университетом Ла Троба также привело к достойным результатам [2]. Конечно, приложения ИИ в компьютерной томографии еще более популярны в США. «Роль радиолога устареет через пять лет», - сказал Винод Хосла [3]. Что ж, хотя я не поддерживаю эту точку зрения, видно, что ИИ достаточно конкурентоспособен в этой области.
Похоже, что ИИ будет становиться все более популярным в медицинской отрасли. Считается, что пандемия также ускоряет его рост. Однако в этой статье я расскажу о двух основных препятствиях для приложения. Вместо того, чтобы повторять «есть этические проблемы», как в большинстве других статей, я перечислю конкретные причины и подробно их рассмотрю.
Зачем нужен искусственный интеллект для помощи в радиологической диагностике?
Вы можете подумать, что пандемия - это своего рода «Черный лебедь», что не часто случается ни в нашей истории, ни в будущем. Независимо от правильности этого утверждения, есть определенные причины, по которым мы должны привлекать помощь искусственного интеллекта в радиологических клиниках, а не просто облегчать нагрузку на медицинскую систему. То есть точность или алгоритм искусственного интеллекта в диагностике сложных случаев на самом деле лучше, чем у медицинских специалистов. Существует значительное количество исследований, показывающих, что в некоторых областях производительность алгоритмов искусственного интеллекта может превосходить производительность одного медицинского работника.
Хотя в целом не поддерживается, что ИИ заменит радиологов [4], мы должны признать, что он может помочь радиологам улучшить их работу и значительно сократить время диагностики [5].
Помимо улучшения производительности, есть и другие причины для внедрения радиологических клиник с использованием искусственного интеллекта. Например, за счет сокращения времени диагностики и облегчения бремени рентгенологов цена может снизиться, так что некоторые сопутствующие медицинские услуги, такие как скрининг на рак груди, можно будет легко распространить среди людей, живущих в бедности.
Другой пример, AI также может помочь в расстановке приоритетов для пациентов. Таким образом, ожидается, что пациентов с более высоким риском можно будет лечить в более срочном порядке, и, следовательно, можно будет спасти больше жизней.
Мы видели так много положительных аспектов приложений искусственного интеллекта в медицинской отрасли, но почему так сложно позволить ему расти в геометрической прогрессии? Основные препятствия заключаются в следующем.
Барьер 1: Природа черного ящика
Черный ящик, означающий, что он может преуспеть, но мы не знаем, как он может преуспеть. Поэтому он просто как машина в черном ящике. Вы вставляете какие-то материалы, и тогда получается то, что вы хотите. Все внутренние процедуры скрыты от пользователей.
Не все алгоритмы машинного обучения являются черными ящиками, например алгоритм дерева решений. Однако жаль, что наиболее эффективным подходом является не классическое машинное обучение, а глубокое обучение.
Глубокое обучение показало, что оно может превзойти людей во многих областях, в которых люди раньше были уверены, например, в шахматах го, которые были взломаны Alpha Go несколько лет назад.
Наша наука выросла за несколько сотен лет. Закон причинности всегда был краеугольным камнем. Это означает, что если мы не сможем объяснить, почему это работает, будет сложно убедить людей доверять ему.
Что ж, предположим, если ИИ - это не черный ящик, и он иногда может превосходить профессионалов в какой-то области. Что вы хотите знать? Да, мы определенно хотим «перенять» «знания» из модели машинного обучения. Конечно, это не только у нас с вами. Было проведено множество исследований, направленных на извлечение уроков из обученных моделей искусственного интеллекта, таких как та, что была проведена Стэнфордским университетом [6]. Для обучения модели глубокого обучения было использовано более 100000 рентгеновских снимков грудной клетки, а затем исследователи попытались извлечь некоторые подсказки из этой модели. Однако ничего полезного не нашли. Модель глубокого обучения может учиться только сама и учиться сама по себе. Представьте, что если кто-то скажет вам, что продолжительность жизни вашего сердца в основном определяется вашей лопаткой, что почти никакая медицинская литература не поддерживает это. Тогда доверяете ли вы этому человеку, даже если он может очень точно предсказать, когда у большинства других людей случится сердечная недостаточность?
По сути, наличие алгоритма искусственного интеллекта черного ящика для целей диагностики заключается в том, что мы не знаем, когда и как он сделает какие-либо необнаруживаемые, но серьезные ошибки.
Барьер 2: Ответственная собственность
В современном обществе медицинская промышленность очень зрелая и регулируется многочисленными систематическими законами и политиками, хорошо продуманными в большинстве развитых стран. Однако применение ИИ может все испортить.
Когда врач допустил серьезную ошибку из-за значительного халатного отношения, очень вероятно, что нарушение ответственности, установленное законом, уменьшит вред пострадавшим. Но что, если это алгоритм ИИ, который представляет собой всего лишь кусок кода? Вы можете подумать, что компания, которая его разработала, должна нести ответственность за ее тестирование и убедиться, что она не совершает нелепых инцидентов. Однако это может быть не так.
Болеть может не только человек, но и модель искусственного интеллекта. Как мы знаем, это не будет 100% надежным с точки зрения согласованности. Конечно, медицинские работники также не могут быть надежными на 100%, что приемлемо, но профессионалы последовательны. Можно ожидать, что новичок может ошибаться, а профессор - меньше. По мере роста новичок будет становиться все более опытным и совершать меньше ошибок. Но это не относится к ИИ, на самом деле алгоритмы ИИ могут давать больше ошибок с течением времени, что является так называемым «дрейфом».
Модели машинного обучения обучаются на определенном количестве помеченных данных. Математически мы говорим, что набор данных, который мы использовали для обучения модели, имеет определенное распределение. Ожидается, что обученная модель машинного обучения может работать хорошо только в том случае, если новые данные, которые она будет прогнозировать, будут иметь такое же распределение. В частности, любое из следующих изменений на практике может привести к серьезным сбоям в существующей модели машинного обучения.
- В клинике / больнице изменилась система управления
- Модель машинного обучения используется в другой больнице.
- Модель машинного обучения используется в другой части страны / мира.
- Заболевание, для которого предназначена модель, изменилось, например, вызвано мутировавшим вирусом.
- и т.п.
Когда это произошло, должны ли мы винить организацию, разработавшую эту модель, или медицинский институт, «неправильно использовавший» модель? Это очень спорно и сложно регулировать.
Резюме
В этой статье я поделился некоторыми своими мнениями относительно применения искусственного интеллекта в медицинской индустрии. Почему он так популярен, но почему он достиг своего узкого места по социальным причинам.
Конечно, в краткосрочной перспективе не ожидается, что барьеры искусственного интеллекта в медицинской отрасли будут преодолены. Однако, как человек, работающий в области данных, я в целом оптимистичен в отношении AI / ML.
Видно, что некоторые изменения могут произойти до того, как будут преодолены барьеры.
- ИИ не сможет заменить медицинских работников, но медицинские работники, которым помогает ИИ, могут заменить тех, кто этого не делает.
- Искусственный интеллект в медицинской отрасли может развиваться быстрее в развивающихся странах, поскольку он может снизить стоимость некоторых медицинских услуг и повысить эффективность.
- ИИ может изменить отношения между пациентами и профессионалами. Весьма вероятно, что алгоритмы ИИ могут выступать в качестве «диспетчерской» роли для повышения эффективности всей медицинской системы.
Поэтому я бы поддержал использование ИИ в медицинской отрасли, которое могло бы повысить эффективность в целом. Это могло бы быть лучшим приложением, чем попытка использовать его для «замены» некоторых ролей, что звучит увлекательно, но не соответствует правильным целям на следующие десятилетия.
использованная литература
[1] YITU запускает интеллектуальную систему оценки компьютерной томографии грудной клетки на базе искусственного интеллекта на COVID-19
[2] Университет Ла Троба моделирует легкое, инфицированное коронавирусом, в 3D.
[3] Вот почему один технологический инвестор считает, что некоторые врачи «устареют» через пять лет.
Вот почему один технологический инвестор считает, что некоторые врачи« устареют через пять лет
Винод Хосла однажды заявил, что машины заменят 80 процентов врачей, что вызвало волну негативной реакции со стороны … www.cnbc.com »
[4] Почему ИИ не заменит радиологов
[5] ИИ повышает эффективность и точность цифрового томосинтеза груди.
[6] Как врачи могут быть уверены, что компьютер-самоучка ставит правильный диагноз?
