Краткое изложение моего интервью со вторым врачом-терапевтом. Это одно из моих 18 интервью с клиницистами для получения степени магистра здравоохранения (ссылка здесь) для Школы общественного здравоохранения Калифорнийского университета в Беркли.

Посетите мой сайт Укрепление доверия и внедрение машинного обучения в здравоохранении (ссылка здесь), чтобы ознакомиться с сокращенной и полной версиями моего диплома в области здравоохранения, а также с предстоящими резюме интервью и дополнительных исследований.

Обратите внимание, что это интервью представляет собой обезличенное резюме для простоты чтения и обеспечения конфиденциальности. Он был одобрен для распространения интервьюируемым.

«В мире с полномасштабным машинным обучением подготовка клиницистов была бы совершенно другой. Мне пришлось бы быть одновременно специалистом по данным и клиницистом. Наша работа будет заключаться в общении с пациентами и общении с моделями — быть переводчиками по науке о данных и медицинской науке».

История работы

Я врач первичной медико-санитарной помощи в интегрированной сети доставки. Я трачу около 80% своего времени на оказание помощи пациентам, а остальное время — на обучение и некоторую административную работу. У меня стандартная 20-минутная встреча 20 раз в день пять дней в неделю. Эти пациенты нуждаются в широком спектре потребностей, от общей плановой профилактической помощи до неотложной помощи. Я работаю лечащим врачом уже пять лет и думаю, что у меня есть еще лет 25–30 ухода за пациентами.

Знание ML в здравоохранении

Для начала, что вы слышали об искусственном интеллекте и/или машинном обучении в здравоохранении?

Естественно, о клиницисте я много слышал, потому что кто-то из моей семьи работает в компании, занимающейся инструментами машинного обучения. В их команде много специалистов по данным, поэтому иногда, когда «работа возвращается домой», я слышу об этом. Я понимаю основные понятия, такие как обучение и наборы тестов, а также знаю, что существуют различные типы алгоритмов.

Прошлое и будущее использование

Использовали ли вы какие-либо инструменты машинного обучения? Не могли бы вы?

К сожалению, я думаю, что ML находится довольно далеко от моей клиники. Я был бы рад использовать что-то подобное. Есть много хороших применений машинного обучения в здравоохранении, и я думаю, что их следует использовать там, где это возможно.

Мне трудно представить себе, как я могу использовать машинное обучение в первичной медико-санитарной помощи, поскольку большая часть моей работы связана с отношениями и зависит от человеческих связей и эмоций. Но да, я бы считал себя первопроходцем, учитывая род занятий члена моей семьи.

Волнение и беспокойство

Что вас беспокоит или волнует в сфере машинного обучения в здравоохранении? Что еще вас волнует или беспокоит?

Я обеспокоен тем, как предвзятость может повлиять на обучающие данные и как это может ухудшить уход за пациентами для нас. Я также искренне беспокоюсь о том, как машинное обучение может повлиять на искусство медицины. Если он заменит клиницистов, то устранит некоторые из наиболее важных аспектов опыта пациента, такие как физический контакт, эмпатия, мотивационное интервьюирование и обучение. В этом антиутопическом будущем медицина потеряет связь с человеком.

С другой стороны, мы должны признаться себе, что, откровенно говоря, мы, клиницисты, не всегда хороши в своей работе. Медицинская наука имеет серьезные ограничения, поскольку многие диагнозы недостаточно хорошо изучены, а также существуют серьезные ограничения в том, что доступно для лечения пациентов. Я думаю, что мы только коснулись поверхности медицинских знаний, и машинное обучение помогает нам делать большие шаги вперед. Я также в восторге от того, что машинное обучение сокращает черновые части моей работы, чтобы я мог сосредоточиться на сопереживании и общении с людьми.

Этика и конфиденциальность

При чем тут этика? Что может пойти не так или что можно сделать хорошо?

Лично я склонен меньше скептически относиться к конфиденциальности, чем другие люди. Данные должны быть обезличены, конечно. Если вы используете данные пациентов, то вам, вероятно, нужно, чтобы они согласились. Опять же, я не особо беспокоюсь о конфиденциальности.

Кто еще должен информировать вас или решать за вас, является ли инструмент машинного обучения этичным и достаточно конфиденциальным?

Я непрофессионал, когда дело доходит до этого; Я не компьютерщик. Как я узнаю, защищена ли конфиденциальность? В идеале меня бы успокоил кто-то, кто разбирается в науке о данных, машинном обучении и клинических вещах, чтобы сделать этот звонок. Это еще одна большая проблема с внедрением, клиницисты не будут сразу доверять этим программам ML и понимать их. Обычно с оценками клинического риска существуют установленные исследования с простыми формулами для обзора. Машинное обучение настолько отличается от этого, что его трудно понять любому человеку, не говоря уже о тех из нас, кто не занимается компьютерными науками. Я бы полагался на эксперта как в машинном обучении, так и в клинической науке, чтобы он помог мне во всем этом разобраться.

Доверяете ли вы этим разработчикам инструментов машинного обучения доступ к этим данным? Почему или почему бы и нет?

Возможно нет. Я не доверяю им в том смысле, что не думаю, что они защитят мои данные, когда дело дойдет до драки. Но меня также не волнует, что они делают с данными; Я ценю свою таргетированную рекламу по сравнению с альтернативной ерундой. Это социальное соглашение, которое у меня есть с крупными технологическими компаниями: я даю вам свои данные, вы даете мне хороший опыт.

Знание машинного обучения и объяснимость модели

На каком уровне вам нужно понять, как модель делает свой прогноз?

Я даже не знаю, разбираются ли сами специалисты по данным в моделях. Насколько я понимаю, я никогда не разберусь в инструментах ML так хорошо, как хотелось бы. Я действительно хочу убедиться, что за этим стоит хорошая наука и что он хорошо работает, но я также ценю наличие черного ящика.

Требования к внешней проверке

Чтобы вы захотели использовать инструмент машинного обучения, какое внешнее подтверждение вам необходимо увидеть? Какие типы государственных и/или неправительственных организаций будут играть роль?

Это действительно сложно и является основной частью проблемы. Для чего-то вроде инструмента сортировки трудно провести надежные исследования. РКИ сложно проводить, а результаты ненадежны, потому что результаты должны измерять долгосрочные результаты, а данные и результаты должны быть очень точными. Тем не менее, с диагностикой вы можете провести РКИ с одной рукой, в которой есть решение для машинного обучения, а другой — с золотым стандартом. Например, при боли в груди вы можете загрузить модель жизненно важными органами, а затем использовать коронарный катетер, чтобы подтвердить исход сердечного приступа.

Но обещания ML выходят далеко за рамки этого. Мы надеемся продвигать медицинскую науку в ситуациях, когда у нас нет тестов золотого стандарта, чтобы что-то доказать. ML потенциально может начать ставить эти новые диагнозы, которые мы даже не понимаем, группируя людей и наблюдая за их тенденциями.

Некоторые инструменты ML должны будут получить одобрение FDA, и FDA работает над вещами ML. С точки зрения клинического принятия, я также хотел бы увидеть РКИ из уважаемых журналов. Наконец, было бы очень полезно получить разрешение от сообщества медицинских работников, но мне трудно представить, чтобы эти группы серьезно относились к оценке программ ОД.

Клиническое образование

Как это повлияет на клиническое образование?

У нас было одно и то же медицинское образование в течение последних 100 лет, и это необходимо изменить. Во-первых, нам нужно прекратить преподавать биохимию. Затем мы можем переосмыслить то, как врачи функционируют и работают с инструментами машинного обучения. В мире полномасштабного машинного обучения подготовка клиницистов была бы совершенно другой. Мне пришлось бы быть одновременно специалистом по данным и клиницистом. Наша работа будет заключаться в общении с пациентами и общении с моделями — быть переводчиками по науке о данных и медицинской науке. Тем не менее, я не вижу, чтобы это произошло в ближайшее время; это будет постепенный процесс. Во-первых, инструменты помогут клиницистам с небольшими вещами и придадут им немного привлекательности. Потом много позже изменится и медицинское образование. Проще говоря, медицинская практика изменится раньше, чем медицинское образование.

Выполнение

Как это сделать после внедрения инструмента машинного обучения? Кто должен иметь доступ в первую очередь; кто не должен?

Если вы собираетесь создать какой-либо инструмент машинного обучения, то он должен быть интегрирован с электронной медицинской картой — это центр моей жизни, где хранятся все данные о моих пациентах. Каждый врач в Америке использует EHR. Так что если инструмент машинного обучения не интегрируется с ЭМК и представляет собой отдельное окно, то я не знаю, как его будут использовать. Да, есть примеры передачи срочной информации на мой мобильный телефон, но это очень редко.

Для меня не было бы проблемой взять отпуск, чтобы откалибровать и внедрить инструмент машинного обучения. Однако другим клиницистам было бы труднее продать это, если бы у них не было большого опыта в области технологий. Настоящая хитрость здесь заключается в том, чтобы заручиться поддержкой больницы, потому что это будет стоить им больших денег, если клиницисты будут тратить время на обучение этим инструментам. Несмотря на это, честно говоря, было бы трудно заставить клиницистов тратить много времени на обучение работе с инструментом МО. Когда я думаю о чем-то подобном, например, о подготовке к небольшому обновлению ЭМК, мне трудно убедить их взять пару часов отдыха.

В качестве альтернативы, возможно, ИТ-специалисты могли бы помочь внедрить этот инструмент. У нас есть ИТ-специалисты, которые проводят свое время в авангарде новых технологий и интегрируют их в нашу интегрированную сеть доставки. Опять же, вам нужно убедить руководителей больницы заставить ИТ-специалистов сделать это. Если вы находитесь в небольшом учреждении — например, в частной амбулаторной практике — то подобное невозможно, потому что рядом нет никого, кто мог бы взять отпуск. Они едят то, что убивают, поэтому им нужно постоянно видеть пациентов. Тем не менее, если есть большое исследование того, как можно сэкономить время и заработать больше денег, то это более вероятно.