Разговор с доктором Ксавьером Аматриэном, соучредителем и техническим директором Curai

Доктор. Аматриайн и я обсудили COVID-19 и, в более широком смысле, перспективы и проблемы ИИ для здравоохранения. Мы говорили о носимых устройствах, цифровых двойниках, конфиденциальности и государственном регулировании и т. д. Мы разошлись по тематикам общего искусственного интеллекта, машинного обучения с привлечением экспертов, федеративного обучения, внеплановых прогнозов и многих других тем. Д-р Аматриан дал совет молодому поколению, которое хочет заняться ИИ.

Это вторая часть серии из трех частей. См. Часть I и Часть III.

Цифровые двойники для здравоохранения

Цифровые двойники — захватывающая идея. Это цифровые представления сложных систем, таких как самолеты, здания или даже города. В медицинском контексте цифровые двойники — это виртуальные представления человеческого тела и его органов, на которых можно изучать действие лекарств и лекарств.

Все люди разные, и клинических тестов часто недостаточно, чтобы выявить общее состояние здоровья человека. Цифровые двойники позволяют быстрее и экономичнее оценивать состояние человека и возможные реакции на лекарства, чем это возможно в реальных условиях. Таким образом, цифровые двойники расширяют возможности персонализированной или точной медицины. Благодаря цифровым двойникам врачи с большей вероятностью найдут оптимальные методы лечения для каждого человека и уменьшат вероятность того, что люди будут принимать лекарства, которые им не подходят.

В то время как прецизионная медицина и идея представления цифрового двойника интересуют Аматриана, он возвращается к вопросам доступности и приемлемости, подчеркивая, что «мы рискуем создать действительно хорошие решения для людей, которые могут их себе позволить, а затем оставить всех остальных без средств к существованию». вне." Аматриайн с оптимизмом смотрит в будущее, упрощая измерение данных в здравоохранении, но уделяет первостепенное внимание доступности.

Вопрос. Лекарства неэффективны для большого количества людей с такими состояниями, как болезнь Альцгеймера и артрит. С помощью цифровых близнецов мы можем конкретно диагностировать людей и предлагать оптимальное лечение. Что вы думаете по этому поводу? Учитывая тот факт, что многие люди не имеют доступа к современным технологиям, произойдет ли это в ближайшем будущем?

Да, это область, которая мне очень интересна. На самом деле она во многом связана с моим прошлым опытом персонализации в Netflix и еще раньше, когда я был исследователем. Существует такое понятие точной медицины, как мы можем получить правильное лечение для нужного человека, как мы можем получить точное представление обо всех и сделать так, чтобы ваш цифровой двойник представлял вас как медицинскую сущность.

Я действительно думаю, что это чрезвычайно интересно, и мы должны стремиться к этому, но опять же, меня больше всего беспокоит то, как мы можем сделать это таким образом, чтобы мы не усугубляли социальные различия для здравоохранения. Последнее, что я хотел бы, чтобы это создало, — это для людей, у которых есть доступ к цифровым двойникам, а люди, у которых есть деньги, — это те, кто получает хорошее здравоохранение, а все остальные — нет. Я думаю, что это то, что нам действительно нужно иметь в виду, и именно поэтому я настаиваю на том, чтобы доступность была ключевым аспектом всего, что мы делаем, потому что в противном случае мы рискуем создать действительно хорошие решения для людей, которые могут себе это позволить, а затем оставить всех остальных в стороне. , и это то, что, как мы видели, в социальном плане не создает правильных стимулов, и нам нужно избегать этого.

Итак, опять же, персонализированные решения, данные и представление людей через их данные и цифровые носители, я думаю, действительно очень важны и действительно интересны, но для каждого из этих шагов мы задаемся вопросом, как мы можем донести их до всех, а не только тем немногим, кто может заплатить за них.

ИИ с человеком в цикле

Несмотря на быстрое развитие машинного обучения, ИИ еще предстоит пройти долгий путь, прежде чем он сможет проводить рассуждения и выводы, необходимые во многих задачах. ИИ с участием человека в цикле может стать осуществимой стратегией для повышения автоматизации и одновременного обеспечения контроля качества.

"Мы считаем ИИ еще одним членом команды, а не просто чат-ботом или просто инструментом, который используется в определенной части процесса".

В Curai Amatriain выступает за искусственный интеллект с экспертами в этой области. Отвечая на вопрос о потенциальной роли ИИ в диагностике и о том, ограничивается ли он сбором базовой информации о пациентах через чат-бота, Аматриайн сказал, что ИИ обладает гораздо более широким набором способностей от построения гипотез до постановки диагнозов, которые квалифицируют его как члена команды.

Вопрос: Curai выступает за подход, известный как искусственный интеллект, с привлечением экспертов. Ограничивается ли использование ИИ в настоящее время общением с пациентами через чат-бот для сбора базовой информации, или же ИИ уже активно участвует в диагностике заболеваний? Каким будет будущее?

Нет, ИИ — это не только чат-бот, который собирает информацию от пациента, мы говорим о нашем ИИ как еще один член медицинской бригады.

У нас есть разные члены медицинской бригады: у нас есть врачи, у нас есть фельдшеры, у нас есть клинические сотрудники, и у нас есть ИИ, который вмешивается во все это, и ИИ иногда разговаривает с пациентом и извлекает информацию, которую они говорят, и задают вопросы, а также собирают информацию о некоторых симптомах и некоторых находках вокруг пациента.

Однако он также построит свою собственную гипотезу и дифференциальный диагноз, а затем поможет врачам взять его оттуда. Он предоставит информацию, говорящую: «Эй, я разговаривал с Кларисой и думаю, что у них может быть это конкретное заболевание; но есть еще 3 вещи, которые они могли бы иметь. Теперь, что вы хотите сделать? Вы хотите задать этот вопрос или хотите задать эти другие вопросы?». Таким образом, они также, например, улучшат врачей, сообщая им не только о потенциальных диагнозах и состояниях, но и предлагая вопросы, которые могут быть интересны для следующего шага. И, например, если врач говорит: «Знаете что? Я действительно хочу исключить COVID в этом случае, какой хороший вопрос я могу задать?». Ну, ИИ скажет: «Ну, чтобы исключить COVID, я бы предложил 2 или 3 вопроса.» То есть, опять же, действуя как кто-то, кто помогает врачу на протяжении всего медицинского процесса, вплоть до лечения и плана лечения. и все такое. Поэтому мы считаем ИИ еще одним членом команды, а не просто чат-ботом или просто инструментом, который используется в какой-то конкретной части процесса.

В: Как вы можете гарантировать, что пациенты смогут указать степень своих потребностей с помощью компьютера?

Есть несколько вещей. Во-первых, пациенты не говорят на медицинском языке. Поэтому нам нужно создать ИИ, который понимает как язык врачей, так и язык пациентов. У нас есть пример, который очень прост для понимания, но он похож на медицинское понятие, такое как боль в животе. Может быть, пациент говорит: «У меня болит живот», а «боль в животе» должен быть понят ИИ, потому что, если вы врач, вы можете использовать боль в животе, но вы также должны понимать, что «боль в животе» или "болит живот" – это способ сказать, что болит живот.

Это довольно интересно, потому что мы провели исследование пользователей с некоторыми из наших пациентов или даже просто с пользователями, с которыми мы взаимодействуем через ИИ, и одна из вещей, которые мы получаем в качестве отзыва, это: «Вау! Этот ИИ действительно заботится обо мне, и я чувствовал, что он действительно понимает меня», и это действительно здорово, потому что это то, чего мы хотим».

…

Я думаю, что это сочетание экспертов в области и ИИ, созданного для понимания пациентов и врачей и заботы о принятии правильных решений, является очень мощным, потому что я думаю, что есть много отличных экспериментов. Я не знаю, слышали ли вы о каких-то экспериментах, в ходе которых теперь известно, что ИИ в большинстве случаев может побеждать людей, играющих в шахматы. Однако также верно и то, что ИИ плюс люди побеждают ИИ. Таким образом, сочетание ИИ и людей лучше, чем сам ИИ, и если экстраполировать это на мир медицины и здравоохранения, это станет еще более очевидным. Если это так в закрытом мире, таком как шахматы, в открытом мире, таком как медицина и уход за больными, где есть много информации, которая может быть скрыта или отсутствовать, совершенно ясно, что даже если бы один ИИ мог быть лучше, чем врач, комбинация ИИ и доктора всегда будет лучше. Сумма всегда будет лучше, чем ИИ сам по себе.

Конфиденциальность, регулирование и федеративное машинное обучение

Еще одним препятствием, мешающим ИИ совершить революцию в здравоохранении, является отсутствие доступа к медицинским записям, которые являются личными данными в соответствии с правилами безопасности и защиты конфиденциальности.

Возьмите в качестве примера статью Майкла Джордана. Джордан рассказал историю о том, должен ли его нерожденный ребенок пройти рискованную процедуру под названием амниоцентез, чтобы определить, есть ли у него синдром Дауна. Неопределенность, связанная с медицинскими процедурами, многие из которых являются инвазивными, является причиной регулирования. Хотя сбор, интеграция и анализ огромных объемов личных данных о здоровье могут помочь нам ускорить прорывы в медицине, каковы последствия конфиденциальности?

"Я думаю, что всегда существует интересное противоречие между конфиденциальностью и эффективностью персонализированного решения, которое может быть предоставлено каждому человеку, и здесь все становится немного сложнее".

Я спросил доктора Аматриана о возможности разработки механизма, который защищает конфиденциальность и в то же время позволяет нам учиться на коллективных шаблонах данных. По словам Аматриана, Curai использует обезличенные данные в своих моделях машинного обучения. Деидентификация — это процесс удаления всех персональных данных из данных пациента. Помимо деидентификации данных, Аматриайн отметил, что доверие — это то, что необходимо для ослабления противоречия между защитой конфиденциальности и анализом данных. Основой хороших отношений между пациентом и врачом является доверие между двумя сторонами. По словам Аматриана, «все сводится к обеспечению конфиденциальности и безопасности и укреплению доверия пациентов к тому, что данные будут использоваться только в их интересах и для них, а не против них».

В: Я считаю, что, собирая, объединяя и анализируя огромное количество личных данных о здоровье, мы можем ускорить прорывы в медицине и принести пользу человечеству. Но как насчет конфиденциальности? Что нужно для создания механизма, который защищает конфиденциальность, но в то же время позволяет нам учиться на коллективных закономерностях в данных?

Многие люди много думают над этим вопросом, потому что конфиденциальность в целом вызывает беспокойство, не говоря уже о здравоохранении. Большая часть нашей работы заключается в использовании только так называемых идентифицированных данных. Мы обязательно удаляем любое понятие идентичности из данных, которые мы собираем, а затем строим наши модели машинного обучения. Но есть и другие подходы, такие как федеративное обучение, которое позволяет различным непересекающимся наборам данных учиться друг у друга таким образом, чтобы защитить разную конфиденциальность.

Я думаю, что всегда существует интересное противоречие между конфиденциальностью и эффективностью персонализированного решения, которое может быть предоставлено каждому человеку, и здесь возникает некоторая сложность. В частности, в контексте медицинского обслуживания вы должны иметь возможность идентифицировать человека как личность, чтобы дать ему совет или даже помочь ему, и я думаю, что это интересное противоречие, которое необходимо разрешить с помощью концепции, которая очень связана с к конфиденциальности, но немного отличается, что доверие. Нам нужно построить доверие между пациентом и тем, кто предоставляет эту услугу и собирает эти данные, чтобы они верили, что эти данные никогда не будут, например, в нашем случае мы никогда не продаем и даже не делимся и не отдаем эти данные. . Однако нам нужно знать ваш номер телефона, и это интересно, потому что я даже не был уверен, зачем нам нужно знать номера телефонов людей. Оказывается, мы уже спасли жизни некоторым людям, потому что у нас есть их номера телефонов. Например, у нас были некоторые пациенты, которые связались с нами, у которых были попытки самоубийства, и единственный способ отправить кого-то к ним, это позвонить в полицию и сказать: «Эй, это номер телефона этого человека», и они были в состоянии добраться до них. Таким образом, возможность идентифицировать человека и связаться с ним в случае со здравоохранением и в этой ситуации становится важной. Теперь нам нужно заставить вас поверить, что номер телефона, который вы нам даете, будет использоваться только в жизненно важных или экстремальных ситуациях. И это то, что должно быть встроено в каждую систему, и это сочетание очень строгих политик конфиденциальности и подходов к работе с данными плюс безопасность.

Я думаю, что люди беспокоятся и о других вещах: "Что, если эти данные просочились?", "Что, если хакер проникнет в вашу систему и получит все мои данные?". Мы должны убедиться, что у нас есть подходы с высоким уровнем безопасности и строгие нормы конфиденциальности, которые вызывают у пациентов доверие и гарантируют им, что мы правильно поступаем с данными. Здесь есть еще много вещей, о которых я мог бы рассказать, и даже есть законы и правила, касающиеся защиты данных, которые действительно хороши и действительно интересны, но я думаю, что все сводится к обеспечению конфиденциальности и безопасности и укреплению доверия с пациентом. что данные будут использоваться только в их интересах и для них, а не против них.

Доктор Аматриайн и я также говорили о федеративном обучении (FL). Федеративное обучение — это подход к машинному обучению, который защищает личную информацию, разделяя предоставленные пользователем данные и агрегацию моделей машинного обучения. Хотя Аматриайн не сказал, что Curai использует FL, эта статья о FL в развитии цифрового здравоохранения подчеркивает потенциал FL в клинических условиях и сокращает дистанцию ​​между пациентами и прецизионной медициной.

(Это вторая часть серии из трех частей. См. Часть I и Часть III.)