Маятник прогресса
Произведет ли искусственный интеллект революцию в медицине или усугубит ее глубочайшие проблемы?
THE GIST: Идеологии оказывают мощное влияние на технологии и медицину. Хотя системы убеждений рационализма и эмпиризма часто замаскированы современным жаргоном, они древние. Часто не исследованные, они по сей день поляризуют дебаты. Однако по отдельности эти идеологии не могут привести к работоспособным решениям. Сложности реального мира требуют плюрализма, лучшего из обоих миров. Сегодня, отскакивая от рационалистического доминирования и подпитываемого большими данными, ИИ и медицина сильно тяготеют к эмпиризму. Такое выравнивание угрожает закрепить действующие лица в циклах взаимозависимости и усугубления ошибок. Примеры этих циклов включают данные как панацею, науку, свободную от теории, и неправильное использование статистики. Но есть все основания для оптимизма. Ряд различий между медициной и искусственным интеллектом может выявить лучшее, что может предложить каждое сообщество: срочность, умеренная с осторожностью; открытость, ценящая конфиденциальность; инженерный прагматизм в научных открытиях. Следует ожидать ажиотажа и разочарования, что является естественной частью процесса. Но это не еще одна зима искусственного интеллекта. Эти колебания маятника и идеологические корректировки являются важными механизмами прогресса.
Американская медицинская ассоциация (AMA) недавно выпустила свои первые рекомендации по политике в области расширенного интеллекта. В нем освещаются некоторые из наиболее серьезных проблем в области искусственного интеллекта, включая необходимость обеспечения прозрачности, предотвращения предвзятости, воспроизводимости и конфиденциальности. Те, кто работает в медицине, могут найти этот список знакомым. Медицина давно борется с подобными проблемами.
Сходства не случайны. ИИ и клиническая медицина имеют глубокие философские и методологические пересечения. Обе профессии недавно испытали колебания маятника в их преобладающих подходах. И в духе времени больших данных влиятельные интересы в медицине и искусственном интеллекте в настоящее время совпадают на одной стороне многовековой идеологической борьбы.
Понятно, что людей воодушевляет цифровая конвергенция в сфере медицинских технологий. Но идеологическое единство и укоренение могут усилить эти общие проблемы извращенной взаимозависимостью. Философские пересечения между ИИ и медициной не очень хорошо известны внутри их сообществ, не говоря уже о них самих. А это чревато риском. Если мы не осознаем силы, которые формируют нашу политику и технологии, они могут поработить нас.
Тем не менее, позитивное и продуктивное сотрудничество может развиваться. Искусственный интеллект и медицина воплощают в себе важные различия, которые могут способствовать развитию каждой стороны и стимулировать инновации. Рекомендации AMA - яркий тому пример, когда перед технологами встает ряд проблем для позитивных изменений и прогресса. И, как мы увидим, ИИ может многое предложить взамен.
Как могло бы процветать это новое партнерство? Поднимет ли он здравоохранение на новый уровень или отправит его по спирали взаимно усиливающих ошибок?
Параллельные истории медицины и искусственного интеллекта
На протяжении всей своей истории медицина и искусственный интеллект колебались между рационализмом и эмпиризмом. Питер Марки описывает борьбу между этими двумя системами мышления, восходящую к глубокой древности. Спор между рационализмом и эмпиризмом касается степени, в которой мы зависим от чувственного опыта в наших усилиях по обретению знания. Рационалисты утверждают, что есть важные способы, которыми наши концепции и знания приобретаются независимо от чувственного опыта. Эмпирики утверждают, что чувственный опыт - это окончательный источник всех наших концепций и знаний .
Марки подчеркивает, что даже основатели соответствующих племен не были строго одним или другим. Это послание плюрализма остается очень актуальным и сегодня, и мы будем к нему часто возвращаться. Соответственно, мы будем использовать эти термины просто как полюса вдоль оси. Эмпиризм подчеркивает роль опыта, особенно чувственного восприятия, и принижает (или прямо отрицает) ценность априорных рассуждений. Рационализм находится на другой крайности. И история качается вдоль этой оси по мере того, как доминируют различные идеологические установки.
Медицина
Уоррен Ньютон обобщает корни рационализма и эмпиризма в медицине. Ортодоксия в классическую эпоху была традиционно рационалистической. Рационалисты сосредоточились на анатомии и механизмах болезней, таких как учение о жидкости. Эмпирики были отколовшимися группами, критиковавшими авторитетные основы медицины. Эмпирики отвергли медицинскую теорию в пользу наблюдений. Эмпирики основывали свою практику на воспоминаниях о прошлых наблюдениях и знании того, как развивались похожие симптомы, каковы были их исходы, а также на определении сходства между рассматриваемым случаем и предыдущими случаями. Если эта древняя мудрость звучит знакомо, мы на мгновение вернемся к ней в ее современной форме.
Однако преобладающей парадигмой на рубеже 20-го века была рационалистическая экспертная медицина. Победили анатомы и сторонники фундаментальной науки. Ньютон объясняет: «То, что мы понимаем под современной медициной, имеет в своей основе триумф рационализма: упор на поиск основных механизмов болезни и разработку основанных на них терапевтических инструментов».
В основополагающей статье 1990-х годов, в которой была представлена новая парадигма доказательной медицины, Гордон Гайятт и его сотрудники подвергли сомнению авторитетные основы медицины, основанной на экспертных данных. Изучение и понимание основных механизмов заболевания необходимы, но недостаточны для клинической практики. Обратите внимание на примирительный язык и плюрализм, необходимый, но недостаточный.
Но маятник качнулся слишком далеко в сторону рационализма. Наука требует критики посредством эмпирического тестирования, с набором методов количественной оценки и статистического анализа. Требовалось исправление. Ньютон описывает доказательную медицину как «возрождение эмпирического мышления, переведенное на современный язык». Сегодня ДМ является преобладающим подходом в практике клинической медицины.
Искусственный интеллект
Маятник ИИ качается намного быстрее. В статье Искусственный интеллект: современный подход Стюарт Рассел и Питер Норвиг рассказывают о ряде эмпирических и рационалистических подходов. Как символические системы логики и рассуждений, так и коннекционистские подходы к нейронным сетям и обучению продемонстрировали свои первые перспективы. Но символические системы первыми завоевали коммерческое господство, как экспертные системы в 1980-х годах. Экспертные системы сочетают в себе базы знаний и механизмы рассуждений, тщательно подготовленные в сотрудничестве с экспертами в предметной области. В медицинских приложениях эта связь между экспертными системами и экспертной медициной стала очевидной.
Подобно экспертной медицине, экспертные системы оказались хрупкими, а их амбициозные цели не были реализованы. «Авторитет» кодифицированного опыта в базах знаний и системах, основанных на правилах, был непрактичным. Спокойно коннекционистские подходы с их акцентом на эмпирических методах и тщательном экспериментировании стали набирать обороты.
Сегодня машинное обучение является доминирующей формой ИИ. Как я отмечал в предыдущем посте, эмпиризм также является его доминирующей философией. Как и их предшественники в экспертных системах, коммерческие приложения машинного обучения все глубже проникают в медицину.
Циклы созависимости
Врачи-прагматики сочетают свой опыт и понимание биологических механизмов с клиническими рекомендациями, подтвержденными экспериментально. Аналогично в AI. Несмотря на здоровую напряженность и естественную привязанность, современные системы искусственного интеллекта сочетают в себе элементы эмпирического и рационалистического подходов. И это урок, который неоднократно усваивался и упускался из виду: Ни строгий эмпиризм, ни строгий рационализм не дают действенных решений.
Но, несмотря на практическую необходимость гибридных подходов, легко скатиться к идеологической разобщенности. Практики медицины и искусственного интеллекта могут бессознательно придерживаться сильной идеологической приверженности эмпиризму или рационализму, даже применяя плюралистические подходы. Ослепленные этими часто неизученными убеждениями, эмпирики смотрят через проход и видят, что луддиты не в состоянии понять потенциал ИИ, управляемого данными. Рационалисты оглядываются назад и видят нападки на знания и теорию. По иронии судьбы, оба видят в другом антинаучные настроения.
И риск закрепиться в этих идеологических бункерах реален. Преобладающие подходы к ИИ приобретают почти монопольную власть в медицине, отражая феномен принципа победитель получает все в технологиях. Независимая экспертная комиссия, назначенная DeepMind, подчеркнула риски монопольной власти. Хотя это может быть работой конкурентного рынка, это также может предвещать идеологическое закрепление, обязательства, отраженные в долгосрочных инвестициях и политических решениях. Мы живем в период с нуля, который может определять курс медицины и искусственного интеллекта на десятилетия.
Что происходит, когда две отрасли, двигаясь в унисон, усиливают свою общую идеологию? Риск состоит в том, что и медицина, и искусственный интеллект замыкаются в циклах взаимозависимости и взаимно усиливающих ошибок. Давайте рассмотрим несколько примеров. Риск наиболее очевиден в росте dataism, первом из трех циклов, которые мы рассмотрим.
1. Данные как панацея
Эмпиризм набирает обороты в эпоху больших данных. Dataism, термин, популяризированный историком Ювалем Харари, - это эмпиризм, брошенный на современный язык. Специалисты по обработке данных рассматривают мир как систему потоков данных. Они поклоняются данным. По словам Харари, поток информации - это высшая ценность этой новой религии. Сегодня все управляется данными (или потенциально так). Управление данными стало означать прогресс. Если вы подписываетесь на dataism, то из этого следует, что доступ к данным и таланты - единственные факторы, препятствующие прогрессу. В основе этого вероучения лежит то, что любые ограничения на свободный поток данных замедлят нас. И поэтому легионы датаистов объединяются в социальных сетях, защищая данные как жертву. Данные становятся основополагающим ресурсом, таким как нефть или электричество, которому угрожает репрессивная политика.
Джон Носта предупреждает о важной роли данных и их реальных демонов. Он помещает данные в основу: Данные - это наркотик. Данные - это драйвер. Данные - это дилемма . И он умоляет нас принять прогресс. Нам не нужна« охота на ведьм данных , когда регрессивная поза цепляется за восприятие более безопасного или лучшего прошлого». Сторонники данных признают риски конфиденциальности и управления данными. Но эти риски часто представляют собой цену прогресса, ваших данных или вашей жизни. Носта заключает: И нельзя отрицать, что эту проблему нужно решать. Но давайте справимся с проблемой, не разрушая эту основу для важных и жизненно важных инноваций, которые борются с настоящими демонами, которых мы называем болезнями .
Эрик Тополь и его коллеги из Scripps также являются заметными сторонниками медицины, основанной на данных. Они видят будущее, в котором поток данных с цифровых медицинских инструментов и датчиков, датизация медицинской сущности человека, приведет к медицинской революции в прогнозной аналитике. Помещая нас в закон Мура, они спрашивают: Когда и как весь этот тектонический технический прогресс наконец дойдет до клинической помощи? Опять же, их энтузиазм сдерживается проблемами конфиденциальности, безопасности и бесчеловечным действием врачей, ориентированных на данные.
Конечно, такие сторонники, как Носта и Тополь, правы: медицина, основанная на данных, предлагает огромные возможности и порождает серьезные проблемы. Но так же, как доступ к данным является одним из аспектов проблем медицины, это всего лишь один из аспектов решений ИИ. Элементы данныхизма, такие как эмпиризм, необходимы, но недостаточны. Многие из проблем с машинным обучением связаны с чрезмерной зависимостью от данных, включая проблемы, отмеченные в рекомендациях AMA. Более того, новые генеративные подходы, как и люди, становятся все более экономичными с данными. Эти системы создают внутренние представления мира на основе объяснений своей среды, которые затем тестируются с использованием разреженных данных. Ограничения на данные, как и ограничения в целом, способствуют инновациям.
И этот плюрализм распространяется и на человеческие аспекты медицины, находящиеся за пределами досягаемости технологий. Бенджамин Чин-Йи и Росс Апшур обсуждают клиническое суждение в эпоху больших данных и прогнозной аналитики. Они подчеркивают противоречия между различными философиями клинической медицины, включая подходы, основанные на повествовании и добродетели, а также недостаточность статистики и машинного обучения. Мораль нашей истории: клиническое суждение требует плюралистической эпистемологии, которая включает и интегрирует инструменты и идеи этих различных методов. Чтобы примирить их плюрализм с dataism, недостаточно утверждать, что вся жизнь алгоритмична, если мы не знаем всех алгоритмов.
И вопреки распространенному мнению, большие данные могут ухудшить положение. В своем эссе Спасая науку Дэниел Саревиц объясняет, как эмпиризм больших данных противопоставляется стремлению к научному знанию. Сложность такого подхода к науке заключается в том, что для любого большого массива данных, относящихся к сложной проблеме со многими переменными, количество возможных причинно-следственных связей между переменными неизмеримо больше, чем количество, которое ученый мог бы на самом деле придумать и протестировать. Через мгновение мы вернемся к этому важному вопросу о причинно-следственной связи и о том, как она усложняет медицинские исследования, основанные на данных.
Эти общие опасения по поводу данных распространяются на очень конкретные диагнозы и методы лечения. Адам Сифу и Винай Прасад подчеркивают, как прогресс в сборе данных в реальном времени может привести к худшим результатам, если лечение не будет хорошо обоснованным. Даже в нашу эпоху доказательной медицины многое из того, что мы делаем, не основано на доказательствах. Носимые устройства и смартфоны могут усугубить проблему, ускоряя процесс диагностики и лечения. Новой, но общей тенденцией является расширение диагностических категорий на основе достижений технологий и экстраполяция результатов ранних исследований (в более тяжелых болезненных состояниях) на менее тяжелые состояния. Сомнительные методы лечения, применяемые более эффективно или повсеместно, по-прежнему остаются сомнительными методами лечения.
Но dataism не ограничивается данными. Мало того, что человеческий опыт обесценивается, он становится одноразовым. Харари связывает данныеизм с возникновением постгуманизма. «Интернет всех вещей может создавать такие огромные и быстрые потоки данных, что даже обновленные человеческие алгоритмы не справятся с этим». Благодаря успеху машинного обучения и нашей этике, основанной на данных, набирает силу особенно суровая версия эмпиризма. Это отражается в следующем цикле созависимости, науки, свободной от теории.
2. Теоретическая наука
Наука - наш лучший образец ИИ. Во многих отношениях только наука отражает поистине революционное качество знаний, которые мы ожидаем от ИИ. Многие мечтают о системах искусственного интеллекта, которые превосходят способность людей воспринимать их результаты. Это обещание искусственного общего интеллекта (AGI). Сторонники теории, свободной от теории, делают ставку на неизбежность ОИИ или, по крайней мере, ряда высокопроизводительных узких ИИ, чтобы выполнить это обещание. Соответственно, когда большие данные решительно поворачивают маятник в сторону эмпиризма, наука, свободная от теорий, становится разрушительным шаром рационализма и человеческого опыта. Это уже сказывается на опыте врачей.
Клиническая медицина - благодатная почва для науки, свободной от теории. В своем введении в философию медицины Пол Томпсон и Росс Апшур утверждают, что большая часть медицины использует теории или модели как объединение текущих знаний и механизмов, лежащих в основе поведения вещей. Однако клиническая медицина опирается на клинические исследования, которые в настоящее время сами по себе не являются теоретической или теоретической областью медицины.
То, что существует градация качества научных доказательств, является одним из самых ранних и первых принципов доказательной медицины. В иерархии доказательств систематические обзоры и метаанализы обычно помещаются наверху, а опыт, выраженный в фундаментальной науке и тематических исследованиях, внизу. Эти иерархические классификации, признанные чрезмерно упрощенными, были заменены более сложными оценками доказательств и клиническими рекомендациями, такими как подход GRADE. Но старые бастионы рационализма - фундаментальная наука, физиология и экспертные знания - остаются свидетельствами последней инстанции.
Сторонники доказательной медицины указывают на множество случаев, когда экспертные знания терпели неудачу (то есть, когда исключительно механистические объяснения были недостаточными и в конечном итоге опровергались на основе эмпирических исследований). Критики противопоставляют себя биологически неправдоподобным методам лечения, таким как гомеопатия, которые находят доказательную поддержку. Эта неравномерная запись создает огромное напряжение для нашего маятника. По словам Томпсона и Апшура, растет число клинических исследователей, философов науки и научных исследователей в других областях, которые оспаривают отсутствие акцента на теории в клинической медицине. Рассмотрим адвокацию таких групп, как EBM +. Такие философы, как Джон Уильямсон и Нэнси Картрайт, открыто выступают за философский и доказательный плюрализм, особенно в использовании механистических объяснений.
С самого начала EBM выдержала негативную реакцию своих эмпирических взглядов. В своей 25-летней ретроспективе Гайятт и Бенджамин Джулбегович обратились к наиболее частым критикам EBM. Как и ожидалось, его часто называют антинаучным, шаблонным и особенно враждебным экспертам. Что бы вы ни думали об этой критике по существу, важно признать идеологический рефлюкс. Как объяснялось выше, такая критика ожидаема, поскольку рационалисты стремятся сбросить баланс.
И снова эти опасения отражены в ИИ. Вспоминая древние эмпирические и рационалистические традиции, Джудея Перл, один из пионеров вероятностного мышления и байесовских сетей, подчеркивает теоретические препятствия для машинного обучения. Вторя нашей теме плюрализма, он напоминает нам, что наука - это проблема двух тел. Наука о данных - это не только наука, но и облегчение интерпретации данных - проблема двух тел, соединяющая данные с реальностью. Сами по себе данные вряд ли можно считать наукой, независимо от того, насколько они велики и насколько умело ими манипулируют . Перл приходит к выводу, что ИИ человеческого уровня не может возникнуть исключительно из машин, слепых к моделям; это требует симбиотического сотрудничества данных и моделей .
Я уже обсуждал вопросы теории свободной от теории науки и ОИИ. Теоретическая наука поднимает вопросы о межотеоретических объяснениях и возникающих явлениях. Он не объясняет, как предположительные знания, смелые прыжки воображения будут преодолены. Он объединяет данные как наблюдения (материал предсказаний) с теориями как объяснения (материал науки). И неясно, как мы перейдем отсюда туда, от сегодняшних механизмов прогнозирования до систем, поддерживающих динамическое лечение и вмешательства.
Почему видение сохраняется? И в медицине, и в искусственном интеллекте наука, свободная от теории, движется проблемами сложности и неопределенности. Ахмед Алхатиб, биолог по молекулярному раку из Гарвардской медицинской школы, утверждает это. Биология, а тем более вся природа, слишком сложна для понимания людьми. Алхатиб воскрешает философию Фрэнсиса Бэкона, отца эмпиризма. Современный метод Бэкона, который включает редукционистские идеи посредством интеллектуального анализа данных, но затем анализирует эту информацию с помощью индуктивных вычислительных моделей, может изменить наше понимание мира природы. Алхатиб признает пробелы в этом видении, главным образом в тайне творчества, наблюдая, что человеческое творчество, кажется, все больше зависит от стохастичности предыдущего опыта - конкретных жизненных событий, которые позволяют исследователю замечать то, что другие не замечают. Но, как и многие провидцы, он видит постепенный путь вперед в мире статистики и теории вероятностей.
Некоторые могут списать Dataism и науку, свободную от теорий, как дико спекулятивную. Но этого нельзя сказать о прикладной статистике и теории вероятностей, принципах как медицины, так и искусственного интеллекта. Итак, мы сделаем последнюю остановку, чтобы увидеть, как эти мощные инструменты создают новый цикл созависимости.
3. Прикладная статистика и теория вероятностей
И медицину, и искусственный интеллект упрекали за неумелое использование статистики и теории вероятностей. За последнее десятилетие в медицине все больше осознают эти проблемы. Джон Иоаннидис заключает: Растет беспокойство по поводу того, что« большинство опубликованных в последнее время результатов исследований являются ложными ». Пол Смальдино и Ричард Макэлрит утверждают, что естественный отбор плохой науки не поддается легким решениям. Тем не менее, злоупотребление статистическими процедурами и плохие методы продолжаются и, возможно, увеличиваются. В таких областях, как психология, нейробиология и медицина, практики, увеличивающие количество ложных открытий, остаются не только обычными, но и нормативными .
Эти опасения отражаются в хоре экспертов. Рассмотрим заявление Американской статистической ассоциации о неправильном использовании p-значений и статистической значимости. Достоверность научных выводов, включая их воспроизводимость, зависит не только от самих статистических методов. Правильно выбранные методы, правильно проведенный анализ и правильная интерпретация статистических результатов также играют ключевую роль в обеспечении правильности выводов и правильного представления окружающей их неопределенности . В заключение они делают кивок в сторону рационализма: Ни один указатель не должен заменять научное рассуждение.
В области искусственного интеллекта растут аналогичные опасения. Перл стал одним из самых резких критиков ИИ. Али Рахими инициировал бурную дискуссию на NIPS 2017, сравнивая машинное обучение с алхимией. Гэри Маркус добавил резкую критическую оценку глубокого обучения. Были и громкие неудачи, такие как расистский эксперимент Тэя Microsoft и разочарование IBM в лечении рака.
Неправильное использование или чрезмерное доверие к статистике и теории вероятностей - повторяющаяся тема. Ранее я обсуждал слияние предсказания и объяснения и то, как неизбирательное использование статистического моделирования достигло масштабов эпидемии. Трудно переоценить важность этих различий в медицине и необходимость судебного использования этих инструментов. Людям нужно нечто большее, чем просто описания своих недугов или оценки рисков. Им нужны вмешательства и лечение. Тем не менее, многие перспективные приложения ИИ не обладают гибкостью, позволяющей включать вмешательства и методы лечения.
И есть благие намерения (и очень прибыльные) усилия по дальнейшей демократизации ИИ для масс с помощью общих данных, программного обеспечения с открытым исходным кодом и облачной инфраструктуры. Сочетание экономических стимулов и простоты использования привело к взрыву производительности как в приложениях искусственного интеллекта, так и в медицинских исследованиях. Но это не всегда приводит к решениям, совместимым с проблемами.
В этой очень сложной и неопределенной среде провидцы из медицины и искусственного интеллекта делают ставку на способность извлекать достоверные сведения о причинно-следственных связях из статистики. Виджей Панде, бывший директор программы по биофизике в Стэнфордском университете и генеральный партнер венчурной фирмы Andreessen Horowitz, является одним из таких дальновидных инвесторов. Ссылаясь на одну из центральных этических норм технологий, он описывает демократизацию здравоохранения. Как и лучшие врачи, искусственный интеллект можно постоянно переобучать с помощью новых наборов данных, чтобы повысить их точность, точно так же, как вы узнаете что-то новое от каждого пациента, каждого случая. Но уникальная способность ИИ применять методы временных рядов для понимания отклонения пациента от исходного уровня на детальном уровне может позволить нам впервые достичь статистического понимания причинно-следственной связи .
К сожалению, совсем не ясно, как будет реализовано это статистическое понимание причинности. Томпсон и Апшур утверждают, что определение причинности без теории или модели неуловимо. Что касается роли теории и доказательств в медицине, Мита Джакомини высказывает аналогичные опасения по поводу свободных от теории методов и их зависимости от статистики и вероятностей. RCT непреднамеренно превратился в нового« императора без одежды . Одетые в сложные методы, доказательства RCT иногда приветствуются как авторитетные, даже когда они неспособны предоставить значимую информацию - особенно, когда лежащая в основе причинная теория непостижима».
Эти вопросы повторяются в ИИ, философии и науке. В Книге причин Перл рассказывает о своем личном пути открытий. Признание того, что причинно-следственная связь не сводится к вероятностям, было очень тяжело достигнуто как для меня лично, так и для философов и ученых в целом. Тем не менее, циклы взаимозависимости продолжаются. Каждый раз, когда сторонники вероятностной причинности пытаются залатать корабль новым корпусом, лодка врезается в ту же скалу и дает новую течь.
Лодка упирается в одну и ту же скалу, идет ли она от медицины или от искусственного интеллекта. Инструменты могут применяться неправильно, а дорожные карты могут предвидеть медленный прогресс. Тем не менее, если обе стороны утверждают, что пробелы в наших знаниях будут устраняться постепенно, или, что еще хуже, если эти пробелы полностью отрицать, ошибки могут усилиться.
От ажиотажа к прогрессу
Общие проблемы медицины и искусственного интеллекта вытекают из их философского и методологического пересечения. Таким образом, мы могли бы продолжать и продолжать, освещая циклы взаимозависимости и возможности для взаимно усиливающих ошибок. Но я бы предпочел закончить с более позитивной и обнадеживающей точки зрения. У ИИ и медицины есть огромные возможности для взаимного развития.
«Такие моменты часто сигнализируют о начале концептуальной революции». - Пол Томпсон и Росс Апшур
Циклы ажиотажа и разочарования не новость в технологиях. И, как объясняют Чин-Йи и Апшур, это также поражает медицину. Восторженная поддержка больших данных и прогнозной аналитики не ограничивается популярными СМИ, но также высказывается лидерами медицинского сообщества и изобилует медицинской литературой, включая многие из самых известных журналов в этой области. Как только ажиотаж получит признание лидеров в обеих областях, он укоренится. Как выразился Носта: Зубная паста для больших объемов данных уже вышла из тюбика, и ее действительно не вернуть, каким бы плохим ни был ее вкус.
Но маятник не будет бесконечно сопротивляться своей коррекции. Постепенно он меняет направление, сначала умиротворяя действующих игроков, а затем уверенно двигаясь по мере того, как новые племена собираются и организуются. Существует тенденция рассматривать эти исправления как «возвращение» к предыдущему моменту, и это серьезная проблема. Мы должны бдительно отстаивать прогресс. Но исправления также борются с идеологическим уклоном и догмами. Несмотря на испуг и беспокойство сторонников искусственного интеллекта, критика не предвещает неудач, а дает возможность для прогресса.
И прогресс может появиться быстро. Единственное, что предлагает ИИ, не имеющее аналогов в медицине, - это скорость. Если скорость прогресса в медицине измеряется годами, если не десятилетиями, то в искусственном интеллекте - неделями. Технологи могут экспериментировать со скоростью, которая была бы недопустимой в мире медицины жизни и смерти. В виртуальных мирах ИИ обеспечивает безопасную среду для решения общих технических проблем. После этого инновации можно безопасно направить обратно в медицину.
Но в то же время важно помнить, что скорость убивает. В отличие от более абстрактных областей рекламы и маркетинга, медицина имеет дело с реальностью, а реальность откатывается самым худшим образом. Этика Кремниевой долины действовать быстро и ломать вещи не приветствуется в медицине. Я вспоминаю мудрость биолога Э. О. Уилсона и его книгу Согласованность, единство знания, кстати, книгу, которая привлекла меня к искусственному интеллекту. В экологии, как и в медицине, ложноположительный диагноз - неудобство, а ложноотрицательный - катастрофа. Вот почему экологи и врачи вообще не любят играть, а если и должны, то всегда осторожны. Ошибочно отвергать обеспокоенного эколога или встревоженного врача как паникера . Или как луддит.
Медицина создает среду, в которой известные проблемы и ограничения машинного обучения недопустимы, и AMA следует приветствовать за их поддержку. Это катализатор инноваций в области искусственного интеллекта. Много было сказано об их решении переосмыслить ИИ как расширенный интеллект, а не искусственный интеллект, чтобы подчеркнуть подчиненную роль этих технологий. Это ясная оценка нынешних ограничений ИИ. Это позиция прагматизма и плюрализма, а не луддизма.
Сотрудничество в области ИИ также может способствовать переходу к открытой науке. Хотя существуют различия в таких аспектах, как конфиденциальность пациентов, сообщество ИИ не будет мягко отказываться от ценностей открытости, даже если против этого будет выступать медицинский истеблишмент. Станьте свидетелем бойкота ИИ закрытого журнала Nature Machine Intelligence. Точно так же медицинские исследования и большая часть науки в целом подвергались критике за отсутствие направления и подотчетности. Саревиц утверждает, что научные знания развиваются наиболее быстро… когда они направляются на решение проблем, особенно связанных с технологическими инновациями. Он заключает: Только через прямое взаимодействие с реальным миром наука может освободить себя, чтобы заново открыть путь к истине. ИИ является примером такого прагматичного решения проблем, основанного на технологиях.
Постоянной темой в этой дискуссии является необходимость плюрализма, основанного как на эмпирических, так и на рационалистических идеях. Томпсон и Апшур напоминают нам о рисках закрепления и корыстных интересов. «Действительно, подавляющее большинство клинических исследователей, регулирующих органов и практикующих врачей либо отвергают, либо игнорируют, либо не обращают внимания на эту критику. Мы связываем это с укреплением, но, очевидно, есть и другие элементы. Такие моменты часто сигнализируют о начале концептуальной революции ». Вызывая Чарльза Дарвина, они обращаются к молодым и начинающим клиническим исследователям, «которые смогут беспристрастно взглянуть на обе стороны вопроса».
То, что мы наблюдаем в медицине и искусственном интеллекте, - это маятник прогресса. Данные и наблюдения уравновешены теорией; машинные решения уравновешены человеческим опытом; статистика и вероятности уравновешиваются причинным знанием. Эти противоречия и споры, какими бы сложными они ни казались изнутри, сигнализируют о прогрессе, а не о неудаче. И они необходимы для этого.
Из Объяснимого стартапа, посвященного науке и философии решения проблем.
Алкатиб, А. (2017). Наука переросла человеческий разум и его ограниченные возможности. Https://aeon.co/ideas/science-has-outgrown-the-human-mind-and-its-limited-capacities
Чин-Йи, Б. и Апшур, Р. (2017). Клиническая оценка в эпоху больших данных и прогнозной аналитики. Журнал оценки в клинической практике. Https://doi.org/10.1111/jep.12852
Цифу А. и Прасад В. (2016). Носимые устройства, смартфоны и новые антикоагулянты: мы будем лечить больше мерцательной аритмии, но будет ли лучше для пациентов? Журнал общей внутренней медицины 31: 1367. https://doi.org/10.1007/s11606-016-3761-8
Кларк Б., Гиллис Д., Иллари П., Руссо Ф. и Уильямсон Дж. (2014). Механизмы и иерархия доказательств. Топои 33 (2): 339–360. Https://doi.org/10.1007/s11245-013-9220-9
Джакомини, М. (2009). Теоретическая медицина и роль доказательств: почему императору снова нужна новая одежда. Перспективы биологии и медицины. Издательство Университета Джона Хопкинса. Https://europepmc.org/abstract/med/19395822
Харари, Ю. Н. (2016). ‘ Homo sapiens - устаревший алгоритм»: Юваль Ной Харари о том, как данные могут съесть мир. Https://www.wired.co.uk/article/yuval-noah-harari-dataism
Марки, П. (2017). Рационализм против эмпиризма. Https://plato.stanford.edu/archives/fall2017/entries/rationalism-empiricism/
Ньютон, В. (2001). Рационализм и эмпиризм в современной медицине, 64 Право и современные проблемы 299–316 (осень 2001 г.) https://scholarship.law.duke.edu/lcp/vol64/iss4/12
Носта, Дж. (2018). Данные и его настоящие демоны. Https://www.forbes.com/sites/johnnosta/2018/04/03/data-and-its-real-demons
Панде В. (2018). Как демократизировать здравоохранение: ИИ дает каждому лучшего врача. Https://www.forbes.com/sites/valleyvoices/2018/05/23/how-to-democratize-healthcare
Перл, Дж. (2018). Теоретические препятствия машинному обучению с семью искрами причинной революции. Https://arxiv.org/abs/1801.04016
Перл, Дж. И Маккензи, Д. (2018). Книга почему: новая наука о причине и следствии. Базовые книги
Рассел С. и Норвиг П. (2009). Искусственный интеллект: современный подход (3-е изд.). Пирсон.
Саревитц, Д. (2018). Спасая науку. Https://www.thenewatlantis.com/publications/saving-science
Томпсон, Р. Э. и Апшур, Р. Э. Г. (2017). Философия медицины, введение. Рутледж.
Тополь, Э. Дж., Стейнхубл, С. Р., Торкамани, А. (2015). Цифровые медицинские инструменты и датчики. ДЖАМА. 2015. 313 (4): 353–354. Https://doi.org/10.1001/jama.2014.17125
