Журналы отзывают все больше и больше статей, потому что они написаны не теми авторами, которых они называют
Практика науки включает в себя попытки узнать что-то о мире, используя жесткую логику и проверяя каждое предположение. Затем исследователи записывают все важные результаты в документы и отправляют их для возможной публикации. После процесса рецензирования, в ходе которого другие ученые проверяют правильность исследования, журналы публикуют статьи для всеобщего ознакомления.
Поэтому вы можете обоснованно полагать, что опубликованные статьи достаточно надежны и соответствуют высоким стандартам качества. Вы можете ожидать небольших ошибок, которые были упущены из виду во время рецензирования, но никаких серьезных ошибок. В конце концов, это же наука!
Однако вы ошибаетесь, ожидая этого. Настоящая и хорошая наука действительно существует, но существует и вызывающее беспокойство количество фальшивых исследований. И за последние несколько лет он молниеносно увеличился в объеме, о чем свидетельствует стремительно растущее количество ретрактов бумаг.
Фальшивая наука
Ряд практик в настоящее время угрожает подорвать законность научных исследований. К ним относятся вымышленные авторы, добавление ученых, которые не имели никакого отношения к статье в качестве соавтора, и даже более гнусные практики, такие как заваливание журналов материалами из низкокачественного мусора, написанного искусственным интеллектом.
Этот процесс похож на отзыв в продуктовом магазине. Если ранее проданный товар по какой-либо причине является плохим или опасным, магазин может решить отозвать его и попросить всех покупателей не использовать его. Точно так же журнал может вспомнить опубликованную статью, которая в ретроспективе оказалась подделкой.
Конечно, иногда статьи отзываются из-за того, что авторы допустили искреннюю ошибку в своих исследованиях. Однако более чем в половине случаев это связано с академическими проступками или мошенничеством. Еще десять лет назад такое поведение было более или менее ограничено исследователями, которые фальсифицировали экспериментальные данные или искажали результаты в пользу своей теории. Однако чем сложнее становились технологии, тем сложнее становилось все больше.
Одно из простых решений - просто игнорировать фальшивые бумаги. Проблема, однако, в том, что их часто бывает трудно идентифицировать. Кроме того, если статья отозвана из публикации, это немного запятнает весь журнал. Если это случится достаточно часто, то доверие общественности к науке в целом упадет. Поэтому всему научному сообществу необходимо серьезно отнестись к этой проблеме.
Камилла Ноас
Некоторые из этих проблем являются аналогами. Камилла Ноас не имеет большого отношения к ИИ, но тем не менее заслуживает упоминания. Ноис родился в марте 2020 года и уже является соавтором более 180 статей в таких разнообразных областях, как астрофизика, информатика и биология.
Я говорю это, потому что Nos не настоящий человек; скорее, это артефакт, изобретенный французской исследовательской группой RogueESR. Он носит нейтральное в гендерном отношении французское имя Камилла и представляет собой сочетание древнегреческого слова νοῦς, означающего разум или познание, и французского слова nous, означающего мы.
Nos был создан в ответ на сильно раскритикованный новый закон (источник на французском языке) о реорганизации академических исследований во Франции. Хотя цель закона состояла в том, чтобы улучшить исследования, его критики думают, что работа ученых будет несправедливо ненадежной и зависеть от внешнего финансирования в соответствии с его требованиями. В частности, финансирование, которое получает ученый, должно зависеть от их собственных предыдущих достижений, хотя исследования часто проводятся сообществом.
Чтобы сделать эту озабоченность очевидной, многие исследователи решили добавить Нет в качестве соавтора. Однако журналы и рецензенты, которые отвечали за проверку этих статей, не всегда были проинформированы о том, что Нос не настоящий человек.
Хотя исследовательская часть всех этих статей пока кажется законной, вызывает беспокойство то, что можно так легко добавить соавтора, у которого даже нет удостоверения личности. Хотя акцентирование внимания на совместных усилиях с такими авторами, как Ноус, является почетной целью, идея о том, что ученые могут быть изобретены из воздуха в наши дни, вызывает серьезную тревогу.
Добавление авторов, которым они не принадлежат
Однако выявление недостатков системы рецензирования и академических кругов - не единственное место, где проявляется эта проблема. Особенно в газетах об ИИ участились случаи фейкового соавторства. Этот обман включает в себя практику добавления известного ученого в качестве соавтора без его ведома или согласия. Другой способ добиться этого - добавить вымышленного соавтора, вроде Камиллы Ноас, но с целью симулировать международное сотрудничество или более широкий научный дискурс.
Помимо создания иллюзии международного сотрудничества, добавление фальшивых авторов с уважаемой репутацией может способствовать авторитету статьи. Многие ученые ищут в Google имена всех авторов, прежде чем читать статью или цитировать ее в своей работе. Но вид соавтора из престижного учреждения может побудить их внимательнее изучить статью, особенно если она еще не рецензировалась. В этом случае престиж учреждения может служить доверенным лицом до тех пор, пока не будет завершена экспертная оценка, которая может занять много месяцев.
Неизвестно, сколько фальшивых авторов добавлено на сегодняшний день. Во-первых, некоторые ученые могут игнорировать тот факт, что их имя написано на бумаге, которую они не писали, тем более, что содержание рассматриваемых статей часто не ужасно (хотя и не очень хорошо), и судебный иск может оказаться слишком большим. дорого и трудоемко. Более того, в настоящее время не существует стандартного метода проверки личности ученого до публикации статьи. Это дает возможность фиктивным авторам.
Все эти проблемы указывают на необходимость того или иного процесса проверки личности. Ничего формального в настоящее время нет, и это досадно. В наши дни, когда каждый банк может проверить ваш идентификатор в Интернете и сопоставить его с лицом на вашей веб-камере, наука не может даже защитить своих самых ценных участников от мошенников.
Алгоритмы создают плохие статьи
В 1994 году физик Алан Сокал захотел написать фальшивую статью на какую-то тему, имеющую отношение к гуманитарным наукам, и отправить ее в журнал. Его приняли, хотя никто, в том числе и сам автор, не понял, о чем он говорил. Это не только нелепо, но и показывает, насколько ленивыми могут быть рецензенты. В данном случае они буквально приняли то, что по сути было тарабарщиной.
Аналогичным образом в 2005 году трио студентов, изучающих информатику, решило разработать SCIgen как шутку над исследовательским миром. Эта программа производит совершенно бессмысленные документы с графиками, рисунками и цитатами, приправленными множеством модных словечек из информатики. Одна из их бессмысленных статей была принята на конференцию в то время. Более того, в 2013 году 120 статей были отозваны различными издателями после того, как они узнали, что их написал SCIgen. В 2015 году сайт по-прежнему посещали 600 000 страниц в год.
К сожалению, фальшивые бумаги создаются не только для шуток. Целые компании зарабатывают деньги, составляя тарабарщины и отправляя их в хищные журналы, которые почти ничего не отвергают, потому что берут плату за публикацию. Такие компании, также называемые бумажными фабриками, становятся все более изощренными в своих методах. Хотя обнаружение мошенничества также улучшается, у экспертов есть законные опасения, что эти недобросовестные актеры, отточив свое мастерство в борьбе с некачественными журналами, могут в следующий раз попытаться затопить настоящие. Это может привести к гонке вооружений между бумажными фабриками и журналами, которые не хотят публиковать фальшивые работы.
Конечно, на горизонте стоит еще один вопрос: сколько еще люди будут единственными, кто будет писать исследовательские работы? Может ли случиться так, что через 10 или 20 лет алгоритмы на основе ИИ смогут автоматически анализировать массивы литературы и формулировать свои выводы в новой статье, которая соответствует самым высоким стандартам исследования? Как мы будем отдавать должное этим алгоритмам или их создателям?
Однако сегодня мы сталкиваемся с гораздо более глупым вопросом: как мы можем идентифицировать документы, написанные с помощью относительно простых алгоритмов и не содержащие разумного содержания? И как с ними бороться? Помимо волонтерских усилий и принуждения авторов-мошенников к отзыву своих статей, у научного сообщества на удивление мало ответов на этот вопрос.
Действовать против фальшивой науки
Большинство журналов с хорошей репутацией, которые можно потерять, имеют хотя бы базовый процесс проверки электронной почты для исследователей, желающих отправить статью. Вот, например, система верификации журнала Science. Несмотря на это, создать поддельный адрес электронной почты и выполнить с ним весь процесс довольно просто. Этот вид мошенничества все еще случается часто, о чем свидетельствует огромное количество статей, которые ежегодно отзываются даже из престижных журналов. Итак, нам нужны более сильные системы.
Одним из хороших способов проверки личности ученого является ORCID. По сути, с помощью этой системы каждый исследователь может получить уникальный идентификатор, который затем автоматически связывается с его послужным списком. Использование ORCID в процессе рецензирования и публикации журнала значительно усложнит создание поддельной личности или использование учетных данных других исследователей без их ведома или согласия. Хотя это очень хорошая инициатива, ни один крупный журнал еще не предоставил идентификаторы из ORCID или других источников обязательными для всех авторов. На мой взгляд, это позор, и это можно довольно легко исправить.
Наконец, в этой борьбе мог бы быть полезен ИИ. Некоторые журналы развертывают модели искусственного интеллекта для обнаружения фальшивых материалов. Однако до сих пор журналы не смогли прийти к единому стандарту. Как следствие, журналы, которым не хватает ресурсов или опыта, не могут применять те же критерии качества, что и публикации с более высоким рейтингом.
Это увеличивает воспринимаемый разрыв между журналами высокого и низкого уровня и, на мой взгляд, является четким доказательством того, что журналы по всем направлениям должны объединиться и найти способ совместно использовать ресурсы для обнаружения мошенничества. Конечно, в краткосрочной перспективе высокоуровневые журналы могут извлечь выгоду из отсутствия конкуренции. Однако в долгосрочной перспективе наличие большего количества журналов с низкими стандартами может снизить доверие к научным публикациям в целом.
Однако дело не в том, что исследователи и научные журналы сидят на своих ленивых задницах вместо того, чтобы выслеживать авторов-мошенников. Отдельные публикации на самом деле очень много делают для отслеживания фальшивых документов. Но если у одних журналов есть средства, а у других - нет, публикации не работают на равных условиях. Кроме того, мошенники всегда смогут нацелить свои фальшивые статьи на какой-нибудь недостаточно финансируемый журнал. Журналам необходимо действовать сообща, чтобы найти способ отслеживать бумажные фабрики и проверять личности всех их авторов.
За пределами науки: фейковые новости становятся фальшивыми
Если вы думаете, что фальшивый контент - это проблема, ограниченная наукой, вы ошибаетесь. Всего несколько лет назад, в разгар эры Трампа, «фейковые новости» были модным словом сезона. С тех пор методы создания контента, влияющего на общественное мнение, стали только более изощренными и очень похожи на методы фальшивых научных статей.
Например, фейковые журналисты были очевидными авторами статей в различных консервативных СМИ. Их хедшоты были сгенерированы с помощью AI-алгоритмов. Их аккаунты в LinkedIn и Twitter полностью поддельные, и до сих пор неясно, кто на самом деле стоит за этими статьями.
Есть также несколько генераторов статей фейковых новостей, которые упрощают создание фальшивых заголовков. Хотя вы, возможно, не сможете убедить опытного проверяющего факты с помощью такого контента, вы сможете произвести впечатление на среднего пользователя Facebook, убедив его поделиться статьей.
Вот почему я сам склонен доверять только новостям и науке из установленных источников или контенту, который я могу проверить достаточно, чтобы определить, что это правда. Я полностью игнорирую другие источники, потому что знаю, что по большей части они варьируются от «немного неправильных» до «полностью выдуманных».
Несколько лет назад у меня не было такого отношения. И люди вокруг меня тоже. Доверие к новостям резко подорвано, и я не знаю, как мы сможем его восстановить. Теперь то, что уже происходит с новостями, происходит и с наукой. Достаточно плохо, что трудно узнать правду о том, что происходит в мире. Но если сами основы человеческого знания подорвутся, это станет еще большим бедствием.
Хотя споры вокруг фейковых новостей утихли после выборов 2020 года, они еще далеко не закончены. Поскольку инструменты для подделки контента по-прежнему становятся все более и более изощренными, я считаю, что в ближайшие годы разговоры будут получать все больше и больше. Надеюсь, к тому времени мы придем к единому мнению о том, как бороться с фальшивым контентом - и фальшивыми исследованиями тоже.
Эта статья изначально была опубликована на странице Built In.
