Этические риски больше не фантастика

Примечание редактора. Это эссе заняло 2-е место в конкурсе писателей FaithTech 2021! Смотрите прошлых победителей здесь!

Когда в 2016 году был выпущен фильм Звездные войны: Изгой-один, он был приквелом к ​​фильмам, которым к тому времени исполнилось почти 40 лет. События фильма непосредственно предшествуют событиям фильма Новая надежда, вышедшего на экраны в 1977 году. Однако в случае с Изгоем-один создатели столкнулись с загадкой. Первоначальные актеры были на 40 лет старше, и некоторые из них были жизненно важны для мира истории. Но это была не самая большая их проблема.

В то время как многие актеры все еще были доступны, один актер, Питер Кушинг, сыгравший гранд-моффа Таркина, скончался в 1994 году. Вместо того, чтобы отказаться от его участия в фильме, прибыльная кинофраншиза решила воскресить его. Они вставили его внешность в цифровом виде, используя обычную компьютерную графику.

В то время некоторые люди задавались этическими вопросами использования изображения кого-то, кого больше не было рядом, чтобы одобрить или возразить (хотя это было сделано с одобрением его имущества). В интервью Нью-Йорк Таймс Джон Нолл, супервайзер по визуальным эффектам в Изгой-один, отрицал, что это было началом скользкой дорожки к использованию большего количества мертвецов. актеры в фильмах:

Это чрезвычайно трудоемко и дорого сделать. Я не представляю себе, чтобы кто-то занимался подобными вещами в небрежной манере.

Напротив, технология дипфейков уже сократила трудозатраты и затраты на вставку чьего-либо изображения таким образом, и кажется, что это именно то, что кривая опыта и экономия за счет масштаба быстро сделают ее еще более доступной — не только для кино. производителей, но даже скорбящих членов семьи и оппортунистических подражателей. Кто должен командовать этим типом «цифрового воскрешения» и какие ограничения следует соблюдать?

Права мертвых

Двенадцатью годами ранее, в 2004 году, автор Крис Уолли опубликовал двухсерийный роман под названием Тень и ночь. первый в его трилогии Агнец среди звезд. действие происходит в далеком будущем, вдохновленном постмилленаристской эсхатологией и научной фантастикой примерно в равной степени. В вымышленной вселенной Уолли праведные граждане Ассамблеи миров, состоящей из 1600 планет, руководствуются, помимо прочих законов и доктрин, Технологическими протоколами — набором ограничений, касающихся использования технологий. В предисловии к этим протоколам говорится, что

Поэтому Ассамблея торжественно обязуется, что будет принята только та технология, которая может быть продемонстрирована и не приведет к потере или повреждению индивидуальности или личности. (стр. 81)

Один из наиболее малоизвестных технологических протоколов Ассамблеи — номер шесть, в котором говорится, что «права человека на защиту от прямого или косвенного технологического злоупотребления не прекращаются со смертью». На первый взгляд кажется, что это редко становится проблемой, поскольку большинство людей оставят мертвых в покое, но нарушение этой границы — один из первых признаков того, что что-то идет не так в идиллической Ассамблее Миров.

Одним из следствий этого протокола является то, что певцы и актеры могут оставлять свой голос (воссозданный в цифровом виде) для потомков, но имеют право устанавливать ограничения на то, как он будет использоваться, в соответствии со своим художественным видением или любыми другими соображениями, которые они могут решить. иметь. В инциденте в начале истории персонаж готовит цифровую аранжировку рождественской песни и использует голос давно умершего певца; однако он «улучшает» ее голос, чтобы она могла петь за пределами своего естественного диапазона альта, вопреки своей воле. По мере развития романа всплывают другие, более вопиющие и серьезные нарушения почти каждого пункта Технологических протоколов.

Шестой протокол - единственный, прямо цитируемый в романе; в демонстрации эффективного построения мира содержание других остается неявным. Например, когда тревожное открытие меняет их общепринятый подход к технологиям, один из персонажей объясняет, что все наши машины заявляют, что они машины. Из подобных комментариев становится ясно, что, помимо Шестого Протокола, другими нарушениями Протоколов являются злоупотребления, стирающие границы между машинами и людьми, человечеством и животными, жизнью и смертью.

Дипфейки во благо?

За годы, прошедшие после публикации романа, методы машинного обучения позволили распознаванию образов и сопоставлению достичь беспрецедентного уровня сложности. Благодаря им изготовление аудиовизуального контента стало коммерчески доступным. Эти измышления обычно называют дипфейками, которые Википедия определяет как синтетические носители, в которых человек в существующем изображении или видео заменяется чьим-то подобием. Но дипфейки — не единственная форма, которую принимает эта технология. Есть и спасительное преимущество.

Более свежий пример — актер Вэл Килмер. В 2017 году актер, сыгравший легендарного Ледяного человека в Top Gun, потерял голос в результате операции по борьбе с раком горла. Затем в 2021 году система, управляемая искусственным интеллектом, в цифровом виде восстановила его естественный голос. Статья в Washington Post описывает усилия и высказывает некоторые потенциальные этические проблемы:

Но технология также вызывает юридические, этические и экономические проблемы, особенно среди актеров озвучивания, обеспокоенных тем, что их средства к существованию иссякают. Технология дипфейков [также] использовалась для создания видеороликов с такими политиками, как Дональд Трамп и Барак Обама, подчеркивая опасность технологий, разработанных для того, чтобы создать впечатление, будто люди говорят то, чего никогда не говорили.

Будь то положительные примеры, как у Килмера, тревожные злоупотребления, как воображает Уолли, или разрешенное использование, как Изгой-один, простая возможность создавать дипфейки будет иметь социальные последствия. В сфере развлечений, как показывают эти примеры, эта технология создает проблемы для людей, зарекомендовавших себя в индустрии, например, потерю творческого контроля (их можно вставлять в произведения без их согласия — скорее всего, фанфики проложат путь к этому). Для людей, которые пытаются обосноваться, это может означать потерю возможностей трудоустройства (поскольку теперь они также конкурируют с популярными фигурами, которые могут быть на пенсии или даже умерли). В таких областях, как новости и политика, проблемы идут еще дальше, создавая риск для нашей и без того изношенной социальной эпистемологии. В романах Уолли проблемы идут еще дальше: персонажи подвергаются сомнению в том, действительно ли их видеозвонки ведутся с человеком, которого они видят на другом конце провода, или они были перехвачены и изменены. Хотя изменение каналов с высокой пропускной способностью в режиме реального времени на данный момент все еще остается научной фантастикой, такую ​​возможность уже легко представить.

Глубокие розыгрыши и допустимый обман

В рамках библейского мировоззрения должно быть очевидно, что использование технологии дипфейка для лжесвидетельства против кого-либо является неправильным. Среди других возможностей это может быть вложение слов в чей-то смоделированный рот, что создаст для него проблемы. Точно так же Писание предостерегает от распространения сплетен или слухов — даже в качестве шутки:

Как безумец, бросающий факелы, стрелы и смерть, так и человек, который обманывает ближнего своего и говорит: Разве я не шутил? За неимением дров огонь гаснет, и там, где нет шептунов, утихают раздоры. Что древесный уголь для раскаленных углей и дрова для огня, то человек сварливый для разжигания раздора. Слова шепчущего подобны лакомым кусочкам, и они проникают в самые сокровенные части тела. (Притчи 26:17–22)

В то время как это эссе в основном сосредоточено на этических вопросах, связанных с созданием дипфейков, последний стих этого отрывка также содержит хорошее напоминание потребителям средств массовой информации следить за своей информационной «диетой»; в разворачивающемся медиаландшафте это очень своевременное предупреждение. Книга Притчей может многое сказать о правдивости и репутации. Он будет актуален как никогда в медиаландшафте, сформированном новыми технологиями, такими как дипфейки.

Противодействие мошенническому использованию дипфейков — это то, с чем согласны большинство религий и этических структур. Проблема, которая может быть более специфичной для христианского богословия, связана с использованием этой технологии для оживления мертвых (каламбур) в своего рода эрзац-воскресении. Использование человеческих усилий и изобретательности для отрицания реальности смерти или стремление каким-то образом избежать ее — вызов некоторым из главных утверждений Иисуса Христа. Без сомнения, будут некоторые споры о том, где провести черту, но дипфейки мертвых, безусловно, должны привлечь внимание верующих.

В то время как примеры из Тень и ночь и Изгой-один не делают вид, что умерший человек все еще жив, на рынке появляются другие приложения, которые пытаются предложить более интерактивный опыт общения с покойными друзьями и родственниками.

Дэниел Рейнольдс — директор и продюсер компании Kaleida, которая производит голограммы для цифровых воскрешений. Несмотря на цель компании, Рейнольдс сказал в интервью The Face: Я бы не хотел, чтобы моя семья использовала видео и возвращала меня. Я бы написал в завещании: тебе нельзя этого делать.

Так что даже некоторые люди, участвующие в создании дипфейковых воскрешений, не совсем довольны этим. И рассмотрение вопроса в завещании проясняет законность, но не полностью затрагивает мораль.

Вера после дипфейков

Собрав все вместе, технология создания убедительных подделок аудиовизуальных материалов достигла уровня, который был предметом научной фантастики всего десять или два года назад. Верующие люди (такие, как автор Крис Уолли) обладают ценным пониманием этики новых технологий такого рода, а научная фантастика является недостаточно используемым направлением для изучения этих тем. Они могут помочь нам представить себе последствия будущих технологий до того, как они представят актуальные проблемы, и проактивно решить этические дилеммы.

У дипфейков, безусловно, есть некоторое положительное применение, как в случае с Вэлом Килмером, и, возможно, в некоторых творческих начинаниях, когда участники соглашаются. Но, как я показал, дипфейки также позволяют использовать многочисленные приложения, которые сомнительны, если не неэтичны. Они варьируются от фанфиков до преднамеренного обмана. Особенно чревато будет использование подобий людей, которых уже нет в живых. Мало того, что дипфейки будут тем, что мы увидим на большом экране, читатели вполне могут столкнуться с этими проблемами конца жизни для себя или своих близких. Наша вера учит, что Бог вложил в каждого из нас стремление к вечной жизни. Цифровые воскрешения — плохая замена подлинному, и то, как мы, христиане, подходим к этой новой технологии, покажет, на что мы на самом деле надеемся.

Дэниел Скотт живет в восточной части Канады. Недавно он женился, а совсем недавно стал отцом девочки. Почти десять лет работает инженером-технологом на объектах по очистке промышленных сточных вод. До этого он учился в Университете Нью-Брансуика и Университете Ватерлоо.

Узнайте больше о FaithTech на faithtech.com.

Хотите присоединиться к движению? Начните здесь.