Энтони Бурден, клонирование голоса и неустойчивое состояние человечества
Нил Туркевиц
Время от времени облака неясности и двусмысленности рассеиваются, и наступает момент ясности, когда истина - или справедливость, или мораль - проявляется в видимой для всех форме. Один из таких моментов прояснения произошел, когда Кашмир Хилл опубликовала свою блестящую статью в NY Times под названием Секретная компания, которая может положить конец конфиденциальности, какой мы ее знаем », которая разоблачила компанию по распознаванию лиц Clearview, как за то, что она взломала Facebook, так и другие сайты для изображений для заполнения своей базы данных, а также для оценки вероятности того, что полученная информация усилит существующую несправедливость, не говоря уже о прекращении конфиденциальности. Как она отметила в последующей ветке Twitter, после того, как я сообщила о существовании Clearview AI в январе 2020 года, мир компании взорвался: судебные процессы, международные расследования, письма сенаторов.
Совсем недавно появился еще один момент ясности, благодаря статье Хелен Рознер в New Yorker под названием Этика Deepfake голоса Энтони Бурдена, в которой она сообщает об использовании клонирования голоса в документальном фильме о Бурдене и Режиссер Морган Невилл небрежно сказал ей, что мы можем провести дискуссию по этике документального кино по этому поводу позже. Интересно, что даже несмотря на то, что использование Невиллом ИИ для создания голосового клона могло быть разрешено (хотя вдова Бурдена отрицает, что давала какое-либо согласие), и только в результате Бурден, казалось, произносил слова, которые на самом деле были его (но написаны, а не произносились), это произвело цунами негативных отзывов - по крайней мере, частично вызванное бездушным, если не преднамеренным, высказыванием Невилла о верности Кремниевой долины идее быстро двигаться и ломать вещи. Выбор просить прощения, а не разрешения. Вера в то, что воспринимаемые потребности в инновациях меняют наши нормативные ожидания.
Вот примеры некоторых реакций:
Искусственный интеллект - одна из самых горячих (и самых спорных) тем в индустрии развлечений на данный момент. Создатели нового документального фильма Энтони Бурдена Roadrunner хотят доказать, что технологии способны вернуть к жизни наших любимых знаменитостей. Однако не все согласны с этой идеей, и некоторые пользователи Twitter описывают использование ИИ в документе как тревожное и гротескное.
***
Мы можем обсудить это на заседании комиссии по документальной этике позже. Что ж, это самый зловещий приговор сегодняшнего дня ».
***
***
В ответ на растущую критику, Невилл ответил Variety, сказав: Тони написал несколько предложений, которые он никогда не произносил вслух. С благословения его сословия и литературного агента мы использовали технологию искусственного интеллекта. Это была современная техника повествования, которую я использовал в нескольких местах, где я считал важным оживить слова Тони . Но некоторые из тех, кто был близок с Бурденом, не согласны. Бывшая жена покойного шеф-повара, Оттавия, ретвитнула статью в Variety, добавив: Я, конечно, НЕ был тем, кто сказал, что Тони будет прохладно с этим.
***
В блестящем интервью с директором проекта WITNESS Сэмом Грегори, которое я рекомендую всем прочитать полностью, Джастин Хендрикс цитирует Грегори следующим образом:
«Я не смотрел этот фильм, но, думаю, он довольно хорошо описан в статье для New Yorker. И он в основном отмечает, что он озвучивает некоторые электронные письма, которые Энтони Бурден отправил другу. И у него есть то, что звучит как голос Энтони Бурдена, произносящего некоторые строки в электронном письме. И, как выясняется в этой статье, режиссер раскрывает писателю, что он использовал один из растущих способов создания звука, который звучит как кто-то. Типа глубокого фальшивого звука, чтобы воссоздать эти слова ».
И я думаю, что это шокирует людей, не так ли? Людей раздражает то, что он затем продолжает: «О, может быть, когда-нибудь у нас будет комиссия по документальной этике». Это одно из тех обсуждений, которые нам необходимо вести о том, «когда можно синтезировать чье-то лицо, звук или тело и использовать это». И я думаю, что это вызывает у людей все эти вопросы о согласии, раскрытии и уместности ».
Наконец, ребята из Forbes сделали пугающее наблюдение:
«С ростом доступности и убедительности технологии дипфейков можно ожидать, что на горизонте появится еще больше цифровой некромантии. Несмотря на негативную реакцию Твиттера и общественный дискомфорт, цифровое воскрешение мертвых для развлечения и прибыли, похоже, продолжается без ограничений ».
Я боюсь, что статья Forbes может быть правильной, но предложит следующее - разрешение «бесконтрольного» развития клонирования / подделки, созданного ИИ, не является самореализующимся предложением. Мы должны требовать, чтобы мы участвовали в этических (и юридических) обсуждениях до того, как будут сделаны сомнительные применения, а не после. Наша задача - создать нормативные и правовые барьеры для обеспечения того, чтобы технологии развивались таким образом, чтобы улучшить условия жизни человека, а не обречь его на смерть.
Моменты ясности нельзя терять. Так что не будем тратить его зря. Этот конкретный момент прояснил для многих важность согласия при определении использования технологий. К сожалению, это не траектория нашего нынешнего пути. В частности, правительства по всему миру лоббируют с целью расширения исключений из авторского права, чтобы разрешить неразрешенный анализ текста и данных, и им говорят, что экономическая конкуренция и технологическое развитие требуют ослабления правил торговли на основе разрешений. Эта инновация требует свободного доступа к составным частям нашего человечества. Это соревнование с Китаем не дает нам роскоши придерживаться наших принципов. Я смиренно предполагаю, что человечество слишком дорого для нас, чтобы допустить это, и что мы должны сопротивляться отказу от наших ценностей, чтобы построить новый мир. В самом деле, какой в этом смысл, если этот новый мир не отражает то, как мы видим себя и кем хотим быть?
Точное место, где следует провести черту о том, когда и где разрешить несанкционированное использование изображений, голоса, слов и других проявлений нашей индивидуальности, может быть несколько неясным, но мы всегда должны четко понимать, что мы участвуем в таком разграничении. Сторонники расширенных исключений из авторского права выдвигают видение, что такие исключения являются стандартным требованием цифровой эпохи. Я призываю всех требовать большего уважения к человеческой воле и отвергать представление о том, что на самом деле есть какие-либо дефолты. В некоторых отношениях жизнь может содержать элементы случайности. Как коробка конфет. Но жизнь - это не коробка конфет, в которой мы запасаемся исключительно случайным образом и вне нашего контроля.
Мгновенная ясность инцидента с Бурденом напоминает нам о том, что сам акт получения личных данных с целью информирования ИИ - это момент, который бросает вызов фундаментальным аспектам нашей человечности и нашим нормативным ожиданиям в отношении поведения.
Проблема не только в том, как используется ИИ, но и в том, в какой степени мы готовы позволить технологиям фиксировать то, кем мы являемся, без нашего согласия. Чтобы заставить нас быть невольными слугами в создании мира вне нашего контроля. Я говорю, что мы им не позволяем. Некоторые вещи настолько просты.
Примечание. Чтобы получить некоторое представление о последствиях копирования материалов для обучения ИИ с точки зрения авторского права, я отсылаю читателей к недавнему решению судьи Леонарда Старка из окружного суда США по округу Делавэр в Thomson Reuters Enterprise Center GmbH и West Publishing Corp. , v. ROSS Intelligence Inc. , Суд установил, что утверждение Reuters о том, что ответчик участвовал в массовой незаконной загрузке материалов Westlaw, защищенных авторским правом, через LegalEase, которые затем использовались для разработки платформы ROSS , является основанием для иска Нарушение авторского права. Интересно, что не было обнаружено, что продукция ответчика по существу аналогична работам истца; Другими словами, это было просто копирование для обучения системы. Это временное решение, отклоняющее ходатайство об отклонении, обнадеживает, и за делом стоит присмотреться.
