Этика и соображения AI

Наш стремительный образ жизни позволит распространению фейковых новостей уничтожить нас.

В разгар революции больших данных и информационного ожирения мы должны объединиться, чтобы регулировать следующее устрашающее поколение фейковых новостей - дипфейки.

Культура разделения и шока контента

В нашей культуре существует разделительное напряжение, порожденное СМИ, которые охотятся на людей, которые быстро верят ярким заголовкам, особенно если эти заголовки соответствуют нашему представлению о мире. Это явление известно как «предвзятость подтверждения». Как общество, мы ругаем друг друга за ширмой, будучи зависимыми от наших склонностей к быстрому обвинению и быстрой защите. Мы защищаем наше ложное чувство справедливости, часто основанное на фальшивых новостях и заголовках полуправды.

Мы также живем в кибер-век, когда технологические достижения утомительны, а новая информация быстро наводняется в Интернете. Фактически, каждые 60 секунд происходит в среднем 350 миллионов твитов, 294 миллиарда отправленных электронных писем, 54 миллиона сообщений WhatsApp и 500 часов материалов, загружаемых на YouTube. С таким огромным объемом данных мы парализованы нашей способностью осмысленно обрабатывать информацию.

Это противоречивое напряжение в сочетании с огромным избытком данных может и будет использоваться и еще больше усиливаться грядущим поколением фейковых новостей - дипфейками.

Устрашающие подделки глубокого обучения

Дипфейки - это искусственно созданные медиа, созданные для имитации индивидуального подобия. По сути, это снятые клипы, в которых кто-то изображает поведение человека, которого нет. Этот тип синтетических медиа не нов, но только недавно он стал пугающе реалистичным за счет использования методов глубокого обучения и объединения таких технологий, как воспроизведение лица и синтезаторы голоса. Таким образом, был придуман термин дипфейк: как сочетание глубокого обучения и фейка. Используя искусственный интеллект, любой может создавать убедительные реплики, обучаясь на большом наборе изображений и видео определенного человека, где модель будет учиться и воспроизводить его поведение.

Подделка вокальных подписей

Технологии голосовых синтезаторов производятся веками. По общему признанию, существует большое количество респектабельных приложений для синтетической речи, таких как обеспечение простоты общения для глухих или слепых. Однако с рождением синтетической речи последовало множество экзистенциальных вопросов, касающихся этики воспроизведения речи. Наши голоса иногда называют нашими слышимыми отпечатками пальцев. У каждого из нас есть отчетливая вокальная подпись, которую формируют композиции нашего тела. Воспроизведение этого может показаться нарушением, мешающим нашим уникальным голосовым родинкам, которые формируют наше самоощущение.

Как только мы объединяем технологии воссоздания и замены лица со сложными технологиями синтетической речи, мы получаем фрагмент мультимедиа, который создает впечатление, будто конкретный человек говорит и делает что-то по прихоти другого человека.

Тревожные последствия дипфейков

Проблема в том, что мы визуальные существа, которые быстро меняют нашу точку зрения и правду, когда мы видим какое-либо событие; осознание того, что эти технологии существуют, вряд ли помогает. Мы склонны сразу же поверить в то, что понимаем визуально. Прежде чем мы рассмотрим полезные действия, которые мы можем предпринять для уменьшения потенциального ущерба, давайте рассмотрим несколько проблемных сценариев, которые могут возникнуть.

В эпоху дипфейков могут произойти два разрушительных и всеобъемлющих последствия:

Одним из них является аннулирование видеозаписи как надежного доказательства. Допустим, жестокое обращение снято на пленку, и жертва призывает к справедливости, представляя эти доказательства в суд. Проблема в том, что видео больше не рассматривается как честное и реальное доказательство. Кроме того, существует длительная несправедливость, которая продлевает страдания жертвы и не будет доказана из-за признания недействительными видеодоказательств.

Второй тип - это несправедливые обвинения лица, подрывающее его репутацию. Сценарий, при котором преступление не совершается, но создается дипфейк-видео, чтобы связать кого-то с скандалом. Если мы будем следовать тому же миру, что и в первом сценарии, мы можем сказать, что видео по-прежнему не рассматривается как реальное доказательство. Однако это видео может серьезно подорвать репутацию человека в обществе. Даже слухи сеют семена сомнения в сознании публики в отношении определенного человека, не говоря уже о видео, которое демонстрирует наши эмоциональные, инстинктивные склонности к тому, что мы видим правду.

Приведут ли фейковые новости к третьей мировой войне?

Один мысленный эксперимент, который меня по-настоящему обеспокоил, был, когда кто-то предложил такой сценарий:

Представьте, что кто-то создал очень своевременный и реалистичный дипфейк, изображающий заявление нашего президента о начале войны. По мере того, как технологии начинают делать реальность и фальшивые видео неотличимыми, как мы можем определить, настоящая ли фальшивая запись?

Шамир Аллибхай, генеральный директор Amber, считает, что мировая война может разразиться из-за дипфейка. Он предположил, что нация может сфабриковать доказательства« в качестве предлога, чтобы нанести удар первой и начать войну […] (или) разжигать беспредел, настраивая разные страны друг против друга, используя эту технологию».

Ужасающий крик любимого о помощи

А еще есть эта жестокая финансовая афера, от которой у меня всегда мурашки по коже:

Ваш телефон звонит, а на другой линии вы слышите, как ваша дочь (или любой близкий человек) терпит бедствие. Ваше сердце начинает бешено биться, и время останавливается, когда их длинные, громкие пронзительные крики звучат в ваших ушах. Другой голос начинает говорить и требует прислать крупную сумму денег для освобождения. Болезненное эхо криков доводит вас до истерии, и вы не учитываете возможность того, что это может быть неправдой, потому что как это могло быть? Вы слышали их отчетливый, неповторимый голос. За исключением того факта, что на самом деле это не они. Это синтезатор голоса. Это розыгрыш.

Этот ужасающий сценарий представляет собой форму мошенничества, известную как виртуальное похищение. Это именно то, что случилось с Трейси Хольцер, которая потеряла 3300 долларов во время испытания трех отдельных денежных переводов, которые мошенники убедили ее сделать.

Несмотря на мое понимание этой аферы и типичный скептицизм, я не могу сказать вам с полной уверенностью, что, услышав такой интимный крик о помощи от моего любимого человека, я не впаду в иррациональное (или, возможно, очень рациональное) безумие. Я не могу с уверенностью сказать, что моей первой реакцией было бы не просто дать преступнику любой материалистический предмет, который он хотел, чтобы остановить крики. И только представьте, если люди этого не знают. Дипфейк может быстро вызвать травму из-за осознанности и, более того, рост финансового ущерба без осознания.

Плач по голосу любимого человека

На болезненной, касательной ноте, это чем-то напоминает эпизод с черными зеркалами «Скоро вернусь», где скорбящая вдова обращается к новой технологии, которая позволяет ей отправлять текстовые сообщения своему покойному парню.

Это быстро переходит в звонки, где технология обучается на записях его голоса и объединяет все особенности личности из его предыдущих сообщений, чтобы создать реалистичный, коммуникативный голос на другой линии. Это выводит экзистенциальные проблемы синтезаторов голоса на совершенно важный уровень, и, честно говоря, это не кажется слишком далеким от того, на чем мы сейчас находимся.

Что насчет программного обеспечения для обнаружения Deepfake?

Хорошая новость заключается в том, что в настоящее время разрабатываются технологии, которые проверяют легитимность источника видео. Эти технологии будут востребованы в использовании и изощренны. Это может решить проблему потери доверия к видеоматериалам, если мы сможем уверенно и последовательно отличать настоящие от подделки по мере того, как дипфейк-программное обеспечение продолжает развиваться.

Тем не менее, наша культура пропитана оправданной паранойей в отношении источников наших статей, поскольку мы часто сталкиваемся с противоречивыми мнениями с кажущимся равным количеством доказательств. Нас парализовало недоверие. В результате этого могут возникнуть социальные последствия, которые приведут к ущербу до того, как кто-то проявит инициативу, чтобы проверить, реально он или нет. И, честно говоря, если бы мы уже не читали прошлые заголовки, я бы не стал забывать об этом.

Практические советы, как выжить в культуре разделения

Я был вынужден написать эту статью, частично для того, чтобы представить возможные последствия дипфейков; однако мое главное намерение состояло в том, чтобы подчеркнуть, что мы должны быть более сознательными и критичными потребителями информации для всех новостей и средств массовой информации. Поэтому в этой последней части статьи я хочу дополнительно объяснить, как мы уязвимы для фальшивых новостей, выделить потенциальные предубеждения в исследованиях и поделиться указаниями о том, как мы можем подойти к информации, чтобы лучше подготовиться.

Чтобы понять, в какой степени мы полагаемся на нашу мгновенную обработку суждений, мы можем обратиться к статье Энни Рено: Я написала заголовок новости, в котором даже не было ссылки на статью. Так или иначе, более 2000 человек прокомментировали это . Название статьи отражает суть ее опыта. Она написала полную статью, но распространился пост с заголовком ее статьи, который ссылался на страницу с ошибкой 404, а не на ее статью. Тем не менее, было более 2000 откликов и тысячи репостов, содержащих такие комментарии, как эта статья полна гоночных задниц. и эта статья - фейковые новости. Это явное проявление нашей культуры высокой реактивности и быстрых суждений, которым не хватает критического и объективного анализа.

И я не виню нас. Точно так же, как истории помогли нам выжить в мире с безграничными возможностями (воспроизвести определенный сценарий, не переживая его), мы создаем ярлыки, чтобы не отставать от безграничного информационного взрыва. Мы запрограммированы на то, чтобы выбирать короткие пути для выживания. В целом, мы завалены избыточной информацией, которая влияет на нашу продуктивность при принятии решений и, как ни странно, на понимание чего-то целостного и всестороннего.

"Фигуры не лгут, а фигура лжецов"

Приведенная выше цитата отражает идею о том, что, хотя чистые данные объективны, человек, интерпретирующий эти данные, может иногда исказить истину в соответствии со своими собственными планами. В «Математике для жизни» Джеффри Беннетт объясняет, что мы «могли бы подумать, что было бы просто делать выводы, когда (у нас) есть результаты, но […] если кто-то хочет поддержать предопределенное мнение, его легко« раскрутить ». «Результаты отчета, выборочно решая, какие из них следует подчеркнуть».

Корреляция =! Причинная связь

Широко распространенная «мантра» в области статистики гласит: «корреляция не равняется причинности». Это служит предостережением от наивного предположения, что изменение одной переменной вызывает изменение другой переменной при наличии корреляции. Например, предположим, что вы собираете данные и находите корреляцию между продажами мороженого и продажами солнцезащитных очков. Корреляция присутствует, но было бы наивно предполагать, что продажа мороженого вызывает продажу солнцезащитных очков или наоборот.

Некоторые из моих любимых демонстраций этого есть на странице Тайлера Вигена Ложные корреляции. Вот несколько примеров:

Принять корреляцию как причинно-следственную связь означало бы прийти к выводу, что больше денег, потраченных на науку, космос и технологии из США, приведет к большему количеству самоубийств через повешение, удушение и удушение. Это также привело бы нас к петиции для Николаса Кейджа, чтобы он прекратил играть, чтобы уберечь бедные души, которые тонут, падая в бассейн из-за его актерской карьеры.

Конечно, это все для смеха, но точно демонстрирует, как данные могут быть легко искажены, чтобы соответствовать повествованию.

Вопросы для анализа источников

Каждый раз, когда мы читаем что-нибудь скандальное, что сразу играет на наших эмоциях, давайте сделаем шаг назад и исследуем источник информации. Вот вопросы, которые мы можем задать себе, чтобы быть заинтересованными, скептически настроенными и критически настроенными потребителями информации:

  1. Смещение отбора: Сколько было участников? Точно ли группа участников представляет население или это приводит к тому, что исследование благоприятствует определенным результатам?
  2. Погрешность измерения. Справедливы ли условия, в которых проводится опрос или эксперимент? Вызывает ли это определенную реакцию?
  3. Низкая достоверность. Измеряет ли исследование то, что, согласно его утверждениям, измеряется? Соответствуют ли тесты тому, что проверяется в эксперименте? Распространены ли результаты на популяцию, которую он якобы представляет?
  4. Точность. Достаточны ли размер выборки и количество ответов?

Еще один замечательный ресурс - Десять вопросов для обнаружения фейковых новостей, предоставленный проектом News Literacy Project. Миссия этой образовательной некоммерческой организации - научить студентов навыкам, которые необходимы им, чтобы быть умными, активными потребителями новостей и другой информации, а также заинтересованными, информированными участниками общественной жизни.

Этот тип массовой инициативы - именно то, что нам нужно, чтобы отодвинуть нынешнюю эру фейковых новостей и подготовиться к грядущей эволюции мошенничества с цифровыми новостями. Осведомленность порождает осторожных потребителей и срочно создает технологию, которая обнаружит легитимность любого конкретного СМИ. Я надеюсь, что вы покинете эту статью с желанием осмысленно взглянуть на свои источники, подойти к каждому фрагменту информации со скомпрометированной объективностью и поделиться информацией с целью роста сообщества.