Как Google и Facebook могут манипулировать результатами выборов

Идея манипулирования выборами циркулирует в СМИ уже несколько лет. Похоже, что их внимание направлено на гнусных иностранных акторов, пытающихся повлиять на голосование внутри страны. Хотя это проблема, похоже, чего-то не хватает.

Если иностранные игроки могут манипулировать местными выборами, как насчет внутренних игроков? В частности, как насчет организаций, контролирующих информацию, которую мы видим каждый день? Если Google или Facebook хотят манипулировать результатами выборов или подтолкнуть избирателей в определенном направлении, разве это не может быть более разрушительным, чем иностранное вмешательство?

Наш акцент на манипуляциях из-за рубежа хорошо обоснован, однако прямо в пределах наших границ существуют возможные злоумышленники, которых также следует изучить. Согласно статье в Business Insider за 2018 год, Google занимает 90% рынка поисковых запросов в США. Исследование Pew показало, что почти 50% американцев получают новости через Facebook.

Что, если бы эти привратники наших данных и социальных сетей решили так или иначе манипулировать нами, чтобы мы проголосовали? Было проведено много исследований, которые точно показывают, насколько Google и Facebook могут изменить волю избирателя. По крайней мере, по мнению одного дата-сайентиста, это их планы на настоящее и будущее.

Цифровой джерримандеринг

Джерримандер: (глагол) манипулировать границами (избирательного округа), чтобы отдать предпочтение одной партии или классу.

- Определение предоставлено Google

В статье в Harvard Law Review Джонатан Зиттрейн объяснил эксперимент, проведенный Facebook 2 ноября 2010 года. Facebook хотел узнать, есть ли у них возможность побудить своих пользователей голосовать. Они провели этот эксперимент на 60 миллионах пользователей во время выборов в Конгресс 2010 года.

Пользователям было показано изображение с вопросом, планируют ли они голосовать. На этом изображении также показаны другие проголосовавшие друзья из Facebook. На изображении была информация и для местных избирательных участков. Facebook сравнил пользователей, которым было показано это изображение, с контрольной группой, которым не показывали. Пользователи в эксперименте были сопоставлены с именами, которые голосовали на местных избирательных участках, чтобы узнать, кто действительно проголосовал.

Facebook обнаружил, что пользователи, показавшие изображение, проголосовали на 0,39% чаще, чем те, кому не было показано изображение. Похоже, усилия были незначительными, но этот процент равнялся 60 000 избирателей.

Кроме того, Facebook обнаружил «волновой эффект». В этом эффекте ряби близкие друзья пользователей, увидевших изображение, голосовали с большей вероятностью. Этот волновой эффект оказал влияние на проголосовавших 340 000 человек. Такое число, даже по всем Соединенным Штатам, может изменить результаты выборов. Это особенно актуально, если учесть, что было несколько выборов в Конгресс, которые были определены тысячами голосов.

Джонатан Зиттрейн задает интересный вопрос, посмотрев на этот эксперимент. Что, если Facebook решит довести этот эксперимент до настоящего момента, чтобы повлиять на выборы? Что, если они захотят показать это сообщение о голосовании пользователям, принадлежащим к одной политической партии? Это более чем вероятно позволит гиганту социальных сетей манипулировать выборами. Его тоже почти не заметят.

Зиттрейн назвал возможную подобную манипуляцию «цифровым джерримендерингом». Это позволило бы одному генеральному директору или группе руководителей высшего звена оказывать невероятное влияние на выборы, оставаясь незамеченным. По крайней мере, с денежными пожертвованиями они протекают в обоих направлениях. Кибер-привратник такого размера не станет проблемой.

Возможности Google манипулировать

Я доктор Роберт Эпштейн ... старший психолог-исследователь Американского института поведенческих исследований и технологий. Я люблю Америку и демократию…. Я здесь сегодня по трем причинам: чтобы объяснить, почему Google представляет серьезную угрозу демократии и автономии человека, объяснить, как системы пассивного мониторинга могут защитить нас сейчас и в будущем от таких компаний, как Google, и рассказать вам, как Конгресс может немедленно положить конец всемирной монополии Google на поиск ... Я был психологом-исследователем почти 40 лет, а также занимал различные редакционные должности в журналах Psychology Today и Scientific American MIND. Я получил докторскую степень. в Гарвардском университете в 1981 году и с тех пор опубликовал 15 книг и более 300 научных и популярных статей по искусственному интеллекту и другим темам. С 2012 года некоторые из моих исследований и статей были сосредоточены на Google LLC, в частности на способности компании подавлять контент (проблема цензуры, если хотите), а также на массовом слежении, проводимом компанией, а также на беспрецедентных способностях компании. манипулировать мыслями и поведением более 2,5 миллиардов человек во всем мире. Данные, которые я собираю с 2016 года, показывают, что Google показывает американскому обществу контент, который предвзято относится к одной политической партии (Epstein & Williams, 2019) - партия, которая мне нравится, но это не имеет значения. Ни одна частная компания не должна иметь права или возможности манипулировать большими группами населения без их ведома. - Свидетельство доктора Роберта Эпштейна Конгрессу 16 июня 2019 г.

Доктор Роберт Эпштейн, ученый-исследователь с 40-летним опытом работы в своей области, уже несколько лет предупреждает о Google. Он считает, что Google может манипулировать людьми не по содержанию, а по тому, какой контент выбран для показа поисковикам. Он также считает, что то, как упорядочивается контент, также может влиять на пользователей.

В статье в Epoch Times Эпштейн объясняет, как он проводил рецензируемые, рандомизированные и контролируемые исследования с тысячами людей. В этих исследованиях Эпштейн мог неоднократно изменять мнения нерешительных людей по большинству тем.

Он творил эту магию, просто фильтруя информацию, которая показывалась испытуемым при многократном поиске. Самое жуткое в эксперименте было то, что испытуемые не могли сказать, что ими манипулируют. Он выделил 10 способов, которыми Google может манипулировать избирателями, но два из них оказались особенно эффективными.

  1. ) Эффект манипулирования поисковой системой (SEME): В этом случае предпочтительные результаты отображаются первыми в результатах поиска. Его испытуемые считали, что предметы, перечисленные первыми в поиске, содержат наилучшую информацию. Этой манипуляцией Эпштейн смог изменить предпочтения нерешительных субъектов на 20% - до 80% в определенных демографических группах.
  2. ) Эффект предложения поисковой системы (SSE): Эта манипуляция включает функцию автозаполнения при поиске. Вы заметите это, когда начнете вводить что-то в поиске Google, и он завершит утверждение за вас. Эпштейн в своем исследовании показал, что с помощью этой манипуляции он может превратить разделение 50/50 по проблеме в 90/10.

Это просто алгоритм, который делает то, что делают алгоритмы

В ответ Google на обвинение в том, что они манипулируют алгоритмами, утверждает, что они этого не делают. Одна из их защит заключается в том, что алгоритмы меняются сами, иногда непредсказуемым образом. Они подстраиваются под свое внутреннее программирование и пользователей, с которыми взаимодействуют.

Были случаи, когда алгоритмы выходили из-под контроля так, как их создатели не могли предвидеть. В статье в TechCrunch Меган Роуз Дики исследует некоторые примеры неконтролируемых алгоритмов.

В одном случае бот Microsoft AI по имени Тэй превратился в белого сторонника превосходства. В другом случае алгоритм распознавания лиц Массачусетского реестра транспортных средств признал невиновного преступником и отозвал у него водительские права. В другом случае при поиске в Google, когда его спрашивали, действительно ли произошел холокост, первым результатом был сайт, дружественный нацистам.

Дики в своей статье подчеркивает, что люди редко несут ответственность за действие алгоритма. В статье также упоминается, что эти алгоритмы функционируют как своего рода «черный ящик». Технологические гиганты, которые их используют, не позволяют публике заглядывать внутрь. Google и Facebook могут заявить о невиновности действия алгоритма, но откуда это вообще знать?

Доктор Эпштейн не верит утверждениям Google о невиновности. Он ссылается на внутреннее видео, которое просочилось на сайт The Verge. Созданное Google видео под названием The Selfish Ledger объясняет, как сбор данных может изменить мир. В жутком видео объясняется, как данные могут быть использованы для изменения поведения людей так же, как изменение ДНК может изменить человеческое тело.

«Хотя понятие« глобальный товар »проблематично, темы,
скорее всего будут сосредоточены на здоровье или воздействии на окружающую среду, чтобы отразить ценности Google как организации… Со временем, выбрав эти параметры, поведение пользователя может измениться на изменяется, и бухгалтерская книга приближается к своей цели… По мере того, как этот образ мышления ускоряется, а концепция целевой книги становится более приемлемой, предложения могут быть преобразованы не пользователем, а бухгалтерской книгой Сама по себе… Наша способность интерпретировать пользовательские данные в сочетании с экспоненциальным ростом количества объектов, оснащенных датчиками, приведет к более подробному описанию того, кем мы являемся как люди. По мере объединения этих потоков информации эффект умножается. Выявляются новые закономерности и становятся возможными новые прогнозы…. Подобно тому, как изучение белковых структур проложило путь к генетическому секвенированию, массовое изучение действий и результатов с участием нескольких поколений могло бы ввести модель поведенческого секвенирования… По мере того, как в поведенческих последовательностях начинают появляться шаблоны, они тоже могут стать целью. Учетной книге можно сфокусироваться, переместив ее с системы, которая не только отслеживает наше поведение, но и предлагает направление к желаемому результату ». - Отрывки из видео Google "Selfish Ledger".

Что день грядущий?

Эпштейн в своей статье в Epoch Times объясняет, что Европа уже начала подавлять Google. Google был недавно оштрафован на 2,7 миллиарда долларов за несправедливое занижение конкурентов в результатах поиска. Еврокомиссия также оштрафовала Google на 4,34 миллиарда евро за нарушение антимонопольного законодательства.

На двух цифровых привратников также началось внутреннее давление. Недавно Facebook был оштрафован на 5 миллиардов долларов за неправомерное использование пользовательских данных. Питер Тиль, член правления Facebook, публично обвинил Google в государственной измене за их работу с правительством Китая.

«Google отказался работать на Пентагон над искусственным интеллектом [AI]. Если вы развернетесь и работаете над искусственным интеллектом в Китае, и вы действительно не знаете, что они собираются с этим делать, я думаю, что есть проблема ».

- Ричард Кларк, глава кибербезопасности Белого дома времен Обамы.

Похоже, что будущее двух технических привратников будет таким, в котором за ними будут гораздо лучше следить на разных фронтах. Что касается фронта манипулирования выборами, то сам доктор Эпштейн принимает меры. Он работает с несколькими коллегами над созданием системы для отслеживания манипуляций с данными со стороны технологических гигантов.

Как я упоминал ранее, в 2016 году я возглавлял команду, которая« отслеживала результаты поиска в нескольких поисковых системах. Это было начало, но мы можем добиться большего. В настоящее время я работаю с деловыми партнерами и коллегами из академических кругов на трех континентах над расширением систем для мониторинга широкого спектра информации, которую компании, занимающиеся крупными технологиями, делятся со своими пользователями - даже устными ответами, предоставляемыми личными помощниками. В конечном итоге всемирная экология систем пассивного мониторинга сделает эти компании подотчетными общественности, а предвзятость информации и онлайн-манипуляции будут обнаруживаться в режиме реального времени.

С приближением ноября здесь явно есть некоторая срочность. На момент написания этой статьи неясно, сможем ли мы полностью оперативно контролировать промежуточные выборы, но мы полны решимости быть готовыми к 2020 году ». - отрывок из статьи доктора Эпштейна в Epoch Times.

Спасибо, что прочитали мои бредни. Если вам понравилось то, что вы прочитали, поделитесь.