Исследование того, как крупные медиакомпании, такие как Google и TikTok, используют алгоритмы машинного обучения.
Google — технологическая компания, специализирующаяся на технологиях поисковых систем, онлайн-рекламе, компьютерном программном обеспечении, искусственном интеллекте и бытовой электронике. Здесь мы сосредоточимся в первую очередь на технологии поисковой системы Google, в частности, на их алгоритме поиска.
Алгоритм поиска Google недоступен для общественности, а это означает, что информация получена из исследований и не обязательно соответствует действительности. DuckDuckGo провел исследование, которое показало, что персонализация, присутствующая в поиске Google, настолько сильна, что создает «пузырь фильтров» [1]. Согласно их исследованию, эта персонализация все еще присутствует при выходе из вашей учетной записи Google или при использовании окна режима инкогнито. Достоверность этого исследования сомнительна, учитывая, что DuckDuckGo является прямым конкурентом Google в качестве поисковой системы.
Эти «пузыри фильтров» используют предыдущую историю поиска, время просмотра на веб-сайтах и данные о местоположении для организации веб-страниц в соответствии с тем, на что пользователь, скорее всего, нажмет [2]. Это может создавать идеологические пузыри для пользователей, затрудняя поиск объективной информации или информации с противоположной точки зрения. В ответ на эти претензии Google подтвердил, что он не персонализирует результаты поиска в режиме инкогнито с использованием истории поиска, выполненной при входе в систему, и подтвердил, что он не персонализирует результаты для строки «Главные новости» или вкладки «Новости» в поиске [3]. Кроме того, они заявили, что результаты поиска не персонализированы в той степени, в которой это утверждает исследование. Результаты поиска могут быть персонализированы, когда доступны данные о местоположении, чтобы показывать такие вещи, как близлежащие рестораны. Часто недавние поиски будут использоваться для персонализации [4]. Например, последние запросы будут использоваться для определения контекста поиска, например, когда слово может относиться и к спортивной команде, и к городу одновременно.
На рис. 1 показаны результаты поиска Google после поиска «Хоккей», за которым следует «Тампа-Бэй». Лучший результат вернулся как хоккейная команда Тампа-Бэй, Tampa Bay Lightning, а не информация о городе. Мы можем заметить, что Google уведомляет о том, что произошла персонализация, поскольку они предоставляют подсказку «Этот поиск может иметь отношение к недавним действиям…» в верхней части веб-страницы. Эта функция позволяет пользователям узнать, были ли их результаты поиска искажены.
TikTok — это популярное приложение для социальных сетей с короткими видео, которое использует алгоритм для показа видео, учитывающих лайки и публикации видео пользователя, отслеживаемые учетные записи, опубликованные комментарии, созданный контент, завершенные видео, избранные видео и видео, которые пользователи помечают как «Не Заинтересованы» [5]. Используя эту информацию, TikTok использует машинное обучение, чтобы классифицировать людей по определенным кластерам и держать их в закрытом медиа-пузыре [6]. Медиа-пузыри — это среда, в которой пользователи социальных сетей подвергаются воздействию только одной идеологической или культурной точки зрения, с которой они склонны соглашаться, что может привести к исключению или искажению других точек зрения [7]. Хотя это эффективная стратегия привлечения пользователей к приложению, эти медиа-пузыри представляют угрозу распространения дезинформации или сильно предвзятой информации.
Кроме того, TikTok рекомендует пользователям учетные записи с изображениями профиля, которые соответствуют той же расе, возрасту или характеристикам лица, что и те, на которые пользователь уже подписан [8]. Хотя TikTok отрицает, что использует изображения профиля в своем алгоритме, исследования говорят об обратном. Марк Фаддул, исследователь ИИ из Школы информации Калифорнийского университета в Беркли, оценил эту теорию, создав новые учетные записи TikTok и отслеживая определенные этнические группы или группы видимых меньшинств в каждой учетной записи. Его гипотеза оказалась верной, и она стала странно конкретной — Фаддул обнаружил, что после азиатских мужчин с крашеными волосами он давал рекомендации азиатским мужчинам с крашеными волосами, и то же самое происходило с людьми с видимой инвалидностью [9]. Если результаты этого исследования соответствуют внутренней работе алгоритма TikTok, это вызывает много этических проблем у создателей TikTok в приложении. Это может означать, что авторы, которые являются видимыми меньшинствами, могут столкнуться с трудностями, поскольку они будут предлагаться только тем, у кого есть похожие функции.
TikTok предлагает два места для просмотра мультимедиа: страницу «Для вас» и страницу «Подписки» [10]. Страница «Для вас» полностью алгоритмическая и показывает контент, с которым пользователь, скорее всего, заинтересуется. Напротив, страница «Подписки» используется во многих приложениях социальных сетей и отображает контент из учетных записей, на которые подписан пользователь. Хотя контент, отображаемый на странице «Подписки», контролируется пользователем, он по-прежнему сильно зависит от алгоритма TikTok, поскольку пользователи с большей вероятностью будут подписываться на учетные записи, которые они видят на странице «Для вас».
Примечательно, что страница «Для вас» создается в основном за счет взаимодействия пользователя с ранее просмотренными медиаданными [11]. Исследования показали, что человека больше привлекает то, что нам знакомо, так как мы считаем его более безопасным и с меньшей вероятностью причиним вред [12]. Это касается как внешности, так и людей с привычным поведением. С эволюционной точки зрения знакомые вещи, вероятно, будут более безопасными, поскольку, если они знакомы, мы, вероятно, уже пережили их воздействие [13]. Кроме того, исследование по распознаванию родства человека показало, что участники считают, что лица, похожие на братьев и сестер, заслуживают большего доверия по сравнению с другими участниками, оценивающими то же лицо [14]. При рассмотрении нашей биологии имеет смысл, что мы будем взаимодействовать с теми, кто разделяет схожие взгляды, выглядит так же, как мы, или демонстрирует сходное с нами поведение. В результате, когда пользователи видят создателей с похожими функциями, они могут считать их более надежными и более склонными верить их точке зрения. Однако это приводит к искаженной версии реальности о том, что «весь мир» разделяет одни и те же взгляды. Сложно осмыслить количество людей в сети, разделяющих определенную точку зрения, учитывая отсутствие привычных нам визуальных подсказок. Хотя это чувство знакомства распространяется на отношения, которые мы формируем в реальном мире, оно менее вредно из-за воздействия, которое мы испытываем, когда делаем что-то на публике. Кроме того, в тесной группе друзей меньше ожиданий, что те, кто не входит в ваш круг общения, думают так же.
Кроме того, даже когда пользователи знают, что у них есть отдельная страница «Для вас», созданная по их вкусу, многие из них безразличны к разветвлениям. TikTok извлек выгоду из потребности людей в социальном взаимодействии и нашего чувства общности. Данные многочисленных исследований показали, что люди — социальные существа, которые страдают, когда наши социальные связи находятся под угрозой или разрываются [15]. Учитывая это, TikTok накопил культуру, в которой существуют уникальные субкультуры для различных типов страниц For You, что создает более сильное чувство общности и удерживает пользователей в рамках их соответствующих медиа-пузырей [16]. Пользователи очень хорошо осведомлены об этих субкультурах до такой степени, что сортируют себя по группам или «сторонам» TikTok. Эти «стороны» TikTok или разные страницы For You включают «BookTok», «Cottage Core», «FitTok», «Plant TikTok» и многие другие [17]. Разделение, созданное пользователями TikTok, в конечном итоге способствует укреплению отдельных сообществ с уникальными субкультурами, поскольку они связывают свое сходство и противодействуют тем, кто думает иначе. Это чувство общности может затруднить пользователям распознавание медиа-пузырей, в которые они попали, и даже когда они признают это, их потребность в сообществе может быть более важной. На людей сильно влияет их социальная среда [18], и это распространяется и на цифровую среду. Следовательно, медиа-пузыри в Интернете оказывают на нас большее влияние, чем мы можем себе представить.
В прошлом эта социальная среда в основном существовала в физическом мире, однако цифровой мир социальных сетей — это новая социальная среда, которая влияет на всех нас. Когда люди изо всех сил пытаются установить социальные связи в реальном мире, они могут вместо этого искать социальные сети. Это может привести к парасоциальным отношениям, которые представляют собой односторонние отношения, в которых одна сторона расширяет эмоциональную энергию, интерес и время, в то время как другая сторона, то есть онлайн-персона, не знает о существовании другой [19]. Парасоциальные отношения преобладают в фан-группах интернет-личностей, поскольку социальные сети позволяют фанатам взаимодействовать со своими кумирами на более личном уровне [20]. В целом парасоциальные отношения представляют опасность для обеих сторон. Хотя они могут уменьшить чувство одиночества, они не так эффективны и не приносят удовлетворения, как социальные взаимодействия в реальной жизни, на которые полагаются люди. Мало того, люди могут чувствовать себя вправе получать внимание или ответы, находясь в парасоциальных отношениях, которые могут перерасти в преследование или домогательства [21].
Хотя медиа-пузыри представляют опасность для изоляции людей и распространения предвзятой информации, в социальных сетях все же есть много положительных моментов. Социальные сети могут расширить наши социальные круги, позволяя нам общаться с людьми со всего мира [22]. Это может открыть людям больше разнообразия, особенно если в их физическом окружении отсутствует разнообразие культуры, расы, сексуальной ориентации, религии, инвалидности, возраста или пола. Воздействие большего разнообразия может помочь людям лучше понять свою собственную идентичность и оценить огромное количество разнообразия, существующего по всему миру. Социальные сети также способствуют эффективному распространению информации среди более широкой аудитории [23]. Учитывая положительное влияние социальных сетей, важно, чтобы мы не позволяли медиа-пузырям ставить под угрозу наш опыт. Чтобы наша реальность не была искажена медиа-пузырями, важно критически относиться к контенту, который мы потребляем. Понимание типа контента, на который мы смотрим, позволяет нам понять его назначение [24]. Если смотреть на TikTok, большая часть контента направлена на развлечение, однако есть также страницы, предназначенные для обучения, предоставления новостей или рекламы продуктов. Те, кто обучает и предоставляет новости, вероятно, придерживаются личной предвзятости, которая распространяется на информацию, которой они хотят поделиться. Понимание того, что эта предвзятость присутствует, и сопоставление информации с более надежными источниками помогает нам получать более достоверную и объективную информацию, не искаженную социальными сетями.
В заключение, TikTok использует наше предпочтение знакомства, помещая пользователей в свои собственные уникальные медиа-пузыри, чтобы гарантировать, что они сохранят интерес к приложению. Даже когда мы знаем об этих медиа-пузырях, потребность людей в сообществе и чувство принадлежности заставляет нас чувствовать себя более комфортно, оставаясь внутри наших персонализированных медиа-пузырей. Это часто заставляет людей отталкивать тех, кто придерживается противоположных точек зрения, что затрудняет эффективный дискурс. Кроме того, их убеждения становятся все более далекими от истины, поскольку они продолжают потреблять средства массовой информации, которые еще больше оправдывают их нынешние взгляды. Эти алгоритмы используют преимущества базовой биологии человека, чтобы гарантировать, что пользователи продолжают взаимодействовать со СМИ, даже если это означает компромисс в предоставлении надежной и объективной информации.
[1] История обновлений алгоритма Google, журнал Search Engine, 2022 г. [онлайн]. Доступно: https://www.searchenginejournal.com/google-algorithm-history/.
[2] Т. Ширей, Google больше персонализирует результаты поиска?, WebFX, [онлайн]. Доступно: https://www.webfx.com/blog/seo/does-google-personalize-search-results/.
[3] М. Саузерн, История поиска пользователей как фактор ранжирования в Google: что вам нужно знать, Search Engine Journal, 7 марта 2022 г. [Онлайн]. Доступно: https://www.searchenginejournal.com/ranking-factors/user-search-history/.
[4] Измерение «пузыря фильтров: как Google влияет на то, что вы нажимаете», DuckDuckGo, 4 декабря 2018 г. [Онлайн]. Доступно: https://spreadprivacy.com/google-filter-bubble-study/.
[5] М. Офиве, Как работает алгоритм поиска Google в 2021 году?, Блог Semrush, 7 октября 2021 г. [Онлайн]. Доступно: https://www.semrush.com/blog/google-search-algorithm/.
[6] Дж. Зоте, Объяснение алгоритма TikTok, Sprout Social, 2 мая 2022 г. [Онлайн]. Доступно: https://sproutsocial.com/insights/tiktok-algorithm/.
[7] М. Касана, TikTok допускает, что алгоритмы создают «пузыри фильтров, которые защищают пользователей от разных взглядов», Input, 11 сентября 2020 г. [В сети]. Доступно: https://www.inputmag.com/culture/tiktok-lifts-the-cover-off-its-algorithm-data-practices.
[8] Как пузыри фильтров изолируют вас, GCF Global, [онлайн]. Доступно: https://edu.gcfglobal.org/en/digital-media-literacy/how-filter-bubbles-isolate-you/1/.
[9] М. Меллор, Почему TikTok создает пузыри фильтров на основе вашей расы, Wired, 28 февраля 2020 г. [Онлайн]. Доступно: https://www.wired.co.uk/article/tiktok-filter-bubbles.
[10] Объяснение алгоритма TikTok, NeoReach, 1 июля 2020 г. [Онлайн]. Доступно: https://neoreach.com/tiktok-algorithm/.
[11] В. Гулд, Вы находитесь в пузыре социальных сетей? Вот как это сказать, NBC News, 21 октября 2019 г. [онлайн]. Доступно: https://www.nbcnews.com/better/lifestyle/problem-social-media-reinforcement-bubbles-what-you-can-do-about-ncna1063896.
[12] Принцип знакомства притяжения, Speeli, 25 апреля 2022 г. [Онлайн]. Доступно: https://www.speeli.com/why-do-we-like-familiarity/.
[13] Р. Рагунатан, Знакомство порождает удовольствие: почему принудительное знакомство с новым опытом увеличивает удовольствие от жизни, Psychology Today, 17 января 2012 г. [онлайн]. Доступно: https://www.psychologytoday.com/ca/blog/sapient-nature/201201/familiarity-breeds-enjoyment.
[14] Л. Дебрюйн, Чувство семьи: исследование человеческого родства, Ассоциация психологических наук, 30 сентября 2014 г. [Онлайн]. Доступно: https://www.psychologicalscience.org/observer/a-sense-of-family.
[15] Г. Кук, Почему мы подключены к сети, Scientific American, 22 октября 2013 г. [Онлайн]. Доступно: https://www.scientificamerican.com/article/why-we-are-wired-to-connect/.
[16] Субкультуры — это новая демография, TikTok для бизнеса, 20 мая 2021 г. [Онлайн]. Доступно: https://www.tiktok.com/business/en/blog/subcultures-are-the-newdemographics.
[17] Л. Соммер, Стороны TikTok, Stay Hipp, 23 июня 2020 г. [Онлайн]. Доступно: https://stayhipp.com/news/the-sides-of-tiktok/.
[18] Парасоциальные отношения: природа очарования знаменитостей, Национальный реестр психологов службы здравоохранения, [онлайн]. Доступно: https://www.findapsychologist.org/parasocial-relationships-the-nature-of-celebrity-fascinations/.
[19] О. Увагба, Слишком близко для комфорта: ловушки парасоциальных отношений, The Guardian, 13 февраля 2022 г. [Онлайн]. Доступно: https://www.theguardian.com/media/2022/feb/13/too-close-for-comfort-the-pitfalls-of-parasocial-relationships.
[20] Парасоциальные отношения: что это такое и чем они плохи?, Game Quitters, [онлайн]. Доступно: https://gameequitters.com/parasocial-relationships/.
[21] Социальные сети и психическое здоровье, HelpGuide, [онлайн]. Доступно: https://www.helpguide.org/articles/mental-health/social-media-and-mental-health.htm.
[22] Х. Хашем, 13 положительных эффектов социальных сетей на наше общество сегодня, Kubbco, 1 ноября 2021 г. [Онлайн]. Доступно: https://www.kubbco.com/13-positive-effects-of-social-media-on-our-society-today/.
[23] Т. Розенстил, Шесть вопросов, которые подскажут вам, каким СМИ стоит доверять, Американский институт прессы, 22 октября 2013 г. [Онлайн]. Доступно: https://www.americanpressinstitute.org/publications/six-critical-questions-can-use-evaluate-media-content/.
