Как Интернет повернулся внутрь

Зрелище

Чарли Брукер, Филип К. Дик XXI века, тщательно выбирал название своей серии. В «Черном зеркале» он увидел, что семя всех нынешних антиутопий - это использование нами технологий в качестве отражающего зеркала. Интернет всегда будет более убедительно отражать нас самих - и вводить нас в заблуждение, заставляя думать, что это нравится другим, - чем соблазняя нас участвовать в коллективной борьбе.

Самая большая технологическая загадка 21 века заключается в том, как технология, которая, наконец, соединила весь мир, сделала реальность неактуальной. Интернет начался с того, что люди сначала искали в мире интересные вещи и людей, создавая поисковые группы для обнаружения других объектов, о которых мы даже не догадывались позже. Но благодаря последней инкарнации социальных сетей, основанной на машинном обучении и персонализации, теперь все приходит к ним, переходя от модели «выталкивания» к модели «вытягивания» в Интернете. Отсюда - пузыри фильтров, фальшивые новости, дешевый сигнал добродетели и т. Д. Склонность людей смотреть внутрь - искать зеркала, через которые можно увидеть себя - потреблять контент, который заставляет их чувствовать себя лучше и чувствовать себя принадлежащими к сообществу, что на самом деле не так. существуют, поскольку сообщество не может существовать без согласованной миссии.

Facebook создает пузыри фильтров. Reddit становится самодостаточным, создает комментарии как реакцию на ответы на предыдущие комментарии. Tinder - это просто эгоизм; люди собирают романтические матчи, как если бы это была видеоигра. Ютуберы снова включают камеру и рассказывают о своих чувствах по поводу видеоигр, в которые они играют. Твиттер создает огромные вирусные цепочки, которые в конечном итоге оказываются обманом. Новости - фальшивка, они созданы для того, что мы хотим слышать. История, кажется, выглядит так: появляется новая интернет-платформа, обещающая помочь вам увидеть через нее реальный мир. Затем платформа поможет вам увидеть мир таким, каким его видите вы и ваши друзья. Далее система поможет вам увидеть своих друзей. Наконец, система помогает вам увидеть, как вас видят друзья. Единственный объект, более захватывающий, чем завораживающий образ желания, - это возможность того, что вы действительно можете стать тем завораживающим образом желания, которого ищет мир. Возникает непостижимая тайна: технология, которая наконец соединила человечество с миром в целом, сделала реальность совершенно неуместной.

ПОИСК

В 1967 году Ги Дебор опубликовал «Общество зрелища», культурную критику, которая стала известна как «Капитал ХХ века». Дебор предположил, что на следующей фазе капитализма доминируют не материальные товары или финансовое богатство, а обширная система легкодоступных впечатляющих образов, которые сначала поглотят человека, а на более поздних стадиях оттолкнут общество. Новым товаром было зрелище. Производители зрелищ аккумулируют всю власть. Потребители сдадут свои. Новая классовая борьба между артистами и развлечениями. Дебор был бы прав в своем антиутопическом взгляде на будущее, если бы Интернет продолжал естественную эволюцию. Но этого не произошло.

Обещая беспрепятственное мгновенное соединение, Интернет давал возможность находить эти захватывающие объекты зрелища. Охота на мусорщиков за редчайшей информацией, ранее скрытой в сложности мира. Человек должен был быть привязан к новой социальной форме организации, Веб-проекту, цель которого - сформировать поисковые группы, которые сначала будут искать, а затем курировать эти спрятанные сокровища. Мир был огромным, неизведанным и диким, но мы строили сложную сеть автомагистралей для навигации по нему. Ранний краудсорсинг, «этап поиска», на котором мы построили цифровые дороги для навигации в Интернете, явился обещанием нового общественного порядка: общества исследований. В этой исследовательской природе социальной сети идентичность была совершенно неуместной: Интернет можно было рассматривать здесь как диспетчерскую, откуда можно было наблюдать за всем миром; но даже самый трудолюбивый охранник в диспетчерской - это просто анонимный красный свет, мигающий в камере наблюдения.

После того, как шоссе были построены, мы вошли во второй этап краудсорсинга, «фазу открытия». Мы нашли коллективные решения проблем, которые были невозможны, если ограничиться работой в небольших группах экспертов: Protein Folding (Fold-it), Finding New Stars (Zooniverse), The Quest for the Lost Tomb of Ghengis Kahn (Valley of the Khans), затем «Десять красных воздушных шаров» (DARPA Network Challenge) и другие. Тем не менее, концепция Интернета, созданная на основе открытия Discovery, по-прежнему подрывала личную идентичность. Если мы все являемся частью огромной краудсорсинговой системы, не имеет большого значения, кто мы как личности. Даже самый трудолюбивый муравей в колонии муравьев остается просто муравьем.

ИДЕНТИЧНОСТЬ

Идентичность, результат развитого эволюционного механизма, опосредованного сознанием, является, пожалуй, самой убедительной силой личного сохранения. Мы должны защищать нашу систему, узнавать, кто нам поможет, определять, кто идет нам навредить. Дифференциация идентичности могла возникнуть как эволюционная случайность, когда новая культурная комбинация использовалась для оптимизации окружающей среды. Чувствуя опасность исчезновения, идентичность сопротивлялась, становясь сначала симбионтом, растущим внутри Интернета, а затем организмом, захватившим своего хозяина на самых последних этапах своего развития. Возможно, это произошло только потому, что социальные сети взломали открытую проблему идентичности в онлайн-мире. Как только подлинная идентичность станет возможной в цифровом формате, она начнет охватывать весь Интернет.

Социальные сети действительно тихо, но неуклонно меняли стимулы, созданные краудсорсинговой моделью Интернета. Сеть рассматривала мир как поисковую сеть, сначала как процесс обнаружения, позже, с отдельными лицами, действующими как его узлы, направляя поиск к цели, а работу над решением. Эта модель постепенно заменялась другой с аналогичной структурой, но с обратными стимулами. Теперь узлы тратили всю энергию на то, чтобы быть найдены миром. Работа заключалась в том, чтобы все глубже и глубже сигнализировать об их личности, транслировать то, что делало их особенными. Система больше не была средством исследования того, что было снаружи, и решения любых препятствий, с которыми сталкивались, а сложным устройством, с помощью которого человек мог стать целью поиска сокровищ.

ОПТИМИЗАЦИЯ

Когда человек стал центром Интернета? Трудно справиться с этим грандиозным сдвигом без понимания технологий, которые подпитывали краудсорсинг и социальные сети. Оптимизация, наука о коллективном поиске решений сложных проблем, поддерживала рост краудсорсингового общества. Социальные проблемы, от поддержания работоспособного правительства до искоренения бедности и снижения уровня насилия, были огромными загадками, над решением которых общество медленно продвигалось вперед на протяжении всей истории в поисках лучших местных оптимумов. Поскольку это характерно для процессов оптимизации, один часто делает один шаг вперед к решению и два назад, когда пробует будущие улучшения, которые в конечном итоге могут потерпеть неудачу. Проблемы, с которыми сталкивается общество, «трудны», прогресс опасен.

Однако специалисты по оптимизации это хорошо понимали. В течение десятилетий они классифицировали проблемы по классам сложности; от трудного к почти невозможному. В самом деле, большинство насущных социальных проблем присущи наиболее трудным классам, где необходимо искать компромиссы между теми, кто извлекает выгоду из изменений, и теми, кто теряет свой статус из-за этих сдвигов, до тех пор, пока не будет найдено новое равновесие, в котором всем стало лучше. Постепенное осознание того, что объединенный мир не меняет сложности проблем, озарило общество. Краудсорсинг придал бы человечеству наилучшую форму для решения этих проблем - мы больше не были ограничены наличием обычных учреждений с ограниченным пространством и ограниченными ресурсами для решения этих огромных проблем - мы все могли бы стать частью решения. В то же время мы ничего не могли сделать, чтобы изменить основную суть проблемы. Социальные проблемы останутся тяжелыми и будут медленно прогрессировать. Для общего понимания, что технологические идеи имеют неограниченный рост - были ли мы готовы выдержать борьбу с трудными проблемами?

МАШИННОЕ ОБУЧЕНИЕ

В тот же период технологии, поддерживающие социальные сети, достигли огромных успехов. Машинное обучение с его способностью предсказывать личные качества, а также личные связи на основе того, как мы перемещаемся и используем Интернет, быстро развивалось. За огромным успехом в рекламе, единственной уловке монетизации социальных сетей, последовала почти непреодолимая доработка гипер-таргетинга сарафанного радио, создав сначала пузыри фильтров, а наконец, альтернативные онлайн-реальности. Эти эхо-камеры убедились, что нужные люди потребляли наши идентификационные сигналы с максимальной пользой. Мы открыли новую эру персонализации, индивидуализации и самовыражения. Пришло новое изобретение: если бы у нас не было аудитории, мы могли бы ее изменить: наши рабочие места, должности, наши навыки, наши страны, наши основные убеждения или принадлежности были потенциально более гибкими, чем когда-либо прежде. Мы больше не играли в боулинг в одиночку, у нас были свои дорожки для боулинга.

Машинное обучение стало технологией идентификации, как для того, чтобы обнаружить, какие удивительные сокровища были внутри нас, так и для определения того, кому мы будем их обслуживать. В некотором смысле машинное обучение сделало возможным единый рынок, на котором единственным предметом торговли была наша личность. Если бы Liquid Modernity увидела, что социальные и организационные структуры тают, чтобы противостоять внешним изменениям и адаптироваться к ним, эпоха социальных сетей увидела бы, что сама идентичность сжимается, чтобы приспособиться к текущей оценке их характеристик в Интернете.

Оказалось, что раскрытие личности было гораздо более доступным (и краткосрочным прибыльным) делом, чем поиск способа совместной работы. Инструменты для определения признаков развивались с такой скоростью, что наука начала думать о том, как положить этому конец. Конфиденциальность стала центральной академической и общественной проблемой. Стартапы по защите конфиденциальности возникли в одночасье. Технологии лучше нас знали, кто мы такие; мы хотели убедиться, что он поделился этой информацией только с несколькими избранными в нужное время (кто мог бы оценить, насколько мы классны, и вознаградить нас за это комплиментами и купонами на скидку). В основе сегодняшней конфиденциальности лежит идея просто выиграть время, пока мы пробуем новые личности, прежде чем представим их миру. Можно догадаться о слабой связи между нынешней националистической, антиглобалистской тенденцией и технологиями, которые подчеркивают различия людей, чтобы сделать их заметными.

СООБЩЕСТВО

На индивидуальном уровне процесс вхождения, понимания и принадлежности к сообществу не обходится без многих усилий. Необходимо выполнить множество операций по достижению консенсуса, дебатов и повторного согласования, которые потребляют большую часть нашей эмоциональной, когнитивной и умственной энергии. С одной стороны, сообщество «существует» само по себе, и мы должны решить проблему оптимизации того, где (и если) мы вписываемся в это сообщество. Это стабильный, устойчивый социальный объект, который невозможно перенастроить по нашей воле. С другой стороны, наша эго-сеть всегда находится под контролем: мы можем добавлять, удалять, отключать, отключать, фильтровать людей по своему усмотрению - эта операция заставляет нас чувствовать себя более сильными, но с точки зрения вычислений и когнитивных способностей она гораздо менее громоздка. . Создать нашу сеть, опять же, проще, чем войти в социальное сообщество. В системе социальных сетей, чем сложнее (в вычислительном отношении) проблема, тем меньше вычислительного времени будет затрачено на нее.

В то же время история учит, что любая платформа социальных технологий, которая не ведет к построению сообщества, приведет, во-первых, к ухудшению состояния общества и, в конечном итоге, к упадку самой социальной платформы. Рост и вовлеченность являются текущими основными показателями социальных сетей, но поскольку создание сообщества является препятствием, а не стимулом для этих двух - опять же, потому что создание сообщества требует больших вложений в вычисления - оно вряд ли войдет в краткосрочный стратегический расчет социальных сетей. СМИ. Что может заменить это, когда образ действий в социальных сетях захватывает все наши социальные структуры? Вероятно, еще более управляемая сеть, в которой люди либо вообще не существуют, а моделируют людей (Матричный сценарий), либо в которой мы взаимодействуем только с репликантами, которые были созданы, чтобы доставить нам удовольствие (Сценарий Мира Дикого Запада). можно легко увидеть, ни у кого из них нет чувства общности - индивид всегда один наслаждается подделкой.

Сегодня мы живем в мире, где наши социальные связи служат просто отражением нас самих, и это кажется хорошей ставкой на будущее. Этот сценарий наполняет нас одиночеством, мы чувствуем себя брошенными даже в комнате, переполненной нашими друзьями. Как только люди вокруг нас перестают проливать на нас правильный свет, они сначала исчезают, а затем мы исчезаем в новом нарциссическом поиске внутри нас и других людей, которые могут нам больше подходить. Наступает эпидемия одиночества.

ПРИЕМ МАШИНЫ

Социальные сети хороши в распространении формы человеческого поведения, способствующей использованию еще более технологичного потребления. Но это не обязательно хорошо для повышения продуктивности отдельного человека или группы. Это в основном снижает объем их внимания, не сокращая при этом недостатка в инструментах для улучшения координации или повышения индивидуальной производительности или творчества. Распространение информации по сети может способствовать увеличению количества инноваций, которые мы испытываем в нашей жизни, но оно также снижает человеческий потенциал для творчества и инноваций.

Автоматизация может в конечном итоге забрать нашу работу не потому, что она лучше нас выполняет ее, а потому, что мы все хуже и хуже выполняем даже самые простые задачи, такие как чтение документа в течение десяти минут. Роботы также могут не заменять наших любовников и друзей, но не потому, что они так хороши, как они и дарит тепло и общение, а благодаря технологиям, которые ухудшают наши отношения с реальными людьми. Проигрыш из-за автоматизации может оказаться гораздо более банальным процессом, чем мы предполагаем. Машины могут не догонять, если мы бросаем мяч так быстро, как кажется.

В наши дни подавляющее количество вычислений, необходимых для работы платформы социальных сетей, инвестируется в решение проблем, связанных с идентификацией (персонализация, таргетинг, связывание), в то время как система вкладывает очень мало вычислений в функции совместной координации (планирование, координация). , комбинация, консенсус). В результате эти онлайн-системы поворачиваются внутрь, движимые градиентом того, над чем работают вычисления. В самом деле, можно определить направленность платформы социальных сетей как отношение суммы вычислений, инвестируемых в алгоритмы «персонализации» (выводы об отдельном человеке), к объему вычислений, выполняемых для координации (объединение индивидуальных вкладов в коллективную проблему). .). Система находится в равновесии, если это соотношение близко к единице. В первые дни Интернета (поиск и обнаружение) отношения были меньше единицы (отдельные лица были, по сути, анонимными), большая часть вычислений выполнялась в таких системах, как Google, создающий PageRank (коллективное вычисление для поиска и обнаружения) или Википедия (содержание имеет значение, авторы - нет). Теперь все полностью изменилось: большая часть вычислений приходится на персонализацию (несмотря на все текущие дискуссии о контенте, то, кто его написал, имеет гораздо большее значение). Внутрь идем вперед.

ТРОЛЛИ

Относительная разница в индивидуальных достижениях, обеспечиваемая технологиями комбинаторной оптимизации и машинного обучения, объясняет смещение акцента с краудсорсинга на социальные сети в центре внимания Интернета. Лучше ориентируясь на людей, которые хотели услышать о вас, вы получаете больше преимуществ, чем присоединение к краудсорсинговому проекту. Вы могли бы быть маленьким, неудачливым актером в толпе в Интернете. Но вы всегда играли главную роль в своем собственном фильме. Если бы только мир знал, кто мы, зачем им искать в другом месте?

Эволюцию социальных систем нельзя понять только с точки зрения их конструкции, но также и с точки зрения относительного успеха мошеннических элементов, которые пытаются взорвать его структуру. Интернет-тролль нацелился как на краудсорсинговые системы, так и на социальные сети в соответствии с их основным ценностным предложением. Однако ущерб сильно различается. В социальных сетях тролль нацелился на личность человека в форме ненависти, презрения или предубеждения против определенных статусных сигналов. Атака, несмотря на то, что она была эмоционально разрушительной для человека, не нанесла ущерба важной миссии социальных сетей по уточнению идентичности. Во всяком случае, атака на идентичность обеспечила усиление самой идентичности. Я нападаю на вас, потому что вы X. Тогда я должен защищать свою принадлежность к X. X-группа должна существовать именно для того, чтобы защищать нас от людей, которые ненавидят X - без тролля группа теряет свое определение. Идентичности приходилось сопротивляться сильнее, чем когда-либо. Однако с точки зрения краудсорсинга урон Тролля был намного выше. Представьте себе ущерб, который одна злая рука может нанести хрупкому скоординированному обществу, созданному миллионами сотрудничающих рук. Способность тролля нанести ущерб усилиям по краудсорсингу основана на внутренней асимметрии проблем краудсорсинга. Построить прогресс сложно, и его нужно много, стереть его тривиально и требуется только один одинокий волк.

ЭВОЛЮЦИЯ

Общество развивается по пути меньшего сопротивления. Мы счастливы меняться, осваивать новые технологии, но изменения никогда не приходят к нам как к единственному выбору. Мы всегда сталкиваемся с вилкой. Вовлечение нас в краудсорсинговые проекты привело бы к повторному открытию сначала сообществ, а затем институтов в Интернете. После этого появились новые институты, которые мы даже представить себе не можем сегодня, более мощные, решающие социальные проблемы, чем все, что мы когда-либо создавали. Тогда мы бы уступили часть нашей свободы воле ради более высокой цели. Некоторые из нас могут сыграть значительную роль на одних этапах, а на других - меньшую и менее зрелищную. Многие виды до нас в процессе эволюции приняли эту коллективную форму или организацию, более крупную, чем индивидуум.

Все миссии для достижения прогресса, по сути, самоубийственны - вы отказываетесь от части своей жизни в надежде, что остальное человечество будет жить в лучшем мире. Давая завышенные обещания о том, что мы станем объектом вожделения Дебора, социальные сети оказались гораздо более увлекательным устройством, чем любое завораживающее сокровище, о котором мы могли бы когда-либо размышлять при поиске в Интернете. Настоящие сокровища готовы мы вместе найти. Некоторые из нас вернутся с вырученными средствами; других будут оплакивать и хвалить за то, что они являются частью чего-то большего, чем они сами. Но наше выживание как вида зависит от того, чтобы вместе смотреть вовне.

РАЗВИТИЕ

Интеллектуальный вклад Дебора не ограничился, однако, выявлением проблемы, т. Е. Указанием впечатляющих изображений как отчуждающих объектов. Он спровоцировал рост ситуационизма, интеллектуального движения, пытавшегося украсть визуальную мощь этих изображений с помощью ряда художественных партизанских тактик («обходной путь», «изменение маршрута», «культурные помехи»). Идея заключалась в том, чтобы изменить изображения (например, эффектную рекламу Marlboro в центре города, в зоне высокой экспозиции) таким образом, чтобы это противоречило самому изображению (например, использование того же баннера, чтобы показать, что курение вредно для вашего здоровья). Шокируйте человека, разбудите его от увлекательных развлечений. Посредством серии художественных вмешательств, наиболее заметно представленных Adbusters Group, ситуационист манипулировал публичными образами, чтобы вызвать массовый когнитивный диссонанс среди наблюдателей, заставляя их осознать ситуацию, в которой они оказались. Успех их тактики - тема для другого эссе , но были достигнуты важные успехи, изменения, на которые сама рекламная индустрия должна была отреагировать. Вы не всегда можете побеждать, но вы можете побудить своего врага изменить способ, которым он заставляет вас проигрывать.

Однако как мы можем заглушить нынешнюю архитектуру социальных сетей? Как мы разрабатываем технологии, защищающие от идентичности, которые не позволяют идентифицировать себя без ограничений? Ставя человека в центр внимания, социальные сети могут использовать нас в качестве «живого щита», чтобы защитить себя. Гораздо проще обойти баннер с изображением актера, чем выполнить вмешательство на изображение реального человека в гостиной, гладящего свою кошку. Как показать кому-то, что он так же ценен, как все, но не настолько уникален и достоин внимания? Их реальная ценность может заключаться в запуске краудсорсинговых проектов, которые могут привести к онлайн-учреждениям.

ИДЕОЛОГИЯ

Идеологию можно уничтожить только изнутри. Вот почему мы считаем, что текущая работа по уходу от социальных сетей путем возрождения реального мира (восстановление искусства общения, поощрение личного взаимодействия, временное или постоянное отключение от технологий) обречена на провал. Реальный мир не может подорвать стратегические расчеты социальных сетей, поскольку взаимодействие с физическим миром, поскольку именно документирование такого участия в форме онлайн-сообщений, является центральной частью самого этого расчета.

Знаменитая цитата Питера Тиля «мы хотели летающие машины - вместо них получили 140 символов» призвана проиллюстрировать огромный пессимизм современного технического прогресса. Мы согласны с Тилем не столько в том, что у нас нет удивительных физических изобретений, о которых мы мечтали десятилетия назад. В конце концов, летающие машины не приведут нас к следующему этапу социальной эволюции. Но в этом современные социальные сети стремятся быть «не хуже, чем в реальном мире». Эксперты утверждают, что Facebook не создает больше пузырей фильтров, чем сами люди, что онлайн-знакомства работают так же, как встреча в баре, что Twitter не хуже традиционных СМИ в распространении дезинформации для проверки фактов. Но разве Интернет не должен был делать больше, чем это? В отличие от реального общества, некоторые монополии сегодня имеют не только доступ к современным супермагистралям информации, но и к алгоритмам, которые их регулируют. Сегодня ничто не мешает гигантам социальных сетей рекомендовать нам людей, с которыми мы могли бы построить сообщество, вместо людей, с которыми мы могли бы выпить пива. Мы можем присоединиться к некоммерческим организациям вместо того, чтобы бронировать веселые поездки. Правительственные роли мы можем занять вместо следующего крутого курса кайтсерфинга.

Мы считаем, что понимание того, как использовать тенденции для коллективного решения проблем, подготовит следующую революцию. Сетевое общество должно перестать подпитывать идентичность и породить общество, решающее проблемы. Мы разработали методы постоянной связи друг с другом. Теперь мы должны сделать что-нибудь полезное, что бы сделать с этой связью.

См. сопроводительную инсталляцию THE EVER CONTRACTING VOID Мика Эпштейн.

Частично спонсируется MIT Media Lab, Data61, Содружеством научных и промышленных исследований и Spam Church. Написано в сотрудничестве с Иядом Рахваном, особая благодарность Кристиану Альменару, Зиву Эпштейну и Мэтту Гро за их вдумчивые комментарии к рукописи.

Узнайте больше об этом проекте на сайте Медиа Лаб.