Уильям Кластер, доктор философии
Я родился и вырос в США, с 2009 года являюсь профессором науки о данных в Японии и опубликовал более 20 научных работ в области социальных сетей, в основном исследуя потенциал этой формы коммуникации для прогнозирования будущих событий. Я являюсь автором готовящегося к печати текста Математика и программирование для машинного обучения в R (доступно на Amazon).
Учитывая этот опыт и до просмотра недавно выпущенного документального фильма Netflix Социальная дилемма (написанного Орловски, Дэвисом, Кумбом и Кертисом), я полагал, что довольно хорошо представлял, о чем он, вероятно, рассказывает - разоблачение опасного потенциала социальных сетей! Но теперь, досмотрев его до конца, я понимаю, что этот фильм проясняет то, что я раньше понимал только издалека. Позволь мне объяснить.
В греческой мифологии Троянская война велась греками против города Троя. Пожалуй, наиболее известным в этой истории сегодня является концепция троянского коня. Одно из утверждений этой статьи состоит в том, что Соединенные Штаты, задумавшие и разработавшие Интернет как средство защиты от определенных последствий ядерной войны, неосознанно навлекли на себя своего собственного троянского коня.
США и многие другие части мира в настоящее время переживают ужасные потрясения, раскол, волнения, недоверие друг к другу; и недоверие к власти, науке и институтам. Почему так резко и почему сейчас? Многие во всем мире озадачены и сбиты с толку относительно того, что вызывает это сейчас. Почему, внезапно, мы столкнулись с таким большим внутренним хаосом в Америке? Мы не ведем крупных внешних войн. Экономика шла хорошо. По общему признанию, неравенство в доходах за последние десятилетия усилилось, и это, безусловно, является фактором беспорядков, и, кроме того, произошел постепенный переход населения от белого к цветному. Однако я не был удовлетворен тем, что это единственные или даже основные причины, порождающие зарождающийся хаос, и «Социальная дилемма» предлагает дополнительное, если не альтернативное объяснение.
После просмотра «Социальной дилеммы» ответ наконец кажется ясным. На мой взгляд, это, возможно, самая важная работа, с которой я столкнулся, по крайней мере, за последнее десятилетие.
Наше сообщество сталкивается с натиском, использующим миллионы компьютеров, размещенных на милях за милями ферм данных, установленных на огромных пустых пространствах по всей территории США и даже размещенных под водой. Каждый компьютер сам по себе является мощной машиной для обработки данных. Единственный компьютер, на котором я сейчас печатаю, можно обучить, чтобы он стал превосходной машиной для перевода, способной, например, переводить с японского на английский и наоборот. Эта единственная машина может выполнить ранее невозможную задачу за очень короткое время, используя так называемые алгоритмы машинного обучения. Этот единственный компьютер может поглотить бизнес тысячи переводчиков и переводческих компаний. И все же существуют буквально миллионы таких машин, связанных вместе, каждая из которых выполняет чрезвычайно мощные алгоритмы машинного обучения. Алгоритмы с такими именами, как рекуррентные нейронные сети, сети с краткосрочной памятью, BERT, живые трансформаторы и т. Д. Каждый из них подпадает под категорию глубокого обучения, и каждый является плодом работы сотен лучших умов мира. Они могут производить до сих пор, казалось бы, чудесные результаты во всех возможных областях, включая медицину, астрономию, финансы и генетику.
Тем не менее, самая мощная добыча этой силы искусственного интеллекта принадлежит и контролируется всего несколькими компаниями - олигархами социальных сетей. Это те, которые управляют этими тысячами акров компьютеров. Лишь несколько компаний, в основном Google и Facebook, используют то, что, без преувеличения, можно назвать сверхчеловеческим интеллектом.
Этот сверхчеловеческий интеллект нацелен на неосведомленную публику. Публика, совершенно необразованная и неопытная в том виде власти, который сейчас продается. Это как если бы на нас напала инопланетная раса, невидимая для человеческого глаза. И эта сверхчеловеческая сила, как ясно показано в «Социальной дилемме», доступна любому человеку, стране или компании, у которых есть средства на ее покупку. Тот факт, что эту власть можно купить, является ключевым понятием, которое проясняет «Социальная дилемма». Как предлагает в фильме Джарон Ланье, если, обладая этой силой, на кончиках пальцев, тот, кто предложит самую высокую цену, сможет внести изменения в то, во что верит мир, пусть даже всего на 1 процент, это действительно потрясающая сила.
Несколько цитат в поддержку того, что может показаться спорным, от тех, кто понимал и обладал силой убеждения: Йозеф Геббельс - «Если вы солгаете достаточно серьезно и продолжаете повторять ее, люди в конечном итоге поверят в нее»; Иосиф Сталин - «Идеи намного сильнее оружия. Мы не позволяем нашим людям иметь оружие. Почему мы должны позволять им высказывать идеи? » и «Образование - это оружие, действие которого зависит от того, кто держит его в руках и на кого оно направлено».
Эти машины привязаны к тому, кто предложит самую высокую (самую богатую) цену, и они могут использовать силу лжи, а также правду, чтобы двигать умы.
Ключ к пониманию того, насколько это может быть разрушительным, - это принять идею о том, что страна во многом основана на ее разговорах. Это не типичное представление о том, что значит быть суверенной страной, где мы обычно думаем, что это определяется ее физическими границами. До 2000 года контуры этих разговоров наверняка хорошо коррелировали с физическими границами. И это должно было быть правдой на протяжении всей истории человечества. Однако с появлением всемирной паутины и ее повсеместным использованием примерно в 2000 году эта корреляция была размыта - сначала естественным образом, а теперь ради выгоды теми, кто стремится сформировать общественное восприятие в своих интересах.
Но это изменение вызвано не только нарушением границ разговоров, но и добавлением недавно развитой сверхчеловеческой способности направлять наши разговоры через социальные сети, которые сформировали один-два удара, который как раз почти привел США к колени. Это не смехотворная идея. Это не расплывчато или туманно. У нас может возникнуть соблазн высмеять это и отложить в сторону, но это было бы неправильно. Просто задайте вопрос: «Почему Facebook и Google платят миллионы и миллионы долларов за доступ к их алгоритмам и данным?» Компании и политики, те, кто платит за эти услуги и позволяет им развиваться, понимают, что они делают, и насколько мощно можно контролировать такое машинное обучение через миллионы подключенных компьютеров.
Это не аргумент в пользу того, что машинное обучение само по себе является проблемой. Это аргумент, чтобы предположить, что позволить этим олигархам предлагать таргетинг на наше население с помощью социальных сетей через Интернет - это опасность.
Если бы у меня лично были такие средства, я бы наверняка смог убедить вас, уважаемый читатель, в реальности этой силы. Но сейчас не время останавливаться на этой части аргументации, поэтому я приму это предположение как должное. Я хочу, чтобы вы поняли, что миллионы компьютеров, на которых работают самые продвинутые алгоритмы, обладают сверхчеловеческим интеллектом, и это дает им коварную возможность тайно изменять мышление.
Это бесценный объектив, через который можно понять, что происходит с нашей страной; миллионы компьютеров, на которых работают алгоритмы машинного обучения в режиме нон-стоп, 24 часа в сутки, 7 дней в неделю, изо дня в день бьют общественное сознание от имени немногих. Ничего подобного раньше не было. Это сила, к которой ни один человек раньше не имел доступа, и ни одно общество ранее не терпело. Неукротимый и неконтролируемый, за исключением алчности его обладателей, он разрушает нас.
Когда я понял это, просмотрев «Социальную дилемму», я лично пришел к выводу, что, несмотря на все бесчисленные преимущества, которые мы получили от Интернета, это безоговорочно отрицательный для человечества.
Я не говорю это легкомысленно. Я живу в чужой стране, и подключение к Интернету дает мне гораздо больше, чем обычному гражданину США. Он предоставляет мне бесчисленные связи с моей родной страной, которых у меня не было до 2000 года. Тем не менее, я бы вернулся в эпоху до коммерциализации Интернета, чтобы предотвратить то, что происходит.
Интернет может быть вектором воли тех, кто пытается манипулировать нами. Мы стоим обнаженными и незащищенными, и нет лучшей аналогии, чем история о троянском коне. Никогда в истории человечества иностранная держава не могла так легко проникнуть в наши сообщества так мощно, и цена этого вторжения ничтожна.
Интернет срывает границы так, как это было невозможно представить 20 лет назад. Разрушение границ звучит положительно, но когда граница проходит между нами и тем, кто желает нам вреда или желает изменить наши взгляды в свою пользу, это не является ни положительным, ни незначительным. Он представляет собой монументальную трагедию, столь же опасную и решающую, как троянский конь древней Трои.
Это невидимая сила, которую плохо понимают, и мы, люди, даже не достигли подросткового возраста с точки зрения нашего опыта с ней. Социальная дилемма должна быть призывом к оружию.
Некоторые скажут, что мы не можем вернуть джинна в коробку. Наверное, это правда. Мы не будем отключать интернет. Но признание того, что в настоящее время его чистый вклад в наш мир является отрицательным, является правильной мерой его ценности и позволит нашим действиям по защите наших сообществ быть ясными и эффективными. Считать Интернет чистым негативом - это смена парадигмы, и именно этот сдвиг автор и хочет отстаивать. С этим изменением в нашем понимании появится решимость исправить проблему.
В фильме были намеки на то, как может выглядеть решение. У этого автора нет юридических или государственных знаний, чтобы разработать средство правовой защиты. Однако без осознания локуса проблемы решение определенно не придет.
Первый шаг в преодолении проблемы - признать ее существование. Хитрый неузнанный злоумышленник может украсть наше самое ценное имущество. Сердцеедка может разбить вам сердце, потому что вы не реализуете его или ее цели. Конгресс должен понять нашу дилемму.
Публика тоже должна понять. Каждый из нас должен осознать завораживающее заклинание. И каждый из нас должен быть готов отказаться от этих удобств. С силой этой воли мы сможем найти ответы. Каждый из нас, ослепленный тем, что кажется безвредным и бесплатным, и потворствуя ему, должен в то же время сосредоточить один взгляд на опасном компромиссе, который мы неосознанно принимаем. И это должно укрепить наше намерение решительно бороться с этим кризисом.
Поскольку «Социальная дилемма» интуитивно проясняет затруднительное положение, с которым мы сталкиваемся, я, как заинтересованный специалист по данным, призываю наших законодателей рассмотреть это и использовать свои знания и знания других экспертов, чтобы противостоять этой опасности и преодолеть ее.
Об авторе: Автор - профессор науки о данных и математики Азиатско-Тихоокеанского университета Рицумейкан, который неизменно входит в 20 лучших университетов Японии. Его последняя книга Машинное обучение доступна на Amazon: https://tinyurl.com/yyl7rh4r.
