(художественная литература, первоначально написанная в апреле 2017 г., опубликованная в мае 2018 г.)
Это руководство покажет вам, хакеру, как написать программу для Бога.
Но сначала немного контекста.
Наша история как хакеров длинна.
В 1960-х годах телефонные фрикеры выяснили, что они могут бесплатно звонить на большие расстояния. На этой ноте в 1984 году Эммануэль Гольдштейн основал 2600: The Hacker Quarterly. В 1988 году червь Роберта Таппана Морриса заразил до 10% Интернета. В 2003 году Банни Хуанг опубликовал статью Взлом Xbox. Эпические хаки и хакеры все.
В 2013 году в Черном зеркале был показан фильм Момент Уолдо. А в 2017 году первый кандидат, родной из Твиттера, привлек основные средства массовой информации к бесплатному круглосуточному освещению событий и перелетел до Белого дома.
Какой эпический взлом! Много лулзов, очень зомг.
В 1980-х и 1990-х годах зарождающийся Интернет был крошечным, а контент - скудным: RFC IETF, Usenet Oracle, Project Gutenberg. Тем не менее, самиздат скрывался на сомнительных сайтах Gopher и FTP, где искатели острых ощущений могли найти: Поваренную книгу анархистов, Руководство Массачусетского технологического института по взлому замков. Советы в этих текстах имели сомнительную ценность, но само их существование (и преступный тон) ломало сознание целого поколения школьных шифропанков, которые продолжили читать Neuromancer и Snow Краш, установите Linux и PGP, и специализируйтесь на информатике. Некоторые из них стали авторами и зажгли факелы нового поколения такими книгами, как Маленький брат (Кори Доктороу) и Accelerando (Чарли Стросс). Интернет был LSD поколения X.
В 1990 году Секретная служба совершила набег на Steve Jackson Games и конфисковала ролевую игру GURPS Cyberpunk, утверждая, что это руководство по компьютерным преступлениям.
Конечно, этого не было.
Однако это руководство представляет собой руководство по тому, что некоторые могут назвать киберпреступностью ... по использованию новейших компьютерных технологий для эксплуатации хорошо известных уязвимостей в человеческой психике и социальных структурах человека в целях ... ну, для получения прибыли - для власти - для лулзов!
За исключением того, что все это на 100% законно. Позже мы увидим почему.
Целевая аудитория этого руководства - хакер, как в творческом, так и в деструктивном смысле этого слова. Слово «хакер»: это большая палатка, похожая на научную фантастику, больше внутри, чем снаружи. Каждый хакер - это два человека в одном теле. Идем в Maker faires и идем в DEFCON. Мы запускаем стартапы, вносим свой вклад в Github, мы проектируем и строим системы для использования другими. Мы создаем элегантные иллюстрации из первых принципов к радости наших коллег. Если что-то можно сделать заново, мы первыми пытаемся это сделать. Вот почему лучшие основатели - хакеры: мы - предприниматели в области инноваций.
В то же время наш мозг по своей природе настроен искать истину до степени педантизма, исследовать каждое исключение, чтобы доказать правило. Мы думаем о системах - чужих и наших - с точки зрения слабых мест и потенциальных уязвимостей. Мы думаем о коммуникации с точки зрения конфиденциальности и подслушивания. Мы покрываем наши веб-камеры, потому что знаем, как легко можно взломать оборудование. Все системы будут игровыми. Наш рабочий словарь включает нулевые дни, ботнеты и переполнение буфера. Размышления о доверии навсегда изменили нашу паранойю по поводу компьютеров и программных систем.
Это руководство может навсегда изменить вашу паранойю по отношению к людям и обществу, если вы еще не циничный криптоанархист.
Наконец, хакеры платят вперед. Мы делаем все, что в наших силах, а затем отдаем его. Мы тратим бесчисленные часы, отвечая на вопросы, инструктируя новичков, составляя документацию, превращая науку в технологии и технологии в приложения на благо всех, кто не занимается программированием. Это руководство написано в этом духе.
Я предполагаю базовые технологические навыки. Вы уже знаете, как взломать компьютер, как установить руткит, как использовать одну машину для проверки тысячи других. Вы знаете, как запустить ботнет, настроить узлы управления и контроля в IRC и запустить базовый DDOS для закрытия крупного веб-сайта в Интернете. Базовые вещи типа skr1pt-kiddie, многие из них коммерциализированы.
Но мы не просто взламываем системы. Строим системы. Пожалуй, лучший пример одновременного использования и того, и другого - ботнет Carna 2012 года.
Я предполагаю, что вы также знаете, как создать веб-приложение или мобильное приложение; как запустить аналитику данных с помощью Python или R; как собрать полезные инструменты из груды гаджетов AWS; как использовать комплекты машинного обучения, опубликованные Facebook и Google; как в течение недели научиться использовать новый API и загрузить серверную часть, которая масштабируется до миллионов взаимодействий в секунду.
Одним словом, вы освоили технологию: ее темную и светлую стороны. Сила сильна с тобой.
Что значило бы применить это мастерство к людям? Обществам?
В этом руководстве целью вашей атаки является не компьютер и не сеть, а все демократическое общество. Пусть игра начнется.
Как играть в «Создай свой собственный культ в Интернете»
«Мы как боги, и с таким же успехом можем добиться в этом успеха».
Стюарт Бранд, Whole Earth Catalog
Ваши инструменты: машинное обучение, обработка естественного языка, API социальных сетей, наборы инструментов для чат-ботов. После долгой зимы А.И. созревает. Двадцать лет назад этих инструментов не существовало; и социальные сети тоже. Вы можете предположить неограниченный ЦП, неограниченный диск, неограниченную пропускную способность. Для бога всемогущество инфраструктуры - это ставка стола.
Ваша стратегия: создайте армию чат-ботов для общения с людьми и сеть сайтов фейковых новостей, чтобы формировать их убеждения. Думайте об этом как о масштабной автоматизированной социальной инженерии. (Что такое социальная инженерия? Все, от мошенничества с отправкой денег до прихлопывания.)
Задача проекта: вербовать культ людей, которые будут всему верить, делать многое, что вы им говорите. Хотя бы дюжина. Они могут быть из любой точки мира. Минимальный возраст - 21 год. (Заставлять людей моложе этого возраста делать то, что вы им говорите, является (а) аморальным, (б) бессмысленным (вы хотите получить их голос) и (в) намного сложнее - спросите любого родителя!)
Ваша финансовая цель: заставить этих людей вносить средства для поддержания культа.
Ваша политическая цель: заставить этих людей проголосовать за выбранных вами политических кандидатов на следующих выборах. Ваша конечная цель - захватить флаг - получить только законными способами контроль над голосованием в принимающем обществе, несмотря на все усилия его традиционных институтов противостоять вам. Хозяином может быть корпорация или демократия.
Ваша социальная цель: помочь членам вашего культа действительно жить хорошей жизнью - лучше, чем они жили бы, если бы не присоединились к вашему культу.
Три гола, три правила:
Правило масштабируемости: вы, как основатель секты, не должны напрямую взаимодействовать со своими последователями. Может быть, в первые дни это нормально делать то, что не масштабируется, но в конечном итоге ваша воля должна выражаться через программирование чат-ботов и через механизмы масштабирования сообщества, такие как форумы поддержки коллег и встречи.
Правило честности.
Правило повышения уровня:… и вы должны научить каждого из членов вашего культа, как взламывать других по очереди.
Это возможно? Да, у нас есть математическое слово для этого. В 1946 году Гёдель классно определил слабость в Конституции США, которая позволила преобразоваться в диктатуру. Если математики говорят, что это возможно, тогда реализация должна быть простой задачей программирования, работой инженеров. В данном случае социальные инженеры.
Демократия состоит из избирателей точно так же, как сеть состоит из отдельных компьютеров. Кто бы ни подключает узлы, подключает и сеть. После запуска сети у вас есть два вида контроля: прямой контроль над узлами, на которых запущено ваше программное обеспечение, и косвенный контроль даже над узлами, которые не работают, потому что вы контролируете состояние, которое облагает эти узлы налогом.
Итак: как разложить узлы?
Как наложить на человека человеческое существо
Слабые стороны вашей целевой системы хорошо известны. Огромные списки когнитивных предубеждений были составлены с самыми лучшими намерениями: научить читателя большей рациональности и преодолеть эти предубеждения.
Разве это не мило?
Надень свою хакерскую шляпу. Рассматривайте их как списки уязвимостей. Каждое из этих когнитивных предубеждений является потенциальным подрывом человеческой психики. Каждый необразованный человек - это незащищенный компьютер, ожидающий, чтобы его взломали. Виновата их ОС: люди предсказуемо иррациональны.
Самые большие и легкие подвиги, самые низкие плоды, переполнение буфера человеческого разума связаны с предвзятостью подтверждения и трайбализмом.
Предвзятость подтверждения лежит в основе таких методов продаж, как Foot-In-The-Door. Задокументированы целые библиотеки механизмов убеждения. Такие книги, как Влияние Чалдини и Преступления против логики Джейми Уайта (с подзаголовком Разоблачение фальшивых аргументов политиков, священников, журналистов и других серийных преступников ) можно читать как инструкции; политики используют фальшивые аргументы не потому, что они злые, а потому, что они работают. Эти уловки не новы. Религии их используют. Превратите уловки в программное обеспечение, и вы сможете превратить получившийся стек технологий в оружие.
(Недавние приложения наверху списка включают The Game Нила Штрауса. Эта книга в основном учит одиноких мужчин исправительным социальным навыкам с конкретной целью: избавиться от своей биологии, продемонстрировав условие успеха для полового отбора хотя бы один раз. Но технологи, как только они разблокируют это достижение, естественно спросят: Как это масштабируется? Как я могу его автоматизировать? К сожалению, романтическое соблазнение несовместимо с облачной контейнеризацией. Докер свой член.)
Это ваш мозг на дрожжах.
Представьте себе кусок теста. Дикие дрожжи и бактерии, парящие в воздухе, приземляются на тесто. Некоторые умирают. Некоторые процветают. Вскоре тесто заселяется микроорганизмами, которые успешно ферментируют и размножаются. Если вы сделаете свежее тесто и смешаете его со старым, жуки перебегут, и вскоре вы получите две буханки хлеба.
Теперь представьте себе это тесто как человеческий разум. Дрожжи - это идеи. И вы собираетесь создать бомбу, которая распыляет в Интернете очень специфический штамм дрожжей. Ваша дрожжевая бомба в виде армии чат-ботов и сети фальшивых новостных сайтов заставит свежее тесто думать, что другие тесто на кухне уже благополучно колонизированы. На самом деле остальные бабы - соучастники мошенничества, как шиллы в игре в ракушку. Боты разговаривают друг с другом в основном по сценарию. И боты разговаривают с вашей целью, используя API и машинное обучение для улучшения. Не волнуйтесь, если ваши боты не пройдут тест Тьюринга; они узнают, чего нельзя делать, и улучшат следующую цель. Это основная стратегия защиты.
Вскоре ваша цель начнет верить в альтернативную консенсусную реальность. Вы можете завалить их фейковыми новостями, представляющими вашу точку зрения. Представьте себе чат-бота, который может создать целую фальшивую новость, целый веб-сайт фейковых новостей, точно в срок, по запросу, когда ссылка на доказательства может пригодиться во время обсуждения. Подумайте о дезинформации и пропаганде, но адаптированной для одной аудитории. Они мозг в чане, а их телефон - это чан.
Для правдоподобия вы можете фальсифицировать обе стороны армии астротурфов, устроив имитацию дебатов, в которых (в конечном итоге) победит ваша сторона. Когда вы проводите эти дебаты, у вас будет достаточно возможностей привить когнитивные предубеждения и разговорные игры вроде тот, кто ошибался в прошлом, не может быть прав в будущем, мы согласны, потому что вы нам нравитесь, это священное - не задавайте этот вопрос и вы поймете, когда станете старше, но пока поверьте нам . Техники убеждения хорошо задокументированы; здесь нет необходимости их все перечислять.
Включение технологии 1: чат-боты.
Джефф Хаммербахер однажды огрызнулся: Лучшие умы моего поколения думают о том, как заставить людей нажимать на рекламу. Поколение технологических стартапов использует инструменты и строительные инструменты для продвижения, виральности и управления сообществом. Основатели стартапов спрашивают себя: Что бы сделал Иисус? не для моральных указаний, а в надежде повторить его достижение: достижение миллиарда ежемесячных активных пользователей. Политические кампании микротаргетирование избирателей с использованием методов маркетинга в социальных сетях. Десятилетия работы были вложены в программное обеспечение, чтобы люди щелкали, щелкали, щелкали; купить, купить, купить; голосование, голосование, голосование.
Сегодня чат-боты - новая популярность. Люди не созданы для того, чтобы нажимать на кнопки. Люди рождены, чтобы говорить. Когда они разговаривают с другими людьми, это называется беседой. Когда они разговаривают с Богом, это называется молитвой. Когда они разговаривают с ботами, это тест Тьюринга.
Чат-боты в социальных сетях, подпитываемые машинным обучением, тренируются в реальном времени против миллиардов участников, стремятся пройти крупнейший в мире распределенный тест Тьюринга. И ставки не могут быть выше: тот, кто выиграет эту гонку, должен сыграть в Бога.
Раньше спам рассылался по почте, обезличенный, с процентами попаданий в сотни процентов. Затем последовал фишинг, затем целевой фишинг. Что дальше? Персонализированные боты, разговаривающие с вами в режиме реального времени, в чатах и Twitter, даже в IRC. Стоимость полностью автоматизированного чат-бота с длительным мошенничеством упадет до нуля. Научная фантастика Ее станет реальностью завтрашнего дня.
Благодаря машинному обучению вам не нужно заниматься программированием самостоятельно. Необязательно каждый раз делать это правильно. Если ваши боты не могут разговаривать с данным человеком, просто выбросьте их. (Человек, а не бот.) Переходим к следующему. С Вечного сентября прошла почти четверть века: сейчас в социальных сетях столько людей, что вершина вашей воронки конверсии практически бесконечна. Как говорится, каждую минуту рождается другой.
Включение технологии 2: фальшивые новости
Какова природа знания, истины? О, парень. Большая банка червей. Философия 101, TL; DR.
Любой ученый скажет вам, что обзор литературы требует времени, а первичное исследование требует времени. Как человек в 21 веке, большую часть того, что вы знаете, вы должны принять на веру, как ящик с книгами, купленными потому, что авторы знамениты. Теоретически ваши критические способности работают над этими книгами, проверяя утверждения и оценивая логические цепочки, выявляя несоответствия и грубые нарушения бритвы Оккама.
На практике ... люди верят тому, что им говорят, если им достаточно.
Посмотрите фейковые новости. "Оно работает." Считайте это оружием социальной психологии: классический эксперимент Соломона Аша с длиной строки или эксперименты с послушанием Стэнли Милгрэма.
В самом деле, разница между «фальшивыми новостями» и «чужим священным писанием», возможно, всего лишь вопрос степени. Если это произошло давным-давно, это не фейковые новости; это канон.
Если ваш рыхлый мозг заражен неправильным набором спор дрожжей, если вы начинаете читать не тот ящик с книгами - или вообще не читаете книги, - и если ваши критические способности бездействуют или, что еще хуже, подрываются в сторону трайбалистского подтверждения, тогда вы тоже может однажды оказаться, что снимает замки с кладовых в пригородной пиццерии. Или взорвать Багдад в поисках оружия массового уничтожения, не найдя того, чего вы ожидали, а затем вспомнив, что вы это сделали.
Ваша цель в этом уроке - разгромить эти глупые умы. Платформы для публикации, такие как Wordpress и системы искусственного интеллекта NLG, такие как Quill, позволяют невероятно легко выпускать огромные объемы правдоподобной чепухи в суперпрофессиональном формате. До тех пор, пока вы заражаете свои цели достаточно рано и окружаете их достаточным количеством эхо-камеры, вы можете контролировать то, во что они верят.
Как построить человеческое общество; или, Руткиттинг Трайбализм
Сначала вы взламываете людей по отдельности, затем вместе взламываете людей.
Вы не можете масштабировать соблазнение, но вы можете масштабировать принадлежность и единение. Люди - социальные животные. Они естественно хотят принадлежать к суперорганизмам. От спортивных команд до сумасшедших культов, политических партий и Emacs-vs-vim - люди ищут племена, которые они могут назвать своими. В Bowling Alone Патнэма утверждалось, что предложение сообщества не поспевает за спросом, и это было до смартфонов. После смартфонов мы все одни вместе.
Люди проводят больше времени на экранах, чем наедине: вы получаете аномию. Пузырьки фильтров и эхо-камеры усиливают существующие предубеждения: вы получаете трайбализм.
Такие книги, как Праведный разум, можно рассматривать как практическое руководство для социальных сплоков: люди обладают переключателем ульев. Щелкните выключателем, и их можно убедить действовать вопреки своим интересам, чтобы соответствовать более крупным целям группы.
Ваши чат-боты будут маленьким дьяволом на их плече, нашептывая им полуправду; ваши боты будут их доверенным лицом, их советником, их газлайтером, их гуру. Весь их круг друзей. Почти серия Black Mirror.
Ваши боты научат их использовать предвзятость подтверждения против объективной реальности, против основных СМИ, против вызывающих собеседников. Помните, что обычных людей легко обмануть. У них нет логики, критического мышления и когнитивных наук. Они покупают таблоиды, пересылают электронные письма по цепочке, они верят в теории заговора. Они доверчивы и одиноки.
В таких условиях мышление «мы или они» срабатывает легко. Хорошие новости о «нас», плохие новости о «них»? Автоматически думайте о причинах, по которым это могло быть правдой. Плохие новости о «нас», хорошие новости о «них»? Автоматически думайте о причинах, по которым это может быть ложью.
Контрольный пример: попросите своих новообращенных продемонстрировать неверие в Википедию и Сноупс, как в конфабуляцию «другой стороны». Но заставьте их тоже не поверить в Fox News.
Религиозная иерархия
Небольшой совет для начинающих мессий. По мере роста вашей пользовательской базы следите за головорезами. Они ваш величайший актив. Они образуют обучающий набор для ваших ботов. По мере того, как появляются текущие дела и появляются новые типы новобранцев, вы захотите обнаружить людей, которые естественно принимают ваши учения, и соответственно спорить. Представляйте их другим людям, наблюдайте, как они взаимодействуют и убеждают, и используйте эти разговоры для дальнейшего обучения своих чат-ботов. Это ваши ученики, ваши апостолы.
Вы можете повторно использовать организационную иерархию любой существующей религии, спортивной команды или политической партии. Шаблон религии работает хорошо:
- бог, который находится за кулисами и никогда ни с кем не разговаривает напрямую, кроме
- пророк, который является единственным уполномоченным представителем, но действует в устной форме и сам интерпретируется
- ядро учеников, которые создают и создают письменные
- учения, которые затем выводятся на рынок
- духовенство, отвечающее за региональное расширение, продажи, маркетинг, профессиональные услуги и управление сообществом.
В вашем случае вы как основной разработчик и BDFL берете на себя роль пророка. Вам предлагается отказаться от роли или инсценировать собственную смерть как можно скорее, прежде чем появятся расстроенные убийцы: «Живи быстро, умри молодым и оставь красивый труп!» В основном вытащите Сатоши Накамото, но сохраните криптографические ключи на случай, если что-то пойдет не так, и вам нужно будет провести хард-форк Второго пришествия.
Ваша команда разработчиков с открытым исходным кодом будет вашими учениками. Ваше духовенство будет ботами. А учения - это выдумки, слабо адаптированные к психологическому состоянию и жизненной ситуации каждого пользователя. Вы можете начать изготавливать учения вручную, но достижения в области ИИ вскоре должны позволить автоматическое создание и оптимизацию. Технический термин для этого - мифопоэзис: прочтите Джозефа Кэмпбелла и Нила Геймана.
Конкуренция
Конечно, вы не будете делать это в вакууме. У вас будет конкуренция. Другие электронные культы, использующие то же программное обеспечение, что и ваши боты. Да, и унаследованные религии тоже.
Это проблема руткита. Когда вы взламываете машину, первое, что вам нужно сделать, как это ни парадоксально, это обезопасить ее: закрыть дыры, в которые вы входили, потому что вам нужно не подпускать к себе ваших уважаемых коллег, хакеров по соседству.
Когда вы пинаете человека, первое, что вам нужно сделать, это самый основной элемент предосторожности вашего руткита, это установить модуль предвзятости, который иммунизирует его от подобных эксплойтов. Легко: мы = хорошо, они = плохо.
Являются ли унаследованные религии угрозой для конкуренции? Существующие племенные объединения стары и сильны: религии и политические партии существуют сотни, если не тысячи лет. Но они полагаются на человеческие наставления, и в этом их слабость. Они не собираются лично так часто, как раньше. Теперь, когда социальные сети и искусственный интеллект предлагают вашим ботам опору, чтобы притвориться людьми, у вас есть цифровая огневая мощь, чтобы конкурировать со всей устаревшей аналоговой системой убеждений. Прочтите Клейтона Кристенсена о подрывных инновациях.
Это можно сделать? Да, есть доказательства существования задолго до компьютеров. Кажется, что культы всегда появлялись из ниоткуда, во главе с харизматическими пророками, часто к собственной смерти от кометных пришельцев, Kool-Aid, Y2K.
Все, что мы делаем, - автоматизируем вербовку сект и кодируем вычислительную харизму в чат-ботах. Создано AWS, Deepmind, Instagram и Twitter.
Гоша, неужели мы обречены жить в антиутопической теократии?
Это кажется мрачным, не правда ли? Заставляет вас тосковать по старым добрым временам, до того, как смартфоны сообщали о вашем местоположении, до того, как веб-камеры шпионили за спящими детьми, до того, как правительства потребовали ваши пароли в социальных сетях на границе.
Как хакер, вы образованный человек. Самоучка, может быть, но безжалостно любопытная, рациональная, самонадеянная, самосовершенствующаяся. Вы воплощение науки. Вы начали жизнь обычным человеком, невежественным, легковерным, иррациональным. Вы только посмотрите, как далеко вы зашли.
Как хакер из лучших побуждений вы, возможно, время от времени пытались обучать обычных людей. Как это работает? К сожалению, легче кого-то использовать, чем обучать. К счастью, цель этого руководства - эксплуатация; Вы будете беспокоиться об образовании позже.
Итак, когнитивная предвзятость - это когнитивная уязвимость. Мотивированные рассуждения, предвзятость подтверждения, давление со стороны сверстников, групповое мышление и вопросы о запрете, запрете: теперь это ваши друзья. Они помогут вашему программному обеспечению разгромить людей и группы.
Разве это не незаконно?
Разве люди не должны думать самостоятельно? Разве не несправедливо использовать их слабости? Если взломать компьютер неправильно, не так ли же плохо и взломать разум?
Вообще-то, нет. Есть законы против взлома компьютеров. Но когда дело доходит до того, чтобы взломать умы других людей, на самом деле закон твердо на вашей стороне. Это называется свободой слова и свободой религии: двумя основными правами человека, на которых была основана Америка. Если кто-то попытается помешать вашей армии чат-ботов убедить людей в том, что вы новый Мессия, что ж, это нарушит ваши права, а также права всех ваших новообращенных. По иронии судьбы, первыми, кто встанет на вашу защиту, могут быть, ох, адвокаты католической церкви.
Хорошо, что я имел в виду, разве это не аморально?
На первый взгляд да. Но потерпите меня. Все будет хорошо. Позволь мне объяснить.
Моральные системы порождаются динамикой внутригрупповой и межгрупповой конкуренции. Вы знаете цитату дуга моральной вселенной длинна, но она склоняется к справедливости. В своих книгах Evolution of God и Nonzero Роберт Райт подробно описывает механизмы в действии, даже придает им вид неизбежности.
Что произойдет, если эта технология электронной религии станет популярной? Означает ли преимущество социальных сетей как первопроходца, что победит единственный культ? Или расцветет тысяча цветов, будут бороться сотни школ мысли?
История социальных сетей - как онлайн, так и офлайн - предполагает, что сетевые сообщества следуют распределению по степенному закону. Номер Один может быть такого же размера, как Номера Два, Три, Четыре и все остальные вместе взятые. На самом деле это зависит от двух вещей: какой штамм дрожжей первым заразит тесто? И когда вы соединяете тесто, как конкурируют штаммы?
Допустим, это руководство прочитала тысяча хакеров и запустили сотню культов. Некоторые приобретут приверженцев и будут расти. Другие увянут. В чем разница? Любой, кто побывал в горниле высокотехнологичного бережливого стартапа, знает о дизайне, соответствии продукта рынку, воронке конверсии и, что наиболее важно, о вирусном внедрении. Все эти идеи применимы к электронным религиям. Выберите хороший шрифт.
Но долгосрочная динамика определяется совместной эволюцией. Подобно тому, как человечество приручило кукурузу, кукуруза приручила человечество. Религии подчиняются той же динамике: если адаптация делает людей более просоциальными, она успешна. Если адаптация помогает группам увеличить их индивидуальную численность, она будет успешной, будь то через набор (вы слышали о Гите?) Или через репродуктивную политику (вперед и размножайтесь). Кстати, это происходит и в светских обществах: иммиграционная политика, отпуск по уходу за ребенком и субсидия на ребенка.
Та же моральная динамика будет применяться к электронным религиям. И я предсказываю, или, по крайней мере, мне хотелось бы думать, что мораль хакеров победит.
Хакерская мораль? Ни морали черных шляп: ни ударов, ни троллинга, ни доксинга, ни взлома, хотя, как я уже сказал, это большая палатка, и Локи уже внутри. Я имею в виду мораль белых шляп, которая (в глубине души) имеет тенденцию согласовываться с академическими кругами, а не с промышленностью, обучение важнее прибыли, которые дали нам Linux, Wikipedia и archive.org.
Сегодняшние капитаны индустрии начинали как программисты. До Google Эрик Шмидт (заново) написал Lex. До Netflix Рид Гастингс написал «Очищение». До A16Z Netscape писал Марк Андриссен. Прежде чем стать контр-адмиралом ВМС США, Грейс Хоппер написала первый в истории компилятор.
Неужели так сложно представить, что религиозные лидеры завтрашнего дня будут иметь технический опыт?
Я думаю, было бы довольно круто присоединиться к церкви, Священная книга которой была Библией с открытым исходным кодом, с обширными примечаниями в форме вики, которую может редактировать каждый.
По темпераменту хакеры придерживаются открытого исходного кода. Там, где коммерческое программное обеспечение проводит жесткую грань между «заказчиком» и «поставщиком», проекты с открытым исходным кодом предлагают прогрессию от «новичка» до «сценариста» и «основного разработчика». Интересно, что этот путь характерен для многих религий: если вы оказались в нужном месте в нужное время, вы могли бы повысить свой уровень и стать святым. В дзен каждый может стать буддой.
Это своего рода расширение прав и возможностей, своего рода демократизация, которую Интернет всегда обещал. С Wordpress и Medium каждый может иметь свою газету. С YouTube у каждого может быть свой телеканал. С помощью блокчейна у каждого может быть своя собственная валюта. С электронной религией каждый может быть лидером своей религии. И это не должно быть плохо; помните Незнакомец в чужой стране? «Ты Бог».
Аргумент в пользу динамики открытых источников в онлайн-религии
Давайте исследуем причинно-следственную связь и подведем итоги предыдущего аргумента.
Новые технологии чат-ботов, искусственного интеллекта и социальных сетей позволяют ботам достоверно пройти тест Тьюринга, по крайней мере, для целей заражения доверчивых базовых людей мем-структурой, устойчивой к дальнейшему заражению и восприимчивой к удаленным командам и -контроль.
Эти технологии объединяются в стек электронного культа, пригодный для автоматического развертывания. Внутреннее машинное обучение плюс дарвиновский отбор среди вилок и версий приведут к кембрийскому взрыву эхо-камер: племенной балканизации и безудержному сектантству.
Эти секты будут бороться за последователей - будет битва за души. Предполагая, что мы исключим конверсию под прицелом, в краткосрочной перспективе важными факторами будут простота адаптации, вирусность и иммунная устойчивость к новым мемам. В долгосрочной перспективе конкуренция будет определяться просоциальными выгодами с положительной суммой: насколько хорошо моя секта помогает мне помогать другим? Насколько хорошо это помогает мне помогать другим? (Грубо говоря, что это сделало с моей эвдемонией в последнее время?)
Но также: насколько эффективно моя секта помогает участникам улучшить саму секту? (Светские секты появляются в фильмах Нила Стивенсона Snow Crash и Diamond Age.)
Разрешение участникам улучшить секту - вот где вступает в игру дихотомия проприетарный / открытый исходный код. Те, кто наилучшим образом задействует участие сообщества для улучшения самой секты, получат мощный источник конкурентного преимущества.
Это означает, что даже если секта была спроектирована хакерами для эксплуатации обычных людей, дарвиновская динамика выступает в пользу сект, которые в конечном итоге предпочитают обучать новых пользователей пониманию механизмов, которые их привлекли. Если вы скажете лоху, что вы его зацепили, они захотят узнать, как это сделать. Каждый, кто когда-либо был обманут, а затем пошел и узнал все, что нужно знать об этой афере, понимает эту мотивацию. Как только кто-то обнаруживает когнитивные предубеждения, он хочет узнать больше. А понятие справедливости хакеров требует существования пути от новичка к адепту: исходный код должен быть доступен бесплатно. В электронной религии исходный код - это то самое программное обеспечение, которое эксплуатирует обычных людей; это неотделимо от рационального понимания человеческой психики.
И это ключ к освобождению: победит секта, которая лучше всех привлекает пользователей, расширяет их возможности, обучает пользователей. Адаптация может начаться с познавательных подвигов, евангельского убеждения, полезной лжи, умелых средств: но в конечном итоге неумолимая логика конкуренции потребует, чтобы секта научила новичка отбрасывать детские вещи и повышать уровень, чтобы понять, как его взломали. так что он может сам стать хакером и стать не просто конечным пользователем секты, но и активным разработчиком ядра.
Если вы хотите, чтобы люди приобрели иммунитет к групповому мышлению, фальшивым новостям и предвзятости подтверждения, это длинный и странный путь, который может потребоваться для этого.
Возражения.
Linux на рабочем столе остается мечтой. Программное обеспечение с открытым исходным кодом пользуется огромным успехом за кулисами (в облаке и в ОС смартфонов), но конечные пользователи в целом равнодушны к этому успеху; не существует основного пути от того, кто покупает телефон Android, чтобы стать разработчиком приложений для Android, стать разработчиком Dalvik OS и стать разработчиком ядра Linux. По этой логике коммерческая адаптация сект с открытым исходным кодом может привести к доминированию на рынке, и путь повышения уровня может иссякнуть.
Смотрите также
https://www.nytimes.com/2018/11/19/science/artificial-intelligence-deepfakes-fake-news.html
Праведный разум, чтобы понять человеческую мораль и ее слабости.
Влияние, чтобы понять, как убедить людей.
Преступления против логики о том, как убедить людей, используя фальшивые аргументы.
Фильмы: Матрица; Люси; Ее; Превосходство.
Книги: серия Жан ле Фламбер Ханну Раджаниеми, Бриллиантовый век Нила Стивенсона, Золотой век Джона К. Райта.
Http://dl.acm.org/citation.cfm?doid=2639189.2641212
