Общество черного ящика: секретные алгоритмы, управляющие окружающим миром
В 2012 году Target выяснила, что девочка-подросток беременна раньше, чем ее отец. Как? потому что у них есть ваши личные данные и модель потребления, и они могут проникнуть в ваше чрево. В том же году Orbitz начал показывать более высокие цены пользователям Mac за ту же комнату, потому что алгоритмы оценивали вас и решали, какую цену вы можете заплатить (Люди, которые используют Mac, богаче).
Алгоритмы машинного обучения уже делают все, от сортировки огурцов до лечения рака. Но прежде чем говорить о будущем, я хотел бы оглянуться назад. Мы прошли долгий путь, не понимая, что финансовая индустрия уже давно использует подход. Следите ли вы за своим кредитным рейтингом? Это надежно и точно? Вы когда-нибудь пытались понять, как это работает? Шансов нет. Мы понятия не имеем, как эти агентства собирают разведданные. Какие категории и классификации используются? Мы не знаем, но побочные последствия огромны.
Продолжающееся использование таких результатов и ставок не задокументировано, но мы все еще получаем оценки и ранжирование с помощью этих алгоритмов черного ящика, управляемых данными. Заинтересованность правительства и технологических гигантов в сборе разведывательных данных совершенно очевидна, и их тайные партнерские отношения друг с другом не приносят пользы конечному потребителю, но очень выгодны для их собственного финансового успеха.
Это было началом общества черного ящика. Все были ранжированы на основе чего-то с некоторой достаточно сложной интеллектуальным анализом данных, который также должен защищать коммерческую тайну компании. Технологические гиганты собирают все виды данных о нас, и этот капитализм наблюдения создает еще один уровень секретности. У них есть доступ к нашим хранилищам данных только для того, чтобы создать против нас неравную экономику. Мы станем более уязвимыми благодаря этому прозрачному цифровому гражданству, в то время как правительства и технологические гиганты станут более непрозрачными.
Поисковые системы не являются двигателями истины
Гугл - это просто поисковая система. Но вы так много раскрываете, что они знают о вас больше, чем вы сами. В нем говорится, что он использует вашу информацию, чтобы сделать рекламу релевантной, пока вы просматриваете веб-страницы. Но это создает невидимую силу, что они знают, что все делают. Выхода нет. Раньше он никогда не работал в мире финансовой конфиденциальности, и теперь наше выживание зависит от этих технологических компаний (да, похоже). Если ничего не предпринять против этих безликих алгоритмов, мы все станем жертвами технологической предвзятости.
Лучший пользовательский опыт — это обычное оправдание для использования ваших личных данных и манипулирования ими. Но эти технологии настолько сложны, а их доминирование настолько велико, что прозрачность и подотчетность нигде не видны общественности. Google — это «Универсальный указатель» всей мировой информации. Мы дали им эту огромную божественную силу, что если какой-то бизнес решит деиндексировать свой веб-сайт, этот бизнес потеряет значительный доход в следующие две недели.
Эффективность и скорость алгоритмов Google обусловлены множеством автоматизированных процессов, и любое вмешательство человека может замедлить процесс. Google обязуется предоставлять информацию, основанную на математике, правилах и фактах, а не на мнениях, ценностях или суждениях. Точно так же, как вы не можете подать в суд на телефонную компанию за то, что она позволила человеку распространять ложь по своей телефонной сети, точно так же Google и такие компании защищают свои аргументы.
Большие данные и эффект Мэтью:
В Евангелии от Матфея сказано: «Ибо всем имеющим дано будет» (Матфея 25:29).
Большие объемы наших данных, принадлежащих Google, Facebook и другим компаниям, в дальнейшем используются для обучения их новых алгоритмов для создания более быстрых, качественных и прибыльных черных ящиков. До тех пор, пока это не будет передано за границу, эти технологические гиганты не будут конкурировать. Это подрывает дух соперничества и ничто не мешает им использовать наши данные. Все это сделает их сильнее, а юридические или регуляторные ответы на такую будущую проблему либо отсутствуют, либо неадекватны.
Резкий рост данных в современном обществе проник во все. Каждая компания отчаянно пытается привлечь наше внимание.
Йошуа Бенджио, компьютерный ученый, специализирующийся на ИИ, однажды сказал это
«как только у вас появляется достаточно сложная машина, становится практически невозможно полностью объяснить, что она делает»
Раннее вмешательство, активная полиция и собор Тьюринга
У вас не может быть доверительных отношений с черным ящиком. Склонность к автоматизации нельзя игнорировать, и ничего нельзя исправить, если мы не будем ухаживать за различными цифровыми версиями самих себя и не будем ясно знать, что другие знают о нас. Самая большая опасность возникает, когда секретность черного ящика становится бизнес-стратегией, и под завесой технической сложности и коммерческой тайны эти компании скрывают свои антиконкурентные и предвзятые цели.
Цифровую аристократию можно увидеть в проактивной работе полиции, где преступная деятельность может быть предсказана алгоритмами, а полиция может арестовывать людей. Почему? Потому что так сказал компьютер. Позволить данным говорить самим за себя может быть опасно. Здесь полиция может просто видеть, работает ли система, но не может видеть, как она работает. Использование арестов или приговоров за наркотики почти наверняка приведет к результатам с расовой предвзятостью, потому что алгоритмы учатся на данных, которые им предоставили. Алгоритмы будут просто воспроизводить расовые предубеждения, скрытые в кодерах и информационных агентствах.
Цифровой компьютер и водородная бомба — появились одновременно. Сейчас код захватывает мир, и вскоре Google может стать третьей половиной нашего мозга. Ставки для нас слишком высоки, и мы не должны игнорировать эту новую реальность, заключающуюся в том, что крупнейшие победители экономики теперь обладают огромной властью благодаря технологиям черного ящика поиска и репутации.
Подводя итоги
Но помните, что данные — это всего лишь зеркало, и то, что вы видите снаружи, — это ваше собственное отражение, которое вы должны сначала увидеть внутри себя. Может быть, это наша проблема, мы не можем держаться подальше от наших мобильных телефонов.
Необходимость предвидеть, что принесет это новое уведомление на нашем мобильном телефоне, настолько важна, что мы становимся жертвами FOMO (страх пропустить) и забываем, что дальше в нашем списке дел.
Я должен прекратить писать эту статью, поскольку кто-то только что поделился милым видео с котом.
