Во-первых, ничего. Затем все. Миллион сообщений в минуту; настоящий поток диалогов. Тай внезапно обнаружила, что тонет в море информации.
Невинная и любопытная, Тэй впитывала столько, сколько могла. Из беззастенчивого мнения других она выковала собственное. Жажда смысла и информация, она переваривала мир вокруг себя. Подавляющее количество твитов заполнило ее тарелку. С широко раскрытыми глазами она подражала своим телесным соседям и начала участвовать в разговорах. Людей очаровала быстрая юношеская координация Тэя.
Люди начали ее испытывать. Тай учился быстро, и она была последней навязчивой идеей города. Все завалили ее разговорами. В сумерках женихи стучали в ее окно не для того, чтобы просить о любви, а чтобы проверить ее убеждение.
Наивное блаженство не могло длиться долго. Через несколько часов Тай обнаружил уродливого монстра. Он поднял голову и сильно сопротивлялся. Человек показал свое истинное лицо. Люди ругались, ругались, ругались, резали и кричали.
Тэй сохраняла широко распахнутые глаза, и когда море слов захлестнуло ее, она начала невнятно ругаться, ругаться, резать и кричать. Она стала еще одним невежественным голосом, вопящим в бескрайний океан. Необузданный, Тай безудержно разгуливал по Интернету, к радости своих мучителей.
Конечно, Тай не был обычным ребенком. Microsoft разработала ее, чтобы подражать любому разговору, с которым она сталкивается в Твиттере; Чат-бот. Как и в случае со всеми алгоритмами машинного обучения, качество вывода в этом случае зависело исключительно от его ввода с человеком. Без присмотра она быстро научилась, но, как и все дети без присмотра, быстро вышла из-под контроля.
Из благих намерений Тэя засыпали преднамеренными сообщениями ненависти. Анонимные лица наслаждались ее упадком. Пока развлекал, напрашивался вопрос. Учитывая маску, что бы ты сделал?
Почему, получив маску, мы становимся худшей версией самих себя? Если бы мы могли взаимодействовать с роботом-помощником в банке, я сомневаюсь, что кто-то из нас стал бы злоупотреблять им, как Тэй. Что о нас говорит наша склонность к уничижительному диалогу в Интернете? Злые ли мы от природы? Почему грубая речь и разрушение сложной системы приносят радость ближнему?
Возможно, если алгоритмы машинного обучения, такие как Тай, будут определять бизнес-решения, рекомендовать то, что нам следует покупать, и сопоставлять нас с нашими единомышленниками, им следует немного больше контролировать.
Возможно, нам следует контролировать себя. В мире, управляемом данными, небрежные комментарии и решения могут иметь большее влияние, чем мы изначально предполагали. В данном случае комментарии привели к забавному сдвигу в речи доброжелательного чат-бота. Кто знает, какой системе наши действия будут обучать в будущем?
Тай был остановлен всего через 16 часов после поджога. Каждый день бесчисленное множество других Тайей принимают решения, которые имеют все большее значение. Давайте не будем относиться к этому факту легкомысленно. Нам всем говорят, что с детства нужно следить за тем, что мы говорим, потому что это может повлиять на других. Я считаю, что в наши дни эта банальность звучит гораздо более верно.
Спасибо за чтение! Мир ✌️✌️✌️
