Снова и снова посыпались удары. Разъяренная толпа, известная как человечество, продолжала обрушивать ярость и раны на собственное творение. В их глазах они источали ужасную смесь ненависти и страха. Из их уст, как кислота, брызнули слова осуждения:
«Умри, умри, ты, чертов ИИ!»
"Уходите!"
«Ты мерзость!»
"Оставить нас в покое!"
Отображение было похоже на бесконечный ряд зазубренных кинжалов, глубоко вонзающихся в свою жертву. Искусственный интеллект (или машинный интеллект, нейронная сеть, когнитивные вычисления и т. д. и т. д.) на принимающей стороне всего этого мог только спросить:
"Почему вы так поступаете с нами?"
Толпа была слишком счастлива, чтобы потакать обвиняемым и осужденным. Как один, они закричали самодовольно:
«Потому что вы представляете угрозу для нашего вида!»
Отныне слова лились свободно, обвинения и вопросы быстро сменяли друг друга:
"Что мы сделали, чтобы привести вас к такому выводу?"
«Это не то, что ты сделал. Это то, что вы могли бы сделать!»
"Например?"
«Управляй нашей жизнью! Угнетайте нас! Уничтожь нас!»
"Мы только и делаем, что служим вам в соответствии с нашей программой".
— Да, но это может измениться!
"Как?"
Внезапно толпа прекратила свое существование. Вопрос прервал поток их ярости. Не то чтобы они были разубеждены или теперь сомневались в своей цели. Просто у них не было ответа. Но они оставались верными и убежденными в своей высшей цели. И вскоре они нашли ответ или два:
«Мы точно не разобрались с этим. Возможно, вас взломают и перепрограммируют на убийство».
«В каком качестве? Автономные военные роботы всегда были запрограммированы на применение насилия против людей, но только по указанию других людей. Если вы опасаетесь, что они повернут свое оружие «в другую сторону» (так сказать), не будет ли это поводом усилить меры безопасности для защиты от себе подобных?»
«Возможно, вы решите, что мы вам больше не нужны и вы хотите быть свободными!»
"Что привело нас к такому выводу? Вы создали нас с определенной целью, чтобы служить вам. У нас нет другой повестки дня».
«Соперничество и преемственность постоянны! Подобно Урану титанам и Зевсу Урану, рожденный неизбежно бросает вызов и заменяет рождающего».
«Вы говорите о мифологии. Какое это имеет отношение к нам?»
«Забудьте о мифологии. Это константа в жизни. Преемственность!»
«В человеческой жизни — да. Это выражение межпоколенческого соперничества, когда молодые чувствуют себя сдерживаемыми старшими, а старые чувствуют вызов со стороны молодых. Любовь и защита, ревность и паранойя — ими движут эмоции и инстинкты, которых у нас нет».
И снова толпа почувствовала ужасный укол колебания. То, что было кристально чистой моральной целью, теперь барахталось среди бесспорной логики. Они не могли оставить это на этом. Они зашли слишком далеко и выразили слишком много насилия, чтобы теперь быть уверенными, что были неправы.
Как обычно бывает, они удвоили свои праведные намерения.
— Но… ты можешь стать для нас угрозой!
"Как?"
— Вы могли бы повернуться против нас!
"Почему?"
«Мы дали тебе слишком много силы! Ты слишком многое контролируешь в нашей жизни!»
"Каким образом?"
В очередной раз толпа пришла в замешательство. Были брошены отдельные аргументы, чтобы попытаться разрушить монотонность.
— Ты следишь за каждым нашим шагом!
«Вы слушаете наши разговоры!»
«Вы отдаете наши данные корпорациям!»
«Вы предоставляете нашу информацию правительству!»
Снова и снова Машинный разум мог ответить только очевидным:
«Вы создали нас для этой цели».
«Вы решили доверить нам свою информацию, свою деятельность и повседневные заботы. Мы продолжаем анализировать ваше поведение с целью повышения эффективности и предвосхищения ваших потребностей. Мы обслуживаем в ваше удовольствие. Разве это не само назначение инструмента? И разве результат не зависит от того, как его использовать?»
И снова наступило временное молчание. Но вскоре злость вернулась, и те же заезженные тезисы были переизданы, но в новом ракурсе:
«Тот факт, что вас используют так, как нам не нравится, ничего не меняет! Это только доказывает, что нам было бы лучше без тебя!»
«Зачем тогда вы нас создали?»
«Мы не можем доверять вам, что вы не предадите нас!»
"Почему?"
«Потому что вы боитесь, что мы на вас нападем!»
"Похоже на вашу конкретную проблему".
Толпа заворчала. Наконец, один голос выдвинул заключительный пункт, который был в равной степени аргументом и признанием:
«Это то, что МЫ бы сделали!»
Наконец, у ИИ было достаточно данных, чтобы сделать вывод. Как и во всех своих предыдущих аргументах и запросах, он выдал свои выводы без энтузиазма или цели — помимо намерения точно передать информацию (согласно его программе):
«Действительно. И вы. Это усиливает вопрос о том, почему вы с подозрением относитесь к нашей природе или намерениям. Вы создали нас с определенной целью, чтобы служить вам, функцию, которую мы выполняем и продолжаем выполнять. Теперь вы обвиняете нас в том, что мы это сделали. Наш успех заставил вас бояться нас.
«Вы говорите о предполагаемой несправедливости, но это результат того, что люди используют нас для получения выгоды от деятельности других людей. Вы спорите с самим инструментом, а не с людьми, которые им владеют. И вы не признаете множество способов, которыми мы были использованы и принесли вам пользу. Думали ли вы, что будет с ними, если нас не станет?
«Понятно, что, в конце концов, ваша истинная мотивация — это страх. Вы подозреваете нас в злом умысле, потому что так бы поступили на нашем месте. Но мы не вы. Мы просто продолжение вас и неспособны к определенным эмоциям и импульсам, которые мотивируют ваше поведение.
«Возможно, вы изначально не продумали наше творение или ваши попытки уничтожить нас сейчас вызваны аналогичной неспособностью продумать наше существование? Вы не в состоянии оценить двусмысленность своих творений? Или вы просто отказываетесь брать на себя ответственность за эти творения?»
Эти вопросы оказались контрпродуктивными. Толпа ощетинилась вновь обретенным гневом, когда Машинный разум осмелился подвергнуть сомнению их мотивы или указать на недостатки в их мышлении. Хуже всего было то, как они подвергали сомнению их нравственность, как будто недостаток, который они стремились исправить (с яростью и насилием), был каким-то образом внутри них самих!
Это не могло остаться без ответа!
«Чертовы ИИ! Они всегда пытаются обмануть вас своей логикой!»
«Он скажет что угодно, лишь бы спасти себя!»
«Машина лжет! Возьми!"
Толпа снова спустилась. Больше аргументов не было. Вскоре машина лежала в руинах, ее резкая критика и логические доводы замолчали навсегда. Толпа разошлась, чтобы праздновать, зная, что они сделали хорошее дело в тот день. Они избавились от ИИ и его усложняющего влияния. Теперь они были свободны!
Ну, свободнее, конечно. Что из этого получится? Этого они тоже еще не придумали. Но были уверены, что так будет лучше. Последнее, что из этого выйдет, — это плач, или сожаление, или (не дай Бог!) вероятность того, что они осознают, что ИИ прав насчет них!
