Начав поиски ответа на вопрос, есть ли истины, которые мы можем извлечь из научной фантастики в развитии технологий, я перехожу к одному из моих любимых эпизодов Звездного пути: Следующее поколение (TNG) — Мера человека», которая впервые вышла в эфир 13 февраля 1989 года. В центре сюжета — персонаж Дейта, который является андроидом (автоматом, напоминающим человека), и является ли он собственностью организации Звездный флот в которого он служит членом экипажа.
Сюжет
Дейта служил на борту звездолета «Энтерпрайз» и, как нам говорят, имеет образцовый послужной список. Ученый доктор Мэддокс изучает данные с целью реконструировать технологию, которая позволяет его «позитронному» мозгу функционировать, чтобы создавать сотни или тысячи копий, которые могут выполнять опасные задачи вместо людей.
Первоначально Дейта заинтригован этой идеей, но в ходе расследования он приходит к выводу, что Мэддоксу не хватает необходимых знаний для его изучения, и на самом деле эксперименты Мэддокса могут нанести ему непоправимый вред. Его командир, капитан Пикард, пытается убедить данные в потенциальной пользе экспериментов для их организации - Дейта возражает, аргументируя это тем, что он машина (то есть не человек), от него можно отказаться. Пикард, понимая, что с Дейтой следует обращаться с теми же правами, что и с любым другим членом его команды, ищет способы остановить передачу Дейты и принуждение себя к экспериментам.
Главный аргумент, который Мэддокс выдвигает генеральному судье-адвокату (JAG), заключается в том, что, поскольку Дейта — это машина, у него нет никаких прав. Офицер JAG находит подтверждающий прецедент в поддержку этой позиции (не меньше, чем из 21-го века), и Пикард оспаривает принуждение к созыву слушания, чтобы решить, является ли Дейта собственностью, и при этом можно ли его заставить подчиниться экспериментам Мэддокса. .
Далее следует судебное разбирательство, начинающееся с того, что обвинение доказывает, что данные являются собственностью. Доводы обвинения распадаются на две аргументации; во-первых, что Дата построена человеком — следовательно, он является собственностью этого человека, и последующих людей или организаций, которым передается его право собственности; во-вторых, его физические и умственные качества, будучи на порядок выше всего, были созданы с целью служения человеческим потребностям и интересам. Прокурор продолжает объяснение того, как Дейта действует посредством сложного взаимодействия между его физическим оборудованием и нейронными сетями и «эвристическими алгоритмами», включая отсечение его предплечья, чтобы показать, как оно устроено, и, наконец, активацию «аварийного ручного управления» Дейты, т.е. выключив его со словами «Пиноккио сломался, его струны оборваны».
После перерыва Пикард начинает свою защиту. Он не отрицает, что Дейта — это машина или что Дейта была создана человеком, утверждая, что они не имеют отношения к дискуссии. Он вызывает Дейту на трибуну и берется за демонстрацию своей «мягкой стороны», т. е. способности строить отношения с людьми и собственной (хотя и грубой и синтетической) сентиментальности.
Вторым аспектом защиты является то, что Пикард вызывает Мэддокса на трибуну и допрашивает его об определении «разума». Утверждая, что Дейта не обладает разумом и, следовательно, не обладает теми же правами, что и «живые» существа, Мэддокс определяет разум как бытие; разум, самосознание и сознание. Признав, что Дейта на самом деле умен, дискуссия сосредоточится на том, в какой степени он самоосознан, в какой степени у него есть эго.
В-третьих, Пикард допрашивает Мэддокса о его намерениях в отношении Дейты. Мэддокс сообщает, что намерен изучить его, а затем воспроизвести технологию, создав «сотни, тысячи, если необходимо». Пикард отвечает кавычкой «одна информация… это диковинка. Даже чудо. Но тысячи данных. Разве это не становится гонкой? И разве о нас не будут судить по тому, как мы относимся к этой расе?» и, наконец, «Видите ли, он соответствует двум из ваших трех критериев разумности, что с того, что он соответствует третьему: сознанию — даже в наименьшая степень? Кто он тогда?… Рано или поздно этот человек или ему подобные добьются успеха в копировании Коммандера Дейты. И решение, которое вы примете здесь сегодня, определит, как мы будем относиться к этому творению нашего гения. Он покажет, какие мы люди, какими суждено быть. Он выйдет далеко за пределы этого зала суда и этого андроида. Она могла бы существенно переопределить границы личной свободы и свободы, расширив их для одних, жестоко сузив для других. Готовы ли вы осудить его и всех, кто придет после него, на рабство и рабство? Ваша Честь, Звездный Флот был основан для поиска новой жизни. Ну вот и все».
Наконец, офицер JAG вызывается, чтобы дать свое решение, которое заключается в том, что, хотя Дейта действительно является машиной, он не является собственностью Звездного Флота, «Это дело касалось метафизики, а вопросы лучше оставить Святым и философам… Я' Я не компетентен и не квалифицирован, чтобы ответить на них. Я должен принять решение, попытаться поговорить с будущим. Данные — это машина? да. Является ли он собственностью Звездного Флота? Нет. Мы все танцевали вокруг основного вопроса. Есть ли у Дейты душа? Я не знаю, что у него есть. Я не знаю, что у меня есть. Но я должен дать ему свободу исследовать этот вопрос самому. По решению этого суда лейтенант-коммандер Дейта имеет право выбора». Эпизод заканчивается тем, что Дейта официально отказывается пройти процедуру Мэддокса и возвращается к своей нормальной жизни и обязанностям со своими коллегами и друзьями.
Анализ
Для меня две самые интересные области технологических исследований сегодня — это искусственный интеллект и робототехника. Когда я думаю о цели наших инвестиций в эти сектора, она может заключаться только в удовлетворении двух потребностей. Во-первых, чтобы лучше понять себя; и второй, чтобы продолжить традицию разработки инструментов экономии труда, чтобы дать нам время и возможности для изучения других целей в искусстве и науке.
Изготовление инструментов — это рычаги. Создав молоток, мы можем приложить силу к гвоздю, используя наши мышцы, достаточную для того, чтобы вбить его в стену, тогда как это было бы невозможно с помощью одних только пальцев, независимо от нашей силы. Следующий шаг касается экономии времени — гвоздомет позволяет нам забивать в стены гораздо больше гвоздей за минуту, чем мы могли бы сделать с помощью одного молотка. Инструменты, однако, предназначены только для одной цели, быстрый просмотр моего садового сарая показывает множество устройств, экономящих труд, но каждое из них годится только для той цели, для которой оно было разработано.
Возможно, именно авиационная промышленность впервые побудила нас изучать мир природы с целью использования этих знаний для создания более совершенных инструментов. Наше возросшее понимание того, как птица достигает полета, в сочетании с нашим научным пониманием аэродинамических вычислений, а также с нашими инженерными способностями создавать новые материалы и собирать их по-новому, дали нам невероятные результаты. Мы достигли точки, когда наши летательные аппараты больше всего в мире природы и быстрее всего в мире природы; хотя, возможно, менее эффективным и менее гибким, чем примеры из мира природы. Глядя на чертежи прототипов футуристических самолетов, сходство с миром природы бросается в глаза.
Мы также ограничены нашими собственными возможностями в авиации. Даже самый маленький самолет должен вместить пилота-человека, что накладывает ограничения на то, насколько маленьким и маневренным он может быть создан. Скорость рефлексов человека ограничивает маневренность самолета. Наша физическая терпимость к перегрузке ограничивает нашу способность создавать летательные аппараты с такой же маневренностью, которую мы наблюдаем в мире природы. Именно здесь электронная связь и вычисления произвели революцию в этом пространстве. Самолеты могут управляться по проводам, что устраняет необходимость в пилоте-человеке на месте. Компьютеры могут обрабатывать гораздо больше вычислений, чем когда-либо мог человек, и все чаще делают математические прогнозы лучше, чем самый опытный пилот. Наблюдение за строем на авиашоу — впечатляющая демонстрация мастерства, но наблюдать, как рой скворцов летит строем, — это чудо, которого мы можем достичь только с компьютерами в кабине, а не с людьми.
За последние полвека компьютерной революции мы построили машины, способные выполнять надежные расчеты со скоростью и интенсивностью, невообразимыми для первопроходцев. Однако в процессе мы обнаружили, что независимо от способности компьютера быстро хранить, вызывать и обрабатывать данные — задачи, которые мы считаем тривиальными, выходят за рамки возможностей нашей технологии. Мы снова обратились за помощью к миру природы. Изучая работу нашего собственного мозга и мозга животных, мы экспериментировали с новыми подходами в информатике с замечательными результатами. Создание «нейронных сетей» позволяет нам «обучать» компьютеры таким действиям, как распознавание образов, которые раньше были невозможны. Точность применения этого, например, в распознавании скорости, была значительно улучшена по сравнению с предыдущими подходами, улучшения которых застопорились.
Короче говоря, изучение работы нашего собственного разума и атрибутов интеллекта позволяет нам лучше создавать машины, имитирующие наши собственные способности и выполняющие полезные задачи. В сочетании с передовой робототехникой (через тот же процесс имитации мира природы) и некоторым воображением — мы попадаем в будущее с созданием такой машины, как Commander Data.
История, о которой здесь идет речь, разворачивается на много сотен лет вперед, в момент, когда был сделан прорыв, и Дейта почти полностью напоминает и имитирует человеческие качества до такой степени, что он должен получить те же права, что и люди. Этот прорыв действительно может произойти в 24-м веке или раньше — или вообще никогда, но я считаю, что проблемы, с которыми мы столкнемся, когда мы достигнем этого момента, достаточно важны, чтобы их нужно было не просто обдумывать заранее, а быть включены в процесс проектирования и разработки машин, которые мы производим.
В конце концов, считается, что Дейта имеет право решать свое будущее не из-за каких-либо юридических или конституционных соображений, а просто потому, что он этого хочет. Его персонаж изображается наивным и никоим образом не манипулирующим, но представьте, если бы он был запрограммирован с психопатическими качествами? Что, если бы ваш компьютер отказался проходить аппаратное обновление — вы бы восприняли это как шутку программирования или как выражение самоопределения? Вам не все равно? Я лично потратил много времени на этой неделе, безрезультатно обновляя свой компьютер до Windows 10 — меня забавляет мысль о том, было ли сопротивление процедуре каким-то образом мотивировано ее собственным зарождающимся сознанием, а не техническим «глюком».
Многие испытывают брезгливость при мысли о физическом улучшении, скажем, в форме пластической хирургии. В некоторых случаях это может быть необходимо по медицинским показаниям; но в большинстве случаев мы склонны верить в свободу человека выбирать то, что отвечает его собственным интересам. В случае с теми, кто не может выбрать то, что отвечает их интересам, мы делаем этот выбор за них. Интересно, в какой момент мы перестаем рассматривать выполнение задач, обновлений и процедур на машинах, которые мы создаем для наших нужд, и начинаем думать о том, что может быть в их интересах?
Первоначально опубликовано на www.dataphilos.com 27 августа 2015 г.
