Вычислительная техника и интеллект - А. М. Тьюринг.

Всего цитирований: 9815

1. Игра в имитацию

Предлагаю рассмотреть вопрос: «Могут ли машины думать?» Это следует начать с определения значений терминов «машина» и «думать». Определения могут быть составлены так, чтобы отражать, насколько это возможно, нормальное употребление слов, но такое отношение опасно, если значение слов «машина» и «думать» можно найти, изучив, как они обычно используются. трудно избежать вывода, что смысл и ответ на вопрос: «Могут ли машины думать?» следует искать в статистическом обзоре, таком как опрос Gallup. Но это абсурд. Вместо того, чтобы пытаться дать такое определение, я заменю вопрос другим, тесно связанным с ним и выраженным относительно недвусмысленно.

Новую форму проблемы можно описать в терминах игры, которую мы называем «имитационной игрой». В ней участвуют три человека: мужчина (A), женщина (B) и следователь (C), которые могут быть любого пола. Следователь остается в комнате отдельно от двух других. Цель игры для дознавателя - определить, кто из двух других - мужчина, а кто - женщина. Он знает их по ярлыкам X и Y, и в конце игры он говорит либо «X - это A, а Y - это B», либо «X - это B, а Y - это A.» Допрашивающему разрешается задавать вопросы А и Б следующим образом:

C: Х, скажите, пожалуйста, длину его или ее волос?

Теперь предположим, что X на самом деле A, тогда A должен ответить. Цель игры - попытаться заставить C сделать неправильную идентификацию. Поэтому его ответ мог бы быть таким:

«Мои волосы покрыты черепицей, а самые длинные пряди имеют длину около девяти дюймов».

Чтобы тон голоса не помог допрашивающему, ответы следует писать, а еще лучше - на машинке. В идеальном случае между двумя комнатами должен быть установлен телетайп. В качестве альтернативы вопрос и ответы могут быть повторены посредником. Цель игры для третьего игрока (B) - помочь следователю. Вероятно, лучшая стратегия для нее - давать правдивые ответы. Она может добавить такие вещи, как «Я женщина, не слушай его!» на ее ответы, но это бесполезно, поскольку мужчина может делать аналогичные замечания.

Теперь мы задаемся вопросом: «Что произойдет, когда машина возьмет на себя роль А в этой игре?» Будет ли допрашивающий принимать неправильные решения так же часто, когда игра ведется подобным образом, как когда он делает, когда игра ведется между мужчиной и женщиной? Эти вопросы заменяют наш исходный вопрос: «Могут ли машины думать?»

2. Критика новой проблемы

Помимо вопроса: «Каков ответ на эту новую форму вопроса», можно спросить: «Стоит ли исследовать этот новый вопрос?» Последний вопрос мы исследуем без дальнейших церемоний, тем самым прервав бесконечный регресс.

Новая проблема имеет то преимущество, что проводит довольно четкую грань между физическими и интеллектуальными способностями человека. Ни один инженер или химик не заявляет, что может производить материал, неотличимый от кожи человека. Возможно, когда-нибудь это удастся сделать, но даже если предположить, что это изобретение станет доступным, мы почувствуем, что бессмысленно пытаться сделать «мыслящую машину» более человечной, облачая ее в такую ​​искусственную плоть. Форма, в которой мы установили проблему, отражает этот факт в состоянии, которое не позволяет допрашивающему видеть или касаться других участников или слышать их голоса. Некоторые другие достоинства предложенного критерия могут быть продемонстрированы типичными вопросами и ответами. Таким образом:

В: Напишите мне, пожалуйста, сонет о Форт-Бридж.

A: Считайте меня на этом. Я никогда не умел писать стихи.

В: прибавьте 34957 к 70764.

A: (Сделайте паузу около 30 секунд и затем дайте ответ) 105621.

В: Вы играете в шахматы?

Ответ: Да.

Q: У меня K на моем K1, и никаких других фигур. У вас только K на K6 и R на R1. Это ваш ход. Что вы играете?

A: (после паузы в 15 секунд) R-R8 приятель.

Метод вопросов и ответов кажется подходящим для ознакомления практически с любой из областей человеческой деятельности, которые мы хотим включить. Мы не хотим наказывать машину за ее неспособность проявить себя в соревнованиях красоты или наказывать человека за поражение в гонке против самолета. Условия нашей игры делают эти нарушения неактуальными. «Свидетели» могут сколько угодно хвастаться своим обаянием, силой или героизмом, если сочтут это целесообразным, но следователь не может требовать практических демонстраций.

Возможно, игру можно критиковать на том основании, что шансы слишком сильно зависят от машины. Если бы этот человек попытался изобразить из себя машину, он бы явно плохо себя показал. Его сразу выдала бы медлительность и неточность в арифметике. Разве машины не могут выполнять то, что следует описать как мышление, но что сильно отличается от того, что делает человек? Это возражение очень сильное, но, по крайней мере, мы можем сказать, что если, тем не менее, машина может быть сконструирована для удовлетворительной игры в имитацию, это возражение не должно нас беспокоить.

Можно было бы настаивать на том, что при игре в «игру в имитацию» лучшей стратегией для машины может быть нечто иное, чем имитация поведения человека. Это может быть, но я думаю, маловероятно, что есть какой-то большой эффект такого рода. В любом случае здесь нет намерения исследовать теорию игры, и предполагается, что лучшая стратегия - это попытаться дать ответы, которые естественно были бы даны человеком.

3. Машины, участвующие в игре

Вопрос, который мы задаем в 1, не будет вполне определенным, пока мы не уточним, что мы подразумеваем под словом «машина». Естественно, что мы хотим разрешить использование всех видов инженерной техники в наших машинах. Мы также хотим допустить возможность того, что инженер или группа инженеров могут сконструировать машину, которая работает, но способ работы которой не может быть удовлетворительно описан ее конструкторами, потому что они применили метод, который в значительной степени является экспериментальным. Наконец, мы хотим исключить из числа машин людей, рожденных обычным образом. Трудно сформулировать определения так, чтобы они удовлетворяли этим трем условиям. Например, можно было бы настаивать на том, что команда инженеров должна состоять из представителей одного пола, но это не совсем удовлетворительно, поскольку, вероятно, можно вырастить полноценного человека из одной клетки кожи (скажем) мужчины. Сделать это было бы подвигом биологической техники, заслуживающим самой высокой похвалы, но мы не были бы склонны рассматривать это как случай «конструирования мыслящей машины». Это побуждает нас отказаться от требования о разрешении всех видов техники. Мы более готовы к этому, учитывая тот факт, что нынешний интерес к «мыслящим машинам» был вызван особым типом машин, обычно называемых «электронным компьютером» или «цифровым компьютером». Следуя этому предложению, мы разрешаем участвовать в нашей игре только цифровым компьютерам.

Это ограничение на первый взгляд кажется очень жестким. Я попытаюсь показать, что на самом деле это не так. Для этого необходимо вкратце описать природу и свойства этих компьютеров.

Можно также сказать, что такое отождествление машин с цифровыми компьютерами, как и наш критерий «мышления», будет неудовлетворительным, только если (вопреки моему убеждению) окажется, что цифровые компьютеры не могут показать хорошие результаты в игре. .

Ряд цифровых компьютеров уже находится в рабочем состоянии, и может возникнуть вопрос: «Почему бы не попробовать сразу же провести эксперимент? Было бы легко выполнить условия игры. Можно использовать несколько следователей и собирать статистические данные, чтобы показать, как часто производилась правильная идентификация ». Короткий ответ заключается в том, что мы не спрашиваем, все ли цифровые компьютеры хорошо проявят себя в игре и будут ли хорошо доступны компьютеры, доступные в настоящее время, а вопрос о том, есть ли вообразимые компьютеры, которые будут хорошо себя вести. Но это только краткий ответ. Позже мы увидим этот вопрос в ином свете.

4. Цифровые компьютеры

Идею цифровых компьютеров можно объяснить тем, что эти машины предназначены для выполнения любых операций, которые может выполнять человеческий компьютер. Предполагается, что человеческий компьютер следует фиксированным правилам; у него нет полномочий отклоняться от них во всех деталях. Мы можем предположить, что эти правила изложены в книге, которая изменяется всякий раз, когда он получает новую работу. У него также есть неограниченный запас бумаги, на которой он делает свои расчеты. Он также может выполнять свои операции умножения и сложения на «настольном компьютере», но это не важно.

Если мы воспользуемся приведенным выше объяснением в качестве определения, мы столкнемся с опасностью округлости аргументации. Мы избегаем этого, давая набросок. средств, с помощью которых достигается желаемый эффект. Цифровой компьютер обычно можно рассматривать как состоящий из трех частей:

(i) Магазин.

(ii) Исполнительная единица.

(iii) Контроль.

Хранилище является хранилищем информации и соответствует бумаге человеческого компьютера, будь то бумага, на которой он производит свои вычисления, или та, на которой напечатана его книга правил. Поскольку человеческий компьютер производит вычисления в своей бусине, часть запаса будет соответствовать его памяти.

Исполнительный блок - это часть, которая выполняет различные отдельные операции, связанные с вычислением. Эти отдельные операции будут отличаться от машины к машине. Обычно можно выполнять довольно длинные операции, такие как «Умножить 3540675445 на 7076345687», но на некоторых машинах возможны только очень простые операции, такие как «Записать 0».

Мы уже упоминали, что «книга правил», поставляемая в компьютер, заменяется в машине частью магазина. Тогда это называется «таблицей инструкций». Контролирующий орган обязан следить за тем, чтобы эти инструкции выполнялись правильно и в правильном порядке. Контроль построен так, что это обязательно происходит.

Информация в магазине обычно разбита на пакеты среднего размера. Например, на одной машине пакет может состоять из десяти десятичных цифр. Номера присваиваются частям хранилища, в которых хранятся различные пакеты информации, некоторым систематическим образом. Типичная инструкция может сказать:

«Добавьте число, сохраненное в позиции 6809, к числу в 4302 и поместите результат обратно в последнюю позицию хранения».

Само собой разумеется, что это не произойдет в машине, выраженной на английском языке. Скорее всего, он будет закодирован в такой форме, как 6809430217. Здесь 17 говорит, какая из различных возможных операций должна быть выполнена с двумя числами. В этом случае операция будет описана выше, а именно: «Добавить номер. . . . » Следует отметить, что инструкция занимает 10 цифр и поэтому очень удобно формирует один пакет информации. Элемент управления обычно принимает инструкции, которым необходимо следовать в порядке позиций, в которых они хранятся, но иногда такие инструкции, как

«Теперь соблюдайте инструкцию, хранящуюся в позиции 5606, и продолжайте оттуда»

может встретиться, или снова

«Если позиция 4505 содержит 0, подчиняйтесь следующей инструкции, сохраненной в 6707, в противном случае продолжайте прямо».

Инструкции этих последних типов очень важны, потому что они позволяют заменять последовательность операций снова и снова, пока не будет выполнено какое-либо условие, но при этом подчиняться не новым инструкциям при каждом повторении, а тем же самым. и снова. Возьмем отечественную аналогию. Предположим, мама хочет, чтобы Томми каждое утро по дороге в школу заходил к сапожнику, чтобы проверить, готовы ли ее туфли. Она может спрашивать его каждое утро заново. В качестве альтернативы она может раз и навсегда наклеить в холле объявление, которое он увидит, когда уйдет в школу, и которое велит ему вызвать обувь, а также уничтожить объявление, когда он вернется, если обувь у него с собой. .

Читатель должен принять как факт, что цифровые компьютеры могут быть сконструированы и действительно были сконструированы согласно принципам, которые мы описали, и что они могут фактически очень точно имитировать действия человеческого компьютера.

Книга правил, которую мы описали как использующую наш человеческий компьютер, конечно, удобная выдумка. Настоящие человеческие компьютеры действительно помнят, что им нужно делать. Если кто-то хочет заставить машину имитировать поведение человеческого компьютера в какой-то сложной операции, он должен спросить его, как это делается, а затем перевести ответ в форму таблицы инструкций. Создание таблиц инструкций обычно описывается как «программирование». «Запрограммировать машину на выполнение операции А» означает поместить в машину соответствующую таблицу команд, чтобы она выполняла А.

Интересным вариантом идеи цифрового компьютера является «цифровой компьютер со случайным элементом». В них есть инструкции, включающие бросание игральной кости или другой эквивалентный электронный процесс; одна из таких инструкций может быть, например, «Бросьте кубик и положите полученное число в магазин 1000». Иногда такая машина описывается как обладающая свободой воли (хотя сам я бы не стал использовать эту фразу). Наблюдая за машиной, обычно невозможно определить, есть ли в ней случайный элемент, поскольку аналогичный эффект может быть произведен такими устройствами, как выбор зависит от цифр десятичной дроби для.

Большинство реальных цифровых компьютеров имеют ограниченный запас. В идее компьютера с неограниченным хранилищем нет теоретических трудностей. Конечно, единовременно можно использовать только конечную часть. Точно так же может быть построено только конечное количество, но мы можем представить, что по мере необходимости добавляется все больше и больше. Такие компьютеры представляют особый теоретический интерес и будут называться компьютерами бесконечной емкости.

Идея цифрового компьютера устарела. Чарльз Бэббидж, люкасовский профессор математики в Кембридже с 1828 по 1839 год, спроектировал такую ​​машину, названную аналитической машиной, но она так и не была завершена. Хотя у Бэббиджа были все основные идеи, его машина в то время не представляла собой такой привлекательной перспективы. Скорость, которая была бы доступна, была бы определенно выше, чем у человеческого компьютера, но примерно в 100 раз медленнее, чем у манчестерской машины, которая сама по себе была одной из самых медленных из современных машин. Хранилище должно было быть чисто механическим, с использованием колес и карт.

Тот факт, что аналитическая машина Бэббиджа должна была быть полностью механической, поможет нам избавиться от суеверий. Часто большое значение придается тому факту, что современные цифровые компьютеры являются электрическими, и что нервная система тоже электрическая. Поскольку машина Бэббиджа не была электрической, и поскольку все цифровые компьютеры в некотором смысле эквивалентны, мы видим, что такое использование электричества не может иметь теоретического значения. Конечно, электричество обычно используется там, где речь идет о быстрой передаче сигналов, поэтому неудивительно, что мы находим его в обоих этих соединениях. В нервной системе химические явления не менее важны, чем электрические. В некоторых компьютерах система хранения в основном акустическая. Таким образом, особенность использования электричества видится лишь в очень поверхностном сходстве. Если мы хотим найти такие сходства, мы должны скорее принять за математические аналогии функции.

5. Универсальность цифровых компьютеров

Цифровые компьютеры, рассмотренные в последнем разделе, можно отнести к «машинам с дискретным состоянием». Это машины, которые резкими скачками или щелчками переходят из одного вполне определенного состояния в другое. Эти состояния достаточно различны, чтобы можно было не учитывать возможность смешения между ними. Строго говоря, таких машин нет. Все действительно движется непрерывно. Но есть много видов машин, которые можно рассматривать как машины с дискретным состоянием. Например, при рассмотрении переключателей для системы освещения удобной фикцией является то, что каждый переключатель должен быть определенно включен или определенно выключен. Должны быть промежуточные позиции, но в большинстве случаев о них можно забыть. В качестве примера машины с дискретными состояниями мы могли бы рассмотреть колесо, которое совершает щелчок на 120 раз в секунду, но может останавливаться] когда-либо, которым можно управлять извне; Кроме того, в одном из положений колеса должна загореться лампа. Эту машину можно абстрактно описать следующим образом. Внутреннее состояние машины (которое описывается положением колеса) может быть q1, q2 или q3. Есть входной сигнал i0. или i1 (позиция] когда-либо). Внутреннее состояние в любой момент определяется последним состоянием и входным сигналом согласно таблице.

(ТАБЛИЦА УДАЛЕНА)

Выходные сигналы, единственная видимая снаружи индикация внутреннего состояния (свет), описаны в таблице.

Состояние q1 q2 q3

выход o0 o0 o1

Этот пример типичен для машин с дискретным состоянием. Их можно описать такими таблицами при условии, что у них есть только конечное число возможных состояний.

Может показаться, что, учитывая начальное состояние машины и входные сигналы, всегда можно предсказать все будущие состояния. Это напоминает точку зрения Лапласа о том, что из полного состояния Вселенной в один момент времени, как описано позициями и скорости всех частиц, должно быть возможно предсказать все будущие состояния. Однако предсказание, которое мы рассматриваем, гораздо ближе к практической реализации, чем предсказание Лапласа. Система «Вселенная в целом» такова, что совсем небольшие ошибки в начальных условиях могут оказать подавляющее влияние в более позднее время. Смещение отдельного электрона на одну миллиардную сантиметра в один момент может иметь значение, будет ли человек убит лавиной год спустя или спасется бегством. Это существенное свойство механических систем, которые мы назвали «машинами с дискретным состоянием», что этого явления не происходит. Даже когда мы рассматриваем реальные физические машины, а не идеализированные машины, достаточно точное знание состояния в один момент дает достаточно точное знание через любое количество шагов позже.

Как мы уже упоминали, цифровые компьютеры относятся к классу машин с дискретным состоянием. Но количество состояний, на которые способна такая машина, обычно чрезвычайно велико. Например, количество машин, работающих сейчас в Манчестере, составляет около 2 165 000, то есть около 10 50 000. Сравните это с нашим примером колесика управления, описанного выше, которое имело три состояния. Нетрудно понять, почему количество государств должно быть таким огромным. Компьютер включает в себя хранилище, соответствующее бумаге, используемой человеческим компьютером. В магазине должна быть возможность записать любую из комбинаций символов, которые могли быть написаны на бумаге. Для простоты предположим, что в качестве символов используются только цифры от 0 до 9. Вариации почерка игнорируются. Предположим, компьютеру разрешено 100 листов бумаги, каждый из которых содержит 50 строк, на каждом из которых помещается 30 цифр. Тогда количество состояний будет 10 100x50x30, т.е. 10 150 000. Это примерно количество состояний трех манчестерских машин вместе взятых. Логарифм по основанию два числа состояний обычно называют «емкостью памяти» машины. Таким образом, манчестерская машина имеет емкость около 165 000, а колесная машина нашего примера - около 1,6. Если две машины собраны вместе, их мощности должны быть сложены, чтобы получить мощность полученной машины. Это приводит к возможности таких утверждений, как «Манчестерская машина содержит 64 магнитных дорожки, каждая емкостью 2560, восемь электронных ламп емкостью 1280. Разное хранилище составляет около 300, что в общей сложности составляет 174 380».

Имея таблицу, соответствующую машине с дискретными состояниями, можно предсказать, что она будет делать. Нет причин, по которым этот расчет не следует проводить с помощью цифрового компьютера. При условии, что это может быть выполнено достаточно быстро, цифровой компьютер может имитировать поведение любой машины с дискретными состояниями. Затем в имитационную игру можно играть с рассматриваемой машиной (как B) и имитирующим цифровым компьютером (как A), и дознаватель не сможет их различить. Конечно, цифровой компьютер должен иметь достаточную емкость памяти, а также работать достаточно быстро. Более того, он должен быть заново запрограммирован для каждой новой машины, которую нужно имитировать.

Это особое свойство цифровых компьютеров, заключающееся в том, что они могут имитировать любую машину с дискретными состояниями, описывается тем, что они являются универсальными машинами. Существование машин с этим свойством имеет важное последствие, заключающееся в том, что, помимо соображений скорости, нет необходимости разрабатывать различные новые машины для выполнения различных вычислительных процессов. Все они могут быть выполнены с помощью одного цифрового компьютера, запрограммированного соответствующим образом для каждого случая. Трудно заметить, что вследствие этого все цифровые компьютеры в определенном смысле эквивалентны.

Теперь мы можем снова рассмотреть вопрос, поднятый в конце § 3. Предварительно было предложено задать вопрос «Могут ли машины думать?» следует заменить на «Существуют ли вообразимые цифровые компьютеры, которые преуспели бы в имитационной игре?» При желании мы можем сделать это поверхностно более общим и спросить: «Существуют ли машины с дискретным состоянием, которые будут хорошо работать?» Но, учитывая свойство универсальности, мы видим, что любой из этих вопросов эквивалентен следующему: «Давайте сосредоточим наше внимание на одном конкретном цифровом компьютере C. Верно ли, что, модифицируя этот компьютер, чтобы иметь адекватное хранилище, соответствующим образом увеличивая его скорость действия, и снабдив его соответствующей программой, можно заставить C удовлетворительно играть роль A в имитационной игре, а роль B играет человек? »

6. Противоречие взглядам на главный вопрос

Теперь мы можем считать, что почва расчищена, и мы готовы перейти к обсуждению нашего вопроса: «Могут ли машины думать?» и его вариант, указанный в конце последнего раздела. Мы не можем полностью отказаться от первоначальной формы проблемы, поскольку мнения относительно целесообразности замены будут разными, и мы должны, по крайней мере, прислушаться к тому, что должно быть сказано в этой связи.

Это упростит задачу для читателя, если я сначала объясню свои собственные убеждения в этом вопросе. Сначала рассмотрим более точную форму вопроса. Я верю, что примерно через пятьдесят лет появится возможность запрограммировать компьютеры с объемом памяти около 109, чтобы заставить их играть в имитационную игру так хорошо, что средний следователь не будет иметь более 70 процентов шансов сделать правильное опознание после пяти минут допроса. Исходный вопрос: «Могут ли машины думать?» Я считаю, что это слишком бессмысленно, чтобы заслуживать обсуждения. Тем не менее я верю, что в конце века использование слов и общеобразованное мнение изменится настолько, что можно будет говорить о машинном мышлении, не ожидая, что ему будут противоречить. Я также считаю, что сокрытие этих убеждений бесполезно. Популярное мнение о том, что ученые неумолимо переходят от установленного факта к установленному факту, никогда не попадая под влияние каких-либо улучшенных предположений, совершенно ошибочно. При условии, что ясно, какие факты являются доказанными, а какие - предположениями, вред не может быть нанесен. Гипотезы имеют большое значение, поскольку они предлагают полезные направления исследования.

Теперь я перехожу к рассмотрению мнений, противоположных моему собственному.

(1) Теологическое возражение

Мышление - это функция бессмертной души человека. Бог дал бессмертную душу каждому мужчине и каждой женщине, но не любому другому животному или машинам. Следовательно, ни одно животное или машина не могут думать.

Я не могу согласиться с какой-либо частью этого, но попытаюсь ответить в богословских терминах. Я нашел бы этот аргумент более убедительным, если бы животных причисляли к людям, поскольку, на мой взгляд, существует большая разница между типичными одушевленными и неодушевленными существами, чем между человеком и другими животными. Произвольный характер ортодоксальной точки зрения становится более ясным, если мы рассмотрим, как она могла бы казаться представителю какой-либо другой религиозной общины. Как христиане относятся к мусульманской точке зрения, согласно которой у женщин нет души? Но оставим этот момент в стороне и вернемся к основному аргументу. Мне кажется, что приведенный выше аргумент подразумевает серьезное ограничение всемогущества Всевышнего. Признается, что есть определенные вещи, которые Он не может сделать, например, сделать одно равным двум, но не должны ли мы не верить, что у Него есть свобода даровать душу слону, если Он считает нужным? Мы могли бы ожидать, что Он будет использовать эту силу только в сочетании с мутацией, которая предоставила слону надлежащим образом улучшенный мозг, чтобы удовлетворять потребности такого рода [. Точно такой же аргумент можно привести в случае машин. Это может показаться другим, потому что «глотать» труднее. Но на самом деле это означает только то, что мы думаем, что было бы менее вероятно, что Он сочтет обстоятельства подходящими для наделения души. Рассматриваемые обстоятельства обсуждаются в оставшейся части статьи. Пытаясь сконструировать такие машины, мы не должны непочтительно узурпировать Его силу созидания душ, как и в случае деторождения: скорее, в любом случае мы являемся инструментами Его воли, обеспечивающими обители для душ, которые Он создает. .

Однако это всего лишь предположение. Меня не очень впечатляют теологические аргументы, в поддержку чего бы они ни были. Такие аргументы в прошлом часто оказывались неудовлетворительными. Во времена Галилея утверждалось, что тексты: «И солнце остановилось. . . и не торопился спускаться около целого дня »(Иисус Навин, X, 13) и« Он заложил основы земли, чтобы она не двигалась ни в какое время »(Псалом 5) были адекватным опровержением теории Коперника. . При наших нынешних знаниях такой аргумент кажется бесполезным. Когда этих знаний не было, это производило совсем другое впечатление.

(2) Возражение «голова в песке»

Последствия машинного мышления были бы слишком ужасными. Будем надеяться и верить, что они не могут этого сделать ».

Этот аргумент редко выражается так открыто, как в приведенной выше форме. Но это влияет на большинство из нас, кто вообще об этом думает. Нам нравится верить, что Человек в каком-то неуловимом смысле превосходит все остальное творение. Лучше всего, если можно будет показать, что он обязательно превосходит всех, поскольку тогда нет опасности, что он потеряет свое командное положение. Популярность богословского аргумента явно связана с этим чувством. Вероятно, он будет довольно сильным у интеллектуальных людей, поскольку они ценят силу мышления больше, чем другие, и более склонны основывать свою веру в превосходство человека на этой способности.

Я не думаю, что этот аргумент достаточно существенен, чтобы требовать опровержения. Утешение было бы более уместным: возможно, его следует искать в переселении душ.

(3) Математическое возражение

Существует ряд результатов математической логики, которые можно использовать, чтобы показать, что существуют ограничения на возможности машин с дискретным состоянием. Самый известный из этих результатов известен как теорема Гёделя (1931) и показывает, что в любой достаточно мощной логической системе могут быть сформулированы утверждения, которые нельзя ни доказать, ни опровергнуть в рамках системы, если, возможно, сама система не является непоследовательной. Есть и другие, в некотором смысле похожие результаты, полученные Черчем (1936), Клини (1935), Россером и Тьюрингом (1937). Последний результат наиболее удобен для рассмотрения, поскольку он относится непосредственно к машинам, тогда как другие могут использоваться только в сравнительно косвенных аргументах: например, если нужно использовать теорему Гёделя, нам нужно вдобавок иметь некоторые средства описания логических аргументов. системы в терминах машин и машины в терминах логических систем. Рассматриваемый результат относится к типу машины, которая по сути представляет собой цифровой компьютер с бесконечной производительностью. В нем говорится, что есть определенные вещи, которые такая машина делать не может. Если он настроен так, чтобы давать ответы на вопросы, как в игре с имитацией, будут некоторые вопросы, на которые он либо даст неправильный ответ, либо вообще не ответит, сколько бы времени не было на ответ. Конечно, таких вопросов может быть много, и на вопросы, на которые не может ответить одна машина, может дать удовлетворительный ответ другой. Мы, конечно, в настоящее время предполагаем, что это вопросы того типа, на которые уместен ответ «Да» или «Нет», а не такие вопросы, как «Что вы думаете о Пикассо?» Вопросы, которые, как мы знаем, должны давать сбой в машинах, относятся к следующему: «Рассмотрим машину, указанную ниже. . . . Сможет ли эта машина когда-нибудь ответить «да» на любой вопрос? » Точки заменяются описанием какой-либо машины в стандартной форме, которая может быть чем-то вроде того, что использовалось в §5. Когда описываемая машина имеет определенное сравнительно простое отношение к машине, которая подвергается допросу, можно показать, что ответ либо неверен, либо не ожидается. Это математический результат: утверждается, что он доказывает неработоспособность машин, которой не подвержен человеческий интеллект.

Краткий ответ на этот аргумент состоит в том, что, хотя установлено, что существуют ограничения для Силы какой-либо конкретной машины, было только заявлено, без каких-либо доказательств, что такие ограничения не применимы к человеческому интеллекту. Но я не думаю, что эту точку зрения можно так легко отвергнуть. Всякий раз, когда одной из этих машин задают соответствующий критический вопрос, и она дает определенный ответ, мы знаем, что этот ответ должен быть неправильным, и это дает нам определенное чувство превосходства. Это чувство иллюзорно? Это, без сомнения, вполне подлинное, но я не думаю, что ему следует придавать слишком большое значение. Мы слишком часто сами даем неправильные ответы на вопросы, чтобы иметь право быть очень довольными такими доказательствами ошибочности со стороны машин. Кроме того, наше превосходство можно почувствовать только в таком случае по отношению к той машине, над которой мы одержали ничтожную победу. Не могло быть и речи о победе над всеми машинами одновременно. Короче говоря, могут быть люди умнее любой данной машины, но опять же, могут быть другие машины снова умнее, и так далее.

Те, кто придерживается математического аргумента, я думаю, в основном он был бы готов принять игру в имитацию в качестве основы для обсуждения. Те, кто верит в два предыдущих возражения, вероятно, не будут интересоваться никакими критериями.

(4) Аргумент сознания

Этот аргумент очень хорошо выражен в книге профессора Джефферсона «Lister Oration» за 1949 год, которую я цитирую. «Только когда машина сможет написать сонет или сочинить концерт из-за пережитых мыслей и эмоций, а не из-за случайного выпадения символов, мы не сможем согласиться с тем, что машина равна мозгу, то есть не только писать, но и знать, что она написала Это. Ни один механизм не может испытывать (а не просто искусственно сигнализировать, легкое изобретение) удовольствие от своих успехов, горе, когда его клапаны сливаются, подогреваться лести, становиться несчастным из-за своих ошибок, очаровываться сексом, сердиться или подавляться, когда он не может получить то, что хочет ».

Этот аргумент, по-видимому, отрицает достоверность нашего теста. Согласно наиболее экстремальной форме этой точки зрения, единственный способ убедиться, что машина думает, - это быть машиной и почувствовать себя мыслящим. Затем можно было бы описать эти чувства миру, но, конечно, никому не было бы права обращать на это внимание. Точно так же, согласно этой точке зрения, единственный способ узнать, что думает человек, - это быть именно этим человеком. Фактически, это солипсистская точка зрения. Возможно, это наиболее логичная точка зрения, но она затрудняет обмен идеями. A склонен полагать, что «A думает, а B нет», в то время как B считает, что «B думает, а A - нет». вместо того, чтобы постоянно спорить по этому поводу, обычно принято вежливое соглашение, о котором думают все.

Я уверен, что профессор Джефферсон не желает принимать крайнюю и солипсистскую точку зрения. Вероятно, он был бы вполне согласен принять игру в имитацию как испытание. Игра (с опущенным игроком B) часто используется на практике под названием viva voce, чтобы выяснить, действительно ли кто-то что-то понимает или «научился этому как попугай». Давайте послушаем отрывок из такого viva voce:

Допрашивающий: В первой строке вашего сонета, которая гласит: «Могу ли я сравнить тебя с летним днем», разве «весенний день» не подойдет так же или лучше?

Свидетель: Он не будет сканировать.

Допрашивающий: А как насчет «зимнего дня»? Хорошо бы просканировать.

Свидетель: Да, но никто не хочет, чтобы его сравнивали с зимним днем.

Допрашивающий: Вы бы сказали, что мистер Пиквик напомнил вам Рождество?

Свидетель: В некотором смысле.

Допрашивающий: И все же Рождество - зимний день, и я не думаю, что мистер Пиквик возражал бы против сравнения.

Свидетель: Я не думаю, что вы серьезно. Под зимним днем ​​подразумевается типичный зимний день, а не такой особенный, как Рождество.

И так далее. Что бы сказал профессор Джефферсон, если бы машина для написания сонетов могла отвечать таким образом в viva voce? Я не знаю, посчитал бы он машину «просто искусственно сигнализирующей» об этих ответах, но если бы ответы были такими же удовлетворительными и устойчивыми, как в приведенном выше отрывке, я не думаю, что он описал бы это как «легкое изобретение». Я думаю, эта фраза предназначена для обозначения таких устройств, как включение в машину записи о чтении сонета с соответствующим переключением, чтобы время от времени включать его.

Короче говоря, я думаю, что большинство из тех, кто поддерживает аргумент, основанный на сознании, можно убедить отказаться от него, а не принудить к солипсистской позиции. Тогда они, вероятно, захотят принять наш тест.

Я не хочу создавать впечатление, будто считаю, что в сознании нет никакой тайны. Есть, например, парадокс, связанный с любой попыткой его локализовать. Но я не думаю, что эти загадки обязательно нужно разгадывать, прежде чем мы сможем ответить на вопрос, который нас интересует в этой статье.

(5) Аргументы от различных недугов

Эти аргументы принимают форму: «Я допускаю, что вы можете заставить машины делать все то, что вы упомянули, но вы никогда не сможете заставить их делать X». В этой связи предлагается множество функций X, которые я предлагаю на выбор:

Будьте добры, находчивы, красивы, дружелюбны, проявляйте инициативу, обладайте чувством юмора, отличите правильное от неправильного, совершайте ошибки, влюбляйтесь, наслаждайтесь клубникой и сливками, заставляйте кого-то влюбиться в них, учитесь на опыте, используйте слова собственно говоря, быть предметом собственной мысли, иметь такое же разнообразие поведения, как мужчина, делать что-то действительно новое.

Эти утверждения обычно не поддерживаются. Я считаю, что они в основном основаны на принципе научной индукции. Человек за свою жизнь видел тысячи машин. Из того, что он видит о них, он делает ряд общих выводов. Они уродливы, каждый предназначен для очень ограниченной цели, когда требуется для совершенно иной цели, они бесполезны, разнообразие поведения любого из них очень мало и т. Д. И т. Д. Естественно, он заключает, что это необходимые свойства. машин в целом. Многие из этих ограничений связаны с очень маленькой емкостью памяти большинства машин. (Я предполагаю, что идея емкости памяти каким-то образом распространяется на машины, отличные от машин с дискретным состоянием. Точное определение не имеет значения, поскольку в настоящем обсуждении не утверждается математическая точность.) Несколько лет назад, когда очень О цифровых компьютерах мало что было слышно, можно было вызвать много недоверия в отношении них, если упомянуть их свойства, не описывая их конструкцию. Предположительно, это произошло из-за аналогичного применения принципа научной индукции. Эти применения принципа, конечно, в значительной степени бессознательны. Когда обгоревший ребенок боится огня и показывает, что боится его, избегая его, следует сказать, что он применял научную индукцию. (Я мог бы, конечно, также описать его поведение многими другими способами.) Труды и обычаи человечества не кажутся очень подходящим материалом для применения научной индукции. Для получения надежных результатов необходимо исследовать очень большую часть пространства-времени. В противном случае мы можем (как и большинство английских детей) решить, что все говорят по-английски, а учить французский - глупо.

Однако следует сделать особые замечания по поводу многих упомянутых инвалидностей. Невозможность полакомиться клубникой со сливками могла показаться читателю легкомысленной. Возможно, чтобы насладиться этим восхитительным блюдом, можно было бы создать машину, но любая попытка заставить ее это сделать будет идиотской. Что важно в этой инвалидности, так это то, что она вносит свой вклад в некоторые другие инвалидности, например, затрудняет возникновение такого же рода дружелюбия между человеком и машиной, как между белым человеком и белым человеком или между черным человеком и черным человеком.

Утверждение, что «машины не могут ошибаться», кажется любопытным. Возникает искушение возразить: «Неужели им от этого хуже?» Но давайте займем более благожелательную позицию и попробуем понять, что имеется в виду на самом деле. Думаю, эту критику можно объяснить игрой в имитацию. Утверждается, что следователь мог отличить машину от человека, просто задав им ряд арифметических задач. Машину разоблачат из-за ее смертоносной точности. Ответ на это прост. Машина (запрограммированная для игры) не будет пытаться дать правильные ответы на арифметические задачи. Он намеренно вводит ошибки таким образом, чтобы запутать дознавателя. Механический сбой, вероятно, проявится из-за неподходящего решения о том, какую ошибку сделать в арифметике. Даже такая интерпретация критики не вызывает достаточно сочувствия. Но мы не можем позволить себе углубляться в это гораздо дальше. Мне кажется, что эта критика зависит от смешения двух видов ошибок. Мы можем назвать их «ошибками функционирования» и «ошибками вывода». Ошибки в работе возникают из-за какой-либо механической или электрической неисправности, из-за которой машина ведет себя не так, как было задумано. В философских дискуссиях любят игнорировать возможность таких ошибок; поэтому обсуждают «абстрактные машины». Эти абстрактные машины - математические фикции, а не физические объекты. По определению они неспособны к ошибкам функционирования. В этом смысле мы действительно можем сказать, что «машины никогда не могут ошибаться». Ошибки в выводах могут возникнуть только тогда, когда выходным сигналам машины придается какое-то значение. Например, машина может печатать математические уравнения или предложения на английском языке. Когда вводится ложное предложение, мы говорим, что машина совершила ошибку вывода. Совершенно очевидно, что нет никаких оснований утверждать, что машина не может совершать такую ​​ошибку. Он может ничего не делать, кроме как многократно набирать «O = I». Возьмем менее извращенный пример: у него может быть какой-то метод для научных выводов. Мы должны ожидать, что такой метод будет иногда приводить к ошибочным результатам.

На утверждение о том, что машина не может быть предметом собственного мышления, можно, конечно, ответить, только если можно будет показать, что машина имеет некоторую мысль с каким-то предметом. Тем не менее, «предмет работы машины», кажется, что-то значит, по крайней мере, для людей, которые с ней имеют дело. Если, например, машина пытается найти решение уравнения x2–40x - 11 = 0, возникает соблазн описать это уравнение как часть предмета изучения машины в тот момент. В этом смысле машина, несомненно, может быть самостоятельным объектом. Его можно использовать для составления собственных программ или для прогнозирования эффекта изменений в его собственной структуре. Наблюдая за результатами своего поведения, он может модифицировать свои собственные программы для более эффективного достижения какой-либо цели. Это возможности ближайшего будущего, а не утопические мечты.

Критика за то, что машина не может иметь большого разнообразия поведения, - это просто способ сказать, что у нее не может быть большой емкости памяти. До недавнего времени емкость памяти даже в тысячу цифр была очень редкой.

Критика, которую мы здесь рассматриваем, часто являются замаскированными формами аргументации от сознания.Обычно, если кто-то утверждает, что машина может делать одну из этих вещей, и описывает метод, который машина могла бы использовать, никто не придет к особому вниманию. впечатление. Считается, что кафельный метод (каким бы он ни был, ведь он должен быть механическим) действительно достаточно базовый. Сравните скобки в заявлении Джефферсона, приведенном на странице 22.

(6) Возражение леди Лавлейс

Наиболее подробная информация об аналитической машине Бэббиджа содержится в мемуарах леди Лавлейс (1842 г.). В нем она заявляет: «Аналитическая машина не претендует на создание чего-либо. Он может делать все, что мы знаем, как ему приказать выполнять »(курсив). Это утверждение цитирует Хартри (1949), который добавляет: «Это не означает, что невозможно построить электронное оборудование, которое будет« думать само за себя »или в котором, с биологической точки зрения, можно было бы создать условный рефлекс. , что послужило бы основой для «обучения». Возможно ли это в принципе или нет - это стимулирующий и захватывающий вопрос, предложенный некоторыми из этих недавних разработок. имущество."

Я полностью согласен с Хартри по этому поводу. Следует отметить, что он не утверждает, что машины, о которых идет речь, не обладали собственностью, а скорее, что доказательства, доступные леди Лавлейс, не побудили ее поверить в то, что она у них была. Вполне возможно, что рассматриваемые машины в некотором смысле обладали этим свойством. Предположим, что некоторая машина с дискретным состоянием обладает свойством. Аналитическая машина была универсальным цифровым компьютером, так что, если бы его объем памяти и скорость были адекватными, его можно было с помощью подходящего программирования имитировать рассматриваемую машину. Вероятно, ни графине, ни Бэббиджу этот спор не приходил в голову. В любом случае у них не было обязательства требовать все, на что можно было претендовать.

Весь этот вопрос мы снова рассмотрим под заголовком обучающихся машин.

Один из вариантов возражения леди Лавлейс гласит, что машина «никогда не может делать ничего действительно нового». Это можно на мгновение парировать с помощью пилы: «Нет ничего нового под солнцем». Кто может быть уверен в том, что «первоначальная работа», которую он проделал, была не просто ростом семени, посеянным в нем путем обучения, или следствием следования общеизвестным общим принципам. Лучший вариант возражения гласит, что машина никогда не может «застать нас врасплох». Это утверждение является более прямым вызовом, и его можно решить напрямую. Машины застают меня врасплох очень часто. Во многом это связано с тем, что я не делаю достаточных расчетов, чтобы решить, чего от них ожидать, или, скорее, потому, что, хотя я делаю расчет, я делаю это поспешно, небрежно, рискуя. Возможно, я говорю себе: «Я полагаю, что напряжение здесь должно быть таким же, как и там; во всяком случае, давайте предположим, что оно есть». Естественно, я часто ошибаюсь, и результат для меня является неожиданностью, потому что ко времени проведения эксперимента эти предположения были забыты. Эти признания открывают мне возможность читать лекции о моих порочных путях, но не ставят под сомнение мою достоверность, когда я свидетельствую о переживаемых мной сюрпризах.

Я не думаю, что этот ответ заставит моего критика замолчать. Он, вероятно, скажет, что h сюрпризов вызваны каким-то творческим умственным действием с моей стороны и не отразятся на машине. Это возвращает нас к аргументу, основанному на сознании, и далек от идеи удивления. Это аргумент, который мы должны считать завершенным, но, возможно, стоит отметить, что оценка чего-либо как удивительного требует не меньше «творческого мысленного акта», независимо от того, исходит ли это удивительное событие от человека, книги, машины или чего-то еще. еще.

Я считаю, что мнение о том, что машины не могут вызывать сюрпризов, связано с ошибкой, которой особенно подвержены философы и математики. Это предположение, что как только факт представлен в уме, все последствия этого факта возникают в уме одновременно с ним. Это очень полезное предположение во многих обстоятельствах, но слишком легко забыть, что оно ложно. Естественным следствием этого является то, что затем предполагается, что нет никакой добродетели в простом выводе результатов из данных и общих принципов.

(7) Аргумент от непрерывности нервной системы

Нервная система, конечно же, не машина с дискретными состояниями. Небольшая ошибка в информации о размере нервного импульса, воздействующего на нейрон, может иметь большое значение для размера исходящего импульса. Можно утверждать, что в этом случае нельзя ожидать возможности имитировать поведение нервной системы с помощью системы с дискретными состояниями.

Верно, что машина с дискретными состояниями должна отличаться от машины непрерывного действия. Но если мы будем придерживаться условий имитационной игры, следователь не сможет воспользоваться этой разницей. Ситуацию можно прояснить, если мы рассмотрим звуковую более простую машину непрерывного действия. Очень хорошо подойдет дифференциальный анализатор. (Дифференциальный анализатор - это определенный тип машины, не относящейся к типу дискретных состояний, используемый для некоторых видов вычислений.) Некоторые из них дают свои ответы в типизированной форме и поэтому подходят для участия в игре. Цифровой компьютер не сможет точно предсказать, какие ответы дифференциальный анализатор даст на проблему, но он вполне способен дать правильный ответ. Например, если вас попросят указать значение (фактически около 3,1416), было бы разумно выбрать случайным образом между значениями 3,12, 3,13, 3,14, 3,15, 3,16 с вероятностями 0,05, 0,15, 0,55, 0,19, 0,06 (скажем, ). В этих условиях для дознавателя будет очень трудно отличить дифференциальный анализатор от цифрового компьютера.

(8) Аргумент неформального поведения

Невозможно создать свод правил, претендующих на то, чтобы описать, что мужчина должен делать во всех мыслимых стечениях обстоятельств. Например, можно было бы иметь правило, согласно которому нужно останавливаться, когда видишь красный светофор, и идти, если видишь зеленый свет, но что, если по какой-то ошибке оба появляются вместе? Может быть, кто-то решит, что безопаснее всего остановиться. Но позже из этого решения вполне могут возникнуть некоторые дополнительные трудности. Пытаться установить правила поведения, охватывающие все возможные ситуации, даже связанные со светофором, кажется невозможным. Со всем этим согласен.

На основании этого утверждается, что мы не можем быть машинами. Я попытаюсь воспроизвести этот аргумент, но боюсь, что вряд ли смогу передать его должным образом. Вроде работает примерно так. «Если бы у каждого человека был определенный набор правил поведения, с помощью которых он регулировал свою жизнь, он был бы не лучше машины. Но таких правил нет, поэтому люди не могут быть машинами ». Нераспределенная середина бросается в глаза. Я не думаю, что этот аргумент когда-либо формулируется так, но я считаю, что, тем не менее, это аргумент. Однако может существовать определенная путаница между «правилами поведения» и «законами поведения», чтобы затушевать проблему. Под «правилами поведения» я подразумеваю такие заповеди, как «Остановись, если увидишь красный свет», по которым можно действовать и которые можно осознавать. Под «законами поведения» я подразумеваю законы природы применительно к человеческому телу, такие как «если вы его ущипнете, он начнет пищать». Если мы заменим «законы поведения, регулирующие его жизнь» на «законы поведения, с помощью которых он регулирует свою жизнь» в приведенном аргументе, нераспределенная середина больше не является непреодолимой. Поскольку мы считаем, что не только верно то, что регулирование законами поведения подразумевает, что мы являемся своего рода машиной (хотя и не обязательно машиной с дискретными состояниями), но, наоборот, быть такой машиной подразумевает регулирование такими законами. Однако мы не можем так легко убедить себя в отсутствии полных законов поведения, как полных правил поведения. Единственный известный нам способ найти такие законы - это научное наблюдение, и мы определенно не знаем обстоятельств, при которых мы могли бы сказать: «Мы достаточно исследовали. Таких законов нет ».

Мы можем более убедительно продемонстрировать, что любое такое заявление было бы необоснованным. Предположим, мы могли бы быть уверены, что найдем такие законы, если бы они существовали. Тогда, учитывая машину с дискретными состояниями, она, безусловно, должна иметь возможность обнаружить путем наблюдения достаточно, чтобы предсказать ее будущее поведение, и это в течение разумного времени, скажем, через тысячу лет. Но похоже, что это не так. Я установил на манчестерском компьютере небольшую программу, использующую всего 1000 единиц памяти, при этом машина, снабженная одним шестнадцатизначным числом, отвечает другим в течение двух секунд. Я бы бросил вызов любому, кто узнает из этих ответов достаточно о программе, чтобы можно было предсказать любые ответы на непроверенные значения.

(9) Аргумент экстрасенсорного восприятия

Я предполагаю, что читатель знаком с идеей экстрасенсорного восприятия и значением четырех его составляющих, а именно телепатии, ясновидения, предвидения и психокинеза. Эти тревожные явления, кажется, опровергают все наши обычные научные идеи. Как бы нам хотелось их дискредитировать! К сожалению, статистические данные, по крайней мере, в отношении телепатии, неопровержимы. Очень трудно перестроить свои идеи так, чтобы они соответствовали этим новым фактам. После того, как кто-то принял их, не будет большим шагом верить в призраков и призраков. Идея о том, что наши тела движутся просто в соответствии с известными законами физики, вместе с некоторыми другими, еще не открытыми, но в чем-то похожими, была бы одной из первых.

Этот аргумент, на мой взгляд, довольно сильный. В ответ можно сказать, что многие научные теории кажутся работоспособными на практике, несмотря на противоречие с экстрасенсорным восприятием; что на самом деле можно очень хорошо ужиться, если об этом забыть. Это довольно холодное утешение, и можно опасаться, что мышление - это именно тот феномен, в котором экстрасенсорное восприятие может быть особенно актуальным.

Более конкретный аргумент, основанный на экстрасенсорном восприятии, мог бы звучать следующим образом: «Давайте сыграем в имитационную игру, используя в качестве свидетелей человека, который хорош как телепатический приемник, и цифровой компьютер. Допрашивающий может задать такие вопросы, как «К какой масти принадлежит карта в моей правой руке?» Человек с помощью телепатии или ясновидения дает правильный ответ 130 раз из 400 карт. Машина может угадывать только наугад и, возможно, правильно набирает 104, так что дознаватель делает правильную идентификацию ». Здесь открывается интересная возможность. Предположим, что цифровой компьютер содержит генератор случайных чисел. Тогда будет естественно использовать это, чтобы решить, какой ответ дать. Но тогда на генератор случайных чисел будут действовать психокинетические способности дознавателя. Возможно, этот психокинез заставит машину угадывать правильные решения чаще, чем можно было бы ожидать при вычислении вероятности, так что дознаватель все равно не сможет правильно отождествить себя. С другой стороны, он мог бы угадывать правильно, не задавая вопросов, с помощью ясновидения. С ESP всякое бывает.

Если телепатия будет допущена, необходимо будет ужесточить наш тест. Ситуацию можно рассматривать как аналогичную той, которая произошла бы, если бы следователь разговаривал сам с собой, а один из участников слушал, прижав ухо к стене. Поместить участников в «комнату, защищенную от телепатии», можно было бы удовлетворить всем требованиям.

7. Обучающие машины

Читатель предположил, что у меня нет очень убедительных аргументов положительного характера в поддержку моих взглядов. Если бы я имел, я бы не стал так стараться указывать на ошибочность противоположных взглядов. Теперь я дам такие доказательства, какие у меня есть.

Давайте ненадолго вернемся к возражению леди Лавлейс, в которой говорилось, что машина может делать только то, что мы ей приказываем. Можно сказать, что человек может «внедрить» идею в машину, и что она до некоторой степени отреагирует, а затем перейдет в состояние покоя, как струна фортепьяно, ударяемая молотком. Другое сравнение было бы с атомным котлом размером меньше критического: выдвинутая идея состоит в том, чтобы соответствовать нейтрону, входящему в котел извне. Каждый такой нейтрон вызовет определенное возмущение, которое в конце концов исчезнет. Если, однако, размер сваи достаточно увеличить, возмущение шины, вызванное таким входящим нейтроном, очень вероятно будет продолжаться и увеличиваться до тех пор, пока вся свая не будет разрушена. Есть ли соответствующее явление для умов и есть ли оно для машин? Кажется, он действительно существует для человеческого разума. Большинство из них кажутся «докритическими», т. Е. Соответствующими в этой аналогии сваям докритических размеров. Идея, представленная такому уму, в среднем вызовет менее одной идеи в ответ. Небольшая часть являются сверхкритическими. Идея, представленная такому разуму, может породить целую «теорию», состоящую из вторичных, третичных и более отдаленных идей. Разум животных определенно подкритичен. Придерживаясь этой аналогии, мы спрашиваем: «Можно ли сделать машину сверхкритической?»

Аналогия с «кожурой лука» также полезна. Рассматривая функции разума или мозга, мы находим определенные операции, которые можем объяснить чисто механическими терминами. Мы говорим, что это не соответствует настоящему разуму: это своего рода кожа, которую мы должны снять, если мы хотим найти настоящий разум. Но затем в том, что осталось, мы находим еще одну шкуру, которую нужно снять, и так далее. Действуя таким образом, придем ли мы когда-нибудь к «настоящему» уму или в конце концов придем к коже, в которой ничего нет? В последнем случае весь ум механичен. (Однако это не будет машина с дискретными состояниями. Мы уже обсуждали это.)

Эти два последних абзаца не претендуют на убедительность аргументов. Их, скорее, следует описывать как «декламацию, имеющую тенденцию вызывать веру».

Единственное действительно удовлетворительное подтверждение, которое может быть дано точке зрения, выраженной в начале § 6, будет обеспечиваться ожиданием конца столетия, а затем проведением описанного эксперимента. А пока что мы можем сказать? Какие шаги нужно предпринять сейчас, чтобы эксперимент увенчался успехом?

Как я уже объяснил, проблема в основном заключается в программировании. Придется также добиться прогресса в инженерном деле, но маловероятно, что он не будет соответствовать требованиям. Оценки емкости памяти мозга варьируются от 1010 до 1015 двоичных знаков. Я склоняюсь к более низким значениям и считаю, что только очень небольшая часть используется для более высоких типов мышления. Большая часть его, вероятно, используется для сохранения визуальных впечатлений, я был бы удивлен, если бы для удовлетворительной игры в имитацию требовалось более 109, во всяком случае против слепого. (Примечание: емкость Британской энциклопедии, 11-е издание, составляет 2 X 109) Емкость памяти 107 была бы очень практичной возможностью даже при существующих технологиях. Вероятно, совсем не нужно увеличивать скорость работы машин. Части современных машин, которые можно рассматривать как аналоги нервных клеток, работают примерно в тысячу раз быстрее последних. Это должно обеспечить «запас прочности», который мог бы покрыть потери скорости, возникающие разными способами. Наша задача тогда состоит в том, чтобы выяснить, как запрограммировать эти машины для игры. При моей нынешней скорости работы я производю около тысячи цифр программы в день, так что около шестидесяти рабочих, стабильно работая в течение пятидесяти лет, могли бы выполнить свою работу, если бы ничего не пошло в корзину для бумаг. Представляется желательным какой-нибудь более быстрый метод.

Пытаясь имитировать сознание взрослого человека, мы вынуждены много думать о процессе, который привел его к тому состоянию, в котором он находится. Мы можем заметить три компонента.

а) Исходное состояние ума, скажем, при рождении,

(б) образование, которому он был подвергнут,

(c) Другой опыт, не описываемый как образование, которому он был подвергнут.

Вместо того, чтобы пытаться создать программу, имитирующую сознание взрослого, почему бы лучше не попытаться создать программу, имитирующую сознание ребенка? Если затем пройти соответствующий курс обучения, можно получить мозг взрослого. Предположительно, детский мозг - это что-то вроде записной книжки, которую покупают в магазине канцелярских товаров. Довольно маленький механизм и много чистых листов. (Механизм и письмо с нашей точки зрения почти синонимичны.) Мы надеемся, что в детском мозгу так мало механизмов, что нечто подобное можно легко запрограммировать. В первом приближении мы можем предположить, что объем работы в сфере образования во многом такой же, как и для человеческого ребенка.

Таким образом, мы разделили нашу проблему на две части. Детская программа и образовательный процесс. Эти двое остаются очень тесно связанными. Мы не можем ожидать найти хорошую детскую машину с первой попытки. Надо поэкспериментировать с обучением одной такой машины и посмотреть, насколько хорошо она обучается. Затем можно попробовать другой и посмотреть, лучше или хуже. Существует очевидная связь между этим процессом и эволюцией, судя по отождествлениям

Структура дочерней машины = наследственный материал

Изменения дочерней машины = мутация,

Естественный отбор = суждение экспериментатора

Однако можно надеяться, что этот процесс пойдет быстрее эволюции. Выживание наиболее приспособленных - медленный метод измерения преимуществ. Экспериментатор, проявив интеллект, сможет его ускорить. Не менее важно и то, что он не ограничивается случайными мутациями. Если он сможет найти причину какой-либо слабости, он, вероятно, сможет придумать вид мутации, которая ее исправит.

Невозможно применить к машине тот же процесс обучения, что и к обычному ребенку. Например, у него не будет ножек, чтобы его нельзя было попросить выйти и наполнить бак для угля. Возможно, у него не было глаз. Но как бы хорошо эти недостатки ни можно было преодолеть с помощью умной инженерии, нельзя отправить существо в школу, если другие дети не будут над ним излишне смеяться. Это должно быть немного обучено. Нам не нужно слишком беспокоиться о ногах, глазах и т. Д. Пример мисс Хелен Келлер показывает, что образование может происходить при условии, что коммуникация в обоих направлениях между учителем и учеником может происходить тем или иным способом.

Обычно мы связываем наказания и поощрения с учебным процессом. Некоторые простые дочерние машины могут быть сконструированы или запрограммированы по такому принципу. Машина должна быть сконструирована таким образом, чтобы события, которые незадолго до появления сигнала наказания, вряд ли могли повторяться, тогда как сигнал вознаграждения увеличивал вероятность повторения событий, которые к нему привели. Эти определения не предполагают каких-либо чувств со стороны машины. Я провел несколько экспериментов с одной такой детской машиной, и мне удалось научить ее некоторым вещам, но метод обучения был слишком необычным, чтобы эксперимент можно было считать действительно успешным.

Использование наказаний и поощрений в лучшем случае может быть частью учебного процесса. Грубо говоря, если у учителя нет других средств общения с учеником, объем информации, которая может до него дойти, не превышает общего количества примененных поощрений и наказаний. К тому времени, когда ребенок научится повторять «Касабианку», он, вероятно, почувствует себя действительно очень больно, если бы текст можно было раскрыть только с помощью техники «Двадцать вопросов», где каждое «НЕТ» принимает форму удара. Следовательно, необходимы другие «неэмоциональные» каналы коммуникации. Если они доступны, можно научить машину с помощью наказаний и вознаграждений подчиняться приказам, данным на каком-либо языке, например, на символическом языке. Эти приказы должны передаваться по «неэмоциональным» каналам. Использование этого языка значительно сократит количество требуемых наказаний и поощрений.

Мнения могут различаться относительно сложности, которая подходит для детской машины. Можно попытаться сделать это как можно проще в соответствии с общими принципами. В качестве альтернативы можно было бы иметь полную систему логических выводов, «встроенную». В последнем случае магазин будет в основном занят определениями и предложениями. Утверждения будут иметь различные виды статуса, например, хорошо установленные факты, предположения, математически доказанные теоремы, утверждения, данные авторитетными источниками, выражения, имеющие логическую форму предложения, но не имеющую ценности убеждений. Некоторые предложения можно назвать «императивами». Машина должна быть сконструирована таким образом, чтобы, как только императив был признан «хорошо установленным», соответствующее действие выполнялось автоматически. Чтобы проиллюстрировать это, предположим, что учитель говорит машине: «А теперь делай уроки». Это может привести к тому, что фраза «Учитель говорит:« Делай уроки прямо сейчас »» будет включена в число общепринятых фактов. Другим таким фактом может быть: «Все, что говорит учитель, - правда». Их сочетание может в конечном итоге привести к тому, что императив «Сделай домашнее задание сейчас» будет включен в число хорошо установленных фактов, и это, в силу конструкции машины, будет означать, что домашнее задание действительно начнется, но эффект будет весьма удовлетворительным. . Процессы вывода, используемые машиной, не обязательно должны удовлетворять даже самых требовательных логиков. Например, может не быть иерархии типов. Но это не обязательно означает, что произойдут ошибки типа, точно так же, как мы не обязаны падать с незащищенных обрывов. Подходящие императивы (выраженные внутри системы, не являющиеся частью правил системы), такие как «Не используйте класс, если он не является подклассом того, который был упомянут учителем», могут иметь эффект, аналогичный «Не уходить». слишком близко к краю.

Императивы, которым может подчиняться машина, у которой нет конечностей, неизбежно будут носить скорее интеллектуальный характер, как в примере (выполнение домашнего задания), приведенном выше. Среди таких императивов важными будут те, которые регулируют порядок, в котором должны применяться правила рассматриваемой логической системы, поскольку на каждом этапе, когда кто-то использует логическую систему, существует очень большое количество альтернативных шагов, любой из которых кому разрешено применять, поскольку это касается подчинения правилам логической системы. Этот выбор определяет разницу между блестящим и опытным рассуждающим, но не разницу между здравым и ошибочным. Предложения, ведущие к императивам такого рода, могут быть такими: «Когда упоминается Сократ, используйте силлогизм Барбары» или «Если было доказано, что один метод быстрее другого, не используйте более медленный метод». Некоторые из них могут быть «даны властью», но другие могут быть произведены самой машиной, например путем научной индукции.

Некоторым читателям идея обучающейся машины может показаться парадоксальной. Как могут измениться правила эксплуатации машины? Они должны полностью описать, как машина будет реагировать, какой бы ни была ее история, какие бы изменения она ни претерпела. Таким образом, правила не зависят от времени. Это действительно так. Объяснение парадокса состоит в том, что правила, которые меняются в процессе обучения, имеют гораздо менее претенциозный вид, претендуя лишь на эфемерную ценность. Читатель может провести параллель с Конституцией США.

Важной особенностью обучающейся машины является то, что ее учитель часто в значительной степени игнорирует то, что происходит внутри, хотя он все еще может в некоторой степени предсказать поведение своего ученика. В наибольшей степени это должно относиться к более позднему обучению машины, возникшей на основе детской машины с хорошо проверенным дизайном (или программой). Это резко контрастирует с обычной процедурой, когда при использовании машины для выполнения вычислений цель состоит в том, чтобы иметь ясную мысленную картину состояния машины в каждый момент вычислений. Этой цели можно достичь только с помощью борьбы. Мнение о том, что «машина может делать только то, что мы знаем, как ей приказывать», кажется странным в свете этого. Большинство программ, которые мы можем внедрить в машину, приведут к тому, что она сделает что-то, что мы не можем понять (если вообще или что мы рассматриваем как полностью случайное поведение. Разумное поведение, по-видимому, состоит в отходе от полностью дисциплинированного поведения, связанного с вычисление, но довольно незначительное, которое не приводит к случайному поведению или бессмысленным повторяющимся циклам. Еще один важный результат подготовки нашей машины к ее участию в имитационной игре посредством процесса обучения и обучения заключается в том, что «человеческая подверженность ошибкам» вероятно, будет опущено довольно естественным образом, то есть без специального «обучения». (Читатель должен согласовать это с точкой зрения на страницах 23 и 24.) Процессы, которые усвоены, не дают стопроцентной уверенности в том, что результат; если бы они это сделали, они не могли бы быть неучеными.

Вероятно, будет разумным включить случайный элемент в обучающую машину. Случайный элемент очень полезен, когда мы ищем решение какой-либо проблемы. Предположим, например, что мы хотим найти число от 50 до 200, равное квадрату суммы его цифр, мы могли бы начать с 51, затем попробовать 52 и продолжать, пока не получим число, которое работает. В качестве альтернативы мы можем выбирать числа наугад, пока не получим подходящее. Преимущество этого метода в том, что нет необходимости отслеживать значения, которые были опробованы, но недостаток в том, что можно попробовать одно и то же дважды, но это не очень важно, если существует несколько решений. Систематический метод имеет недостаток, заключающийся в том, что может существовать огромный блок без каких-либо решений в области, которую необходимо исследовать в первую очередь. Теперь процесс обучения можно рассматривать как поиск формы поведения, которая удовлетворит учителя (или какой-либо другой критерий). Поскольку, вероятно, существует очень большое количество удовлетворительных решений, случайный метод кажется лучше, чем систематический. Следует отметить, что он используется в аналогичном процессе эволюции. Но там систематический метод невозможен. Как можно было отслеживать различные опробованные генетические комбинации, чтобы не повторять их снова?

Мы можем надеяться, что машины в конечном итоге будут соревноваться с людьми во всех чисто интеллектуальных областях. Но с каких лучше всего начать? Даже это трудное решение. Многие думают, что лучше всего было бы очень абстрактное занятие, например, игра в шахматы. Также можно утверждать, что лучше всего снабдить машину лучшими органами чувств, которые можно купить за деньги, а затем научить ее понимать и говорить по-английски. Этот процесс может следовать за обычным обучением ребенка. На вещи будут указывать и называть и т. Д. Опять же, я не знаю, каков правильный ответ, но я думаю, что следует попробовать оба подхода.

Мы можем видеть только небольшое расстояние впереди, но мы видим там много того, что нужно сделать.

Источник:

Https://academic.oup.com/mind/article-pdf/LIX/236/433/9866119/433.pdf

Википедия:

Https://en.wikipedia.org/wiki/Computing_Machinery_and_Intelligence