Искусственный интеллект не имитирует естественный интеллект, и неясно, произошли ли значительные изменения в отношении чего-либо с кроличьим интеллектом, не говоря уже о человеческом интеллекте. Если исследователи хотят откровенного и открытого обсуждения влияния и регулирования ИИ, первое, с чего следует начать, - это честно рассказать о том, что было достигнуто и что, вероятно, будет достигнуто в ближайшем будущем.
Искусственный интеллект (ИИ) - это термин, который входит и выходит из моды каждые пару десятилетий. Каждая новая волна возбуждения от последнего скачка вперед приводит к диким экстраполяциям (см. Также), поскольку математические методы расширяются и порождают новые приложения. На протяжении всего этого процесса ИИ стал бессмысленным термином, который может означать что угодно, от байесовской статистики до механики ходьбы. Хотя вы можете положительно воспринять это как расширение того, что означает« интеллект » из узкого предубеждения академиков, играющих в шахматы, на самом деле это представляет собой сужение фокуса в значении искусственный. В настоящее время мы проходим фазу, когда почти любой прогресс в компьютерных технологиях описывается как скачок вперед для ИИ.
Основная проблема для практиков заключается в том, что любой новый термин, заменяющий ИИ в каком-то конкретном смысле, легко включается в общественное понимание как синоним ИИ. Из компьютерных наук машинное обучение, которое сейчас в моде среди практиков, является ярким примером недавней интеграции. Следовательно, те, кто стремится к автоматизации задач с использованием различных аспектов вычислительной технологии, подвергаются хамелеоническому переименованию, от ИИ до когнитивной науки, от вычислительной нейробиологии до машинного обучения и так далее, в отчаянной попытке избежать недопонимания. Но в каждом поколении молодые ученые и инженеры вдохновляются общественным пониманием ИИ, прежде чем они смогут достичь технического понимания различий между шумихой и реальностью - и таким образом цикл сохраняется.
Возвращаясь к началу исследования, которое было явно обозначено как ИИ, большинство исследователей сосредоточились на компьютерах, которые играют в игры. Но вид интеллекта, которого достигает компьютер во время игры, специфичен для конкретной игры - т.е. есть компетенция без понимания. Ранние шахматные компьютеры могли быть сбиты с толку из-за нестандартных дебютов или невероятных ходов, потому что их способность к игре ограничивалась узким кругом ожиданий. Если бы у живого существа была такая несбалансированная компетентность, мы бы не описали его поведение как умное, потому что здесь нет демонстрации выбора стратегии. Вместо этого компьютер в высшей степени сфексирован - термин Хофштадтера в честь сфекидной осы, которая может выполнять задачу только целиком, не понимая, как ее цель может быть адаптирована в различных ситуациях для получения нескольких стратегий (например, , которые позволяют использовать ярлыки).
У людей очень мышление по принципу« все или ничего в отношении интеллекта». Вы либо умны, либо глупы, и между ними ничего нет. И все же интеллект постепенно эволюционировал, усложняясь или усложняясь по мере того, как выбираются разные среды. Интеллект сферической осы не уступает человеческому, а скорее приспособлен к другому набору проблем. Творчество стоит дорого, и осе-сфециде не платят за то, чтобы видеть мир по-человечески. Оса не видит ярлыков, потому что ей не нужно видеть ярлыки, которые кажутся нам очевидными.
Но, перевернув метафору с ног на голову, если сфицидная оса взглянет на человеческое поведение, она посмеется над усилиями, которые мы вкладываем в сбор обуви, совместное использование пищи и выполнение религиозных обрядов. Для сфецидальной осы эти следствия социальной жизни чужды ее уединенному существованию. Если мы вернем это немного дальше к реальности, оса-сфецида не станет смеяться над человеческим поведением, потому что оса-сфецида не платит за то, чтобы иметь творческий потенциал, чтобы понять, что такое `` человек '': оса видит окружающую среду и реагирует на это, он не видит людей или «человеческую обувь». Но на самом деле дело носит более общий характер: если мы просто пытаемся воспроизвести наши гены, «человеческий интеллект» такой же окольный и «глупый», как и «сферический интеллект».
Но, независимо от их бессмысленности, и люди, и осы-сфециды сильно отличаются от ИИ. Если ИИ - это искусственный интеллект, он разработан людьми для решения конкретной задачи, а не для решения человеческой задачи. Например, в компьютерной игре мы хотим, чтобы с ИИ было весело играть, мы не хотим, чтобы он использовал сверхчеловеческие способности и был непобедимым. Я бы пошел еще дальше и сказал, что для задач, в которых мы уже использовали ИИ, нам не нужен интеллект человеческого уровня. Дэниел Деннет зашел так далеко, что сказал, что в целом нам нужны« инструменты , а не коллеги ».
Многие ищут общий искусственный интеллект, но не согласны с позицией Деннета. Демис Хассабис утверждает, что общий искусственный интеллект может предоставить мета-решение любой проблемы, которую мы только можем вообразить, которая бьет гвоздь точно по голове. Хассабис безоговорочно согласен с Деннетом в том, что нам нужны инструменты, а не коллеги, но считает, что ИИ человеческого типа возможен без этого перехода. Такие люди, как Хофштадтер, решительно утверждали, что этот переход невозможен, что любой переход к пониманию человеческого типа почти наверняка требует« я или сознания человеческого типа.
Если мы вернемся к естественному замыслу интеллекта, то увидим, как вера Хофштадтера проявляется в эволюции сложного интеллекта. По мере того, как животные приобретают больший интеллект, они становятся все более и более окольными в своей миссии по репликации своих генов. От врановых до шимпанзе, гены разумных видов отбираются для максимального увеличения генетической репликации, но в процессе этого открываются новые пути эволюции в обучении в реальном времени и внегенетических способах наследования. Я не пытаюсь создать картину такой широкой или абстрактной черты, как интеллект, как `` неадаптивной '', но верно, что преимущества интеллекта влекут за собой массу затрат, которые отвлекают и уводят агента от генетической конкуренции, которая подкрепляет их телесный замысел.
Разведка не кажется простым процессом «оптимизации». Я думаю, это очень важно для понимания важного различия между целью ИИ быть инструментами или коллегами. Я не сомневаюсь, что машинное обучение и нейронные сети предоставят чрезвычайно полезные технологии, которые могут улучшить человеческие способности, но они всегда будут требовать человека-пользователя с достаточным опытом *. Программное обеспечение, несомненно, можно было бы завернуть в черный ящик, но где-то человек должен будет разбираться в технологии настолько, чтобы иметь возможность развивать дальнейшие возможности. С другой стороны, разработка автономных машин дает агенту возможность преследовать свои собственные цели с помощью собственных методов. Важным аспектом автономии является разумность - способность иметь «я», а не следовать некоторому набору «правил» или «инстинктов». Нет никаких оснований предполагать, что разумная машина захочет решить проблемы человечества точно так же, как многие люди не склонны решать проблемы человечества. Какой бы ни была математика, лежащая в основе разумной механики, оптимизация на уровне агента не ожидается - точно так же, как оптимизация плохо применяется к человеческому поведению.
Думаю, из этого обсуждения мы можем выделить некоторые важные различия. ИИ вполне может быть бессмысленным термином, но в будущем я все же предпочел бы, чтобы ИИ зарезервирован для программного обеспечения, которое участвует в процессе нелинейной обратной связи, например, ботов, которые реагируют на свое окружение во многих компьютерных играх. Машинное обучение (ML) больше соответствует статистическому анализу больших данных, который представляет собой совсем другое приложение. Однако и ИИ, и машинное обучение могут использовать такие методы, как моделирование нейронных сетей, но есть огромные различия между ИИ, который должен находить способы реагировать на динамическую среду, и тем, который просто анализирует статические среды в наборе данных. Я думаю, что это разделение проясняет, что общий искусственный интеллект вписывается в структуру разработки агентов принятия решений, которые решают проблемы, а не статистику, чтобы давать советы по принятию решений некоторыми людьми. Но я бы сильно отличал общий искусственный интеллект (AGI) от любого вида биомиметического интеллекта. AGI занимается решением проблем в соответствии с предпочтениями Деннета и Хассабиса, а биомиметический интеллект - это разработка агентов, которые решают свои собственные проблемы.
Как будет выглядеть биомиметический интеллект? В течение долгого времени биомиметический интеллект был бы очень сфокусированным, и, без сомнения, потребовались бы десятилетия, если не столетия, чтобы достичь глупости такого сложного животного, как, скажем, кролик. Биомиметический интеллект представляет собой огромную проблему, потому что мы на самом деле не понимаем, почему интеллект является хорошей стратегией для генов, чтобы максимизировать их репликацию (Ричард Докинз описывает это как функцию полезности Бога), когда кажется, что такое тяжелое бремя для способности агента выживать и размножаться. Следовательно, мы можем спроектировать машину с цифровыми генами, которая попытается максимизировать их репликацию, но неясно, будем ли мы развивать разумную машину, не говоря уже о интеллекте.
Я думаю, что нет ничего интереснее развития биомиметического интеллекта, но есть ли у промышленности применение биомиметического интеллекта? Ближайший ответ прост: нет. Конечно, однажды ученые могут разработать разумную машину, которая сможет демонстрировать обработку естественного языка и общаться с людьми, но между этим чрезвычайно желательным конечным результатом и возможностями зарождающегося или переходного интеллекта будет большой разрыв. Мы должны снизить наши ожидания и сосредоточиться на реверс-инжиниринге чего-то более простого, например кролика. Я говорю «проще», но, несмотря на кажущуюся глупость кроликов, машины даже не достигают своих возможностей для существования в реальном мире.
Недавно была опубликована действительно интересная статья о том, как изображения ИИ менялись с годами, и как они продолжают вводить в заблуждение широкую публику, подразумевая, что интеллект человеческого типа не за горами. В самом деле, многие исследования направлены на то, чтобы добиться большего воздействия из-за того, как они апеллируют к этому фантастическому повествованию. Моим последним комментарием было бы просто добавить свой голос к толпе исследователей, которые хотели бы, чтобы многие исследования смягчили свои предположения и предположения о том, как достигается человеческий интеллект, чтобы информировать общественность о том, на что действительно способны компьютеры . Рассмотрим недавнюю статью, в которой рассказывается о работе Google DeepMind: Компьютеры начинают рассуждать, как люди. Возможно, Компьютеры начинают вести себя как черви более правильное слово! Мы не знаем, как люди рассуждают, но мы знаем, как люди изображают в своем поведении и общении свой опыт рассуждения. Черви кажутся более точным сравнением, учитывая, что они принимают решения о своей среде, но имеют очень ограниченное самосознание, как у компьютера. Это не так привлекательно, но если ИИ должен относиться к себе серьезно, ему необходимо избавиться от циклов подъема и спада интереса и незаинтересованности, которые подпитывали то, что можно описать только как широко распространенное недоверие к ИИ, что люди взаимодействуют. с, как Siri или Cortana. Если исследователи ИИ хотят открытого и откровенного обсуждения с общественностью о том, как регулировать полномочия, предоставляемые машинам, им нужно начать честно говорить о том, что уже было достигнуто.
Спасибо за чтение!
