Будут ли сознательные машины ошибаться так же сильно, как мы?

Несколько недель назад я прошел онлайн-курс Элементы ИИ, блестящий и невероятно популярный курс от Университета Хельсинки и Реактора. Мой парень прочитал несколько положительных отзывов о курсе от своих друзей из Реактора и рассказал об этом, пока мы проводили псевдоинтеллектуальное время на нашем удобном домашнем диване. Нам нравится заниматься ботаниками и учиться вместе, и что может быть романтичнее, чем рука об руку изучать основы искусственного интеллекта и машинного обучения с милыми иллюстрациями роботов и автомобилей? Я, вероятно, мог бы придумать несколько вещей, но, будучи немного гиком (сам хочу быть гиком), это действительно казалось отличной идеей. И это было!

Одной из задач курса было провести исследование ИИ в интересующей области и выяснить, насколько реалистичны и точны статьи и другие виды контента, которые мы находим в Интернете. Мы должны были выбрать одну конкретную статью из наших выводов и проанализировать ее, имея в виду эти вопросы. Я, вероятно, выбрал какую-то сложную область, но мне было очень интересно, что даже в очень высокопрофессиональных и известных публикациях СМИ тема может быть относительно неточной, а важные понятия иногда преувеличены или введены в заблуждение, особенно если читатели не являются экспертами в этой области. .

Я надеюсь, что краткий анализ, который я написал для задачи в курсе, может вызвать хорошие вопросы и спровоцировать дискуссию. Итак, вот вам любопытные умы!

Я выбрал статью Как построить самосознательную машину из Wired. Я рекомендую вам прочитать статью, прежде чем продолжить чтение, или хотя бы быстро просмотреть ее. Если прокрутка слишком длинная для вашего драгоценного времени (да, довольно длинная), то вот краткое изложение вместе с моими наблюдениями после изучения основ ИИ и МО:

Автор в шутливой форме описывает, что нет никаких сомнений в том, что «машины» могут очень скоро или даже прямо сейчас быть спроектированы так, чтобы стать самосознательными. Он уверенно утверждает, что «одна вещь (люди) обязательно воспроизведут (как машину) — это постепенное включение нашего сознания». Нет смысла разбирать, как мы можем это сделать или что это означает технически, это не очень интересное обсуждение. Поэтому он сосредотачивается на аргументе о том, что это (воспроизведение человеческого аспекта нашего мозга) было бы ужасной идеей.

Хью использует теорию разума, чтобы описать, что такое сознание и, следовательно, что такое быть человеком. Он использует теорию разума редукционистски, как поведение одного человека, пытающегося угадать, о чем думает другой. Это объяснение работает, чтобы с юмором описать, что особый способ работы нашего мозга заставляет нас тратить слишком много времени на беспокойство о других и о том, что другие думают о нас, вместо того, чтобы тратить время на более важные мысли или использовать наш мозг для принятия лучших решений. Хью утверждает, что на самом деле мы принимаем много неправильных решений и много ошибок или тратим впустую время, которое можно было бы потратить на что-то гораздо более полезное, из-за этой «человечности» нашего «разума». Поэтому, если мы хотим создать искусственный «интеллект», утверждает он, мы должны избегать воспроизведения «нашего» типа интеллекта и вместо этого создавать лучший тип, который не совершает ошибок, которые мы обычно делаем как биологический вид.

Я не уверен, что то, как автор выражает полную уверенность в том, как легко будет создать ИИ, имитирующий человеческий интеллект, является простой иронией в его юмористическом стиле, или, возможно, я прочитал статью со скучным критическим взглядом. Тем не менее, я считаю, что такого рода описания искусственного интеллекта и заявления о том, что существует простой способ сделать роботов человеческими сознательными при современном состоянии науки и техники, не только лишены реализма, но и могут быть легко неправильно истолкованы и улучшены. уже распространенный страх вокруг СМИ перед приближением «сингулярности».

Возможно, это чрезмерное упрощение значения «Теории разума» является частью того, что беспокоит меня в возможных последствиях неточности терминологии. Автор упускает из виду тот факт, что Теория разума касается «психических состояний», в том числе состояний собственного «я». Это упущение, на мой взгляд, оставляет нам очень упрощенную интерпретацию сознания (которая является основной темой статьи). Прежде чем мы сможем создать искусственное сознание, нам нужно увидеть четкое и универсальное определение человеческого сознания. Сознание и даже механизмы наших мыслей и принятия решений, включая восприятие, желания, чувства и их интерпретацию, до сих пор не полностью изучены с научной точки зрения. А то, что не понято, очень трудно (если вообще возможно) воспроизвести с точностью.

Хью выражает некоторые интересные взгляды на статью, а стиль написания делает ее интересной для чтения, поэтому я бы порекомендовал вам прочитать всю статью, если вы еще ее не читали. Так что извините, если я могу испортить удовольствие своими комментариями. Меня беспокоит то, что некоторые важные аспекты двух основных тем из названия: «Искусственный интеллект» и «Сознание» могут быть оставлены неоднозначными, что сделает вывод возможной ошибкой.

Хотя на вопрос, как мы сможем создать такой уровень ИИ, который имитирует человеческое сознание, еще предстоит ответить, история завершается провокационной мыслью, над которой стоит задуматься.

«Хотя это, безусловно, возможно (создание человекоподобных сознательных машин), мы, возможно, никогда не создадим искусственный интеллект, который был бы таким же человечным, как мы. И все же мы все равно можем создать лучших людей».

Достаточно ли хороши мы, люди, чтобы верить, что воспроизведение нашей природы будет положительным для всех и безопасным? Возможно, мы должны сначала сосредоточиться на понимании своих недостатков, чтобы затем использовать технологии для улучшения того, что действительно важно, в больших масштабах?

Эта статья была впервые опубликована в LinkedIn.

Отказ от ответственности. Я не являюсь экспертом в области машинного обучения, искусственного интеллекта или философии разума. Поэтому я ценю любые комментарии, связанные с этим постом, которые могут просветить меня и других с аналогичными любительскими знаниями. Спасибо за прочтение!