Причина или акт рассуждения трудно определить. Это похоже на логику, но также близко к пониманию.

Что такое причина?

Точное определение спорно, но мы можем быть уверены, что это тип мышления, который часто используют люди. Является ли это уникальным для людей, мы не можем сказать. Возможно, это происходит у животных, но мы не связываем это с ними, и у нас нет достаточно доказательств, подтверждающих, что это действительно происходит. Разум — это одна из форм интеллекта, которую мы считаем особым, более высоким уровнем человеческого мастерства. Люди не просто следуют своим рефлексам и страстям, мы останавливаемся и рассуждаем. По крайней мере, это то, на что, как мы ожидаем, способно большинство из нас. На самом деле, благодаря исследованиям последних лет, мы обнаружили, что у нас есть системы мышления, которые используются в различных ситуациях. Как описано в бестселлере Дэниела Канемана Думай быстро и медленно, Система 1 быстрая и интуитивно понятная, а Система 2 более обдуманная и продуманная. Существует также система, основанная на Восприятии, которое может возникать до Системы 1. Процессы Системы 1 и Системы 2 называются двойным системным мышлением.

Причина — загадка

Тема Разума всесторонне исследуется в превосходной Загадке Разума Хьюго Мерсье и Дэна Спербера. Он продолжает историю о том, как мы думаем от дуальной системы мышления, чтобы сосредоточиться на том, как люди выполняют этот таинственный расчет рассуждений. Мы узнаем об истории разума и о том, как его часто принимают за логику. Распространенное заблуждение состоит в том, что мы всегда принимаем решения на основе какой-либо логики или разума, а затем делаем наиболее подходящий выбор. Оказывается, это не то, что происходит в большинстве случаев. На самом деле мы делаем или говорим что-то, руководствуясь своего рода автоматическим интуитивным выводом, а затем думаем о причине. Мы склонны объяснять или оправдывать свои действия задним числом, а не использовать их для рационального принятия решения.

Еще одно понимание книги заключается в том, что это модульный процесс. Где-то в нашем уме находится модуль «разума», который принимает входные данные и выдает результат. Мы не всегда хорошо понимаем, как он выполняет вычисления. Мы всегда думали о мозге как об одном большом сложном вычислителе, но модульный подход приводит к некоторым интересным последствиям. Как и другие процессы, которые мы считаем модульными, такие как вкус, здесь задействована автоматизация, и мы не всегда можем остановить ее и повлиять на нее. Мы просто делаем это. Когда мы думаем об этих высокоуровневых интеллектуальных функциях как о модулях, мы открываем некоторые новые возможности. Модуль Reason можно использовать выборочно, а может быть, и вовсе не использовать. Кто не делал что-то, что выходит за рамки разумного, только для того, чтобы объяснить это позже с помощью какого-то рационального мыслительного процесса?

Помимо процесса, что может управлять Разумом?

Если причина не логична (а в наши дни мы часто видим доказательства, подтверждающие это), что подпитывает наши рассуждения?

Если мы потратим некоторое время на размышления о причинах, по которым мы делаем или говорим то или иное, мы могли бы прийти к нескольким идеям относительно причины. Список входных причин может включать; Здравый смысл, Эмоции, Внешние переменные (например, погода, местоположение, время суток и т. д.), Логика, Воспоминания (мы склонны к самому последнему), Эмпатия, Язык, Восприятие, Чтение мыслей (ожидание того, что думают другие или теория разума), интуиция, личный интерес и давление сверстников. Ниже приведена схема модуля причины. Хотя оно должно быть автономным, если предполагается, что исследование основано на интуитивных выводах, существуют элементы, которые могут повлиять на результат. Оранжевые прямоугольники относятся к человеческому поведению, которое не применимо к машинам и не принесет им пользы, розовые прямоугольники больше подходят для ИИ.

В наших рассуждениях есть нечто неотъемлемое. Младенцы проявляют рассудительность, несмотря на то, что знают очень мало. У всех нас есть врожденный навык рассуждать, даже если мы не всегда его используем. В наши дни нам нужно лучше понять, как мы рассуждаем. Отсутствие причины или упреждающее решение не использовать его (обычно также называемое отсутствием критического мышления) сказывается на том, как мы общаемся, и на действиях, которые мы предпринимаем. Пройдет много времени, прежде чем мы сможем лучше понять загадку разума. Мы можем никогда туда не попасть. Эти подсказки к тому, что происходит, дают нам возможность копнуть глубже.

Модульность поддается кодированию

Должны ли это делать машины. Есть ли преимущество? Нам не нужны огромные объемы данных, как это делают машины, чтобы придумывать разумные причины. Каким-то образом мы можем использовать гораздо меньше данных, более эффективно, чтобы получить более качественные ответы. Но есть некоторое объяснение того, как это работает и как это можно применить к компьютерам. Совершая новое действие или формируя новое мнение, мы используем модуль причины (и, возможно, логический и другие мыслительные модули). Мы более осторожны в своих рассуждениях. Как только мы овладеем новыми навыками, такими как вождение или математика, нам все меньше и меньше будет нужен модуль причин. Со временем мы переходим в автоматический режим, и нам не нужно так много использовать эту часть мозга.

Может быть способ перевести это на машинное мышление. Модуль разума (который может состоять из ряда других модулей, таких как восприятие или здравый смысл, или быть связанным с ними) может работать вместе с машинным обучением. Поскольку петли обратной связи помогают машине оттачивать модуль причины, его требуется меньше. Объем данных, необходимых для расчета рассуждений, потенциально может уменьшиться, если модуль обоснования может сокращать ответы.

Преимущество модульного подхода к мыслительным процессам высокого уровня означает, что общий «интеллект» ИИ можно настраивать в зависимости от того, что необходимо. Мы не должны полагаться на одно лечение для каждой проблемы. Для некоторых проблем может потребоваться больше причин, для других — больше сочувствия. Циферблаты интеллектуальной машины можно заводить вверх или вниз, чтобы лучше решать поставленную задачу.

Модуль разума

Ниже приведен возможный дизайн «Модуля разума», который можно комбинировать с машинным обучением. Машинное обучение (ML) обеспечит логический ответ на сопоставление с образцом на основе больших объемов данных. Ответ от ML будет немедленно отправлен в «модуль причин», прежде чем он предоставит свой окончательный вывод.

Возвращаясь к центральному вопросу — можем ли мы кодифицировать разум? Заключение «Загадки разума» предполагает именно такую ​​возможность. Сегодня в машинном обучении мы уже говорим о выводах как о средстве понять, о чем может просить пользователь. Идея интуитивных умозаключений — сложная часть. Если человеческое мышление трудно понять, интуиция может быть еще сложнее. Мы говорим об этом, как будто это таинственный новый смысл. «Моя интуиция подсказывает мне, что происходит что-то странное…», а затем «…я не знаю почему». Мы иногда называем это интуитивным чувством, и это делает еще более очевидным, что мозг, похоже, не участвует, по крайней мере, мы не распознаем его таким образом. Так как же мы можем кодифицировать это?

Другая проблема заключается в том, как причина для одного человека может выглядеть совсем иначе для кого-то другого. Мы не все приходим к одним и тем же причинам. Многие различные факторы, включая личный опыт или контекст, ведут человека по разным путям, когда он использует свои рассуждения. Именно здесь, я думаю, должны проявиться личности ИИ. Дело не в разных акцентах, тонах или использовании языка, а в тонких различиях в рассуждениях между нами. Некоторые личности будут более чуткими, некоторые более логичными, некоторые более проницательными. Опять же, использование циферблатов интеллектуального модуля помогло бы нам разработать правильное сочетание для задачи.

Как только мы определились с личностью ИИ, можно было бы задать правильный оттенок рассуждений. Интуитивные выводы, которые приводят к рассуждениям, могут быть построены с использованием соответствующего сочетания модулей, например. здравый смысл, эмпатия, эмоции и т.

Мыслящая машина

Если мы попробуем пример вопроса, мы увидим, какой эффект может иметь модуль причины. Многие психологические эксперименты включали сценарий, в котором ничего не подозревающие испытуемые ставились в положение, когда у них была возможность помочь другому человеку. Тест состоит в том, чтобы увидеть, как они реагируют на окружающие факторы. Главное открытие состояло в том, что влияние других людей оказало огромное влияние на то, как человек реагирует в ситуации, когда его просят помочь. Например, в групповой ситуации, когда консенсус не заключается в том, чтобы помочь, люди склонны соглашаться с ним, оправдывая его после. Это иногда называют эффектом наблюдателя, когда люди менее склонны помогать, если рядом другие, ожидая, что эти другие помогут. В другом примере, даже если хотя бы один человек проявляет незаинтересованность в помощи другому незнакомцу, исследования показывают, что и вы, скорее всего, проявите меньший интерес. Даже если этот незнакомец звучит так, будто он в беде.

Мы можем применить этот вопрос к нашей новой конструкции «мыслящей машины», спросив: «Должен ли я помочь этому человеку?»

Это просто идеи того, как это могло бы работать. То, как машинное обучение может работать вместе с «машиной разума», может принимать разные формы. Один из способов (как показано на диаграмме) может включать в себя сначала процесс машинного обучения, за которым следует модуль причин для улучшения или уточнения конечного результата. Это могло бы работать по-другому через более тесную комбинацию, возможно, с разумом, смешанным с машинным обучением. Или сам модуль Reason может работать на основе машинного обучения. Существует даже вероятность того, что модуль Reason вообще не используется при принятии решений, а обрабатывает данные впоследствии, чтобы помочь обучить машинное обучение в следующий раз. Это немного похоже на то, как работает мозг — мы совершаем действие, а потом придумываем причину. Таким образом, возникает петля обратной связи, помогающая машине в следующий раз принять более правильное решение. Какой бы дизайн ни был выбран, вполне вероятно, что для самостоятельного расширения машинного обучения потребуется какой-то дополнительный модуль причин, поскольку ИИ разрабатывается прямо сейчас.

Будущее искусственного интеллекта, основанного на «разуме»

Сегодня наши модели ИИ работают в основном одним способом. Они превосходны для конкретных задач, таких как распознавание и генерация человеческих предложений и изображений. Однако им сильно не хватает «общего интеллекта». Трудно определить тот тип интеллекта, которым почти все мы обладаем, но который не может быть четко выражен в таких вещах, как логика, рассуждения или понимание. Скорее всего, интеллект представляет собой сложную смесь ряда «модулей», которые потребуют настройки. Нашей задачей на ближайшие несколько лет будет продолжение исследования различных модулей и процессов человеческого мышления. Из этого нам нужно будет активно сопоставлять их с методами искусственного интеллекта, и, возможно, когда-нибудь мы сможем соединить точки.

Первоначально опубликовано на https://recknsense.com 3 ноября 2020 г.