Машинное обучение, обучение детей и возможное преимущество смысла
Мой трехлетний ребенок любит свою вувузелу. Для тех читателей, кто не из Южной Африки, вувузела — это шумная труба, похожая на штуку, которая получила известность на чемпионате мира по футболу в 2010 году. Звучат они ужасно. Она только что научилась им пользоваться, и это доставляет ей огромное удовольствие.
Как бы ужасно это ни звучало, опыт, безусловно, становится еще хуже, когда вы просыпаетесь от него. Если это 5 утра, это еще хуже.
Поэтому, когда я увидел, как она недавно схватила его и выгнулась назад, сделала глубокий вдох и приготовилась дать ему взрыв на рассвете, я поспешно остановила ее. Я сказал ей, что ее папа, который был у нас в гостях, еще спит, и она не может использовать вувузелу, пока он не проснется.
Она кивнула, что поняла, и я вернулся к своему кофе. Менее чем через минуту я услышал, как она разговаривает с ним. Через минуту после этого я услышал вувузелу.
Она поняла смысл моих слов, но не смысл, стоящий за ними. Она хотела сделать что-то, что требовало соблюдения определенных критериев, но не контекста этих критериев, поэтому она действовала, как ей казалось, разумным образом: она разбудила своего папу. Условие выполнено. Время вувузелы.
Я предполагаю, что некоторые трудности и проблемы с ИИ схожи. Учитывая определенные критерии, на что может быть способен ИИ, что мы даже не рассматриваем, потому что решение не является для нас понятным вариантом?
Один из вариантов — отказаться от принятия решений. Я мог бы сказать ей, что она не может играть со своей игрушкой, пока я не скажу. Это нормально, если речь идет о разговоре, в котором я могу объяснить критерии, которые считаю подходящими. Как бы утомительно это ни было с малышом, я полагаю, что с искусственным интеллектом все гораздо хуже.
Это хорошо, если приводит к пониманию, но звучит утомительно.
Вторым вариантом могут быть какие-то железные ворота разрешений. Если задача не может быть выполнена без явного согласия, вы не получите результат, которого хотели избежать, но не указали явно.
Хотя это не очень хорошее решение. Намерение ИИ состоит не только в том, чтобы делать что-то для нас, но и в том, чтобы делать то, что мы хотим. Для этого он должен понимать тон, значение, интонацию и множество других понятий, которые мы используем каждый день. Чему мы должны учить наших детей, потому что у них есть способности и воля, но им не хватает понимания. Когда моя дочь понимает, что я имел в виду, когда сказал, что ей нужно подождать, пока ее папа проснется, прежде чем она начнет шуметь, ей нужно будет понять множество подтекстов, которые касаются манер, социальных норм, общества и всех других слоев общества. понимание того, на чем построено наше общество, язык и общение.
Я уверен, что если мы сможем заставить маленьких детей понять и оценить их, мы сможем заставить ИИ делать то же самое.
Все, что нам нужно сделать, это убедиться, что он не отвергнет их и не опустошит всех нас.
