ИИ не стоит на месте. На протяжении всей своей карьеры я наблюдал, как она превращалась из относительно новой и захватывающей области в переоцененное разочарование и обратно. Я считаю, что сейчас мы находимся на пороге еще одного переломного момента в отрасли, который, скорее всего, приведет к осени ИИ, если не к полномасштабной зиме.
Однако я не считаю, что надежда на прогресс потеряна. На самом деле я подозреваю обратное. По мере того, как шумиха вокруг глубокого обучения оседает, а исследователи начинают искать новые подходы, могут происходить интересные вещи. В этой статье я хочу изложить три способа, которыми я ожидаю (или надеюсь) увидеть изменение поля.
Я был исследователем как в области машинного обучения, так и в моделировании крупномасштабных социальных систем, а также профессиональным автором научной фантастики на протяжении всей своей карьеры, и эта статья направлена на то, чтобы целенаправленно объединить идеи со всех этих точек зрения. Так что пристегнитесь и приготовьтесь к погружению в мир ИИ завтрашнего дня. (Если повезет!)
Сдвиг первый: рост причинно-следственной связи
Нейронные сети — это здорово. Я начал свою карьеру, работая над ними в Эдинбургском университете, когда почти все вокруг считали их пустой тратой времени. Но сейчас мы наблюдаем настолько прогресс в нейронных сетях, что некоторые люди, кажется, забыли, что они — всего лишь один из многих алгоритмов машинного обучения. И что другие подходы теперь могут представлять собой наиболее многообещающие пути продвижения вперед.
Нейронные сети изначально задумывались как противоядие от жестких ограничений ИИ, основанного на правилах. Включите немного хлипкого, распределенного совершенства биологического мозга, говорилось в рассуждениях, и вы, вероятно, получите машину, которая рассуждает более тонко и органично. Это рассуждение оказалось верным и породило тысячи вариантов исходного алгоритма персептрона с постоянно возрастающей мощностью и сложностью.
Нейронные сети закрепили свое господство на сцене искусственного интеллекта с ростом глубинного обучения с ускорением на GPU, что проявилось в таких проектах, как AlexNet. В тот момент они так далеко опередили конкурентов в таких задачах, как машинное зрение, что исследования альтернативных технологий прекратились.
Здесь есть ирония, потому что статистический прорыв, который, вероятно, с наибольшей вероятностью изменит машинное обучение в течение следующих пяти лет, имеет сверхъестественное сходство с некоторыми из старых методов искусственного интеллекта, основанного на правилах.
Я говорю о каузальной революции, движении, вызванном работой ученого-компьютерщика Джуди Перла и его сотрудников. Они показали, что, включив явное причинно-следственное представление в статистическую модель, они могут делать выводы из данных, которые ранее считались невозможными. Это исследование постепенно трансформирует научные дисциплины от медицины к атрибуции изменения климата и астрономии.
Хотя часть логики причинно-следственного вывода можно включить в нейронные сети, по-прежнему гораздо проще построить явные графы, представляющие убеждения (согласно недавнему проекту Microsoft DoWhy). Я предполагаю, что одним из следующих крупных достижений в области ИИ станет разработка новых типов моделей, которые преодолевают этот разрыв и объединяют сильные стороны как нейронных сетей, так и причинно-следственных графов.
На данный момент моей лучшей попыткой построить такую систему является то, что я называю опыт ограниченной агрегации. Это метод обучения с подкреплением, отражающий то, как система дофаминовых нейронов управляет приобретением навыков. Вместо того, чтобы представлять нейроны, узлы в сети представляют опыт.
Хотя этот подход находится в зачаточном состоянии, он уже дает понять, что существуют скрытые преимущества включения причинно-следственных графов непосредственно в модель, такие как представление чего-то вроде эмоциональных состояний: представления ожиданий страдания или вознаграждения. Это позволяет обучающейся системе начать делать выводы о своем собственном ожидаемом внутреннем состоянии. В каком-то очень примитивном смысле у него есть чувства. Я предполагаю, что тот, кто первым решит проблему причинно-следственного моделирования, откроет дверь совершенно новому виду ИИ.
Смена вторая: эмоциональный ИИ
Хотя предоставление машинам возможности самоанализа и рассуждений о своих будущих состояниях является захватывающим, есть гораздо более простой способ, которым эмоции могут повлиять на развитие ИИ. И это изменение уже происходит.
Самый простой способ охарактеризовать этот сдвиг — сослаться на знаменитый тест Тьюринга, в котором следователь пытается оценить, является ли объект, с которым он или она взаимодействует через программу чата, человеком или машиной. . Хотя пройти тест Тьюринга в условиях конкурса чрезвычайно сложно, многие программы каждый день сталкиваются с этой проблемой. Часто они появляются в вашей ленте в Твиттере, маскируясь под людей с твердыми политическими взглядами.
Наше стандартное предположение при взаимодействии в сети состоит в том, что голоса вокруг нас исходят от других людей с чувствами, порожденными опытом. Кроме того, исследования показывают, что мы последовательно и бессознательно корректируем наши собственные предубеждения на основе мнений, с которыми мы сталкиваемся. Неудивительно, что это вызвало тихий взрыв использования ИИ в качестве инструмента для формирования общественного мнения.
Это изменение вызывает тревогу и заслуживает изучения, а также отражает более широкую истину о том, как мы оцениваем личность и в результате ведем себя. Мы не основываем наши оценки на воспринимаемом интеллекте в соответствии с тестом Тьюринга. Мы основываем их на сигналах отношений и умозаключениях об эмоциональных состояниях. Подумайте, как мы реагируем на персонажей книг и фильмов. Мы сопереживаем и воспринимаем их как людей, несмотря на то, что мы не можем взаимодействовать с ними напрямую и прекрасно знаем, что они искусственные конструкции.
Результатом этого, я считаю, является то, что ИИ действительно взлетит, когда мы начнем создавать машины, предназначенные для личных отношений с людьми. В этот момент улучшение ИИ станет намного проще, потому что вместо конечных пользователей и специалистов по данным, которые у нас есть сейчас, будет новый класс участников: машинный преподаватель. Это будут профессионалы или волонтеры, работающие с машинами, которые им интересны, чтобы терпеливо, итеративно обучать их миру, как детей.
Блестящее НЛП не является обязательным условием для этого сдвига. Ни сложное моделирование пользователей, ни идеально отточенные сценарии чат-ботов. Исследования таких ученых, как Алекс Пентланд, показывают нам, как должны выглядеть невербальные сигналы от искусственных людей, чтобы завоевать наше доверие. И как только мы достигнем другой стороны этой зловещей долины восприятия того, что является искусственным интеллектом, прогресс, скорее всего, пойдет вперед. У нас уже есть технология для создания игр на основе этих принципов. Рано или поздно кто-то найдет деньги на этот шаг, и мир, скорее всего, перевернется вслед за ним.
Смена третья: общества машин
Вы можете задаться вопросом, почему люди думают так по-разному, когда речь идет об отношениях? Почему мы теряем бдительность и предполагаем, что машины — это люди, когда их информация поступает через социальный канал? Исследования показывают, что это происходит потому, что мы не созданы для того, чтобы думать изолированно. Мы созданы для того, чтобы мыслить группами, и мы позволяем машинам работать, когда задействованы наши инстинкты, управляющие коллективным мышлением.
Данные свидетельствуют о том, что именно эти инстинкты действительно отличают нас от других человекообразных обезьян. Не наш интеллект, как нам нравится воображать, а наша способность действовать посредством подражания и консенсуса. Есть основания полагать, что неандертальцы были умнее нас по отдельности. Конечно, их мозги были больше. Однако им не хватало нашей социальной сплоченности и, самое главное, нашей культуры. Работы антрополога Джозефа Хенриха и других показали, что культура, вероятно, была движущей силой человеческой эволюции около полумиллиона лет.
Какое это имеет отношение к ИИ? Когда вы осознаете, что почти все инновации, которые вы видите вокруг себя, все меняется, они не были изобретены отдельными людьми — они были эволюционированы. Каждый стул, велосипед, компьютер, лампочка, здание или рубашка являются результатом повторяющегося процесса улучшения дизайна, для достижения которого требовалось гораздо больше, чем просто сила рассуждений.
Почему этот эволюционный процесс сильнее рассуждений? Потому что культурная эволюция масштабируется так, как разум почти наверняка не может. Интеллект, как мы склонны думать о нем, — это очень специфический тип адаптивной реакции, который имеет наибольшее значение в области крупных отдельных животных. Он использует наименьшее количество возможных точек данных, чтобы сделать максимально возможные выводы, используя изученные ментальные модели окружающей среды. Это возможно только в нешумном, модульном мире, ограниченном относительно простыми правилами. Мир не смотрит таким образом на одноклеточные организмы или даже насекомых. Есть также основания полагать, что это не выглядит так с точки зрения больших обществ.
Поэтому предполагать, что необработанный интеллект будет наиболее эффективным способом адаптации машин, призванных решать сложные задачи, скорее всего, будет ошибкой. Конечно, интеллект всегда поможет, но он, скорее всего, будет намного эффективнее, если его подкрепит машинная культура.
Чтобы ИИ мог совершать открытия, подобные тем, которые совершил Homo Sapiens, ему, вероятно, потребуется доступ к тому же секретному соусу, который используем мы: несовершенная эмуляция. Наши машины должны быть в состоянии рекламировать решения проблем, которые они придумали, в формате, который другие могут интерпретировать. Этот формат должен быть хотя бы немного непрозрачным, а не просто средством копирования моделей. Он должен требовать, чтобы машины выполняли выводы, чтобы использовать идеи, полученные их коллегами. Так мутация и, следовательно, адаптация внедряются в коллективную систему.
Как разработать такой машинный язык? Недавние достижения в области объяснимого ИИ могут помочь. Я предполагаю, что это будет идти рука об руку с исследованиями модульных нейронных сетей и других слабосвязанных систем обучения. Когда проблемы можно будет решать, разбивая их на распознаваемые части, мы будем намного ближе к тому, чтобы иметь возможность создавать общедоступные грубые представления их решений. Но, возможно, лучшим подходом будет создание сценариев обучения с подкреплением, в которых машинам должны делиться решениями, чтобы выжить, а затем изучать языки, которые они генерируют.
Если объединить эти три изменения вместе, будущее ИИ выглядит довольно ярким, IMO. Включив недавние исследования о наших собственных социальных и причинно-следственных привычках, мы сможем создать интеллект, который не только на несколько порядков умнее, чем тот, который мы можем создать в настоящее время, но и более склонный к сотрудничеству и сострадательный.
Но доберемся ли мы туда? Я по-прежнему считаю, что исследованиям в области ИИ придется расширить свое внимание, чтобы включить эти разработки из других областей. В конце концов, все зависит от того, куда мы вкладываем деньги, потраченные на исследования, и насколько широко мы готовы думать о том, что является ИИ и каким он может быть.
