Написано Грегом Мальцем, писателем Numenta по науке и технологиям

15 декабря 2021 г. компания Numenta провела встречу Brains@Bay под названием Сенсомоторное обучение в ИИ. Встречи Brains@Bay MeetUps, запущенные в 2019 году, охватывают темы, относящиеся как к нейронауке, так и к искусственному интеллекту и машинному обучению. Нам посчастливилось приглашать ведущих экспертов в области искусственного интеллекта и машинного обучения в качестве приглашенных докладчиков на протяжении многих лет, и сенсомоторная встреча MeetUp продолжила эту традицию. В нем участвовал Ричард Саттон, известный как отец обучения с подкреплением и одна из самых влиятельных фигур в области ИИ.

Термин сенсомоторное обучение описывает, как мозг учится, создавая модель мира посредством сенсорного наблюдения за окружающей средой во время движения. Когда мы наблюдаем за окружающей средой и взаимодействуем с ней, мы обнаруживаем структуру вещей. Numenta занимается нейробиологическими исследованиями сенсомоторного обучения более пятнадцати лет, и мы опубликовали несколько статей по этому вопросу. У нас есть глубокое понимание сенсомоторного обучения в мозге, и мы очень хотели услышать мнение группы исследователей, изучающих сенсомоторное обучение через призму ИИ.

Спикерами этого MeetUp были: Ричард Саттон из DeepMind и Университета Альберты; Клеман Мулен-Фриер из Лаборатории цветов; и Вивиан Клэй из Нументы и Оснабрюкского университета. Каждый выступающий рассказал о новых концепциях того, как системы машинного обучения могут достичь большей гибкости, надежности и интеллекта за счет включения сенсомоторного обучения. Спикеры присоединились к панельной сессии, освещая общее поле и отвечая на вопросы аудитории. Их выступления заслуживают резюме ниже, и мы также рекомендуем глубоко погрузиться, проверив их полные презентации.

Опытный или объективный

Соучредитель Numenta Джефф Хокинс задал тон MeetUp, представив Ричарда как выдающегося исследователя, чья работа в области обучения с подкреплением показывает, что сенсомоторные системы являются «выдающейся особенностью ИИ». В презентации Ричарда Возрастающая роль сенсомоторного обучения в ИИ сенсомоторный опыт — ощущения и действия, определяющие взаимодействие, — рассматривается как концептуально связующее звено между системами машинного обучения и биологическими системами. Он задал ключевой вопрос об искусственном интеллекте: «будет ли интеллект в конечном итоге объясняться экспериментальными или объективными терминами?»

Ричард подчеркнул, что прогностические знания традиционно не рассматривались с точки зрения опыта, но ситуация меняется. «Классически мировое знание всегда выражалось в терминах, далеких от опыта, и это ограничивало его способность к изучению и сохранению», — сказал он. «Сегодня мы видим все больше призывов к тому, чтобы знания были предсказуемыми и основывались на опыте. Изучив историю и перспективы четырех шагов, я предлагаю минимальную архитектуру интеллектуального агента, полностью основанную на опыте», — заключил он.

Приобретение навыков

Презентация Клемана Мулен-Фриера называлась Неограниченное приобретение навыков у людей и машин: перспектива эволюции и развития. Клеман предложил «концептуальную основу, описывающую путь к неограниченному приобретению навыков посредством сочетания экологических, морфологических, сенсомоторных, когнитивных, социальных, культурных и эволюционных механизмов развития».

Клеман проиллюстрировал части этой структуры с помощью вычислительных экспериментов. Он выделил исследование, которое показало ключевую роль внутренне мотивированного исследования в поведенческой регулярности и разнообразии. Эксперименты продемонстрировали два основных момента:

  1. Некоторые формы языка могут самоорганизовываться за счет общих механизмов исследования без какого-либо функционального принуждения к общению.
  2. Язык можно использовать в качестве когнитивного инструмента, который обеспечивает композиционное воображение и запускает неограниченные культурные инновации.

Изученные представления

Затем Вивиан Клэй из Numenta начала свою презентацию Влияние сенсомоторного обучения на выученные представления в глубоких нейронных сетях. Ссылаясь на оригинальное исследование, она подчеркнула, что представления, усвоенные в ходе исследования с очень слабым наблюдением или самоконтролем, более структурированы и значимы, чем обучение под сильным наблюдением. «Они кодируют информацию, ориентированную на действие, в очень редких паттернах активации», — сказала она. «Кодировки, усвоенные посредством взаимодействия, значительно отличаются от кодировок, усвоенных без взаимодействия».

Вивиан выделила данные, которые показали способность DNN учиться подобно мозгу посредством сенсомоторного взаимодействия с миром. Большая часть презентации была посвящена парадигме быстрого отображения концепций, которая была согласована с Теорией тысячи мозгов Джеффа Хокинса. В презентации подчеркивалась полезность разрозненных представлений, усвоенных посредством самоконтролируемого сенсомоторного взаимодействия с миром.

Управление встречами

Выступления, описанные выше, касаются многих таких тем, в том числе аспектов разреженности, объективного и экспериментального обучения, роли языка, реализации вознаграждений и многого другого. Хотя сенсомоторное обучение является ключевым аспектом ИИ, есть много других тем, которые мы хотели бы обсудить на будущих встречах.

Brains@Bay организован для решения всеобъемлющего вопроса: Какие новые уроки мозга могут помочь нам выйти за пределы ограничений машинного обучения? MeetUp регулярно проводится и умело управляется Чармейн Лай из Numenta, которая принимает предложения по темам на [email protected]. Если у вас есть комментарии, вопросы или идеи для будущих выступлений, пожалуйста, свяжитесь с нами.

Сенсомоторные Цитаты

В заключение своего выступления Клеман хотел отметить:

Вивиан призналась:

Если вам понравилась эта статья, нажмите на значок Аплодисменты ниже, чтобы порекомендовать ее своим подписчикам. Чтобы узнать больше о том, как наша работа помогает развивать теорию мозга и машинный интеллект, посетите наш веб-сайт или подпишитесь на нас в Твиттере.

Первоначально опубликовано на numenta.com 22 февраля 2022 г.