Искусственный статистик, танцующие роботы и батончики Nanaimo (NIPS 2015, день 2)

После очень большой чашки кофе этим утром мы прошли два квартала до конференц-центра — чувствуя себя довольно бодрыми, несмотря на то, что торчали на вчерашней постерной сессии (посмотрите вчерашний пост в блоге) почти до полуночи! Мы направились прямо на лекцию Зубина Гахрамани о Вероятностном машинном обучении. Сначала он рассмотрел основы области, прежде чем обратиться к границам и проблемам. Основное, на что он обратил внимание, — это компромисс между статистической и вычислительной эффективностью. Он объяснил, что основное решение этой проблемы состоит в том, чтобы рассматривать распределение вычислительных ресурсов как проблему последовательного принятия решений в условиях неопределенности. В своем выступлении он также упомянул Автоматическую статистику — систему, которая позволит компьютерам автоматически выбирать хорошие модели/функции (и критиковать их) и интерпретировать полученное соответствие простыми для понимания способами с точки зрения удобочитаемые, автоматически генерируемые отчеты. Чтобы узнать больше об этой умопомрачительной работе Кембриджского университета и Google, посетите их веб-сайт здесь.

Позже мы встретились с Ахмадом Абдулкадером из Facebook и поговорили о возможностях и проблемах, с которыми сталкиваются стартапы в области машинного обучения и робототехники. Поскольку это было очень интересное и ценное обсуждение, я решил выделить его в отдельный пост в блоге Внимание, стартапы интеллектуальных машин: советы от Facebook, который мы опубликуем позже на этой неделе. Ахмад, который также работал в области прикладного машинного обучения в Google и Microsoft, поделился замечательными советами, некоторые из которых я включил здесь:

  • Не зацикливайтесь на сокрытии экзотических алгоритмов от мира, вы ничего от этого не получите ни в краткосрочной, ни в долгосрочной перспективе. Лучшее, что вы можете сделать, — это поделиться своей работой с другими аналитиками данных, чтобы продвигать эту область вперед — их открытия принесут пользу и вам (Facebook Torch и Google TensorFlow недавно стали доступны как системы с открытым исходным кодом).
  • Сосредоточьтесь на сборе качественных данных. Единственное, что отличает вас от ваших конкурентов, — это качество и количество (он сделал акцент на первом, а не на втором) ваших данных. Потратив время и энергию на разработку систем для сбора этих данных, вы сможете оставаться конкурентоспособными в долгосрочной перспективе.

Вскоре после встречи с Ахмадом мы столкнулись с Yann LeCun и спросили его мнение на эту тему. Он подтвердил большую часть того, что сказал нам его коллега, и добавил, что компании должны работать вместе над разработкой более совершенных алгоритмов, с помощью которых можно обрабатывать свои собственные наборы данных — чем сейчас занимаются Twitter, Google и Facebook. На обратном пути в конференц-зал мы быстро остановились у стенда Oracle Labs, где съели вкусный батончик Nanaimo, и встретились со Стивом Грином, консультантом их технического персонала по машинному обучению, который также предложил нам совет стартапам — это должен быть наш счастливый день! Он рассказал о собственном опыте работы старшим штатным инженером в компании Sun до того, как его приобрела Oracle. Его самый большой совет: убедитесь, что у вас есть надлежащие юридические контракты между вами (стартапом) и вашими поставщиками данных (клиентами), потому что, если/когда вас приобретет один из крупных парней, им очень понравится, если они смогут использовать этих данных для НИОКР :) Все больше и больше Google, Facebook, Microsoft и др. на самом деле проверяют, есть ли у стартапов эти технические детали во время процесса DD, поэтому, если вы рассчитываете на выкуп по выгодной сделке, вам лучше нанять юриста, чтобы проверить все это сегодня!

Вернувшись в огромный и переполненный лекционный зал, мы были рады узнать от команды Вашингтонского университета/Калифорнийского университета в Беркли о методе проектирования и обучения систем управления в виде рекуррентных нейронных сетей. Вместо того, чтобы использовать зрение, датчики или внешние петли обратной связи, чтобы понять, где находится компонент в пространстве, система управления представляет собой нейронную сеть, которая обрабатывает информацию о физических ограничениях устройства и окружающей среды (плотность воздуха или воды, препятствия или препятствия). окружающие контактные ограничения) и вычисляет оптимизированную траекторию. Что особенно круто, так это то, что это можно обобщить на невидимые случаи — и это может заставить роботов танцевать!

Наконец, мы подошли к сегодняшней постерной сессии. Было представлено несколько замечательных концепций и исследований. Среди них был Галилео Массачусетского технологического института, который позволяет машинам воспринимать свойства физических объектов, интегрируя физический движок с глубоким обучением. Удивительно, но Галилей способен делать выводы о физических свойствах объектов и предсказывать исход множества физических событий с точностью, сравнимой с человеческой! Их исследование указывает на описание человеческого зрения с порождающими физическими знаниями в качестве его ядра. Увлекательная штука! Мы также были очень впечатлены исследованиями Массачусетского технологического института (опять же!) по изучению визуальных предубеждений на основе человеческого воображения. Их модель пытается извлечь предубеждения, возникающие в зрительной системе человека, и перенести их в систему машинного распознавания. Их результаты показывают, что перенос человеческого предубеждения на машины может помочь системам распознавания объектов обобщать наборы данных и работать лучше, когда доступно очень мало обучающих данных. Последний плакат, который привлек наше внимание этим вечером, был от Технологического института Джорджии, который разработал модель для моделирования болезней. Благодаря своим исследованиям они смогли визуализировать и прогнозировать будущие измерения болезни, используя набор данных о глаукоме и набор данных о болезни Альцгеймера. Просто вау!

Ошибки NIPS: слышали/увидели на NIPS

Простите, что разочаровал вас сегодня, ребята, но в NIPS не произошло ничего смешного или странного. За обедом у нас состоялся увлекательный разговор о взломе мозга с двумя умными людьми из 3Scan и UC Irvine. Пожалуй, самое время поговорить о том, как сильно я люблю 3Scan. Если вы еще не слышали о них, вы должны проверить их. Просто подождите, они оцифровывают ткани тела для принятия решений на основе данных. Их последние достижения позволяют выяснить, является ли опухоль головного мозга злокачественной или доброкачественной — нужно ли говорить больше?

Содержание предоставлено: www.automaticstatistician.com и www.longwoodbrewpub.com.