Июль 2016 г.

Иэн Гудфеллоу - ведущий участник машинного обучения и научный сотрудник OpenAI. Он не только изобрел генерирующие состязательные сети (GAN), сети с максимальным выходом, машины глубокого Больцмана с множественным предсказанием и алгоритм быстрого вывода для разреженного кодирования по принципу «шип-и-пластина», работая над своей докторской диссертацией - он также руководил разработка Pylearn2 (библиотека машинного обучения для исследователей машинного обучения) и внесла большой вклад в Theano. Проработав зубы в Google, а затем став старшим научным сотрудником в команде Google Brain, Ян теперь нашел свой путь в OpenAI - некоммерческое исследовательское учреждение, частично финансируемое Илоном Маском и Питером Тилем, и которое упорно работает над разработкой революционных методов глубокого обучения. . О, он также является ведущим автором недавно выпущенной серии из трех частей, доступных в Интернете в соавторстве с Йошуа Бенжио и Аароном Курвиллем. Мы его догоняем.

WTB: Ваша книга www.deeplearningbook.org охватывает прикладную математику и основы машинного обучения, исследует современные практические глубокие сети и исследования глубокого обучения. Кому будет полезен этот невероятный источник знаний?

В краткосрочной перспективе я ожидаю, что инженеры-программисты, которые хотят участвовать в глубоком обучении, извлекут наибольшую пользу из учебника.

Надеемся, что в долгосрочной перспективе от этого выиграют все, потому что все больше инженеров будут использовать глубокое обучение и создавать более умные приложения, которые помогут всем, даже тем, кто не знает, что их приложение использует глубокое обучение.

WTB: Что лично вам нравится в машинном обучении сегодня?

Я рад, что машинное обучение теперь работает достаточно хорошо, и мы можем сосредоточиться на том, чтобы сделать его конфиденциальным и безопасным. Существует много работы по противодействию примерам противоборства и дифференцированной конфиденциальности.

WTB: при такой информационной перегрузке - как обеспечить эффективную организацию и совместную работу?

Я считаю, что внутри организации важно, чтобы команды были небольшими и сфокусированными, а также предлагать людям удобный способ общения между командами с низкой пропускной способностью. В OpenAI мы используем Slack, и я думаю, что он работает очень хорошо.

На самом деле всему сообществу исследователей ИИ очень трудно оставаться в курсе всего, что происходит. Несколько лет назад мне казалось, что я действительно знаю абсолютно все, что происходит в области глубокого обучения, но теперь я не думаю, что это возможно. Каждый день на ArXiv выходит 4–5 новых статей. Я даже не думаю, что знаю все, что делается с помощью GAN. Важно много разговаривать с другими людьми и выяснять, какие документы ваши друзья считают действительно важными.

WTB: Расскажите, пожалуйста, о OpenAI Gym

Я лично не работаю над OpenAI Gym, но все равно могу рассказать вам об этом.

Большинство достижений в области ИИ было вызвано доступностью более качественных наборов данных, а не изобретением нового алгоритма (источник: край).

Для обучения с подкреплением нам нужен не просто набор данных, нам нужны целые среды. Тренажерный зал предоставляет единую структуру для среды обучения с подкреплением, а также предоставляет несколько конкретных сред, чтобы предоставить данные, необходимые для следующего шага в обучении с подкреплением.

WTB: Что вам больше всего нравится в вашей работе?

Самый волнующий момент - это когда что-то внезапно срабатывает после нескольких недель простоя.

WTB: Какой совет вы дали бы начинающим ученым и разработчикам ИИ?

Сосредоточьтесь на изучении основ: хорошие навыки линейной алгебры, теории вероятностей и разработки программного обеспечения. Состояние дел в области машинного обучения меняется от года или даже месяца к следующему, но основы остаются неизменными на протяжении десятилетий.

WTB: Что вам понравилось в выступлении на AI With The Best 1st Edition, и вам понравилось выступление в сентябре?

Как исследователь, я восхищаюсь потенциалом технологий для преобразования общества, но большинство исследовательских институтов на самом деле не слишком широко их используют. Большинство конференций по-прежнему проводятся только лично и требуют от всех присутствующих покупать дорогие билеты на самолет и выбрасывать в атмосферу много углерода.

Мне нравится, что AI With the Best использует Интернет, чтобы объединить всех, поэтому меньше препятствий для посещения и есть действительно глобальная аудитория.

Большое спасибо Иану за беседу с нами!

Вы можете услышать выступление Яна Практическая методология развертывания машинного обучения из прошлогоднего выпуска AI With The Best.

Узнайте больше о генерирующих состязательных сетях с Яном в 11.20 в субботу, 24-го на онлайн-конференции AI With The Best, 24–25 сентября 2016 г.