В Rasa наша команда создает стандартную инфраструктуру для разговорного ИИ. За кулисами люди из Rasa собираются вместе из разных слоев общества, чтобы решить самые интересные на сегодняшний день проблемы в области НЛП и управления диалогами. Мы отдергиваем занавес, чтобы выделить нескольких людей, стоящих за ботами.

Сегодня мы разговариваем с доктором Йоханнесом Мосигом, исследователем машинного обучения в Rasa. Мы узнаем историю Йоханнеса и исследуем повседневные проекты и технологии, которыми он увлечен.

Привет, Йоханнес. Расскажите нам о себе! Каким был ваш путь к присоединению к Rasa?

Довольно извилистый! :D Хотя я уже интересовался компьютерами и нейронными сетями в старшей школе, я пошел немного другим путем и решил изучать физику в Свободном университете Берлина. Я написал диплом бакалавра по теоретической физике элементарных частиц в Швеции, а диплом магистра по общей теории относительности — в Институте гравитационной физики им. Макса Планка в Потсдаме. После этого я защитил докторскую диссертацию по прикладной математике (моделирование океана) в Университете Отаго в Новой Зеландии. Наконец, я снова сменил тему и занялся машинным обучением самостоятельно.

Я знал, что снова сменить тему после защиты диссертации будет сложно, поэтому я завел свой собственный блог, чтобы собирать отзывы людей, а также демонстрировать свое понимание предмета. Я присоединился к различным учебным группам в Берлине и работал над собственным небольшим проектом. Хотя какое-то время я работал разработчиком программного обеспечения (без машинного обучения), этот период был довольно нервным, поскольку мое будущее было таким неопределенным. Но я продолжал идти, а затем нашел Расу через различные встречи, и это было 100% совпадение. Здесь действительно лучшее из обоих миров: вы можете проводить настоящие исследования (а не просто настраивать существующие модели для нового набора данных), имея при этом постоянную работу (что очень редко встречается в академических кругах)!

Проведите нас через обычный день исследователя машинного обучения. Над какими типами проектов вы работаете?

В настоящее время я руковожу двумя исследовательскими проектами. В первом проекте мы сотрудничаем с исследователем из Университета Карнеги-Меллона (Канада) для создания нового набора данных диалогов, более интересного, чем те, которые у нас есть сегодня. Другой проект касается нового типа встраивания слов и архитектуры искусственной нейронной сети. Хотя первое и необходимо, и полезно в долгосрочной перспективе, последнее меня больше всего волнует. На таком раннем этапе мы, конечно, не можем точно сказать, получится ли все. Но именно поэтому это называется исследованием!

Помимо двух моих основных проектов, я время от времени работаю над более мелкими вещами. Например, недавно я предоставил инструмент для Rasa Open Source, который позволяет вам проверять согласованность ваших тренировочных данных ( rasa data validate stories). Здесь я очень плотно работал с командой инженеров. Кроме того, я также участвую в научных исследованиях, таких как Диалоговые трансформеры.

В обычный рабочий день я выбираю одну из этих вещей, чтобы сосредоточиться на ней. Утром я сообщаю GeekBot в Slack, какова моя цель на день, и достиг ли я вчерашней цели. Затем я печатаю, читаю, думаю и кодирую, пока не достигну своей цели или не пойму, что не могу достичь ее за день. В полдень я обычно обедаю с одним или несколькими коллегами, а в течение недели посещаю различные собрания, на которых мы координируем нашу работу, делимся знаниями или обсуждаем идеи. Однако у нас нет собраний по средам (буквально наш официальный день без собраний).

Какими направлениями своей работы вы больше всего увлечены?

Я люблю пробовать новые идеи и глубоко размышлять об обработке естественного языка. Кроме того, меня очень вдохновляет вызов и поддержка со стороны сверстников, а также постоянное приобретение новых навыков. Наконец, интересно наблюдать, как движение, которое я начал в первые годы работы в Rasa (оказание положительного влияния на общество с помощью разрабатываемых нами технологий), подхватывается коллегами и развивается само по себе.

Какую важную проблему вы решаете в Rasa?

Помимо исследований, я увлечен тем, чтобы то, что мы здесь разрабатываем, оказывало положительное влияние на людей. В долгосрочной перспективе я думаю, что помощники Rasa вполне могут влиять на общество так же сильно, как электронная почта, смартфон или Facebook. Такие технологии могут быть удивительными, но также могут иметь ужасные последствия. В Rasa я помогаю поддерживать дискуссию о том, что мы можем сделать, чтобы наше влияние было максимально положительным.

Как бы вы описали Расу в трех словах?

Динамический. Честный. Амбициозный.

Как вы сотрудничаете с другими командами в Rasa?

Slack — это действительно точка опоры нашего общения. Поскольку многие люди работают удаленно или из дома, большая часть общения проходит через него. Важно отметить, что в наших рекомендациях по общению говорится, что вам не нужно отвечать на все сразу, и что вы никогда не должны ожидать немедленных ответов, и это здорово. Эта асинхронная удаленная готовая установка особенно удобна, потому что таким образом для меня не проблема навестить мою невесту в Новой Зеландии и работать оттуда в течение месяца. Конечно, для обсуждения идей и принятия решений я тоже часто встречаюсь с коллегами лично, когда это возможно.

Что для вас в Rasa означает культура разнообразия?

Честно говоря, я не часто об этом думаю, потому что здесь это нормально. Мои коллеги приезжают со всего мира и, таким образом, имеют разное культурное происхождение, и это здорово! Мы все объединены общими целями, и здорово работать (и готовить, и играть в настольные игры) вместе. Мне нравится тот факт, что мы все можем открыто говорить о проблемах и что важнее быть честным, чем приводить красивые цифры.

Расскажите о переходе от работы в академии к работе в Rasa. Что вы нашли сложным или полезным?

Изучение технических предметов в течение десяти лет имеет много преимуществ (независимое и творческое мышление, широкие знания, глубокие знания и т. д.), но когда я начал работать в Rasa, мне также пришлось отучиться от некоторых привычек из моей докторской жизни. Просто здесь все гораздо быстрее. Особенно в первые пару недель это было довольно ошеломляюще. Но мне нравится вызов!

Например, когда я застрял, я иногда месяцами продолжал работать над проблемой, прежде чем обратился за помощью. Теперь я обычно спрашиваю через 15 минут. Кроме того, я улучшил свои навыки тайм-менеджмента и процесс принятия решений. (Что проще всего сделать, чтобы проверить, сработает ли что-то? Является ли решение, которое я собираюсь принять, обратимым или нет? И т. д.) Лучше всего увидеть, когда идея, которая у меня была, заканчивается нашим продуктом и случайными людьми. выразить свое счастье по поводу того, что он там. То, чего я никогда не испытывал в теоретической физике.

Что самое интересное вы узнали за последнее время?

Я узнаю массу вещей каждую неделю. Вот что делает жизнь интересной! Например, недавно я узнал, что с помощью современных технологий можно построить «небесный крюк», который значительно удешевит транспортировку вещей в космос (аналог космического лифта, но более реалистичный в ближайшем будущем). ). Я также узнал, что глубокие линейные сети на самом деле имеют довольно интересную динамику обучения и что функциональная теория принятия решений предсказывает наилучший выбор как в дилемме заключенного, так и в проблеме Ньюкомба. Я также узнал, что люди ели мякоть шоколадных фруктов задолго до того, как открыли для себя применение какао-бобов.

Какой лучший карьерный совет вы получили?

Я не могу вспомнить ничего, что показалось бы мне особенно полезным, поскольку я просто следовал своим интересам, и это могло сработать только потому, что мне повезло. Но подкаст 80 000 часов — хороший ресурс, который стоит проверить, когда вы только начинаете свою карьеру.

Спасибо, Йоханнес! Вы можете найти Йоханнеса в Твиттере (@JEM_Mosig) и на jem-mosig.com. Познакомьтесь с остальной командой Rasa Research на rasa.com/research. Хотите объединиться с Rasa? Мы нанимаем! Найдите открытые вакансии в исследовательской группе и другие должности на нашем сайте .

Первоначально опубликовано на https://blog.rasa.com 23 марта 2020 г.