Интервью с Радеком Осмульски, автором книги «Метаобучение: Как научиться глубокому обучению и преуспеть в цифровом мире
Серия интервью, посвященных невероятной работе писателей в области науки о данных и их писательскому пути.
«Пока вы пишете то, что хотите написать, это все, что имеет значение; и важно ли это на века или только на часы, никто не может сказать».
― Вирджиния Вульф, Собственная комната
Стремясь выдвинуть на первый план заметную работу в области машинного обучения, в прошлом году я начал серию интервью. В течение первого сезона я представлял истории известных специалистов по данным и гроссмейстеров Kaggle , которые делились своим опытом, вдохновением и достижениями. Во втором сезоне я беру интервью у авторов книг. Как писатель, я очень уважаю людей, которые пишут книги. Одна хорошо написанная статья требует много времени, энергии и терпения, а повторить то же самое для книги — немалый подвиг. Этот выпуск интервью прольет свет на историю некоторых известных авторов в области науки о данных.
Познакомьтесь с автором: Радек Осмульски
Сообщество Fastai хорошо известно тем, что дает миру не только средства для изучения машинного обучения, но и время от времени великих исследователей. Радек Осмульски — один из таких инженеров-исследователей искусственного интеллекта, прошедших обучение на фастае. Он работал в нескольких стартапах из Силиконовой долины, Австралии и Дубая. В 2018 году он выиграл конкурс Kaggle, спонсируемый Google. Что может стать неожиданностью, так это то, что у Радека нет формального образования в области математики или информатики. Ему предстояло разобраться во многих вещах, связанных с машинным обучением и поиском работы. Он задокументировал все свои знания в своей книге → Мета-обучение: как научиться глубокому обучению и преуспеть в цифровом мире. В этом интервью мы узнаем больше о его идее, лежащей в основе книги, мотивации. , а также советы для энтузиастов и писателей, занимающихся наукой о данных. Давайте погрузимся.
В: Как возникла идея этой книги?
Радек: Есть так много вещей, которые удивляют в изучении машинного обучения.
Поначалу вам может казаться, что вы прилагаете много усилий для изучения машинного обучения, но делаете очень мало. Вы можете пройти курс лекций или пройти МООК. Но когда вы сталкиваетесь с реальной проблемой машинного обучения, вам может быть трудно понять, какой путь вверх.
Вы оглядываетесь на последние шесть месяцев, и хотя вы можете видеть, что многому научились в академическом смысле, ваша способность влиять на мир вокруг вас, возможно, изменилась лишь незначительно.
Это был именно мой опыт. Я провел несколько лет в этом неопределенном состоянии обучения, не оказывая никакого влияния на окружающий меня мир. В мою дверь не стучали работодатели. Я попробовал свои силы в Kaggle, но нашел все это очень запутанным.
Я хотел бросить полотенце и бросить по пути пару раз. Так что я не прикасался к ML пять месяцев подряд.
Но потом я решил дать ему последний шанс. На этот раз я бы не стал делать по-своему. Я старался изо всех сил изучать, что сработало для других, как другие учились и взаимодействовали с сообществом, и как они достигли потрясающих результатов.
И в этом вся разница. Результаты были впечатляющими.
Очень скоро я выиграл соревнование Kaggle. С тех пор я занимал несколько очень приличных должностей в области глубокого обучения, работая с некоторыми из самых интересных людей, которых я когда-либо встречал.
Я никогда не ожидал, что моя жизнь сложится таким образом. Я написал «Метаобучение», чтобы поделиться идеями и методами, которые привели к этому удивительному результату.
На более личном уровне моей мотивацией для написания книги было желание оставаться на связи с сообществом фастая. Было время, когда я много писал на форумах fast.ai, и мне этого очень не хватает. Я также искал смысл завершения приключения, которому я посвятил восемь лет своей жизни.
В: Не могли бы вы кратко изложить основные моменты, освещенные в книге, для читателей?
Радек:Конечно! Я стремился сделать книгу максимально лаконичной. Примерно на 90 страницах я обсуждаю такие вещи, как взаимодействие теории и практики в обучении, что значит быть хорошим разработчиком, важность инструментов, которые мы используем, что лежит в основе машинного обучения и т. д.
Но одна всеобъемлющая идея заключается в том, что вы можете достичь всего, к чему стремитесь. Я имею в виду это в очень конкретном, буквальном смысле. Вы можете освоить машинное обучение независимо от своего опыта.
Но вы не можете сделать это, просто бросив на это силу воли и усилия. Так не пойдет.
Вам не нужно ставить перед собой напыщенные цели, быть чрезвычайно уверенным в себе или очень талантливым. Многие из этих вещей так или иначе находятся в глазах смотрящего.
Но важно то, какие методы вы используете и чему продолжаете учиться.
В: Как вы думаете, кто является целевой аудиторией этой книги?
Радек:любой, кто считает себя изучающим машинное обучение.
Это очень широкая категория. С одной стороны, Мета-обучение предназначено для начинающих и показывает им, на чем именно им нужно сосредоточиться, чтобы добиться быстрого прогресса.
Это может быть особенно полезно для тех, кто уже некоторое время изучает машинное обучение или только начинает.
Но вы также можете быть опытным профессионалом и все равно извлечь большую пользу из чтения книги.
У всех нас есть слепые зоны, области, в которых мы слабее. Вы не становитесь лучше, применяя причудливые техники, а работая над основами.
Кроме того, независимо от вашего происхождения, возможность узнать, как что-то делается в Интернете, может быть очень ценным предложением.
В: Как читатель может извлечь максимальную пользу из этой книги?
Радек:Прочитай. Делайте заметки об идеях, с которыми вы сталкиваетесь. Обсудите их с друзьями. Думайте о них, когда принимаете душ, — пишите о них в Твиттере. Сделайте их своими.
Дайте техникам честный ход. Что работает особенно хорошо для вас? Как вы себя чувствуете, применяя ту или иную технику на практике?
Именно через действия, которые позволяют нам размышлять над опытом и излагать то, что мы учимся, своими словами, мы учимся лучше всего.
В: Какой совет вы бы дали начинающему писателю, который только начинает?
Радек:Писать – это как машинное обучение.
Процесс работы над проектом машинного обучения является естественным. Сначала вы придумываете способ проверки своих результатов. Затем вы строите простую модель. По мере повторения всех компонентов конвейера вы повышаете производительность своей модели, гарантируя, что ваша модель может хорошо обобщать невидимые данные.
Архитектура модели не так уж и важна. Точно так же не имеет большого значения, какой язык программирования вы используете для реализации своего решения. Или как хорошо вы знаете математику. От самого подхода во многом зависит, получите вы достойный результат или нет.
Точно так же в писательстве существует естественный поток, о котором вы, возможно, не замечаете, если смотрите со стороны вовнутрь. Мне было очень полезно узнать, как думают писатели, читая их книги о писательстве (О писательстве Стивена Кинга, The The New York Times). «Война искусства» Стивена Прессфилда) и прослушивание подкастов с интервью с писателями Тима Ферриса.
Если бы я резюмировал основные идеи, вот они.
Время, которое вы уделяете написанию, имеет значение. Все первые наброски вообще ужасны. Хорошее письмо — это плохое письмо, которое вы продолжаете пересматривать. Гораздо важнее то, что вы хотите сказать, чем то, как вы это говорите. Всегда держите при себе небольшой блокнот, чтобы записывать идеи по мере их появления. И последнее, но не менее важное: никакое общение никогда не бывает идеальным, но, перефразируя Стива Джобса, что делает хорошего писателя? Что они грузят!
В: Сколько времени вам понадобилось, чтобы закончить книгу? Что еще более важно, как вам удалось одновременно с работой написать книгу?
Радек:На написание книги у меня ушло восемь лет. Каждый день я исследовал проблему, которая замедляла мое стремление научиться машинному обучению. Или я бы поэкспериментировал с техникой, которой раньше не пользовался.
Я бы рассказал обо всем этом онлайн через посты и твиты.
Мне казалось, что эта книга внутри меня, и она буквально выпрыгнула на страницу. Первые 60 % книги я написал за 3 недели, большую часть — за зимние каникулы.
Остальная часть книги тоже не заняла слишком много времени, но со временем она растянулась.
В: У вас есть любимая книга и автор (в технической или нетехнической сфере)?
Алексей:Есть так много книг, которые я люблю!
Но я бы хотел, чтобы все прочитали книгу Происхождение богатства Эрика Д. Бейнхокера. В нем обсуждается, как вы можете использовать алгоритмы, чтобы прийти к очень важным выводам об окружающем мире. Что еще более важно, он разбирает экономику как науку и показывает, где она пошла не так.
Как выразился Юваль Ной Харари, мы, люди, живем в мире, построенном из абстрактных идей. Никто никогда не видел, чтобы корпорация или интеллектуальная собственность шли по улице, но эти и другие концепции одинаково формируют мир, в котором мы живем. В этих идеях нет ничего неизменного, и со временем они значительно эволюционировали. В более широком смысле, если бы мы могли заменить некоторые идеи лучшими, мир вокруг нас стал бы выглядеть по-другому.
И ничто так не способствовало нынешнему состоянию мира с глубоко укоренившимся неравенством и разрушением окружающей среды, как идеи, которых мы придерживаемся о человеческой природе (поведенческая экономика) и экономика в целом.
Я настроен оптимистично в том смысле, что история показывает, что мы способны заменить идеи, которые используем для самоорганизации, но, к сожалению, делаем это весьма неэффективно. Процесс длительный и полный поворотов, которые никуда не ведут, подобно эволюции.
👉 Вы с нетерпением ждете встречи с Радеком? Подпишитесь на него в Твиттере.
👉 Читайте другие интервью из этой серии:
