Итак, я предполагаю, что вы работаете или хотите начать глубокое обучение. Это скорее краткое изложение главы 11 книги Ian Goodfellow et al. «Глубокое обучение», которая действительно излагает большую часть основ глубокого обучения. Это очень полезно для меня в качестве своего рода заметок. Тем не менее, я надеюсь, что это также может быть полезно для вас. Давайте начнем.
Согласно этой главе, хороший специалист по машинному обучению (или глубокому обучению, используемому здесь взаимозаменяемо) помимо знания существующих алгоритмов и понимания принципов машинного обучения (ML) нуждается в двух вещах:
- знать, как выбрать алгоритм, соответствующий поставленной задаче
- знать, как отслеживать и реагировать на отзывы, полученные в результате экспериментов, с целью улучшения системы.
Имея это в виду, важные решения, которые необходимо принять при разработке систем машинного обучения, вращаются вокруг:
- собрать больше данных или нет
- увеличить или уменьшить вместимость модели
- добавить или удалить функции регуляризации
- улучшить оптимизацию модели
- улучшить приблизительный вывод в модели
- отладить программную реализацию модели
Я считаю, что на практике эти соображения действительно имеют значение. Если человек сможет определить правильный курс действий посредством правильного наблюдения за системой, а не слепо угадывать, что делать, то он сэкономит много времени при улучшении системы.
Из этих 6 соображений, представленных выше, первое, что следует учитывать с самого начала, чтобы можно было перейти от идеи к обучению, — это правильная программная реализация модели и системы в целом. Это означает не только то, что вы знаете, как правильно программировать, чтобы код можно было скомпилировать и запустить, но и то, что вы не допускаете концептуальных ошибок. Вы должны знать о таких вещах, как правильная нормализация ввода в систему, это означает знать, какие измерения следует нормализовать и какой тип нормализации вы будете использовать.
Это очень короткий пост, но я планирую продолжить создание небольшой серии этих постов, чтобы позже иметь более подробные заметки по этому вопросу. Если вы согласны или не согласны с этими пунктами, не стесняйтесь комментировать. Я хотел бы обсудить эти вопросы и узнать вашу точку зрения о них!
