Классификатор Наивного Байеса — это контролируемый алгоритм машинного обучения, который используется для задач классификации. Он является частью семейства алгоритмов генеративного обучения, что означает, что он стремится моделировать распределение входных данных данного класса или категории.
Наивный байесовский классификатор также известен как вероятностный классификатор, поскольку он основан на теореме Байеса, формула которой описана ниже:
Формула классификатора Наивного Байеса:
Преимущества классификатора Наивного Байеса:
- Он менее сложен по сравнению с другими классификаторами.
- Он хорошо масштабируется по сравнению с алгоритмом логистической регрессии.
- Способен обрабатывать данные большой размерности, которые некоторые другие модели испытывают с трудом.
Недостатками классификатора Наивного Байеса являются:
- Он подвержен нулевой частоте, которая возникает, когда значение не существует в обучающем наборе.
- Он имеет нереалистичное основное предположение, которое может привести к неверным классификациям.
Лучший способ узнать о классификаторе Наивного Байеса или любой другой модели — это изучить код. В этом сообщении блога я попытаюсь объяснить классификатор Наивного Байеса в том виде, в каком он используется в программе, написанной на Python с библиотекой Jax.
Класс — это определяемая пользователем схема или прототип, на основе которого создаются объекты. Классы предоставляют средства объединения данных и функций. Создание нового класса создает новый тип объекта, позволяя создавать новые экземпляры этого типа. К каждому экземпляру класса могут быть прикреплены атрибуты для поддержания его состояния. Экземпляры классов также могут иметь методы (определенные их классом) для изменения их состояния.
В описанном здесь коде алгоритм NaiveBayes написан в классе NaiveBayes, в котором содержится несколько функций. Этот класс имеет метрику, инициализированную как гауссовую, а формулу для гауссовой можно увидеть ниже:
