Краткое и краткое объяснение эффекта C при обучении модели SVM

SVM или машины опорных векторов - это модели контролируемого обучения, используемые для классификации и регрессии. При использовании SVM наша предварительная цель - достичь гиперплоскости, которая поможет нам

  1. Увеличьте маржу
  2. Точно классифицируйте тренировочные точки

Одним из ключевых параметров регуляризации, помогающих нам контролировать или влиять на результат модели, является C, также известный как параметр штрафа или параметр стоимости за неправильную классификацию.

Ниже приведены несколько значений C и его эффектов при обучении модели, которая представляет интерес для многих энтузиастов при изучении SVM.

а. Низкое значение C означает меньший штраф и дает некоторую свободу, в результате обучающая модель имеет некоторые неправильные классификации и, следовательно, создает гиперплоскость с большим запасом, также известную как Soft Margin. Более низкие значения C приводят к недостаточному соответствию, что приводит к высокому смещению и низкой дисперсии.

б. Высокое значение C означает более высокий штраф и направлено на достижение большей точности за счет избежания ошибок или неправильной классификации, и, следовательно, выбирается гиперплоскость с более высокой точностью классификации, что приводит к гиперплоскости с меньшим запасом, также известной как Жесткая маржа. Более высокие значения C приводят к переобучению, что приводит к низкому смещению и высокой дисперсии.

c. Поскольку значение C приближается к положительной бесконечности, нет права на ошибку, поскольку штраф за неправильную классификацию огромен, и это приводит к серьезному переобучению, поскольку модель стремится к максимально возможной точности.

d. Поскольку значение C приближается к нулю, модель плохо подходит, и есть потенциальное перекрытие точек данных, и, скорее всего, модель может не найти подходящую гиперплоскость.

Примечание. C должен быть строго положительным, как указано вsklearn.svm.SVC.

Это моя первая статья, и я считаю, что всегда есть возможности для улучшения. Пожалуйста, поделитесь своими мыслями!

Изображение предоставлено: https://amitranga.files.wordpress.com/2014/03/image44.png