Памятка по машинному обучению — Методы оптимизации нейронных сетей

Регуляризация

Регуляризация учитывает коэффициенты как часть ошибки, так как большие коэффициенты могут привести к переобучению.

• Регуляризация L1 – добавьте к ошибке абсолютное значение коэффициентов.
• Регуляризация L2 — добавление квадратов коэффициентов к ошибке.