Дифференциальная сигмовидная функция

Сигмовидная функция — чрезвычайно популярная функция, которую мы используем в современном машинном обучении. Особенно при решении задач классификации от логистической регрессии до нейронных сетей. Также часто нам нужно вычислить градиент сигмовидной функции. В этом посте мы увидим, как мы можем вычислить градиент сигмовидной функции.

Мы кратко рассмотрим, как выглядит сигмовидная функция.

import math
import numpy as np
import matplotlib.pyplot as plt

def sigmoid(x):
    return(1/(1+math.exp(1)**(-x)))

domain_def = np.arange(-10,10,1)
plt.figure(figsize=(12,8))
plt.plot(domain_def,sigmoid(domain_def))

Если вы посмотрите, значения функции находятся в диапазоне от 0 до 1

Дифференциальная сигмовидная функция

В этом разделе мы получим градиент сигмовидной функции. И мы заметим, что производная принимает красивый вид.

Сигмовидная функция имеет следующий функциональный вид.

Дифференциация

Примечание

Из этого следует

Посмотрите, какую красивую форму принимает функция :)