Мы не можем использовать ту же функцию стоимости, которую мы используем для линейной регрессии, потому что логистическая функция приведет к волнообразным выходным данным, вызывая множество локальных оптимумов. Другими словами, это не будет выпуклая функция.

Вместо этого наша функция затрат для логистической регрессии выглядит так:

Если наш правильный ответ «y» равен 0, тогда функция стоимости будет равна 0, если наша функция гипотезы также выдает 0. Если наша гипотеза приближается к 1, тогда функция стоимости будет стремиться к бесконечности.

Если наш правильный ответ «y» равен 1, тогда функция стоимости будет равна 0, если наша функция гипотезы выдает 1. Если наша гипотеза приближается к 0, тогда функция затрат будет стремиться к бесконечности.

Обратите внимание, что запись функции стоимости таким образом гарантирует, что J (θ) будет выпуклым для логистической регрессии.