Публикации по теме 'cost-function'
Обучение с помощью функций затрат и градиентного спуска: # 100DaysOfMLCode
День 3:
Привет еще раз! Во вчерашнем посте мы начали исследовать структуру и состав нейронных сетей с идеей использовать эту сеть для классификации рукописных цифр.
Сегодня мы научимся четко понимать, как нейронная сеть, представляющая собой совокупность весов и смещений, обучается.
Я хотел бы, чтобы это представление было доступным и концептуально ясным, избегая при этом раздувания обозначений, которое может возникнуть после тщательного рассмотрения этих понятий с достаточной..
Понимание градиентного спуска
Введение
Часто, пытаясь построить модель линейной регрессии, мы сталкиваемся с термином «градиентный спуск», люди, которые плохо знакомы с машинным обучением, путаются с ним, а некоторые игнорируют, чтобы понять концепцию, стоящую за этим. Чтобы понять функциональность этого, нужно быть знакомым с тремя понятиями,
Наклон прямой линии Пересечение прямой линии Функция стоимости
Форма пересечения наклона
Y = mx + b
Это уравнение выглядит знакомым, это уравнение прямой в..
Почему BFGS лучше градиентного спуска
Оптимизация функций сделана правильно
BFGS относится к категории алгоритмов оптимизации, основанных на квазиньютоновских подходах.
Где и как это используется
BFGS — это тип алгоритма оптимизации второго порядка. BFGS используется в машинном обучении в таких алгоритмах, как логистическая регрессия и т. Д. Его основное использование заключается в необходимой минимизации функции стоимости в алгоритме машинного обучения, чтобы правильно найти алгоритм наилучшего приближения,..
Логистическая регрессия - функция затрат
Мы не можем использовать ту же функцию стоимости, которую мы используем для линейной регрессии, потому что логистическая функция приведет к волнообразным выходным данным, вызывая множество локальных оптимумов. Другими словами, это не будет выпуклая функция.
Вместо этого наша функция затрат для логистической регрессии выглядит так:
Если наш правильный ответ «y» равен 0, тогда функция стоимости будет равна 0, если наша функция гипотезы также выдает 0. Если..
Градиентный спуск
Всем привет! Сегодня мы говорим о градиентном спуске. Во-первых, что такое градиентный спуск?
Градиентный спуск - это итеративный алгоритм оптимизации, используемый в машинном обучении для минимизации функции потерь. Функция потерь описывает, насколько хорошо модель будет работать при текущем наборе параметров (веса и смещения), а градиентный спуск используется для поиска наилучшего набора параметров. Мы используем градиентный спуск для обновления параметров нашей модели. Параметры..
Роль стоимостных функций в машинном обучении: типы, значение и влияние на модель…
В своих предыдущих статьях я обсуждал вопрос мультиколлинеарности и поделился шагами по выбору наиболее подходящей модели машинного обучения исходя из конкретной задачи. В этой статье я сосредоточусь на другом важном аспекте прогнозирующего машинного обучения, а именно на функции стоимости. Понимая значение функций стоимости, мы можем оптимизировать процесс обучения и повысить производительность наших моделей.
Функция стоимости — это мера того, насколько хорошо работает модель..
Руководство по моделям оптимизации
Модели оптимизации — это математические модели, которые используются для поиска наилучшего решения проблемы путем максимизации или минимизации определенной целевой функции. Эти модели используются в самых разных областях, таких как исследование операций, инженерия, финансы и экономика. Их можно использовать для решения проблем, связанных с распределением ресурсов, планированием и маршрутизацией. Общие типы моделей оптимизации включают линейное программирование, целочисленное..
