Публикации по теме 'loss'


Кросс-энтропия — это все, что вам нужно? Давайте обсудим альтернативу
В быстро развивающейся области машинного обучения глубокие нейронные сети доказали свою эффективность в решении сложных задач в различных областях. Однако впечатляющая производительность этих моделей имеет свою цену — необходимость в крупномасштабных, точно аннотированных наборах данных. К сожалению, эти наборы данных часто содержат зашумленные метки, что может значительно снизить производительность обученных моделей. Вдохновленные предыдущими исследованиями , мы представляем функцию..
Динамическое взвешивание потерь в Keras: тонкая настройка обучения модели с помощью адаптивных весов потерь
В этом уроке я покажу вам, как динамически изменять потерю модели Keras во время обучения без перекомпиляции модели. Недавно я столкнулся с ситуацией, когда мне нужно было добавить адаптивные веса к модели Keras с множественными потерями, используя пользовательскую функцию потерь. Хотя есть ресурсы для PyTorch или vanilla TensorFlow, у Keras нет официального решения. Тем не менее, я нашел подсказку в документации Keras об оптимизации скорости обучения, которая помогла мне найти..
Минимизация потерь Интерпретация логистической регрессии
Двоичная классификация включает в себя потерю 0/1 (невыпуклость), и когда данные не являются идеально разделимыми, нам нравится минимизировать количество ошибок или пропущенных классифицированных точек (yi (w ^ t * xi + b) ‹ 0)), тогда Задача состоит в том, чтобы найти оптимальные w и b, минимизирующие потери. Это снова задача оптимизации, в которой мы решаем следующее уравнение. Где L — функция потерь 0/1, и если yi(w^t*xi + b) ‹ 0, это дает 1 (пропущенная классифицированная точка),..
ПОТЕРЯ ФУНКЦИИ
В машинном обучении мы используем функции потерь, чтобы решить, насколько хорошо предсказывать нашу модель. Функция потерь, которую мы должны выбрать, зависит от выбора алгоритма, эффективности времени для градиентного спуска, стоимости производных, достоверности прогнозов и т. Д. Обычно мы используем функции потерь для оптимизации. Для этого мы стараемся минимизировать функцию потерь. Есть несколько функций потерь, которые мы обычно предпочитаем использовать ниже. Среднеквадратичная..
Краткое руководство по функциям потерь
Повестка дня, которой я хочу поделиться в этом блоге, заключается в том, что в машинном обучении во время каждой итерации нашего процесса обучения мы сравниваем наши прогнозируемые и фактические результаты. Это сравнение дает значение ошибки, и эта ошибка — это то, что мы минимизируем в процессе обучения, используя стратегия оптимизации Gradient Descent. На самом деле мы вычисляем значение ошибки с помощью функции потерь . Он количественно определяет, насколько мы ошибаемся, если..
Оптимизация потерь в научном Python
Процесс обучения на данных с целью поиска оптимизированных параметров - обычное дело в машинном обучении. Когда вы работаете со стандартными функциями потерь, такими как MRSE, легко найти стандартные пакеты для обучения вашей модели. Однако при реализации (или написании) новых алгоритмов вам, возможно, придется иметь дело со своими собственными функциями потерь самостоятельно. Scientific Python предоставляет ряд процедур оптимизации в пакете scipy.optimize . В этой статье мы..

Вопросы по теме 'loss'

Как справиться с отключением питания в WinCE?
У меня есть устройство WinCE с питанием через Ethernet (PoE), и я хочу предотвратить повреждение файловой системы после потенциальной потери питания, например. пользователь выдергивает вилку. В качестве примечания: я уже использую TexFAT, который...
1585 просмотров
loss windows-ce
schedule 23.12.2022
Потеря данных DataGridView и БД при перезапуске приложения VB.NET
Может ли кто-нибудь помочь выяснить, почему и источник данных MS ACCESS, и DGView теряют данные после вставки, а затем перезапускают приложение, используя следующий код: Me.MyTableAdapter.Insert(Me.TextBox1.Text, Me.TextBox2.Text,...
170 просмотров
vb.net insert ms-access datagridview loss
schedule 21.11.2022
Почему logloss отрицательный?
Я только что применил потерю журнала в sklearn для логистической регрессии: http://scikit-learn.org/stable/modules/generated/sklearn.metrics.log_loss.html Мой код выглядит примерно так: def perform_cv(clf, X, Y, scoring): kf =...
12370 просмотров
scikit-learn loss metric
schedule 19.05.2023
Расчет кросс-энтропийной ошибки
Я не совсем понимаю, как вычисляется ошибка перекрестной энтропии. Поскольку логарифм некоторого отрицательного числа не определен (или является мнимым), а на выходе нейронной сети может быть некоторое отрицательное число (веса и смещение...
1163 просмотров
c++ function neural-network entropy loss
schedule 21.02.2023
Функция потерь для регрессии ограничивающей рамки с использованием CNN
Я пытаюсь понять функции потерь для регрессии ограничивающей рамки в CNN. В настоящее время я использую Lasagne и Theano, что очень упрощает написание выражений потерь. Многие источники предлагают разные методы, и я задаюсь вопросом, какой из них...
2827 просмотров
regression bounding-box loss theano
schedule 13.05.2022
Java - ненадежность Android UDP
У меня экстремальные потери пакетов UDP с Android, и это не имеет смысла. Ситуация следующая: ПК с Java-клиентом, подключенным к домашней сети Телефон с Java-сервером (Android), подключенным к домашней сети Домашний роутер —...
438 просмотров
android java udp loss packet
schedule 29.04.2023
как изменить softmaxlayer с регрессией в matconvnet
Я пытаюсь обучить набор данных MNIST с одним выходом. Это означает, что когда я даю ввод 28 * 28 (изображение), модель дает нам простое число. Например, я даю «5», модель дает мне в результате 4,9,5, 5,002 или близко к 5. Итак, у меня есть красные...
463 просмотров
deep-learning regression mnist loss matconvnet
schedule 30.11.2022
Изменение ClassNLLCriterion в Torch
Я новичок в Torch и хочу создать пользовательскую функцию потерь в Torch, которая является модификацией КлассNLLCriterion . Конкретно, потеря ClassNLLCriterion: loss(x, class) = -x[class] Я хочу изменить это так: loss(x, class) =...
34 просмотров
customization torch loss
schedule 13.06.2024
Классификация изображений. Потеря валидации застряла во время обучения с начальным этапом (v1)
Я создал небольшой набор данных для обучения / классификации изображений с 4 классами. Набор обучающих данных содержит ~ 110 000 изображений. Набор данных проверки содержит ~ 6.000 изображений. Проблема, с которой я сталкиваюсь, заключается в...
1169 просмотров
validation tensorflow deep-learning classification loss
schedule 24.09.2022
R mxnet 1 pass возвращает NAN как значение потери
Это ожидаемое поведение? library(mxnet) hidden_u_1 <- 100 activ_hidden_1 <- 'tanh' hidden_u_2 <- 1 learn_rate <- 0.001 initializer <- mx.init.uniform(1) optimizer <- 'rmsprop' #sgd loss <- mx.metric.mse device.cpu <-...
257 просмотров
r mxnet loss
schedule 02.04.2023
Функция потерь TensorFlow обнуляется после первой эпохи
Я пытаюсь реализовать дискриминационную функцию потерь, например, для сегментации изображений на основе этой статьи: https://arxiv.org/pdf/1708.02551.pdf ( Эта ссылка предназначена только для справки читателей; я не ожидаю, что кто-то прочитает ее,...
524 просмотров
keras tensorflow deep-learning image-segmentation loss
schedule 17.06.2022
Слой потерь на Keras с использованием двух входных слоев и операций numpy
У меня реализована функция потерь, которая использует методы numpy и opencv. Эта функция также использует входное изображение и выход сети. Можно ли преобразовать входные и выходные слои в массивы numpy, вычислить потери и использовать их для...
221 просмотров
python numpy keras loss
schedule 05.07.2022
Функция потерь евклидова расстояния для RNN (keras)
Я хочу установить евклидово расстояние как функцию потерь для LSTM или RNN. Какой результат должна иметь такая функция: float, (batch_size) или (batch_size, timesteps)? Вход модели X_train равен (n_samples, timesteps, data_dim). Y_train имеет...
5349 просмотров
keras loss rnn
schedule 28.10.2023
Керас - потеря близости отрицательного косинуса
У меня в Керасе небольшая нейронная сеть: contextTrain, contextTest, utteranceTrain, utteranceTest = train_test_split(context, utterance, test_size=0.1, random_state=1) model = Sequential() model.add(LSTM(input_shape=contextTrain.shape[1:],...
6746 просмотров
python machine-learning keras neural-network loss
schedule 08.12.2022
Добавление второго скрытого слоя в Tensorflow прерывает расчет потерь
Я работаю над третьим заданием курса глубокого обучения Udacity. У меня есть работающая нейронная сеть с одним скрытым слоем. Однако, когда я добавляю второй, потеря приводит к nan . Это код графика: num_nodes_layer_1 = 1024...
460 просмотров
python-3.x machine-learning tensorflow loss
schedule 13.03.2023
Как получить результаты от пользовательской функции потерь в Keras?
Я хочу реализовать пользовательскую функцию потерь в Python, и она должна работать как этот псевдокод: aux = | Real - Prediction | / Prediction errors = [] if aux <= 0.1: errors.append(0) elif aux > 0.1 & <= 0.15:...
3040 просмотров
python machine-learning keras tensorflow loss
schedule 10.01.2024
Постройте MSE по эпохам, когда функция потерь является настраиваемой функцией
Я использую настраиваемую функцию потерь и хотел бы построить MSE в эпохах (я использую библиотеку Keras). Это код, который я использую для настройки своей нейронной сети и сохранения истории. model.compile(loss =new_loss2, metrics=['mse'],...
1278 просмотров
keras mse loss-function loss
schedule 04.09.2022
Потери Keras неизменно низкие, но точность сначала высокая, а затем падает
Во-первых, мои предположения могут быть ошибочными: Потеря - это то, насколько далеко от правильного ответа находится каждый обучающий пример (затем делится на количество примеров - своего рода средняя потеря). Точность - это количество...
1804 просмотров
python machine-learning keras cross-entropy loss
schedule 20.04.2023
Потеря для минимизации перекрытия двух коллекций/наборов
Интересно, есть ли функция потерь, которая может измерять перекрытие двух коллекций/наборов (порядок не имеет значения). Например. основная истина — это набор [a, b, c], а прогноз моей модели — это набор [b, e, f], перекрытие — [b]. Моя цель...
271 просмотров
pytorch machine-learning tensorflow loss-function loss
schedule 18.02.2023
keras: как получить начальное значение функции потерь перед тренировкой
В Керасе я проверил механизм обратных вызовов. Однако он не предоставляет никакой информации до начала обучения. Как и вывод, всегда после эпохи = 1. Я хотел бы проверить значение функции потерь в первый раз. Как я могу этого добиться? Спасибо....
488 просмотров
keras epoch loss
schedule 28.12.2022