Я пытаюсь разработать логистическую регрессию в распределенном тензорном потоке и хочу интегрировать проверку сходимости в свой алгоритм, кроме верхней границы итераций. Критерий сходимости, который я собираюсь использовать, таков:
||предыдущаяW - текущаяW|| ‹ Э
где prevW — предыдущие значения весов модели, currW — текущие. E — допуск сходимости.
Мой вопрос касается веса предыдущей модели. Поскольку я использую между репликацией графа и асинхронным обучением, я не знаю, когда рабочий кластер обновит веса. Итак, предположим, что рабочий вычислил новые веса, используя пакет, и хочет проверить, сошелся ли алгоритм, чтобы остановиться. Я буду использовать веса, доступные в локальной реплике (поэтому используйте соответствующий тензор), или я буду оценивать тензор, чтобы получить последнее обновленное значение, прежде чем продолжить текущие вычисления? Я попытался сделать так, как описано выше, но алгоритм не сошелся и остановился после достижения верхней границы итераций.
Заранее спасибо за помощь :D
