евро сети. В то время как давно зарекомендовавшие себя оптимизаторы, такие как AdamW и Adafactor, остаются в центре внимания исследователей, были предложены различные подходы для автоматического обнаружения более эффективных алгоритмов оптимизации. Однако такие методы автоматического обнаружения до сих пор не смогли создать алгоритмы оптимизации, которые достигают…