Контролируемая минимакс: Стабилизация адверсариальной оптимизации с помощью теории контроля

arXiv: 2610.10.12915v1 Сообщение типа: новое резюме: Minimax оптимизация имеет основополагающее значение для состязательного обучения, но при этом страдает от серьезных проблем стабильности, которые часто проявляются в качестве постоянных циклов ограничения или расхождений. В настоящем документе эти факторы нестабильности рассматриваются с помощью рассеивателей динамических систем непрерывного времени. Моделируя динамику обучения как второе обычное дифференциальное уравнение (ОДЭ), мы тщательно идентифицируем коренную причину неконвергенции: проблематичная эйженструктура функции потери Гессия близ точек равновесия. Для решения этой проблемы мы ввели новую систему стабилизации "Контроль-Минимакс", которая переформулирует траекторию оптимизации как управляемую физическую систему. В отличие от методов эвристического регулирования, наш подход предполагает конкретный контроллер обратной связи, который обеспечивает теоретические гарантии местной экспоненциальной стабильности независимо от лежащего в основе спектра Гессов. Следовательно, наш метод стабилизирует общие минимаксные проблемы в тех случаях, когда традиционные г