Компьютерные науки > Машинное обучение [представлено 24 октября 2026 (v1), последнее пересмотренное 27 октября 20-26 года (эта версия, v2)) Название: The Cost of a неизвестный горизонт для последнего итерата сложенного SGD в разделе HTML (экспериментальное) резюме тяжелого шума: профессиональная подготовка часто прекращается в зависимости от данных, поэтому гарантии на последний путь должны сохраняться одновременно. Мы определяем оптимальную гармонию времени для последней итерации вырезанной SGD на гладко выпуклых целях под шумом в тяжелой тарелке с ограниченным центральным моментом 1 долл. США, le2 долларов. График без горизонта или доверия вводимых ресурсов почти наверняка достигает $\tillde O( t(t) {-beta_p} долл. США, при этом $$\ beta=2 (p-1)/(3p-1), также практически уверенно и ни одно правило, которое движется по стохастическому градиенту на его текущем курсе, не получает $#tilde О(t> {r} долларов за любой $r>\betA_p$ даже с адаптивными размерами и пороговыми значениями шага. Эта ставка находится между оптимальной ставкой в размере $O(T) {-альфа_p} для известного горизонта $, $\alpha_p=(p-1)/p долл., и предыдущей фиксированной по времени ставкой $ $ _tillde O( t__[2(p1)] (Chezegov et al., ICLR 2026); при конечной разнице сумма расходов составляет 1/2 долл. США, 2/5 долларов и 1/3 доллара. Их предположение о том, что лучший график достигает оптимальной скорости таким образом поддерживается с известным горизонтом (Liu; Jiang et al.), но не удается без него. Запрос…
Стоимость неизвестных горизонтов для последнего итерации сломанного ДГБ под тяжелым шумом
arXiv: 261 0303381v2 Annualte Type: New Humber Abstract: Обучение часто прекращается в зависимости от данных, поэтому гарантии последнего итерата должны сохраняться одновременно. Мы определяем оптимальную гармонию времени для последнего итерата отрезанного SGD на гладко выпуклых задачах в условиях сильного шума с лимитированным центральным моментом 1 долл. США x beta_p$, даже адаптивных размеров шагов и пороговых значений. Эта ставка находится между оптимальной ставкой в размере $O(T) {-альфа_p} для известного горизонта $, $\alpha_p=(p-1)/p долл., и предыдущей фиксированной по времени ставкой $ $ _tillde O( t__[2(p1)] (Chezegov et al., ICLR 2026); при конечной разнице сумма расходов составляет 1/2 долл. США, 2/5 долларов и 1/3 доллара. Их предположение о том, что лучший график достигает оптимальной скорости таким образом поддерживается с известным горизонтом (Liu; Jiang et al.), но не удается без него. Запрос градиентов в текущем среднем всегда достигает $\ tilde O(t) {-alpha_p} долл., тогда как импульс тяжелого мяча с геометрическим забвением и полиномимической степенью не может улучшиться на