Выборочная адаптивная ноль-порядковая программа после обучения

arXiv: 2610.12566v1 Annuate Type: новый резюме: оптимизация нулевого порядка (ZO) предлагает эффективную альтернативу повторной пропугиванию для откорректировки больших языковых моделей. Вместе с тем существующие методы ЗО, как правило, представляют собой единообразные примеры учебной подготовки с учетом их эволюционирующего значения и оставляют возможность избежать расхождений в оценках. Для устранения этого ограничения мы предлагаем создать систему оптимизации выборочной адаптивной нулевой системы (SAZO), которая учится важности выборки в онлайновом режиме и адаптационно распределяет запросы для ускорения сближения. SAZO извлекает информацию о градиенте и норме на основе существующих различий в направлении для оценки значимости выборки без доступа к подлинным градиетам. Кроме того, для отслеживания меняющегося значения малой обратной связи с мини-батарями САЗО сохраняет на каждом примере экспоненциальные скользящие средние показатели, которые агрегируют наблюдения по всем обновлениям. Этот метод не требует дополнительных оценок моделей и только дополнительного скалярного состояния в размере 0(N) долл. США по сравнению с МЕЗО. Мы доказываем, что Сазо асимптотически соответствует лидеру c