Использование дополнительных принадлежностей для реплея в непрерывном обучении с маленькими буферами

arXiv: 2604.083336v2 Annuales Type: заменить резюме: Катастрофическое забвение остается одной из ключевых задач в непрерывном обучении (CL). В повторном воспроизведении CL с серьезными ограничениями памяти эффективность зависит от стратегии отбора образцов буфера для повторного воспроизведения. Большинство существующих подходов строят буферы памяти с использованием встроенных устройств, полученных под наблюдением. Тем не менее, агностические и самоуправляемые представления классов часто кодируют богатую, актуальную для класса семантику, которую игнорируют. Мы предлагаем новый метод, MERS, который заменяет модуль выбора буфера на графический подход, интегрирующий как контролируемые, так и самоконтролируемые встроенные устройства. Эмпирические результаты свидетельствуют о последовательных улучшениях по сравнению со стратегиями отбора SOTA в рамках целого ряда алгоритмов непрерывного обучения, причем особенно значительные успехи были достигнуты при использовании низкопоминальных режимов. На CIFAR-100 и TinyImageNet MERS опережает исходные параметры с одноразовым наполнением без добавления параметров модели или увеличения их числа.