Баланс устойчивости и надежности посредством отбора сингулов-видителей в непрерывном обучении LLM

arXiv: 261 010.1076v1 Сообщение типа: новое резюме: Постоянная адаптация МЛМ в зависимости от конкретного района может привести к катастрофическим последствиям, создавая фундаментальную напряженность между приобретением новых возможностей и сохранением знаний, полученных во время предварительной подготовки. ПЭФТ смягчает эту проблему, ограничивая количество поддающихся обучению параметров, однако в существующих методах отсутствует принципиальная единица для определения того, где следует выделять пластичность и сохранять стабильность. Мы идентифицируем канал с одним вектором как естественную единицу для управления этим компромиссом. Каждый канал представляет собой трансформацию " затраты-выпуск &qt; , которая может быть обновлена для приобретения новых знаний или установлена в целях сохранения предварительно подготовленных возможностей. Исходя из этой перспективы, мы введем SVC — метод эффективного и непрерывного обучения параметров, который выборочно обновляет канал Сингуляр-Вектор. Перед доработкой SVC использует данные по доменам для оценки адаптационного преимущества каждого канала и фиксированного публичного общего доменного корпуса только в качестве прокси активации истории fo