Компьютерные науки > Расчеты и язык [представлен 24 сентября 2026 года] Название: Diffu-LoRA: A Novel Low-Rank Адаптация для персональных моделей диффузии Полноформатная точная регулировка является параметроинтенсивной, в то время как адаптация на низком уровне (LoRA) сокращает количество поддающихся обучению параметров, но оставляет открытым вопрос о том, каким образом адаптационные возможности должны распределяться между слоями. Мы представляем Diffu-LoRA — метод, позволяющий получать информацию об этом распределении через доступную адаптацию низкого ранга. Диффу-ЛоРА вставляет поддающиеся обучению компоненты низкого ранга на линейные слои трансформаторных блоков и прикрепляет к каждому компоненту обучаемые ворота. Оптимизация на двухуровне обновляет адаптационные весовые и вратные параметры по отдельным разбивкам данных, а постепенно стирание удаляет компоненты с самыми низкими значениями для выполнения предписанного градации бюджета. Эта процедура неупорядоченно распределяет адаптационную способность между слоями, сохраняя при этом предварительно обученный позвоночник замороженным. Эксперименты с Stable Difflusion по темам из DreamBooth и дополнительных собранных наборов данных свидетельствуют об улучшении общей достоверности данных по предмету и оперативной увязке с оцениваемыми контрольными параметрами. В исследованиях по вопросам абстракции изучается вклад двууровневой оптимизации, прогрессивного серфинга и размещения адаптационного устройства. Эти результаты…
Diffu-LoRA: Адаптация с низким уклоном для персональных моделей диффузии
arXiv: 2610.10550v1 Аннонс Тип: новое резюме: персонифицирование моделей распространения текстов на изображения с нескольких справочных изображений требует сохранения субъектной идентичности при одновременном следовании сигналам, описывающим новые контексты. Полноформатная точная регулировка является параметроинтенсивной, в то время как адаптация на низком уровне (LoRA) сокращает количество поддающихся обучению параметров, но оставляет открытым вопрос о том, каким образом адаптационные возможности должны распределяться между слоями. Мы представляем Diffu-LoRA — метод, позволяющий получать информацию об этом распределении через доступную адаптацию низкого ранга. Диффу-ЛоРА вставляет поддающиеся обучению компоненты низкого ранга на линейные слои трансформаторных блоков и прикрепляет к каждому компоненту обучаемые ворота. Оптимизация на двухуровне обновляет адаптационные весовые и вратные параметры по отдельным разбивкам данных, а постепенно стирание удаляет компоненты с самыми низкими значениями для выполнения предписанного градации бюджета. Эта процедура неупорядоченно распределяет адаптационную способность между слоями, сохраняя при этом предварительно обученный позвоночник замороженным. Эксперим