Ориентировочный этап ограничения скорости через систему Sparse Matrix-Discomation в случае сопоставления потока

#Ориентировочный #Sparse #Matrix-Discomation #Annualce #Type

arXiv:2609.15643v1 Annualce Type: New Brieft: Flow-Matching Displication Models недавно стала прочной парадигмой для высокоточного визуального поколения. Вместе с тем их чрезмерно высокий уровень расходов на их разработку ограничивает возможности для решения задач, стоящих перед ними в нижнем течении. Низкая адаптация (LoRA) в сочетании с спектральной инициализацией продемонстрировала ускоренную конвергенцию и повышение эффективности авторегрессивных языковых моделей за счет более четкого согласования направлений градиента, однако мы считаем, что она не позволяет добиться аналогичных результатов в плане распределительной тонкий настройки, часто приводящей к маргинальным или даже отрицательным улучшениям по сравнению с ванильной LORA. Мы объясняем это несоответствие фундаментальным несоответствием между параметризацией низкого ранга ЛоРА и изначально высоким уровнем градиентов, обусловленным целью сопоставления потока. В частности, стохастические временные поэтапные выборки приводят к изменению направления градиентных сигналов на всех этапах подготовки, что приводит к неправильному обновлению данных в условиях ограничений низкого ранга.

Компьютерные науки > Машинное обучение [представлено 14 сентября 2026 года] Название: Guar-timest stricted init через Sparse Matrix-Discomation в Flow-Matching View PDF HTML (экспериментальное) резюме: модели распространения слайдов появились недавно как мощная парадигма для высокодостоверного визуального генерирования. Вместе с тем их чрезмерно высокий уровень расходов на их разработку ограничивает возможности для решения задач, стоящих перед ними в нижнем течении. Низкая адаптация (LoRA) в сочетании с спектральной инициализацией продемонстрировала ускоренную конвергенцию и повышение эффективности авторегрессивных языковых моделей за счет более четкого согласования направлений градиента, однако мы считаем, что она не позволяет добиться аналогичных успехов в деле распространения тонких параметров, зачастую приносящих маргинальные или даже отрицательные улучшения по сравнению с ванилью. В частности, стохастический временной отбор позволяет ввести на всех этапах подготовки многообразные градиентные сигналы, что приводит к неправильному изменению данных в рамках низкоуровневого веб-адреса для решения этой проблемы, мы предлагаем Призма-ЛоРА, главный временной шаг с ограничением инт через систему Спарсе Матрицы-разложение, которая улучшает регулировка градиентов во время доработки. Наш метод состоит из двух ключевых компонентов: i) выбор основного временного шага, который ограничивает градиент инициализации поднабором доминирующих временных шагов для подавления эффективного…