Упрощение и совершенствование процесса дистилляции на уровне политики для малоподвижных диффузий

arXiv: 261.10.18472v1 Annualce Type: New Humber Brieflow: Limit-step Distillation сокращает затраты на выборку моделей распространения и потока, однако существующие подходы часто требуют вспомогательных очковых моделей или специализированных архитектур. Мы показываем, что простая рецессия скорости на уровне политики уже обеспечивает прочную основу для поколения 4-NFE. Для того, чтобы представить вариацию скорости учителя в каждом грубом переходе мы представляем Pivot - остаточный показатель только тренировки, который отделяет местные коррекции от прогноза интервалов учащихся. Мы далее отгоняем студента из более слабых прогнозов учителей, обеспечивая легкий механизм для избежания нежелательных способов. Полученная в результате этого схема " Упрощенное сопоставление дистилляции (УМД) > по-прежнему полностью основана на регрессии, не требует ни онлайновой оценки баллов, ни состязательной подготовки и остается без изменений развернутым генератором. Мы оцениваем SMD в создании и редактировании изображений, 3D-генерации, синтезе видеоматериалов и совместном производстве аудио-видео с увеличением до 33 биллей