Первый шаг Bias восстанавливает утраченное разнообразие в дистилляции модели диффузии

arXiv: 2610.37110v1 Аннонс Тип: новое резюме: дистилляция распределения позволяет получать высококачественные изображения только в нескольких деноминационных шагах. Однако в дистиллированных студенческих моделях зачастую регистрируются различные первоначальные образцы шума, аналогичные тем же выходным данным. Чтобы найти место, где утрачено разнообразие, мы сравниваем учителя и студента по траектории выборки. Наиболее значительное измеряемое снижение степени реагирования на различные первоначальные шумы происходит в ходе первого этапа с высоким уровнем шума. Когда мы заменим первый шаг соответствующей траекторией учителя и оставим последние три ступеньки без изменений, большая часть выпускаемого разнообразия возвращается. Это говорит о том, что первый шаг является ключевым моментом в деле восстановления многообразия. Исходя из этого вывода, мы внедряем метод после дистилляции, который добавляет адаптационную реакцию на сечение только к первому шагу учащихся и приводит скорость в соответствие со скоростью первого интервального секанта учителя. Все веса учащихся, а затем и денонсирующие шаги r