Расширенная дистилляция знаний для обнаружения трансформатора с помощью прогнозирования преподавателей
arXiv: 2609.19964v1 Аннонс Тип: новое резюме. Существующие методы дистилляции DETR ориентированы главным образом на согласование точек перегонки, при этом в основном не учитывается качество самого надзора за работой учителя. Мы отмечаем, что в силу поэтапного немонотонного прогноза в ДЭТР хорошо локализованные или правильно классифицированные прогнозы предыдущих этапов могут разлагаться на более поздних этапах и некоторые негативные предсказания становятся все более конфиденциальными. В результате этого, полагаясь исключительно на прогнозы нынешнего этапа, можно добиться неточного и непоследовательного надзора. Для решения этой проблемы мы предлагаем использовать модуль " Включай и проигрывай &qt; , который уточняет прогнозы учителей до перегонки путем использования информации о прогнозах по стадии. УСДТ повышает качество надзора за счет положительного прогнозирования