Трагедия: скип, скм или рефлекторное внимание в видео Difflusion Transformers

arXiv: 261 030 57006v 1 Annuales Type: кросс-бюллетень: Внимание десяткам тысяч визуальных символов доминирует над выводом видеодиффузионных трансформаторов (DTs). Существующие методы сокращают эту стоимость благодаря спаржности, низкой точности или и тому, и другому, но используют единую точность для всей хранимой плитки. Мы наблюдаем, что погрешность вывода в результате аппроксимации сильно различается между плитками. Многие плитки можно пропустить с малой ошибкой, другие должны быть вычислены, но получить немного больше низкой точности, и некоторые сохраняют значительную ошибку даже при низкой точности. Мы представляем Triage, безтренировочный метод, который присваивает каждому плитке один из трех аппроксимных ярусов: пропустить его путем замены блок-средством, смыть его в NVPF4 или очистить его остаточной корректировкой. Легковесный маршрутизатор предсказывает ошибку каждой плитки в каждом ярусе от окружной статистики и переносит плитку на более точный уровень только тогда, когда прогнозируемое уменьшение ошибки оправдывает дополнительный расчет с единой ценой tr