Реклама

Адаптация количественных Витиков в режиме " однопасный квантовый циклизатор-ликвидация &qt;

#Адаптация #Витиков #Annualce #Type #Humber

arXiv: 2610,08358v1 Annualce Type: New Humber: Post-training quantization - это стандартный путь для установки трансформаторов зрения (ViTs) в экспозицию бюджета и памяти, однако квантизированные модели становятся особенно хрупкими при смене распределения. Такие изменения, связанные с адаптацией к испытательному времени (ТТА), рассматриваются без маркировки, однако большинство существующих подходов плохо увязаны с ограничениями количественного вывода. Преимущественные методы ТТА восстанавливают точность за счет обратного размножения, в то время как обратные методы зачастую по-прежнему сопряжены с накладными расходами из дополнительных пропусков или обновления параметров, а легкий уровень характеристик или логарифма возмещается только частично. В рамках этих подходов режим квантизационного отказа, который усиливает падение, не является прямым объектом: при смене активация занимает калиброванные диапазоны замороженных квартизаторов по-разному, искажая их распределение кодов. Мы предлагаем перекалибровку (Quantizer-Engeled Recalibration) — метод однопроходного TTA, разработанный для квантизированных VITs, которые не поддерживаются.