Реклама

SAGE: " Салоний-аннальд эндер для всеобщего признания видения &qt;

#SAGE #Салоний-аннальд #Annualce #Type #Видения

arXiv: 2610.36719v 1 Annualce Type: новый резюме: При адаптации самоконтролируемых трансформаторов Видения (ViTs) к плотному прогнозированию существующие методы часто рассматривают VIT как пассивный экстрактор и могут не использовать богатые приводы, закодированные в его представлениях, включая серьёзность, глобальный контекст и высокочастотные детали. Мы предлагаем SAGE (Saliency-annealed Gated Encoder), усовершенствованную магистраль ViT-Adapter, которая непосредственно использует эти приводы с помощью трех дополнительных инноваций: 1) ориентированную на удовлетворение потребностей архитектуру, в которой высвечивается специализация по типу DINO классового галстука (CLS) для ориентации функций и высокочастотного улучшения наряду с динамическим многослойным агрегированием и местной деталевой отраслью; 2) основанная на использовании аннезиантов парадигма подготовки кадров, призванная улучшить конвергенцию и качество обучения во время начальной подготовки при одновременном сокращении дрейфа в ходе последующей подготовки; 3) двухэтапный механизм подготовки кадров с обеспечением качества, который позволяет плавно перейти от потери фокусов к потере варифокала (VFL) в рамках единой системы.