К быстрым и разрозненным контрафактным моделям Visual Foundation
arXiv: 2610,00895v1 Annualce Type: New Brieflow: Foundation Models по-прежнему уязвимы для ложных корреляций и стратегий "Clever Hans". Разъяснительное машинное обучение может найти и удалить такие стратегии для классификации без метаданных. Для базовых моделей такой возможности пока не существует. Мы предлагаем Disentanged Difsution Autoencoders (DIDAE). DIDAE обмещает модель замороженного фундамента в условно-диффузионный декодер. Противоположная редакция закрытой формы по направлению дискретного словаря, за которым следует декодирование. Словарь может контролироваться (Procrustes) или неконтролируемо (Singular Value Decomposation, Sparse Autoencoders). Не требуется никаких градиентов, поэтому DIDAE в 2000 раз быстрее, чем состояние искусства. Мы оцениваем шесть наборов данных, два синтетических и четыре реальных мира. В трех из них, в основе которых лежит принцип desiderata, его контрфактические данные равны или лучше, чем состояние искусства и они отремонтируют нижние классификаторы через поддельный дистиллер знаний
