Обнаружение естественных трансформаций в моделях видения черного цвета

arXiv: 26009,071110v1 Аннонс Тип: новое резюме: Естественные состязательные примеры (NAE) показывают, что модели зрения могут не сработать при реалистичных семантических изменениях, выходящих за рамки нормированных возмущений. Однако создание NAE в условиях черного ящика по-прежнему сопряжено с трудностями, поскольку существующие регенерационные атаки часто основываются на суррогатных моделях, извлеченных приводах атак или дорогостоящей оптимизации на основе запросов, тогда как природные преобразования, обнаружающие уязвимость моделей, не известны a priori. Мы предлагаем intextbf {Адверсиарный сценарий (ASA)} — систему черного ящика, основанную на запросах и содержащую анализ сценариев естественно-язычного редактирования с использованием мультимодальной языковой модели и современного текстового редакционного редактора. ASA совместно изучает фон, погоду и материальные/цветные преобразования с помощью победителей-проигрышных отзывов и использует жадного исследователя для составления только сценариев атаки. В различных классификациях IMONet ASA достигает значительно более высоких показателей успеха при нападении, чем в случае регенеративной обработки запросов