Компьютерные науки > Машинное обучение [представлено 19 июня 2019 года (v1), последний пересмотренный вариант 2 июля 2020 года (эта версия, v4)] Название: SemanticAdv: Выработка адверсариальных примеров с помощью атрибутно-условного редактирования изображений Вид PDF HTML (экспериментальный) резюме: Deep Neural Networks (DNS) добились больших успехов в различных приложениях благодаря их сильной экспрессивной способности. Вместе с тем недавние исследования показали, что ОНН уязвимы к состязательным примерам, которые манипулируют случаями с целью ввести в заблуждение ОНБ для того, чтобы сделать неправильные прогнозы. В настоящее время большинство таких состязательных примеров пытаются гарантировать «глубокое возмущение» путем ограничения нормы $L_p долл. В настоящем документе мы стремимся изучить воздействие семантических манипуляций на прогнозы в отношении ДНН путем манипулирования семантическими атрибутами изображений и создания «неограниченных примеров состязательности». В частности, мы предлагаем алгоритм /emph {SemanticAdv} который использует разрозненные семантические факторы для создания состязательных возмущений путем изменения контролируемых семантических атрибутов, чтобы обмануть ученика в направлении различных «непримиримых» целей. Мы проводим обширные эксперименты, с тем чтобы показать, что примеры состязательности на основе семантики могут не только обмануть различные задачи обучения, такие как проверка лиц и обнаружение исторических событий, но также достичь…
Семантикадв: создание адверсариальных примеров с помощью атрибутно-условного редактирования изображений
arXiv: 1906,07927v4 Annuales Type: кросс-бюллетень: Глубокие нейронные сети (DNN) добились больших успехов в различных областях применения благодаря их сильной экспрессивной способности. Вместе с тем недавние исследования показали, что ОНН уязвимы к состязательным примерам, которые манипулируют случаями с целью ввести в заблуждение ОНБ для того, чтобы сделать неправильные прогнозы. В настоящее время большинство таких состязательных примеров пытаются гарантировать «глубокое возмущение» путем ограничения нормы $L_p долл. В настоящем документе мы стремимся изучить воздействие семантических манипуляций на прогнозы в отношении ДНН путем манипулирования семантическими атрибутами изображений и создания «неограниченных примеров состязательности». В частности, мы предлагаем алгоритм /emph {SemanticAdv} который использует разрозненные семантические факторы для создания состязательных возмущений путем изменения контролируемых семантических атрибутов, чтобы обмануть ученика в направлении различных «непримиримых» целей. Мы проводим обширные эксперименты, с тем чтобы показать, что состязательные примеры на основе семантики могут не только