SemPurife: Семантика-показатель данных для защиты черного ящика

arXiv: 2610.23589v1 Annuate Type: New Habstract: Backdoor atters стала серьезной угрозой безопасности в машинном обучении, где противники запустили в отравленные тренировочные образцы с целью манипулировать прогнозами модели на адресных входах при сохранении ее общего поведения. Такая тайная природа затрудняет обнаружение атаки задних дверей, поскольку модель обычно функционирует до тех пор, пока она не активируется конкретным злонамеренным спусковым устройством. В нынешних системах защиты, основанных на очистке, используются изменения изображений (например, размытые) для нарушения пусковых схем, но зачастую ухудшают качество изображения. Даже при использовании передовых методов восстановления, таких как модели распространения, эти подходы могут по-прежнему изменять визуальную или семантичную информацию и уменьшать полезность для задач низового уровня. Для решения этой проблемы мы предлагаем первую систему семантической обработки данных для защиты черного ящика, SemPurife, которая прямо включает многоуровневую семантику (т.е. низкоуровневые сематические вставки и высокоуровних метки) внутри