Как задняя дверь дистилляция знаний

arXiv: 25004.21323v3 Annuales Type: заменить перекрестное резюме: дистилляция знаний широко используется для передачи поведения от большой модели учителя к меньшему студенту. Часто считается, что это безопасно при чистоте учителя, поскольку классические нападения на задние двери основаны на отравленных этикетках и срабатываются в ходе поднадзорной подготовки, а дистилляция учит ученика соответствовать результатам работы учителя. Мы показываем, что это предположение может провалиться в случае отравления самого дистилляционного набора данных. Наши атаки спровоцировали и манипулировали изображениями, которые чистый учитель уже предсказывает как нападающий, выбранный лейблом цели, что заставляет студента учиться задворкам, даже несмотря на то, что учитель остается нетронутым. Мы оцениваем эту угрозу в рамках различных стратегий манипулирования, включая целенаправленные состязательные возмущения и адресные изменения классов на основе GAN, а также изучаем вопрос о том, как дистилляционные параметры влияют как на точность, так и на успех атак. Мы показываем, что нападение остается эффективным даже при 10% уровня отравления. В. Экономия