Риски ли задние двери для безопасного постройки?

Компьютерные науки > Машинное обучение [представлено 6 октября 2026 года] Название: " Дистилляция на уровне политики для безопасного использования задних дверей? Взгляните на HTML (экспериментальное) резюме: Перегонка в режиме политики (ОПД) привлекла все большее внимание как эффективный способ передачи способностей от моделей учителей к студенческим моделям. В ходе последних исследований были дополнительно изучены ОДП в качестве инструмента повышения безопасности моделей с использованием большого языка, что дало многообещающие результаты. Однако эти подходы обычно предполагают, что данные об учителях и о профессиональной подготовке являются достоверными. В этой газете мы обнаруживаем неучтенную угрозу безопасности для ОДП: учитель, который был в состоянии защитить себя от опасности, может распространить свое скрытое злоумышленное поведение среди первоклассников. При нашей модели угрозы коэффициент отравления, равный 3%, приводит к успешному атаке (АСР) до 70% на дистиллированном студенте. Мы далее выбираем два варианта профессиональной подготовки, которые могут усилить этот риск. Во-первых, увеличение числа учебных эпох может привести к высокому уровню АСР даже при низких коэффициентах отравления. С 10 отравленными образцами АСР достигает 67% после 16 эпох. Во-вторых, широко используемый Top-k KL может ускорить передачу задних дверей, вызывая вредное поведение с помощью пускового устройства раньше, чем в большинстве параметров. Наряду с этими выводами мы исследуем…