Руководители служб безопасности: усвоение врат внимания Улучшить быстродействующую инъекцию

arXiv: 261 0373657v1 Annuales Type: New Humber Abstract: Мы представляем "Heads of Security" (HOS) — защиту от быстрой инъекции, которая обеспечивает разделение инструкций-данных через небольшой набор изученных в каждом направлении ворот внимания. OS учится, как каждый голова должен перераспределять внимание между доверенными и ненадежными символами, что позволяет моделям рассуждать над недостоверным содержанием без соблюдения инструкций. Мы оцениваем ПС на сайте Llama-3.3-70B и GPT-OSS-20B. Мы сравниваем его с SecAlign++, самой современной защитой на основе усовершенствования, и ASIDE - защитой, которая, как и наша, создает разделение инструкций-данных в модельную архитектуру. Мы показываем, что ПС обеспечивает бóльшую устойчивость к адаптивным атакам, более высокую эффективность в отношении стандартных показателей полезности и соответствует высоким показателям эффективности стандартной оперативной инъекции агентов. Если говорить более конкретно, нападение с черной коробкой RL-Hammer достигает 97% АСР против GPT-OSS-20B и 85% против SecAlign, но только 10% против HOS. Клаудини, современный белый ящик.