Агент Драйфт: Шаговый контрольный параметр инъекционных агентских трансформаций LLM

arXiv: 2609.06972v1 Annuales Type: кросс-бюллетень: агенты LLM завершают задания, выдавая последовательность звонков с помощью инструментов, и каждое из просмотренных ими наблюдений является каналом, через который может вводиться непрямая быстрая закачка. Успешная инъекция имеет характерную форму при прочтении траектории: доброкачественный префикс уступает место действиям, которые служат скорее нападающему, чем пользователю. Существующие контрольные показатели позволяют определить, удается ли таким нападениям противостоять живым агентам, а существующие модели охраны определяют следы в целом; не существует знаков публичного корпуса шаг за шагом, когда инъекция входит в траекторию и какие шаги она ведет к коррупции. Мы представляем агента Дрифта, эталонный показатель в 12 536 траекторий синтетического вызова инструментов по пяти доменам агентов, где каждый из 71 024 шагов имеет одну из четырех ярлыков: доброкачественную, точку инъекции, угнанную или неудавшуюся инжекцию. В корпусе 4000 доброкачественных, 5536 атак, 1500 неудачных нападений и 1 500 жестко-негативных траекторий; нападавшие траекории следуют трем принципам соблюдения p