Яд: Непонимание постоянных угроз памяти и структурных слепых потов в агентах ЛЛМ
arXiv: 2607.14651v2 Annuales Type: заменить кросс-бюллетень: Постоянная внешняя память повышает непрерывность агента, но создает постоянную уязвимость в плане безопасности: состязательное содержание может быть инъектировано по стандартным каналам взаимодействия, сохранено через обороты и позднее искажает поведение внизу. Для решения этой задачи мы предлагаем систему MemPoison, всеобъемлющую систему критериев и анализа, включающую 1227 подтвержденных вручную случаев по четырем типам нападений, трем каналам инъекций и трем репрезентативным подложкам памяти, оцененным на семи невзвешенных и трех модельных семействах с открытым весом. Мы введем трехуровневую таксономию: (L1) прямая однорегистрная коррупция, (L2) композиционная многозарегистрированная коррупция и (L3) стержневая бездейственная коррупция. Наши оценки показывают, что оборонная граница является совершенно очевидной: в то время как базовая защита напишенного времени, например проверка последовательности, существенно подавляет прямые нападения L1, они не могут надежно пресекать атаки L2 и L3. Через механистическое влияниеd