Компьютерные науки > Криптография и безопасность [представлены 15 августа 2026 (v1), последний раз пересматривались 8 октября 2026 года (эта версия, v2)), название: Beyond Direct Access: Resources Highing in LLM Agents View PDF HTML (экспериментальный) резюме: крупные языковые модели-агенты все больше связаны с ценными ресурсами, включая внешние АПИ, GPU и серверы, а также такими рабочими потоками, как развертывание и утверждение. В рамках существующих исследований по вопросам безопасности агентов основное внимание уделяется нападениям на информацию и поведение агентов, в то время как важным ресурсам уделяется меньше внимания, поскольку они сами становятся объектом нападений. Насколько нам известно, мы первыми идентифицируем и систематически изучаем случаи захвата ресурсов агентами, когда нападавшие заставляют агентов использовать ценные ресурсы для достижения своих собственных целей без непосредственного получения этих средств или их полномочий. Мы внедряем систему " ResourceHijckBench &qt; - поддающийся исполнению эталонный и автоматизированный трубопровод для производства дел, который охватывает шесть категорий дорогостоящих ресурсов. В нем содержится 300 сценариев нападений и 900 сигналов атак, каждый случай проходит в изолированной местной среде, которая регистрирует фактическое использование ресурсов. Угон ресурсов по-прежнему эффективен в четырех модельных хребтах, где средние показатели успеха атак составляют от 70,0% до 89,6%, а также в двух агентских жгутах:…
Помимо прямого доступа: угон ресурсов агентами ЛЛМ
arXiv:2608.15108v2 Тип уведомления: заменить перекрестное резюме: крупные языковые агенты модели все чаще подключаются к высокозатратным ресурсам, включая внешние API, GPS и серверы, а также таким рабочим потокам, как развертывание и утверждение. В рамках существующих исследований по вопросам безопасности агентов основное внимание уделяется нападениям на информацию и поведение агентов, в то время как важным ресурсам уделяется меньше внимания, поскольку они сами становятся объектом нападений. Насколько нам известно, мы первыми идентифицируем и систематически изучаем случаи захвата ресурсов агентами, когда нападавшие заставляют агентов использовать ценные ресурсы для достижения своих собственных целей без непосредственного получения этих средств или их полномочий. Мы внедряем систему " ResourceHijckBench &qt; - поддающийся исполнению эталонный и автоматизированный трубопровод для производства дел, который охватывает шесть категорий дорогостоящих ресурсов. В нем содержится 300 сценариев нападений и 900 сигналов атак, каждый случай проходит в изолированной местной среде, которая регистрирует фактическое использование ресурсов. Угон ресурсов по-прежнему является эффективным в случае 4 месяцев
