Компьютерные науки > Криптография и безопасность [представлен 20 июля 2026 (v1), последний пересмотренный вариант 17 сентября 2026 года (эта версия, v2)) Название: Нападки на самонадеянные АИ-агенты: как далеко может идти защита ОС? Вид PDF HTML (экспериментальное) Резюме: Самозапущенные АИ-агенты сохраняют постоянную память, инструкции и конфигурацию, которые влияют на их будущее поведение. Если агент скомпрометирован, нападавший может использовать законные разрешения агента для того, чтобы испортить это самосостояние, что затрудняет проведение различий между злоумышленными и доброжелательными обновлениями на уровне операционной системы (OS). Мы изучаем, как далеко существующие механизмы OS могут предотвратить, обнаружить и восстановиться после таких нападений. Мы официально оформим пространство для атаки и проанализируем репрезентативную OS-оборону с использованием четырех агентских нагрузок и телеметрического трубопровода Linux. Наши результаты свидетельствуют о последовательном ограничении всех оборонных измерений. Регулирование уровня файлов либо оставляет альтернативные пути мутации открытыми, либо в случае завершения тестируемых операций блокирует соответствующие законные обновления. Детективы отмечают значительную часть законной деятельности, в то время как более избирательные методы охватывают только часть атаки. И наконец, защищенные резервные устройства успешно восстанавливают нарушенное состояние, но требуют надежного пункта восстановления и могут понести расходы…
Нападения на самонадеянных агентов АИ: как далеко может пройти ОС-оборона?
arXiv: 2607.17986v2 Annuate Type: заменить кросс-бюллетень: Самозанятые АИ-агенты поддерживают постоянную память, инструкции и конфигурацию, которые влияют на их будущее поведение. Если агент скомпрометирован, нападавший может использовать законные разрешения агента для того, чтобы испортить это самосостояние, что затрудняет проведение различий между злоумышленными и доброжелательными обновлениями на уровне операционной системы (OS). Мы изучаем, как далеко существующие механизмы OS могут предотвратить, обнаружить и восстановиться после таких нападений. Мы официально оформим пространство для атаки и проанализируем репрезентативную OS-оборону с использованием четырех агентских нагрузок и телеметрического трубопровода Linux. Наши результаты свидетельствуют о последовательном ограничении всех оборонных измерений. Регулирование уровня файлов либо оставляет альтернативные пути мутации открытыми, либо в случае завершения тестируемых операций блокирует соответствующие законные обновления. Детективы отмечают значительную часть законной деятельности, в то время как более избирательные методы охватывают только часть атаки. Наконец, защищенные