Проект: Мониторинг безопасности для агентов по компьютерному использованию с помощью низкомерных прогнозов

arXiv:2605.13631v3 Анонимный тип: заменить резюме. Компьютерные агенты все больше способны работать на реальных операционных системах, но этот потенциал также увеличил их подверженность быстрому впрыску и другим состязательным контентам, которые могут манипулировать своим поведением во время взаимодействия. Существующие средства защиты, как правило, основываются на анализе оперативного или каждого потенциально злонамеренного ввода данных с использованием второй крупной модели в момент вывода, что может ограничить охват или увеличить расходы по развертыванию. Мы предлагаем ProjGuard, лёгкий монитор времени работы, который получает сигнал риска скаляра из накопленного агентом опыта реагирования с использованием контролируемой линейной проекции. Контрольно-измерительное устройство оценивает этот сигнал на каждой ступеньке и поднимает тревогу, когда он превышает установленный порог. Когда сигнал тревоги поднимается, мы выборочно активируем вспомогательную модель языка зрения (VLM), чтобы предложить следующее действие и направить исполнение к завершению задачи. Эксперименты на ОС-Харме показывают, что мониторинг с помощью системы VLM interventi