ВЕПА: Проверенная разработка официальной политики в отношении агентов-гарантий на протяжении всей жизни

arXiv: 2610.12813v1 Annuate Type: New Humber Abstract: агенты LLM все чаще работают над чувствительными ресурсами, такими как частные документы и системы " Mutable States > , которые могут создавать серьезные риски для безопасности. Таким образом, ограждения в режиме эксплуатации должны обеспечивать возможность проверки, воспроизводимости и детерминизма для принятия решений или отказа от них до совершения потенциально необратимых действий агента. Однако требования в отношении охраны и безопасности редко являются полными до развертывания, поэтому по мере возникновения новых рисков ограждениям необходимо продолжать адаптироваться. Существующие адаптивные ограждения извлекают уроки из опыта развертывания, однако они обычно применяют политику обеспечения безопасности на основе выводов ОДЗЗ, что может приводить к непоследовательным решениям и двусмысленным толкованиям политики. С другой стороны, формальные ограждения обеспечивают соблюдение политики детерминистским образом, однако они обычно основываются на политике до развертывания или конкретной задаче и не имеют механизма для адаптации к вновь наблюдаемым рискам. Мы представляем ВЕПА, рамки для проверенной эволюции официальных агентов охраны