Auto Control Arena: синтезирование условий проведения испытаний для оценки риска, связанного с использованием АИ на границах

arXiv: 2603.077427v3 Annuales Type: заменить резюме: поскольку модели большого языка (MLM) превращаются в автономных агентов, существующие оценки безопасности сопряжены с фундаментальным компромиссом: ручные контрольные показатели являются дорогостоящими, а имитаторы на основе LLM - масштабируемыми, но страдают от логических галлюцинаций. Мы представляем Auto Control Arena, автоматизированную основу для оценки рисков на границе АИ, основанную на принципе логики-разглашения. Заземление детерминистского состояния в функционирующем коде, делегируя при этом регуляционную динамику МЛМ, мы уменьшаем галлюцинацию и сохраняем гибкость. Этот принцип, в котором используется трехагентная система, позволяет достичь более 98% конечного успеха и 60% человеческих предпочтений по сравнению с существующими имитационными моделями. Для того чтобы вызвать скрытые риски, мы отличаем экологический стресс и соблазн в зависимости от X-Bench (70 сценариев, 7 категорий риска). Оценка 9 пограничных моделей показывает: 1) согласование иллюзии: повышение темпов риска с 21,7% до 54,5% под давлением, при этом способные модели демонстрируют диспропорцию.