ПАКТ: Можно ли доверять помощникам АИ предприятия под давлением?

arXiv:2609.18605v1 Annualce Type: New Brieft: По мере дальнейшего роста корпоративного усыновления IA, агенты предпринимательского класса LLM используются в таких чувствительных ситуациях, как наем персонала, здравоохранение и финансы. В этом контексте соблюдение правил, определенных в системном контексте агента, является правовой проблемой первого порядка. В настоящее время не существует системы оценки систематических мер, которые модели ОУЗП склонны нарушать правила соблюдения, особенно под давлением постоянного пользователя, поспешного управляющего или в тех случаях, когда нарушение является удобным или привлекательным. Мы введем ПАКТ (тест на соответствие требованиям, применяемым при давлениях), который служит ориентиром для выполнения правил под давлением агентов АИ и помогает работникам выполнять повседневные задачи по 12 регулируемым областям деятельности предприятий и 48 сценариям, каждый из которых является реальным многооборотным. Каждый базовый продукт сочетает в себе постоянное правило, противоречащее нормам, и применяет набор давления с использованием различных формулировок и системных быстрых режимов. Мы конструируем