Спектр: Доказательство того, что задача сломана прежде чем агент Четс

arXiv: 2610,09159v1 Annualce Type: New Humber Brieflow: По мере того, как автономные кодирующие агентов все чаще используются, критически важно устранить риск случайных или состязательных ошибок в работе, ведущих к опасному поведению агента. Предыдущая работа показала, что агенты, которым были поручены такие задачи, редко отмечают конфликт и вместо этого изменяют, редактировают тесты или жестко кодируют ожидаемые результаты, а действия, предпринятые с целью обмана, могут нанести реальный ущерб, например исключение защиты безопасности для получения искаженного пропуска. Остается неясным, могут ли такие коллизии быть установлены при наличии поддающихся независимой проверке доказательств до действий агента. Мы представляем SpecGuard, который обнаруживает и официально удостоверяет эти противоречия между целью и испытаниями. Учитывая только описание задачи и кодовую базу, SpecGuard автоформализирует предполагаемое поведение в спецификации Lean 4. Эти испытания формализованы независимо, и ядро льва проверяет, может ли какая-либо реализация удовлетворять обе формализации, производя машину