МАГБ: Многоагентное автономное официальное оформление гарантирует безопасность регентских выходов

arXiv:2609193991v1 Annualce Type: New Humber Abstract: LLM-агенты по кодированию в настоящее время создают сложные программы, которые затрудняют тщательный анализ положения человека и повышают риск сбоев в обеспечении безопасности. Общие подходы, в том числе испытания на фузовое покрытие, статический анализ и LLM-проверка, могут выявить многие ошибки, но при этом трудно охватить все возможные случаи. В рамках официальной проверки это достигается путем предоставления машинопроверимых гарантий в отношении конкретных свойств, однако традиционно требуется существенное ручная спецификация и разработка доказательств. Мы внедряем унифицированную многоагентную систему MAGS, которая генерирует осуществимые программы с официальными гарантиями безопасности, используя Dafny в качестве промежуточного представительства для проверки, где можно механически проверить характеристики безопасности. MAGS формализует и заморозит проверенные людьми API и требования безопасности, переводит созданный код в Dafny, ремонтирует нарушения с использованием обратной связи проверяющего органа и компиляция проверенных программ обратно в операционный код