СЕВЕРА: Проверенный синтез саморазвивающихся агентов

arXiv:2603.25111v3 Вид уведомления: заменить резюме: последние достижения показали эффективность самопровозглашенных агентов LLM в таких областях, как ремонт программ и научные открытия. В этой парадигме планировщик LLM синтезирует агентскую программу, которая использует параметрические модели, включая MLM, которые затем корректируются на каждую задачу в целях повышения производительности. Вместе с тем существующие механизмы самореализующихся агентов не обеспечивают никаких официальных гарантий безопасности или правильности. Поскольку такие программы часто осуществляются автономно на невидимых вводимых ресурсах, отсутствие гарантий вызывает обеспокоенность по поводу надежности и безопасности. Мы формулируем генерацию агентских кодов в качестве ограниченной проблемы обучения, сочетая жесткие формальные спецификации с мягкими целями, улавливающими целевую полезность. Мы внедряем официально охраняемые генерационные модели (FGMG), которые позволяют планировщику LLM определять официальный контракт на выпуск для каждого вызова, связанного с регенеративной моделью, используя логику первого порядка. Каждый звонок FGML обмещает основную модель в отбракованный образец с проверенным f