Безопасный, устойчивый и развивающийся Агент Харнесс для понимания частично наблюдаемых миров

arXiv: 261.10.11552v1 Annuate Type: New Habstract: Major Language Model Agents может свободно ссылаться на инструменты, но корпоративные рабочие процессы требуют большего, чем просто выбора нужных инструментов: действия должны строго соответствовать организационной политике, обратная связь с инструментами часто скрывает скрытые побочные эффекты при частичной консервируемости, а долгосрочные задачи требуют постоянного отслеживания состояния в нескольких записях. Для решения этих проблем мы внедряем E-Ledger, многоагентный инструмент для безопасного и устойчивого исполнения. E-Ledger использует уровень утверждения кода, который проверяет каждое предлагаемое действие против политики до исполнения и ведет всемирную бухгалтерскую книгу проверенных скрытых правил наряду с подкрепленным доказательствами динамическим состоянием. Поскольку скрытые правила обычно не известны априори, мы предлагаем WorldAbucte — похищающий и управляемый мировой моделью эволюционный механизм. WorldAbuck диагностирует траектории исполнения с четырьмя взаимодополняющими точками зрения (последовательность, разрыв в наблюдении за миром, правильность политики и гоа)