АНХОР: Внешний модуль наблюдения LLM-Driven, способствующий здоровой эволюции саморазвивающихся систем
arXiv: 2606.06114v3 Annuales Type: заменить резюме: самодеятельные агенты совершенствуются посредством непрерывного самоиграния и сигналов самостоятельного обучения, но их внутренние задачи и сигналы проверяющих органов обеспечивают ограниченный охват погрешностей фазового уровня, что позволяет аккумулировать деградацию потенциала и снижение безопасности. Мы представляем АНХОР, основанную на МУЗ систему надзора, которая обеспечивает оценку обратной связи на различных этапах самореволюции и агрегированных данных в контексте последующих шагов. Мы модифицировали две репрезентативные системы саморазвивающихся агентов с открытым исходным кодом и провели их оценку по всему кодированию, математическим рассуждениям и безопасности. Наши результаты свидетельствуют о том, что АНХОР значительно повышает эффективность безопасности при сохранении стабильной эффективности основных возможностей самих самоходных агентов. Дальнейшие анализы позволяют получить практическую информацию для будущих исследований, показывающую, что надзор на основе исполнения является особенно эффективным и что растет su