Он-трак: мониторинг и вмешательство в реальном масштабе времени в траектории агентов LLM с помощью системного строения - оптимальный транспорт

arXiv:2610.123775v1 Вид уведомления: новое резюме: Агенты используются в заявках от планировщиков поездок и биржевых операций на сортировку инцидентов с использованием ИТ. В большинстве случаев агенты ОУЗП работают автономно, обеспечивая минимальную защиту на основе установленных правил, что приводит к возникновению проблем с затратами и безопасностью в результате необратимых действий. Недавние работы позволяют решить эту проблему либо с помощью защитного агента для контроля за поведением, либо путем оценки дневников после проведения специальных проверок. Первый добавляет стоимость и запоздание к каждому шагу; второй выносит свой вердикт после пробежки, когда жетоны сжигаются и наносится ущерб. Чтобы преодолеть это, мы предлагаем OnTrack - механизм мониторинга потока, который сопоставляет шаги и зависимости агента с записанными успешным прогонами для предупреждения пользователей или блокировки агента примерно на миллисекунду на шаг. Мы изучаем эту проблему в трех режимах сокращения доступа: полный исходный доступ (исторические прогоны и схемы инструментов), промежуточный доступ (только схемы инструментов) и отсутствие предварительных знаний (по мере получения только ступеней). Ожидание мониторинга OnTrack