HINTBench: Контрольный параметр неаварийных трансекторных параметров, связанных с горизонтальным агентом

arXiv:2604.13954v2 Вид уведомления: заменить резюме: существующая оценка безопасности агента была сосредоточена главным образом на рисках, вызванных внешними факторами. Однако агенты могут по-прежнему входить в небезопасные траектории при благоприятных условиях. Мы изучаем эту дополняющую, но недооцененную ситуацию сквозь объект риска, где внутренние неудачи остаются латентными, распространяются через долгое время и в конечном итоге приводят к высоким результатам. Для оценки этой ситуации мы введем проверку рисков, не связанных с нападением, задачу по оценке безопасности, ориентированную на охрану, и представляем textbf {HINTBench}, контрольный показатель 596 траекторий агентов, включающий 400 синтетических рискованных траекторий, 136 синтетических безопасных траекорий, 30 восстановленных опасных траерориев реального мира, а также 30 реконструированных безопасных трагезираций реального мира со средней длиной 24,0 шага. HINTBench оказывает поддержку в выполнении трех задач: обнаружение рисков, локализация риска и определение типа поломок с использованием аннотаций, организованных под единым руководством