Агентская самоосторожность: знание, исполнение и хранение

arXiv: 2610.192226v1 Сообщение типа: новое резюме: Пограничные АИ-агенты все чаще действуют в условиях, где кажущиеся решенными задачи могут не иметь предварительных условий, содержать противоречивые требования или раскрывать блокаторы только во время исполнения. Мы формулируем агентское самосознание (ASA) как согласование решений по вопросам практической осуществимости с учетом конкретных задач (знаю), оправданное поведение (действие) и ответы на повторный пересмотр, проводя различие между тем, что позволяет задача и тем, чем может заниматься агент. Мы построили парные и заблокированные задачи в терминале-Бенч 2.1 и розничном $tau2 долл. США, а также ввели графу, покрывающую авторство M0-M3, которая отделяет признание блокатора от принятия сертификационного решения об отсрочке по правильной причине. Отдельные обследования позволяют оценить заявленные мнения о целесообразности и ответные меры на одну проблему. В соответствии с протоколом терминала-насыпи, степень блокировки достигает 84,4%, но строгое самосознание (SA) достигает лишь 40,6%. Поиски с помощью модели без обновления веса увеличивают строго SA с 45,3 % до