Поиск скрытых неудач делает долгого горизонских агентов более надежными

Компьютерные науки > Машинное обучение [представлено 15 сентября 2026 года] Название: Locateing Sidden Davards делает долгого-Horizon Agents более надежным взгляд PDF HTML (экспериментальный) резюме: поскольку агенты АИ выполняют долгие, самостоятельные задачи, мы все чаще наблюдаем за работой, а не выполняем ее, но при этом мы до сих пор судим их почти полностью по тому, насколько они в конечном итоге преуспеют. Результат не может определить, где прогремел агент или нанесенный им необратимый ущерб по пути и когда долгого горцоносные агенты провалились, остается незапланированным. Мы изучаем траектории агента в размере 2518 долларов по всему программному обеспечению, компьютерным и научным аспектам, близким к реальному развертыванию, и классифицируем ошибки на сумму 6967 долл. США в виде ошибок в 78 долларов США. Провал следует за повторяющейся подписью: после своей первой ошибки агент часто не может восстановить и редко поймает саму ошибку, так что прогон продолжает оставаться бесконтрольным, пока он все еще выглядит правильным; зависит ли восстановление агента от задачи и обратной связи окружающей среды, а не от управляемой им структуры агента. Долговременные агенты могут причинить реальный вред на пути к успешному результату: даже пробежки, засчитанные как решенное удаление данных, коррумпированные системы или изготовляющие успех вместо того, чтобы получать его. Мы выпускаем эти проверенные людьми аннотации как траверс, ориентир на который шесть пограничных судей пытаются…