Объяснение АИ-агентов через следы исполнения

arXiv:26006063v1 Анонимный тип: новое резюме: AI-агенты все чаще используются в реальных условиях, когда они взаимодействуют с внешними инструментами и принимают последовательные решения при ограниченном надзоре со стороны человека. Это создает настоятельную потребность в надежных и поддающихся проверке объяснениях того, что сделал агент и почему. Однако традиционные методы " объяснимой АИ (XAI) &qt; не обеспечивают транспарентности на уровне процессов, требуемую для таких интерактивных многоэтапных систем, что стимулирует изменение парадигмы в сторону подходов, специально разработанных для АИ-агентов. Для устранения этого пробела мы представляем пост-специальную систему XAI, которая преобразует длинный процесс казни агента в структурированный доклад и верное объяснение на естественном языке, прямо основанное на его видимом поведении. Потому что она основана исключительно на следах исполнения, система применяется к различным агентским архитектурам, средам и задачам. Оценки на уровне людских ресурсов и автоматизированные оценки по нескольким контрольным показателям и архитектурам свидетельствуют о том, что наша работа по определению основных направлений