Тренируйте модель, а не читателя: контроль декодируемости для поддающихся проверке объяснений активации
arXiv:2607.20379v2 Тип объявления: Заменить Аннотация: Автокодеры естественного языка оценивают объяснения скрытых активаций путем реконструкции. Объяснение считается верным, если активация может быть восстановлена. Тест структурно нечувствителен к отдельным ложным утверждениям. Если…