Оценка методов разъяснения, используемых прогнозерами

arXiv:2609.20058v1 Annuales Type: New Habstratement: Пояснения моделей машинного обучения обычно оцениваются по критериям, которые трудно сравнивать. Мы предлагаем более простой тест: если объяснение действительно описывает, как модель использует свои особенности, то должна быть возможность восстановить прогнозы модели. Мы превращаем каждое объяснение в прогнозор, прочитывая эффект каждого элемента и добавляя его, а также измеряя насколько хорошо этот предсказатель воспроизводит модель на невидимых данных. Ничего не установлено, так что счёт отражает само объяснение. Этот тест применяется к любым объяснениям, которые могут быть записаны как функция характеристик; мы демонстрируем его на участках с частичной зависимостью (PDP), накопленных локальных эффектах (ALE), SHAP и LIME. Мы доказываем, что суммирование кривых частичной зависимости дает максимально возможное резюме присадок модели в тех случаях, когда ее характеристики являются независимыми и это не срабатывает, если они зависят. Из 13 реальных наборов данных и 9 синтетических конструкций, а также 4 образцовых семейства, которые оцениваются методом: