Реклама

Является ли Батч-Энсэмбл единой моделью? О калибровке и разнообразии эффективных цепей

#Является #Батч-Энсэмбл #Глубокие #Бэтч-Энсембл #BatchEnsemble

arXiv: 2601.16936v2 Вид уведомления: заменить резюме: в условиях ограниченности ресурсов и низкой степени зрелости оценки факторов неопределенности должны быть получены эффективно. Глубокие эссемблы создают прочную эпистемическую неопределенность (ЕС), но требуют подготовки множества полноразмерных моделей. Бэтч-Энсембл стремится обеспечить ансамбль ЕС при значительно более низких параметрах и затратах на память, применяя к общей базовой сети обучаемые помехи первого ранга. Мы показываем, что BatchEnsemble не только недоработает Deep Essembles, но и тщательно отслеживает базовый уровень единой модели с точки зрения точности, калибровки и обнаружения внераспределяемого (OD) на CIFAR10/10C/SVHN. В ходе контролируемого исследования MNIST было установлено, что члены являются почти идентифицирующими по функциональному и параметрическому пространству, что указывает на ограниченные возможности для реализации различных режимов прогнозирования. Таким образом, BatchEnsemble ведёт себя скорее как одна модель, чем настоящая ансамбль.