Калибровка в одном направлении: точная и калиброванная нейронные сети совместного обучения

arXiv: 2610.13693v1 Аннонс Тип: кросс-бюллетень: Нейронные сети (NN), будучи весьма гибкими и разносторонними, часто плохо калибруются. Постспециальные методы калибровки корректируют результаты уже подготовленной модели с использованием отдельного набора калибровочных данных и дополнительных калибровочных параметров. Этот процесс добавляет накладные расходы, которые требуют отдельной оптимизации калибратора и последующего выбора модели. В настоящем документе мы показываем, что стандартные (пост-специальные) калибраторы могут быть обучены с помощью хребтовой системы на двух уровнях. Эта формула устраняет необходимость в отдельном наборе калибровки или специальной потере калибровки путем совместной оптимизации точности и калибровки с использованием перекрестной антропии, введения только одного дополнительного гиперпарометра: коэффициента обучения калибровщику. Хотя наши рамки поддерживают калибраторы, от температурного и матричного масштаба до слоев NN, результаты показывают, что использование самого окончательного классификационного слоя в качестве калибратора дает точные, хорошо