Реклама

Досрочная остановка на основе динамики потерь второго порядка

#Досрочная #Сообщение #ТГ-ИС #Порог #CIFAR

arXiv: 261.20.24540v1 Сообщение типа: новое резюме: зависящая от случая досрочная остановка (IES) сокращает расходы на обучение, пропуская обратный размышление для примеров, потери которых стабилизировались, однако критерий потерь и различий второго порядка, используемый IES, не имеет теоретического обоснования. Мы разрабатываем теорий-руководимый случай-управляемая досрочная остановка (ТГ-ИС), которая анализирует этот критерий с использованием четких предположений и устанавливает порог манипулирования шумом, а также обусловленную стабильностью, связанную, например, с исключением. Мы показываем, что различия во втором порядке имеют благоприятный компромисс между предвзятым и третьим различием в зависимости от конкретного режима " сигнал-шум > , а его сигналы содержат как условия уклона, так и термины кривизны. Порог остановки и терпения ТГ-ИС вытекают из данных, полученных в ходе подготовки кадров, а не использования выбранного вручную порогового значения УКИ. В рамках CIFAR-10 и CIRF-100 TG-IES экономит 53-58% случаев обратного размножения в своих основных распределительных системах, а также