Компьютерные науки > Машинное обучение [представлено 11 марта 2026 года (v1), последний пересмотренный вариант от 27 октября 2026 г. (эта версия, v2)) Название: " Расширение разумения эффективно через Relaxed On-Policy Distillation View PDF HTML (экспериментальное) резюме: ON-political дистилляция (OPD) является перспективным подходом к передаче умеющих рассуждать моделей с ограниченными возможностями, однако отобранный в выборке ОДП часто страдает энтропией коллапс и отрицательной передачей. В качестве одного из ключевых узких мест мы идентифицируем единообразное распределение кредитов: существующие цели позволяют учителям получать густую информацию о траекториях, созданных учащимися, но применять ее равномерно в отношении отобранных символов несмотря на весьма разнородные сигналы уровня. Большинство жетонов имеют излишние почти нулевые кредиты, в то время как редкие крупногабаритные негативные кредиты могут доминировать над обновлениями и преждевременно подавлять правдоподобные траектории рассуждений. Мы введем REOPOLD (Reased On-Policy Distillation) — систему, которая смягчает это единообразное назначение путем контроля за тем, где применяется отзывы учителей, насколько сильно оно влияет на обновление и когда правила распределения меняются во время обучения. Помимо различных задач в области рассуждения, РОПОЛД совершенствует отобранное ОДП по сравнению с недавними послеучебными базовыми показателями при до 12х более высокой эффективности выборки и охватывает…
Эффективное проведение анализа на основе расслабленной дистилляции в рамках политики
arXiv:2603.111337v2 Annualce Type: заменить перекрестное резюме: Перегонка в режиме онлайн (ОПД) является перспективным подходом к передаче возможностей для рассуждения на модели с ограниченной пропускной способностью, однако отобранные из выборки ОДП часто страдают от энтропии и негативной передачи. В качестве одного из ключевых узких мест мы идентифицируем единообразное распределение кредитов: существующие цели позволяют учителям получать густую информацию о траекториях, созданных учащимися, но применять ее равномерно в отношении отобранных символов несмотря на весьма разнородные сигналы уровня. Большинство жетонов имеют излишние почти нулевые кредиты, в то время как редкие крупногабаритные негативные кредиты могут доминировать над обновлениями и преждевременно подавлять правдоподобные траектории рассуждений. Мы введем REOPOLD (Reased On-Policy Distillation) — систему, которая смягчает это единообразное назначение путем контроля за тем, где применяется отзывы учителей, насколько сильно оно влияет на обновление и когда правила распределения меняются во время обучения. В рамках различных задач, связанных с рассуждениями, РОПОЛД совершенствует выбранное в выборку УОП по сравнению с недавним пост-тр