Модель может помочь самому себе: бесплатная самоподготовка для обоснования ЛЛД
arXiv: 2510.18814v5 Тип уведомления: заменить перекрестное резюме: Может ли модель языка улучшить рассудок, изучая свои собственные несовершенные ответы без поощрения или решений, предоставляемых учителями? Мы представляем самопереходный метод после обучения (СеПТ), простой метод, который заменяет контролируемое температурой самопроизводство следующей учебной подготовкой по вопросам вероятности. Каждый раунд использует обновленную модель для подготовки новых учебных ответов, при этом по умолчанию один ответ на каждый из них представляется в зависимости от времени и не фильтруется правильно. В рамках шести математических контрольных показателей СЕПТ повышает выбор температуры для нулевого базового уровня на 11,4 и 6,7 баллов АВГ соответственно по Qwen2,5-Math-7B и Qwin2.5-7B, где AVG sредние значения пропусков@1, Pass@8 и Pass=32 в пределах контрольных параметров. Мы анализируем, как температура проб формирует обучающий сигнал и проверяем ценность полученных ответов. Ответы, полученные с помощью модели, подготовленной СеПТ, помогают учащимся, инициализированным из первоначальных весов, в то время как префиксы их рассуждений помогают не менять модель полной солути.
