Одна модель, два пути: уравновешивание однопассовых и скрытых результатов в языковых моделях

arXiv: 261 030 33517v1 Annuales Type: New Habstratement: Повторяющиеся Трансформаторные слои могут улучшить работу языковой модели без добавления параметров. Предварительно подготовленная модель может быть адаптирована для поддержки как однопроходного, так и петлевого вывода путем повторного использования средних весов для дополнительных расчетов. Поскольку оба пути делят весы, обучение совершенствованию петлющих прогнозов может привести к снижению качества однопроходцев. Мы изучаем совместные стратегии профессиональной подготовки с использованием взвешенных потерь по обоим результатам, руководствуясь замороженной первоначальной моделью. Совместный надзор позволяет существенно сократить деградацию одного прохода по сравнению с профессиональной подготовкой, осуществляемой только в рамках цикла обучения, сохраняя при этом теневые преимущества, которые можно было бы достичь по отношению к обычной непрерывной подготовке. Большая часть этой выгоды связана с корректировкой веса потери в одном проходе, а также с использованием замороженной первоначальной модели, которая позволяет еще больше улучшить круглосуточную производительность. При использовании весов, выбранных для подтверждения достоверности данных, наш метод сохраняет однопроходное качество в рамках предопределённого допуска к обычной непрерывной подготовке при одновременном совершенствовании петлющих прогнозов.