Могут ли языковые модели учиться, когда нужно отстраняться? Обучение политике и отбор калиброванных ответов

arXiv: 2610.13821v1 Annuate Type: New Habstractive: Полезная модель языка должна знать, когда отвечать и когда сказать "Я не знаю". Можем ли мы улучшить это решение путем обучения самой модели или подготовки отдельного компонента для проверки ответов? Мы изучаем оба подхода на Qwen3-14B для фактических вопросов, используя балл, который вознаграждает правильные ответы, карает ошибки и допускает воздержание. В рамках трех учебных семян и двух неучтенных пороговых значений достоверности, выбранный ответ повышает среднепороговую полезность по сравнению с калиброванным фильтром доверия оригинальной модели. Что касается TriviaQA, то средний показатель охвата возрастает с 20,2% до 30,9%, в то время как коэффициент совокупной погрешности среди полученных ответов снижается с 23% до 14,5% при точном матче. Проверенные изменения в области повышения квалификации не позволяют получить последовательные результаты. На NQ-Открытом переключатель повышает среднепороговую полезность по отношению к фильтру, но до сих пор работает хуже, чем всегда при воздержании. Частичная проверка, проведенная с учетом человеческого фактора, обеспечивает сохранение TriviaQ.