Использула ли модель это? Поддельное обучение

arXiv: 261 0352595v1 Annualte Type: New Habstrate: Artical Problem for объяснимые и подотчетные языковые модели показывают, как внешняя информация влияет на их ответы. В настоящем документе рассматривается вопрос о том, являются ли модели самопритязательными: т.е. Кроме того, мы изучаем вопрос о том, каким образом можно улучшить самопривлекательность путем подготовки кадров по контрфакту, которая непосредственно учит модели различать ответы на вопросы, которые имеют значение и не зависят от предоставленной информации. Мы обнаружили, что большинство из одиннадцати пограничных моделей редко приписывают важную информацию в своих ответах, а остальные - невлиятельную. Это не исправляет признание в ходе обучения аргументации: это признание не достигает окончательного ответа. Мы представляем КРЕДИТ, которая непосредственно контролирует окончательный ответ на самоприсвоение с контрфактическими ярлыками без необходимости человека.