Амортизированная оценка не связанных с политикой аспектов МЛМ

arXiv: 2610.10.10848v1 Аннот: новая резюме: точная оценка имеет ключевое значение для выбора того, какой LLM будет развернут, однако проверка кандидата на прямом движении подвергает реальных пользователей невнятной модели. Поэтому группы оценивают кандидатов в режиме оффлайн на основе данных, полученных с помощью уже развернутых моделей. Это неполитическая оценка (ОПЭ), и она сталкивается с двумя изменениями в распределении: по мере обновления модели после прохождения подготовки ее ответы расходятся с зарегистрированными ответами (изменение политики) и определением вознаграждения, согласно которому она оценивается как изменение с учетом требований ведения бизнеса (передача вознаграждения). Классические методы УПВ не подходят для этой постоянной схемы развертывания, поскольку они определяются по каждой задаче и требуют их согласования с нуля на каждом новом массиве данных или определении вознаграждения. Для решения этой проблемы мы предлагаем PFN-OPE - сеть, установленная на основе предварительных данных, которая амортизирует OPE в рамках распределения контекстуальных задач. Однажды мы готовили его к выполнению задач, построенных из пула ответов ЛММ с несколькими наградными функциями, в которых