Оптимизация документов для ретровиваля чёрного бокса посредством укрепления обучения

arXiv: 2604.05087v4 Тип уведомления: заменить резюме: генерирующие модели большого языка (LMS) все чаще используются в качестве компонентов времени вывода в трубопроводах поиска для выполнения таких задач, как перезапись запросов и пересмотр списка документов. Однако эти онлайн-подходы устанавливают дорогостоящие авторегрессивные вычисления непосредственно на критическом пути поиска. Мы исследуем альтернативную ось: вместо этого мы используем МЛМ для совершенствования документов, перезаписываем их в лучшие представления и переводим вычисления из сети. Однако подготовка полезного документа не проста: поиск по своей сути является дискриминационным, поэтому эффективная перезапись должна сделать документ более похожим на соответствующие запросы, чем конкурирующие кандидаты под понятием сходства ретривера. Поэтому мы формулируем преобразование документов как проблему оптимизации, непосредственно обучая LLM или VLM для подготовки переписок, которые улучшают поиск. Наш подход, DocOpt, использует GPO с усовершенствованиями ретривера в качестве вознаграждения, требует только черного...