Диагностика и сглаживание контекста в Долговременном поиске

arXiv:2606.29718v3 Вид уведомления: заменить перекрестное резюме: обширный контекст стал нормой, поскольку крупные языковые модели (МЖЛ) все чаще используются в долгосрочных поисковых задачах. Озабоченность по поводу того, что увеличение продолжительности контекста ухудшает возможности моделирования, известного как " гниль контекстов &qt; , стала широко признанной проблемой для этих видов применения. Однако в сценариях глубокого поиска остается неясным, каким образом модели фактически оказываются неэффективными в широком контексте и насколько существующие методы могут смягчить такие неудачи. Посредством систематического изучения четырех флагманских моделей по трем контрольным параметрам мы выявляем ранее упущенное явление: в широком контексте модели отказываются от неправильных ответов или дают им неопределенности задолго до того, как исчерпать окно контекста. Мы называем эти два режима неудач незавершенными поисками. Мы показываем, что это обычные способы отказа даже для простых и умеренно сложных запросов, предполагая преждевременное прекращение рассмотрения вопросов, которые модель способна решить. База