Единый подход к обычаю и каскаду для МЛМ

arXiv: 2410.10347v5 Вид уведомления: заменить резюме: наличие широкого круга моделей большого языка (МЛМ), встроенных в различные агентские системы, значительно расширило возможности стратегий отбора моделей для улучшения компромиссов между затратами и результатами. Существующие стратегии предусматривают либо маршрутизацию, когда одна модель выбирается по запросу, или каскадирование, которые последовательно используются все более крупными моделями до тех пор, пока не будет найден удовлетворительный ответ. Однако нынешние подходы сталкиваются с тремя основными ограничениями: 1) они не имеют официальных доказательств оптимальности, 2) не позволяют определить условия, при которых эти стратегии являются наиболее эффективными для улучшения компромиссов между затратами и результатами деятельности, и 3) не могут объединить обе парадигмы в целях дальнейшего усовершенствования. Для решения этих вопросов мы сначала выработаем новую оптимальную стратегию каскадирования и докажем оптимальный характер существующей стратегии маршрутизации. Кроме того, мы предлагаем каскадную трассу - единую систему, которая интегрирует маршруты и скатывается в теорети.