arXiv NLP
TOPAS: Workflow-Aware Prefix-State Scheduling для многоагентного обслуживания LLM
arXiv:2608.25523v1 Анонс Тип: новый Abstract: Prefix кэширование вводит фундаментальный компромисс в многоагентной модели большого языка (LLM), обслуживающей: сохранение длительного кэша ключ-значение...
arXiv NLP