КОНДУИТ: Единая система восстановления остаточных потоков для повторного использования KV Cache в моделях зрения-лангуажа
arXiv: 26009,05821v1 Annuate Type: New Brieflow: Vision-Language Models (VLMs) часто отвечает на новые вопросы о повторяющемся визуальном содержании, когда повторное использование кэша с ключевым значением (KV) может избежать перекодирования дорогостоящих визуальных префиксов. Однако повторное…