Компьютерные науки > Расчеты и язык [представлен 8 сентября 2026 года] Название: Jaacap: Rougust KV Cach Eviction через Якобианский нелинейный информационный ресурс Security View PDF HTML (экспериментальный) Резюме: Выселение кэш-кафе (KV) имеет важное значение для масштабирования долгосрочных выводов в больших языковых моделях. Вместе с тем существующая политика в основном опирается на эмпирическую эвристику, которая не содержит жесткой характеристики символической полезности в рамках по своей сути нелинейного механизма мягкого внимания. В этой работе мы переосмыслили выселение кэша KV с помощью линзы местной геометрии информации, моделируя процесс привлечения внимания как нелинейный канал связи Гаусса. Выполняя первый заказ, Тейлор расширяет картирование внимания, мы получаем Jacobian Information Потенциал — новую цель, которая явно отражает актуальность запроса, мягкую чувствительность и структурное разнообразие. Руководствуясь этой теорией, мы внедряем Jacap — способ выселения с учетом возможностей, который использует мягкие максимальные значения и оценки статистического рычага для отбора подмножек. Широкие эксперименты с различными архитектурами и контрольными показателями показывают, что в большинстве сценариев formula_BAR_Textsc {Jacap} дает более высокие результаты, особенно при режимах высокого давления. Загрузка ссылок и цитат... Библиографический и цитационно-инструментальный библиолог (Что является Исследовательом?) Подключённые документы (что такое…
Jacap: " Roust KV Cache Eviction &qt; через Якобианскую систему защиты нелинейной информации
arXiv:2609.081331v1 Сообщение типа: новое резюме: выселение кэша, имеющего ключевое значение (KV), имеет важное значение для масштабирования долгосрочных выводов в модели Большого языка. Вместе с тем существующая политика в основном опирается на эмпирическую эвристику, которая не содержит жесткой характеристики символической полезности в рамках по своей сути нелинейного механизма мягкого внимания. В этой работе мы переосмыслили выселение кэша KV с помощью линзы местной геометрии информации, моделируя процесс привлечения внимания как нелинейный канал связи Гаусса. Выполняя первый заказ, Тейлор расширяет картирование внимания, мы получаем Jacobian Information Потенциал — новую цель, которая явно отражает актуальность запроса, мягкую чувствительность и структурное разнообразие. Руководствуясь этой теорией, мы внедряем Jacap — способ выселения с учетом возможностей, который использует мягкие максимальные значения и оценки статистического рычага для отбора подмножек. Широкие эксперименты по различным архитектурам и контрольным параметрам показывают, что / textsc {Ja
