Компьютерные науки > Машинное обучение [представлено 16 сентября 2026 года] Название: ASPIRE: Асинхронная самосохраненная декодировка для длинноконтекстовой версии LLM Findence View PDF HTML (экспериментальная) Резюме: Лонг-Конторт ЛLM вывод забит вниманием, чьи повторяющиеся KV-cache читают обезвреживание памяти. Самодельное декодирование облегчает это, поскольку при их составлении недостаточно внимания и проверке уделяется все необходимое внимание, однако существующие методы пакетирования остаются синхронизированными: все запросы в партии содержат единый график проверки проекта, даже если оптимальный объем проектов сильно варьируется по запросам и динамически изменяется в рамках каждой просьбы. Мы предлагаем ASPIRE - несинхронизированную систему самоспекуляции, построенную на трех компонентах. Во-первых, единый смешанный подход позволяет составлять и проверять просьбы в одном комплекте, устраняя необходимость глобальных этапов проверки проектов. Во-вторых, легковесный онлайн спекуляционный график использует оценки по каждому запросу и модель расходов на пакетные программы для того, чтобы каждый запрос мог самостоятельно выбирать время проверки. В-третьих, внутрипроектный уровень обновления обеспечивает полное внимание на одном указанном уровне в ходе разработки проекта, обновляя ограниченный контекст на каждом этапе подготовки проекта с целью уменьшения затуманчивости во время составления проекта. В рамках трех моделей и пяти логических и долгосрочных контрольных…
ASPIRE: Асинхронное самосохраняющееся декодирование для долгосрочного заключения LLM
arXiv: 2609.17943v1 Annuate Type: New Brieft: Long-context LLM вывод забит вниманием, чьи повторяющиеся записи KV-cach делают декодирование памяти привязанным. Самодельное декодирование облегчает это, поскольку при их составлении недостаточно внимания и проверке уделяется все необходимое внимание, однако существующие методы пакетирования остаются синхронизированными: все запросы в партии содержат единый график проверки проекта, даже если оптимальный объем проектов сильно варьируется по запросам и динамически изменяется в рамках каждой просьбы. Мы предлагаем ASPIRE - несинхронизированную систему самоспекуляции, построенную на трех компонентах. Во-первых, единый смешанный подход позволяет составлять и проверять просьбы в одном комплекте, устраняя необходимость глобальных этапов проверки проектов. Во-вторых, легковесный онлайн спекуляционный график использует оценки по каждому запросу и модель расходов на пакетные программы для того, чтобы каждый запрос мог самостоятельно выбирать время проверки. В-третьих, внутрипроектный уровень обновления