Реклама

ParriorFEC: Предельный срок передачи данных в системе хранения данных с несколькими агентами KV-Cach

#ParriorFEC #Предельный #KV-Cach #Annuales #Type

arXiv: 261.20.21390v 1 Annuales Type: cross recordre: многоагентные системы с большой языковой моделью (LLM) все чаще используются на грани для поддержки сложных задач, требующих взаимодействия и обмена информацией между несколькими агентами. Однако, когда контекст задач перемещается между агентами, общий контекст, который уже был обработан агентами в верхнем течении, часто необходимо вновь предварительно заполнять, что приводит к значительному излишнему расчету. Повторное использование уже заполненного ключа-каша (KV) может избежать этой повторной компьютеризации, но требует переброски многоразового состояния KV по сети до того как агент-получатель сможет начать генерацию. В соответствии со строгими временными сроками и ненадежными пограничными узлами доставка полного кэша KV может оказаться невозможной, что обусловливает необходимость определения приоритетности и защиты наиболее ценной информации по КВ в рамках ограниченного бюджета передачи. В настоящем документе предлагается система передачи KV-каша, которая обеспечивает предоставление услуг в рамках программы PreariFEC и совместно использует KV impr.