Создание памяти в тест-время

arXiv: 261 010.13348v 1 Annualte Type: New Habstractive: Big Language Models (LMS) с трудом отвечают на вопросы из-за длинной истории взаимодействия, где соответствующие доказательства могут быть разбросаны по отдаленным сессиям. Существующие системы памяти, как правило, создают и поддерживают сложные изображения памяти в режиме офлайн до того, как запросы пользователей будут замечены, что влечет за собой значительные накладные расходы и ограничивает их способность адаптировать структуру памяти к конкретным информационным потребностям. В этом документе мы предлагаем T$2Mem, систему построения памяти в режиме test-Time, которая откладывает создание памяти до вывода и постепенно укрепляет память в ходе процесса рассуждения. В частности, T$2Mem вылавливает легковесные метаданные на уровне эпизодов в режиме офлайн для отражения ключевых событий и временных ассоциаций как сигналов поиска, сохраняя при этом ссылки на первоначальное взаимодействие с целью облегчения восстановления зависимостей между сериями. Во время испытания LLM адаптационно извлекает и организует метаданные и первичное взаимодействие, pro