Написать что важно: отвлечь токен от выделения слота в периодической памяти

arXiv:2610.341800v1 Annuate Type: New Brieflow: Models of Long-sequeence должны хранить более раннюю информацию. Полное внимание держит все прошлые символы, но растет дорого, и периодические мемориальные модели сжимают историю в фиксированные промежутки для линейной обработки времени. Ограниченность возможностей приводит к тому, что отвлечение информации может препятствовать полезному содержанию, в то время как неиспользованные доказательства нельзя отозвать. Существующие многослойные воспоминания пишут все символы в одно и то же количество слотов, объединяя ли их для хранения со сколькими слитками для обновления. Мы введём Factorized Write Routing (FWR), который сначала хранит или пропускает каждый символ, а затем выбирает фиксированное или номинальное число слотов. Запросы всё ещё читают все слота. Из десяти семян двух синтетических задач, которые задают вопросы фактам после длительных контекстов, мы наблюдаем изменение плотности. С четырьмя слотами на писчку, долгоконтактная точность всегда благоприятствует написанию на плотной памяти (0.472 против 0,337), но выучена селективной записи на малофактальной Passkey (0.222) по сравнению с 0.048). В. Экономия