Компьютерные науки > Машинное обучение [представлено 9 октября 2026 года] Название: Double-Teep: Chall-Context in Bildirectional Memory View PDF HTML (экспериментальное) Резюме: Проработка длинной последовательности не гарантирует, что удаленная информация остается полезной. По мере роста контекста фиксированная память должна сохранять многие ассоциации, соединять информацию между различными позициями и сохранить соответствующую структуру, не перегруженную всем, что она замечает. Это особые требования: память может хранить больше информации, не представляя отношений, необходимых для поиска, и она может перевозить эти отношения без сохранения тех из них, которые имеют значение. Таким образом, задача заключается не просто в увеличении длины контекста, а в создании памяти, которая остается полезной по мере роста контекста. Мы изучаем эту проблему в рамках обучения тест-время большого проб (TTT) и выявляем две основные ошибки: одноэтапный процесс создает помехи, ограничивает возможности, а самоассоциационные записи не могут быть связаны друг с другом. Мы введем Double-Take (DT), который исправляет эти ошибки с помощью многоэтапных неудлиненных обновлений и перекрестного смешивания позиций, а также добавляя двунаправленные письма, чувствительные к изменениям для селективной сохранения. Одна лишь пропускная способность оставляет отток в конечном итоге на уровне 0,10 долл. США; добавление связующего фактора повышает его до 0,92 долл. Обучался только на 32 долл. США, матрме {kb}…
Двойной прием: повышение потенциала, обязательность и избирательность в длительном контексте в рамках двусторонней памяти
arXiv: 2610.13073v1 Аннонс Тип: перекрестное резюме: Обработка длинной последовательности не гарантирует, что удаленная информация остается полезной. По мере роста контекста фиксированная память должна сохранять многие ассоциации, соединять информацию между различными позициями и сохранить соответствующую структуру, не перегруженную всем, что она замечает. Это особые требования: память может хранить больше информации, не представляя отношений, необходимых для поиска, и она может перевозить эти отношения без сохранения тех из них, которые имеют значение. Таким образом, задача заключается не просто в увеличении длины контекста, а в создании памяти, которая остается полезной по мере роста контекста. Мы изучаем эту проблему в рамках обучения тест-время большого проб (ТТТ) и выявляем два основных сбоя: одноэтапный процесс создает помехи, ограничивает возможности, а самоассоциационные записи не могут быть переплетены. Мы введем Double-Take (DT), который исправляет эти ошибки с помощью многоэтапных неувязок и перекрестных сообщений