Компьютерные науки > Расчет и язык [представлен 8 октября 2026 года] Название: AutoIndexer: Global-Order Decoding посредством тренировочных каузальных моделей на цепях воспроизведения HTML (экспериментальное) резюме. Диффузные МЛМ частично смягчают это ограничение, но по-прежнему не могут гибко вставлять или удалять произвольное количество символов из заранее созданного контекста. Мы проектируем AutoIndexer как продуктивную модель с новым механизмом обучения и декодирования, который моделирует цепочку редакторов, что позволяет модели гибко модифицировать свои предыдущие результаты в заднем направлении посредством ввода символов, замены и исключения. Модель учится предсказывать маркеры для вскрытия и закрытия редактирования, одновременно переводя курсор на позиции существующей последовательности символов, аналогично текстовому редактору. Последовательность тренировок получается с помощью наземной правды с обратными цепями редактирования, и модель учится редактировать, отменяя эти обратные операции. Подготовка по вопросам вмешательства позволяет AutoIndexer быть надежным к ошибочному контексту и адаптируться для выполнения задач редактирования, таких как коррекция кода. Мы демонстрируем, что наш метод демонстрирует возможности для изменения контекста после поколения, которых у большинства авторегрессивных и диффузионных моделей не хватает без ущерба для эффективности стандартных контрольных показателей ОУР. Код доступен на сайте https URL. Дополнительные особенности контекст…
AutoIndexer: Гибкая ордерная декодирование посредством тренировки каузальных моделей на цепях Правок
arXiv: 261.10.12545v1 Аннонс Тип: новое резюме. Авторегрессивное декодирование в меньшей степени подходит для данных, не заказанных по приказу, например перекрестных ссылок или будущих зависимостей, поскольку их результаты нельзя пересматривать после специального рассмотрения, в отличие от итеративного человеческого обоснования. Диффузные МЛМ частично смягчают это ограничение, но по-прежнему не могут гибко вставлять или удалять произвольное количество символов из заранее созданного контекста. Мы проектируем AutoIndexer как продуктивную модель с новым механизмом обучения и декодирования, который моделирует цепочку редакторов, что позволяет модели гибко модифицировать свои предыдущие результаты в заднем направлении посредством ввода символов, замены и исключения. Модель учится предсказывать маркеры для вскрытия и закрытия редактирования, одновременно переводя курсор на позиции существующей последовательности символов, аналогично текстовому редактору. Последовательность тренировок получается с помощью наземной правды с обратными цепями редактирования, и модель учится редактировать, отменяя эти обратные операции. Тренируюсь на волнениях
