Модель совпадающего языка
arXiv: 2609.071229v1 Annuales Type: New Humber Autoregressive Language Models генерирует один символ на шаг декодирования, ограничивая полезный выход каждого переднего пропуска. Хотя модели распространения, декодирование на основе встраивания и многоточенное прогнозирование позволяют одновременно генерировать, они либо сопряжены с дополнительной трафиком времени тренировки, либо пытаются предсказать сильно зависимые от будущего символики. Мы введем модель Line-Couped Language Model (LCLM), авторегрессивную модель, которая продвигает несколько текстовых строк вместе, предсказывая следующий символ для каждой активной линии при слиянии линий через общий причинно-следственный контекст. LCLM соединяет линию в одну причинно-следственную последовательность и использует роторные позиции с линейной очертаниями, сохраняя стандартное следующий объективный и каузальный подход. Контролируемые эксперименты показывают, что трансграничные целевые показатели значительно менее зависят от последовательных одно- и тех же целевых показателей, поддерживающих линии в качестве параллельных единиц поколения. С 881М параметрами ЛКЗМ в среднем составляет