Один блок впереди: поощрение государства-образца в диффузных языковых моделях

arXiv: 2610.19510v1 Annuate Type: New Brastract: Block-diflution Langes Models разукрупняет целый блок символических позиций параллельно, чтобы каждый передний проход мог излучать множество знаков. Однако блоки по-прежнему денонсированы в строгой последовательности, и стоимость этого ускорения внутри блока остается нетронутой. Здесь мы исследуем декодирующие блоки одновременно и предлагаем один блок вперед (OBA) - алгоритм бестренировочного дешифрования, который дрожит в следующем блоке вместе с нынешним. Мы показываем, что для единообразного распространения LMS в тех случаях, когда денонсирующий прогресс блока не заметен в его промежуточных символах, параллельное декодирование выгодно, если символы следующего блока рекламируются вместе с соответствующим состоянием отбора проб, включая сигнал самоконтроля и время размывания. Мы также выбираем критерий " перерыв-одиночество &qt; , который соотносится с выгодой от ОБА и относительной стоимостью парного пассажа вперед. На DifsumputGemma, современная диффузия LM, OBA увеличивает символы на один пропуск вперед