Реклама

Повторная оценка ремаксации доверия в модельных языках маскировки диффузии

#Повторная #Annuales #Type #DLMS #Методы

arXiv:2606.12232v2 Annuales Type: заменить резюме: модели маскировки на языке распространения (dLM) недавно стали конкурентоспособной альтернативой авторегрессивным языковым моделям с перспективой более быстрого вывода через параллельное формирование символов. Однако заметное ограничение содержания в маске заключается в том, что после разоблачения символа его уже нельзя пересматривать, оставляя DLMS уязвимыми перед ранними ошибками выборки. Методы ремаксирования, основанные на доверии, направлены на решение этой проблемы без подготовки кадров путем пересмотра знаков низкой уверенности с обнадеживающими скорейшими результатами. В рамках этой работы мы сравниваем точность и совместимость границ " Парето > трех таких методов (WINO, Saber and Oideo) с границами одного лишь разоблачения на основе уверенности (Fast-dLM). Мы видим, что под жадным декодированием все три исполнителя выступают наравне с быстродействующим DLM в обычно используемой короткой длине блоков; выигрыш от ремаскивания появляется только на более длинной длины блока, где известно о том, как размазка на основе уверенности ухудшается. Под тохастическим декодированием WINO r