Доминотри: Условная структура деревьев с помощью домино для спекулятивного декодирования
arXiv: 2607.08642v4 Annuate Type: заменить резюме: Спекулятивное декодирование ускоряет процесс вывода большой языковой модели: небольшой составитель предлагает несколько символов, и целевая модель пр...