arXiv Machine Learning
ExFold: Unified Expert Folding for Training-Free MoE Prefill-Decode Acceleration
arXiv:2608.24938v1 Анонс Тип: новый Абстракт: Модели Смеси Экспертов (MoE) масштабируют емкость для высокого качества, сохраняя при этом вычисления для каждого токена ограниченными через скудную актив...
arXiv Machine Learning