arXiv Machine Learning
Спектер: Быстрая подача МОС через Quantization-Impled Multi-Step Speculative Разгрузка
arXiv:2511.14102v3 Тип уведомления: заменить резюме: модели смеси экспертов (МОС) часто превышают память одного акселератора. Загрузка экспертов для размещения памяти создает серьёзный узкий пункт PCI...
arXiv Machine Learning