arXiv Machine Learning
QTEA: Тернарные МЛМ с остаточным весом и оптимизацией побочного потока
arXiv: 26009,00224v1 Аннонс Тип: новое резюме: только весовая квантизация (PTQ) может облегчить вычислительное бремя обслуживания крупных языковых моделей (LMS) в масштабе. Вместе с тем существующие м...
arXiv Machine Learning