Всеобъемлющая оценка методов количественной оценки моделей крупных языков
arXiv: 25007.17417v4 Тип уведомления: заменить резюме: для крупных языковых моделей (LMS) после обучения квантизация (PTQ) значительно сокращает память и вычислительные накладные расходы. Несмотря на ...