Конкур: Квоты активации углов с помощью оптимизированных вращения для МЛМ
arXiv:2605.10793v2 Аннот: заменить резюме: Большие языковые модели (LMS) дорогостоящи для внедрения из-за их большого следа памяти и высокой стоимости выводов. Квантизация в зависимости от веса может снизить эти расходы, однако квантификация в результате низкой степени активации по-прежнему…