Реклама

КОНФЕРЕНЦИЯ ОРТОГОНАЛЬНО-ЭКВИЛЕНЦИОННОЙ Компенсации за структурированную обрезку моделей большого языка

#КОНФЕРЕНЦИЯ #ОРТОГОНАЛЬНО-ЭКВИЛЕНЦИОННОЙ #Компенсации #Анонс #Абстракт

arXiv:2608.21142v1 Анонс Тип: новый Абстракт: Структурированная обрезка уменьшает размер и стоимость вывода больших языковых моделей (LLM) путем удаления весовых столбцов, но результирующая ошибка вывода может ухудшить точность. Существующие методы компенсации без обучения используют аддитивное…