КОНФЕРЕНЦИЯ ОРТОГОНАЛЬНО-ЭКВИЛЕНЦИОННОЙ Компенсации за структурированную обрезку моделей большого языка
arXiv:2608.21142v1 Анонс Тип: новый Абстракт: Структурированная обрезка уменьшает размер и стоимость вывода больших языковых моделей (LLM) путем удаления весовых столбцов, но результирующая ошибка вывода может ухудшить точность. Существующие методы компенсации без обучения используют аддитивное…