Преимущественное обучение расширению параметров делает лучшие модели большого языка
arXiv:2505.24241v2 Несмотря на то, что увеличение количества обучаемых параметров может эффективно улучшить производительность обучения больших языковых моделей, это также приводит к увеличению вычислительных накладных расходов. При рассмотрении разницы параметров мы обнаруживаем, что подмножество…