Реклама

Понимание масштабирования энергии крупномасштабной языковой модели в контекстных длинах и архитектурах внимания

#Понимание #Растущее #NVIDIA #Результаты #Модели

arXiv:2608.25096v1 Растущее внедрение крупных языковых моделей (LLM) вызвало растущую обеспокоенность по поводу потребления энергии и воздействия вывода на окружающую среду. В этой статье представлено систематическое эмпирическое исследование потребления энергии декодированной фазы в…