Понимание масштабирования энергии крупномасштабной языковой модели в контекстных длинах и архитектурах внимания
arXiv:2608.25096v1 Растущее внедрение крупных языковых моделей (LLM) вызвало растущую обеспокоенность по поводу потребления энергии и воздействия вывода на окружающую среду. В этой статье представлено систематическое эмпирическое исследование потребления энергии декодированной фазы в…