" RainterInterp: Underposed Specialization in Mixture of Experts Routing &qt;
arXiv: 2610.11775v1 Аннонс Тип: новое резюме: модель Sparse Mixture of Experts (MoE) масштабнее, чем густая модель путем передачи символов в модульные экспертные сети, которые активны только для обработки части жетонов. Ведущая гипотеза в отношении эффективности моделей МОС заключается в том, что…