#Muon

31 статья
arXiv Machine Learning
arXiv Machine Learning

Быстрое моделирование BIB на будущем мюонском коллайдере с регенеративным машинным обучением

arXiv:2609.12054v1 Annualce Type: recverbraview: Beam-Basic (BIB) из продуктов разложения мюона будет подавляющим и неизбежным фоном на будущем Muon Collider. Для разработки надежных алгоритмов восста...

arXiv Machine Learning
2
Читать
В космосе впервые испытали двигатель Холла на твердом цинке iXBT.com
iXBT.com

В космосе впервые испытали двигатель Холла на твердом цинке

Компания Muon Space впервые успешно испытала в космосе двигатель Холла, использующий твердый цинк в качестве рабочего тела. Установка Starlight заработала с первой попытки. Наблюдение с Земли подтверд...

iXBT.com
arXiv Machine Learning
arXiv Machine Learning

Музек: momentUm Spectral Clipping для обучения по типу Stable Muon

arXiv: 2609.11655v1 Annualce Type: New Humber Abstract: Muon стал высокоэффективным оптимистом для обучения большой языковой модели, часто достигая более высокой конвергенции и эффективности по сравне...

arXiv Machine Learning
2
Читать
arXiv Machine Learning
arXiv Machine Learning

Мюон-С: " Оператор - неприсоединившийся муон для ядер, связанных с компримацией &qt;

arXiv: 2609,09676v1 Annuale Type: новый резюме: Muon заменяет матричный импульс приблизительно ортогональным полярным направлением, но его геометрия зависит от представления матрицы. Для целей смешени...

arXiv Machine Learning
Читать
arXiv Machine Learning
arXiv Machine Learning

За матричным знаком: квадратическое спектральное происхождение

arXiv: 26009,075797v1 Annualce Type: New Humber: Muon можно интерпретировать как оптимизацию линейной местной цели по отношению к спектральному шару. Это дает матричный знак обновления, который сохран...

arXiv Machine Learning
2
Читать
arXiv Machine Learning
arXiv Machine Learning

Графики оптимизации памяти для увеличения перенапряжения оси

arXiv: 2609.045777v1 Annualce Type: новый резюме: Мы изучаем, как оптимизаторы масштабируют по оси переподготовки и показаем, что относительное значение оптимизации и оптимальных гиперпараметров сущес...

arXiv Machine Learning
5
Читать
arXiv Machine Learning
arXiv Machine Learning

Единая теория конвергенции для адаптивных методов первого порядка в невыпуклом случае, включая AdaNorm, полный и диагональный AdaGrad и Muon

arXiv:2604.17423v3 Анонс Тип: замена Аннотация: Предложена унифицированная структура для алгоритмов оптимизации первого порядка для невыпуклой неограниченной оптимизации, которая использует адаптивно-...

arXiv Machine Learning
3
Читать
arXiv Computer Vision
arXiv Computer Vision

Оригинальное название: Tensor-Aware Generalization of the Muon Optimizer

arXiv:2606.25975v2 Обычные оптимизаторы первого порядка, такие как Адам, неявно рассматривают каждый блок параметров как неструктурированный вектор, который игнорирует многолинейную структуру веса, пр...

arXiv Computer Vision
2
Читать
arXiv Statistics
arXiv Statistics

Оригинальное название: Muon with Finite Newton-Schulz: The Smoothing Benefit in Nonsmooth Nonconvex Optimization

arXiv:2608.26288v1 Муон стал сильным оптимизатором для матричных параметров в большой языковой модели предварительной подготовки, примерно ортогонализируя свой импульс с несколькими итерациями Ньютона...

arXiv Statistics
4
Читать
arXiv Machine Learning
arXiv Machine Learning

Спектральное распределение: почему мюон превосходит Адама и как улучшить мюон

arXiv:2608.25990v1 Ортогональные оптимизаторы, такие как Muon, могут существенно ускорить подготовку большой языковой модели относительно Адама, но механизм остается не полностью понятым. Мы исследуем...

arXiv Machine Learning
2
Читать
arXiv AI
arXiv AI

Масштабирование мюона для диффузионных трансформаторов

arXiv:2608.20818v1 Анонс Тип: кросс-абстракт: Осознающий матрицу оптимизатор Muon улучшает обучение больших моделей, уравновешивая обновления по отдельным направлениям, но его масштабирование и сквозн...

arXiv AI
4
Читать