#Grokking

4 статьи
arXiv Machine Learning
arXiv Machine Learning

Расширение масштабов и нормализация в нейронных сетях: описание эффективной ренормализации - группа

arXiv:2610.36113v1 Annualce Type: New Humbrie: Grokking — это отсроченный переход от запоминания к обобщению в глубоких нейронных сетях (NN). Мы изучаем вопрос о том, могут ли теории групп по масштаби...

arXiv Machine Learning
4
Читать
arXiv AI
arXiv AI

Латентная алгоритмическая структура прецеденты гроккинга: механистическое исследование MLP на модульной арифметике

arXiv: 2603,23784v1 Annualce Type: cross Brieft: Grokking- the Impact, в котором точность нейронных сетей при модульном добавлении двух целых чисел возрастает долгое время после запоминания данных о п...

arXiv AI
2
Читать
arXiv Machine Learning
arXiv Machine Learning

Предварительный аналог анализа языка в языковых моделях: отслеживание запоздалой графической обобщения

arXiv:2606.00230v2 Annualce Type: заменить резюме: Grokking, явление, в котором нейронные сети обобщают данные после того, как они подобрали их учебные данные, было изучено на многих эпохах в контроли...

arXiv Machine Learning
4
Читать
arXiv Machine Learning
arXiv Machine Learning

Прогулка через решетку минимально нормальных интерпретаций

arXiv: 26009,38453v1 Annualce Type: New Humbrie: Grokking показывает, что увязка учебных данных и изучение основного сигнала могут происходить на очень разных этапах. Вместе с тем существующие теории ...

arXiv Machine Learning
8
Читать