Учить многоиндексные модели с регрессией хипер-Кернеля

arXiv: 2510,02532v2 Annuales Type: заменить резюме: Deep Neural Networks обладает высоким уровнем развития, превосходящими модели, такие как методы ядра, которые страдают от проклятия размерности. Однако теоретические основы этого успеха по-прежнему плохо понимаются. Мы следим за идеей о том, что составная структура задачи обучения является ключевым фактором, определяющим, когда глубокие сети оказываются выше других подходов. Сделав шаг в направлении официального оформления этой идеи, мы рассматриваем простую составную модель, а именно многоиндексную модель (ММИ). В этом контексте мы введем и изучим метод гиперядрой хребтовой регрессии (HKRP), который представляет собой подход, сочетающий нейронные сети с методами ядер. Наш главный вклад заключается в том, что результат выборки является сложным и показывает, что HKRR может адаптивно учиться MIM, преодолевая проклятие измерения. Кроме того, мы используем ядро оценщика для разработки специальных подходов к оптимизации. Действительно, мы противостоим чередующейся минимизации и переменному градиенту m