Когда "Скальпель" будет хорошо поворачиваться? Сертифицированное восстановление данных о шуме и линейный тон-пост на структурированных сменах задач
arXiv:25090924v2 Annuate Type: заменить резюме: трансформаторы часто передают друг другу соответствующие задачи с небольшими уточнениями; мы изучаем этот вопрос в шумной непараметрической регрессии для постоянных карт f,g: [0]d_tothbb {R}(D$), представляя источник и перенося задания, используя однокварный одноглавый трансформатор $\mathcal {T}(cdot)=V·operatorname {Softmax} (-lpha(kdot, K)] долл. США на сумму в размере $ell___ {intfty} долларов на основе выравнивания $#альфа. Вместо того чтобы предполагать, что профессиональная подготовка на основе градиента достигает эмпирического минимизатора риска, мы предлагаем двухэтапную процедуру для конкретной модели *textbf {certification} восстановления источников и адаптации вне распределения (OD). С высокой вероятностью, в результате этого голова внимания восстанавливает доллары до произвольной точности $\varepsilon>0 долл. США за каждую фиксированную норму в размере $p([1]d) долларов (1 долл. Важно, что наша учебная процедура кодирует всю нашу выявленную (потенциально) геометрическую структуру из доллара США только в матрицу значений в доллары США и матрица ключей в долларовом выражении, с тем чтобы можно было быстро заработать.
