Математика > Оптимизация и контроль [представлена 15 сентября 2026 года] Название: Преодоление разрыва между однородными и гетерогенными асинхронизациями является удивительно труднодостижимым видом PDF HTML (экспериментальным) резюме. Теоретические результаты обычно проводят различие между двумя параметрами: i) однородная конфигурация, в которой все работники имеют доступ к одному и тому же распределению данных; ii) неоднородность параметров, при которых каждый работник работает на различных распределениях данных. Известные оптимальные временные сложности в этих условиях свидетельствуют о наличии значительного пробела, при этом гораздо более пессимистические гарантии существуют в случае неоднородности. В этой работе мы изучаем вопрос о том, можно ли преодолеть эти пессимистические оптимальные временные сложности при различных предположениях. Удивительно, но мы показываем, что улучшение очевидно невозможно при широко используемых предположениях сходства первого и второго порядка для любого случайного алгоритма. Затем мы переходим к режиму интерполяции и продемонстрируем, что слабое предположение о том, что оно будет осуществляться только в недостаточном объеме. И наконец, мы введем минимальное сочетание неотразимых допущений, сильной интерполяции и местного состояния Полиак-Лоясевица для определения новой временной сложности, которая соответствует зависимости от времени расчета работников при наиболее известном результате однородности настройки без требования одинакового…
Удивительно, что преодоление разрыва между однородным и гетерогенным асинхронным оптимизацией сопряжено с трудностями
arXiv: 2609.17483v1 Annuature Type: Cross Резюме: Современные крупномасштабные задачи машинного обучения часто требуют от многочисленных работников, устройств, процессоров или ГПС для вычисления стохастических уклонов параллельно и асинхронно для подготовки моделей весов. Теоретические результаты обычно проводят различие между двумя параметрами: i) однородная конфигурация, в которой все работники имеют доступ к одному и тому же распределению данных; ii) неоднородность параметров, при которых каждый работник работает на различных распределениях данных. Известные оптимальные временные сложности в этих условиях свидетельствуют о наличии значительного пробела, при этом гораздо более пессимистические гарантии существуют в случае неоднородности. В этой работе мы изучаем вопрос о том, можно ли преодолеть эти пессимистические оптимальные временные сложности при различных предположениях. Удивительно, но мы показываем, что улучшение очевидно невозможно при широко используемых предположениях сходства первого и второго порядка для любого случайного алгоритма. Затем мы обратимся к режиму интерполяции и покажем, что слабость системы интерполирования ассампти