Внутристрановые преграды в глубоких моделях Генерации

Статистические данные > Машинное обучение [представлено 25 октября 2026 года] Название: Интринсические преграды на пути к глубокому генераторному моделированию PDF HTML (экспериментальный) Резюме: Классы глубоких моделей регенерации (DGM) функционируют путем обучения картированию простого распределения источников, например стандартного гауссианского, в сложное высокомерное целевое распределение. Несмотря на их успех, ДГМ часто эмпирически пытаются точно представлять распределение с тяжелыми хвостами или хорошо разделенными режимами. В ходе этой работы мы продемонстрировали, что эти трудности отражают присущие им свойства основной транспортной проблемы архитектуры нейронных сетей или процедур подготовки кадров. Мы устанавливаем количественные нижние границы на градиентах и якобианцев для выдвижных карт, которые перевозят log-concecure истоки распределения по таким целям. В случае крупногабаритного распределения целевых показателей требуемая величина градиента возрастает по мере того, как целевой показатель развивается все больше и больше моментов. Для мультимодальных целевых распределений регионы с низкой вероятностью между хорошо разбитыми видами транспорта также создают значительные градиенты на транспортной карте. Мы обсуждаем вопрос о том, каким образом такие крупные производные относятся к компромиссам между экспрессивностью и цифровой стабильностью. Наши результаты находятся в значительно более низких условиях регулярного характера, чем предыдущие анализы, и остаются…