MCL: Мета-компрессионный слой

arXiv:2610.111171v1 Вид уведомления: новое резюме: динамическое совокупление укрепляет нервные сети (CNNs) путем адаптации ядер к содержанию вводимых веществ, однако оно отражает эффективное ядро как линейную смесь небольшого числа базовых ядер, которая ограничивает экспрессивность и затрудняет оптимизацию по мере роста размера смеси. В ходе этой работы мы вновь возвращаемся к динамическому слиянию с функциональной точки зрения и предлагаем Мета-компрессионный слой (МКК), который непосредственно моделирует ядро в качестве функции W(x) при условии ввода данных, реализуемой посредством высокопорядочного полиномического расширения. За счет использования гнездящихся остаточных блоков, вдохновленных глубокими полиномными сетями, MCL создает структурированную многокровную мета-сеть, которая генерирует единое ядро с корректировкой на вход и тем самым отделяет репрезентативность от явного числа ядер смесей и уменьшает нестабильность в обучении. MCL является дополнением к включённому устройству с стандартными соединениями и может быть плавно интегрирован как в CNN, так и в трансформаторную оболочку