Zipper-LoRA: Динамический параметр разграничения для многоязыкового распознавания речи на основе LLM

arXiv:2603.17558v3 Annuales Type: заменить резюме: " Reference Models of Language (Speech-LMM) &qt; появился в качестве мощного подхода к автоматическому распознаванию речи (ASR), увязывая составители речей с крупными языковыми моделями. Однако адаптация этих систем к многоязычным условиям с несбалансированностью распределения данных по-прежнему сопряжена с трудностями. В таких сценариях часто возникает дилемма стабильности и пластичности: полностью разделяемый Параметр-Эффективное тонирование (PEFT) может вызвать негативное межязыковое вмешательство в работу недопредставленных языков, при этом полная корректировка с учетом конкретных языковых особенностей ограничивает транслитеральную передачу полезных знаний на разных языках, необходимую для выполнения задач низкого уровня ресурсов. Для решения этой проблемы мы предлагаем Zipper-LoRA, новую систему разделения рейтингов с тремя вариантами (Static, Hard и Shoft), которая динамическо синтезирует обновления LORA из совместно используемых подпространств. С помощью легкого языкового роутера Zipper-LoRA динамическо контролирует вклад каждого подпространства в LORA