Реклама

Копировать первую, переводить позже: интерпретирование динамики перевода в многоязычной предварительной подготовке

#Копировать #Большие #arXiv NLP

arXiv:2604.17633v3 Тип уведомления: заменить резюме: Большие языковые модели демонстрируют впечатляющие возможности для изучения различных языков. Однако в ходе предыдущей работы этот феномен анализируется с помощью отдельных факторов и на ограниченных этапах обучения, что ограничивает наше понимание того, как происходит обобщание на разных языках - особенно на ранних стадиях обучения. Для изучения ранней траектории языковых и переводческих возможностей мы готовим многоязычную модель 1,7В на девяти различных языках, улавливая контрольно-пропускные пункты в гораздо более тонкой гранулярности. Мы используем перевод на уровне слов в качестве теста, вводим новый набор данных для отслеживания того как перевод развивается по сравнению с подготовкой посредством анализа поведения, анализа компонентов моделей и абляции параметров. Мы считаем, что эта модель быстро приобретает базовые лингвистические возможности параллельно с копированием символического уровня, в то время как письменный перевод развивается в два отдельных этапа: первый этап, где доминируют копирование и сходство на уровне поверхности, а второй этап, на котором

Компьютерные науки > Расчеты и язык [представлен 19 апреля 2026 (v1), последний пересмотренный вариант от 8 октября 2026 года (эта версия v3)] Название: Copy First, Translate Leter: Interpreting Demans in Multilitary PDF HTML (экспериментальный) резюме: крупные модели языка демонстрируют впечатляющие возможности для перевода на другие языки. Однако в ходе предыдущей работы этот феномен анализируется с помощью отдельных факторов и на ограниченных этапах обучения, что ограничивает наше понимание того, как происходит обобщание на разных языках - особенно на ранних стадиях обучения. Для изучения ранней траектории языковых и переводческих возможностей мы готовим многоязычную модель 1,7В на девяти различных языках, улавливая контрольно-пропускные пункты в гораздо более тонкой гранулярности. Мы используем перевод на уровне слов в качестве теста, вводим новый набор данных для отслеживания того как перевод развивается по сравнению с подготовкой посредством анализа поведения, анализа компонентов моделей и абляции параметров. Мы считаем, что эта модель быстро приобретает базовые лингвистические возможности параллельно с копированием на символическом уровне, в то время как письменный перевод развивается в два отдельных этапа: первоначальный этап, где доминируют копии и сходства поверхностного уровня, и второй этап, когда разрабатываются более общие механизмы перевода при доработке копирования. В совокупности эти выводы позволяют получить тонкую картину того, как в ходе подготовки на…