Лево-бортовые трансформаторы Excel на правильных языках: преференции в формате Word Ord в языковых моделях

arXiv:2608.15129v2 Annuales Type: заменить резюме: мы систематически сопоставляем предпочтения в порядке слов только на декодерных языках по 192 искусственным языкам и типологически разнообразных естественных языков. На искусственных языках модели демонстрируют левоотделенное предпочтение, которое не согласуется ни с естественными языками универсального характера, ни с человеческим строю слов. Что касается естественных языков, то в моноязычных моделях не наблюдается четкой предвзятости по порядку базовых слов на малых масштабах, однако с ростом данных предпочтение отдается языкам с правом на переплетение (SVO), тогда как SOV отстает, несмотря на тот факт, что они наиболее часто являются перекрестными. Это преимущество СОС распространяется на многоязычные модели и соотносится с уровнем языковых ресурсов и качеством данных, а не с порядком слов. Таким образом, та же архитектура имеет противоположные предпочтения в отношении искусственных и естественных языков, устанавливая при этом, что наблюдаемые на практике отклонения от порядка слов обусловлены данными. Поскольку высокообеспеченными языками являются преимущественно СВО