Зачитывание: латентная числовая основа, общая по модальности и функционированию

Компьютерные науки > Искусственный интеллект [представлен 27 октября 2026 года] Название: Beyond the Readout: A Latent числительная основа, общая по модальности и операции PDF HTML (экспериментальная) Резюме: Когда мультимодальная модель вычисляет 17+35 из текста или 91-39 от переданного изображения, она дает тот же ответ 52. Использует ли она одну внутреннюю концепцию числа для обоих или отдельные механизмы для каждого пути? Схожие показатели, такие как RSA или CKA, не могут решить этот вопрос. Они дают один и тот же счёт идентичным и поворачиваемым направлениям, а две представления могут выглядеть одинаково только потому, что обе составляют одни и те же выходные цифры. Поэтому мы используем причинно-следственные вмешательства. В четырех условиях (текст или изображение, добавление или вычитание) мы учимся небольшому подпространству из остаточного потока Gemma4-12B-it, в котором обмен координаты поменяют ответ модели. Подпространство отвечает на три вопроса. Во-первых, пишут ли условия номера в одном и том же направлении? Нет. Повторное использование подпространства из текста в образе той же операции восстановит только 53,2% его причинного эффекта. Одной вращением и перепрофилированием одного подпространства на другое, что повышает восстановление до 91,4%, поэтому условия делят одну геометрию, выраженную в различных координатах. Во-вторых, отражает ли эта общая геометрия только цифру, которую собирается напечатать модель? Чтобы проверить это, мы делим каждое подпространство…