Компьютерные науки > Машинное обучение [представлено 4 сентября 2026 года] Название: Capsule Lens: Поиск и отслеживание концепции геометрии в модели представления HTML-образец (экспериментальное) Резюме: Понимание того, как концепции кодируются во внутреннем отображении моделей машинного обучения является центральной проблемой механистической интерпретируемости, необходимой для науки глубокого изучения и надежного применения все более способных моделей. Существующие подходы к толкованию типовых представлений главным образом отражают представления на более интерпретируемых пространствах и не характеризуют непосредственно то, как концепции занимают представительное пространство; были предложены различные гипотезы, однако зачастую они недостаточно строго подтверждаются и в основном сосредоточены на статических представлениях. В этой работе мы введем систему Capsule Lens, которая соответствует региону и содержит простую геометрическую форму - капсулу с несколькими интерпретируемыми параметрами, установленную в закрытом виде для геометрии каждой концепции и подтвержденную на пробах, хранящихся в трюме. Мы применяем Capsule Lens в двух основных параметрах: статические и динамические представления. При статических представлениях мы показываем, как найти концептуальную геометрию между различными моделями и каким образом кривые поверки и нормы обнаруживают важные геометрические характеристики. Что касается динамических представлений, то мы представляем три тематических исследования с…
Геометрия концепции и отслеживания в модели
arXiv: 2609.05575v1 Аннонс Тип: новое резюме: Понимание того, как концепции кодируются во внутреннем отображении моделей машинного обучения является центральной проблемой в механистической интерпретируемости, необходимой для науки глубокого изучения и надежного применения все более способных моделей. Существующие подходы к толкованию типовых представлений главным образом отражают представления на более интерпретируемых пространствах и не характеризуют непосредственно то, как концепции занимают представительное пространство; были предложены различные гипотезы, однако зачастую они недостаточно строго подтверждаются и в основном сосредоточены на статических представлениях. В этой работе мы введем систему Capsule Lens, которая соответствует региону и содержит простую геометрическую форму - капсулу с несколькими интерпретируемыми параметрами, установленную в закрытом виде для геометрии каждой концепции и подтвержденную на пробах, хранящихся в трюме. Мы применяем Capsule Lens в двух основных параметрах: статические и динамические представления. В статическом презентовании