TIPS: Топологическая иллюстрация и управление в крупных языковых моделях

arXiv: 2606.23590v2 Вид уведомления: заменить резюме: неучтенные вопросы, включая те из них, которые связаны с двусмысленностью, недостаточной спецификой или противоречивыми заявлениями, могут признавать отсутствие какого-либо действительного ответа или множественных правдоподобных ответов, что создает серьезную проблему для крупных языковых моделей (ЛМБ), несмотря на их иные сильные результаты. В рамках существующей работы рассуждения о УЗМ часто рассматриваются как " чёрный ящик &qt; и концентрируются на анализе затрат-выпусков. Может ли компактное, унифицированное топологическое представление внутренних типовых государств зафиксировать различные источники ненадежности и направить рассуждения на ответные действия в зависимости от каждого источника? С этой целью мы изучаем внутреннее состояние с точки зрения топологии, рассматривая контекстуальные скрытые состояния его быстрых символов на одном уровне трансформатора как облако точечное, улавливая реляционную структуру входной проблемы в соответствии с моделью. Наш анализ показывает, что нулевая и одномерная стойкая гомология - отслеживает как подсоединенные компоненты сливаются в порог расстояния инкреа