Механистические данные для спектральных структур в сетях, оснащенных предварительными данными

arXiv: 2601.21731v3 Annuales Type: заменить резюме. Чтобы понять, какие сети предполагают внутренние механистические исследования ЦГМ, можно найти в них информацию о форме прогнозов, но рассматривать эти модели как табличные прогнозы, а не как PFN. Поэтому остается неизвестным, представляют ли ПФН спектральное содержание их контекста, количество, которое определяет стационарное ядро, и можно ли зачитать это содержание как явное ядра. Мы отвечаем на оба вопроса. Во-первых, в семи PFN, включая четыре предварительно подготовленных TMM и модель, обученную только на доре принятия решений, линейный зонд на остаточном потоке восстанавливает частоту контекста с $R>2 xgeq 0,95 долл. Эта структура осуществляется по единому основному направлению. Во-вторых, активация и подпространственное пятно показывают, что сеть использует структуру через низкомерную