DifFRACT: Реконструкция и атрибуция систем для отслеживания цепи

arXiv:2606.15796v2 Annuales Type: заменить резюме: Хотя в последнее время система отслеживания на основе транскодера позволила провести детальный анализ причинно-следственных связей с крупными языковыми моделями, остается неясным, как семантическая информация распространяется по всем деноминирующим этапам и каким образом текстовые изображения взаимодействуют между мультимодальными трансформаторами распространения (MM-DT) для создания изображений. Карты внимания показывают лишь ограниченный взгляд на символические взаимодействия, и малочисленные авто кодеры находят интерпретируемые характеристики, но не показывают как нелинейные уровни MLP трансформируют и составляют их. В рамках этой работы мы распространяем систему отслеживания на основе транскодера на мультимодальные диффузионные трансформаторы. Мы готовим временные транскодеры, которые точно приблизительно отражают поведение MLP-подслойников в двухполосных блоках FLUX.1[shnell]. Заменив MLP транскодерами и линеризовав оставшиеся вычисления, мы получим точное атрибуцию характеристик и создадим компактные графики аккредитования над интерпретируемыми элементами.