Компьютерные науки > Машинное обучение [представлено 7 октября 2026 года] Название: Когда Routing Reviews Communication: Security Leakage from MO Transporter Telemoretarial View PDF HTML (экспериментальное) Резюме: Mixture of Experts (MoE), языковые модели позволяют получать информацию о маршруте в процессе вывода, которая может быть зарегистрирована или открыта для мониторинга, отладки, анализа нагрузки и проверки безопасности. В отличие от обычных результатов модели, эта телеметрия показывает взгляд на внутренние расчеты модели и поднимает вопрос о конфиденциальности: может ли она показать, использовался ли какой-либо пример для усовершенствования развернутой модели? Мы введем атаку с использованием роутеров, подсчитывающих членство, которая сочетает обычные сигналы по стороны выхода с агрегированными элементами маршрутизации и применяет классификатор членства, полученный от независимых тонических моделей, к целевой модели. В трех архитектурах МОС и в трех областях данных телеметрия маршрутизаторов последовательно улучшает членский состав по сравнению с сильной системой сигналов выпуска, увеличивая ТРП на 1·% FPR на 2,7-9,4% во всех девяти параметрах. Утечка сохраняется на протяжении всего процесса усовершенствования, замороженного движения, LORA и настройки инструкций и остается видимой только при дискретном отборе экспертов, ограниченной телеметрии или единой теневой модели. Механистический анализ далее показывает, что утечка не требует запоминания маршрутизатора: точная…
Членство: утечка информации из телеметрии маршрутизатора МОС
arXiv: 2610.10.10616v1 Вид уведомления: новое резюме: модели языка комбинаций экспертов (МОС) позволяют получать информацию о маршруте в ходе вывода, которая может быть зарегистрирована или подвергнута воздействию для целей мониторинга, отладки, анализа нагрузки и проверки безопасности. В отличие от обычных результатов модели, эта телеметрия показывает взгляд на внутренние расчеты модели и поднимает вопрос о конфиденциальности: может ли она показать, использовался ли какой-либо пример для усовершенствования развернутой модели? Мы введем атаку с использованием роутеров, подсчитывающих членство, которая сочетает обычные сигналы по стороны выхода с агрегированными элементами маршрутизации и применяет классификатор членства, полученный от независимых тонических моделей, к целевой модели. В трех архитектурах МОС и в трех областях данных телеметрия маршрутизаторов последовательно улучшает членский состав по сравнению с сильной системой сигналов выпуска, увеличивая ТРП на 1·% FPR на 2,7-9,4% во всех девяти параметрах. Утечка сохраняется на протяжении всей подготовки по отладке, замороженному маршруту, LORA и инструкции
