Компьютерная наука > Криптография и безопасность [представлен 26 октября 2026 года] Название: Детективизация и смягчение последствий в системе поиска оперативной утечки, Вид HTML (экспериментальный) Резюме: Большие языковые модели (МОД) полагаются на патентные системы для обеспечения выполнения директив о задачах, политики безопасности и контроля доступа. Эти сигналы уязвимы к атакам на утечку с помощью запросов, когда противники черного ящика извлекают конфиденциальные инструкции посредством адаптивных многооборотных взаимодействий. Существующие средства защиты часто оценивают запросы независимо, пропуская злонамеренное поведение, которое возникает во всех взаимодействиях. Мы представляем AdvGuard, модельно-агностическую систему для обнаружения и смягчения быстрой утечки системы. AdvGuard модели межквариатных связей с использованием ограниченного графа семантического взаимодействия, статистически фильтрующие потенциальные компоненты и преобразуя их в линейные графики для классификации сопровождающей сети (ГХН). Этот подход отражает многообразные модели сходства запросов, которые отличают скоординированное извлечение от безвредных рабочих процессов. Легкий детектор быстрого уровня обеспечивает защиту до накопления достаточного объема истории взаимодействия, и система поддерживает развертывание черных коробок LLM. При оценке смешанного квакера " Адвгуард &qt; улучшает отзыв на 36% по сравнению с самыми сильными базовыми показателями, сохраняя при этом неправильный…
Быстрое обнаружение и смягчение последствий применения системы запроса
arXiv: 261 03626295v1 Аннонс Тип: перекрестное резюме: Большие языковые модели (LMS) полагаются на запатентованные системы для обеспечения выполнения директивных указаний, политики в области безопасности и контроля доступа. Эти сигналы уязвимы к атакам на утечку с помощью запросов, когда противники черного ящика извлекают конфиденциальные инструкции посредством адаптивных многооборотных взаимодействий. Существующие средства защиты часто оценивают запросы независимо, пропуская злонамеренное поведение, которое возникает во всех взаимодействиях. Мы представляем AdvGuard, модельно-агностическую систему для обнаружения и смягчения быстрой утечки системы. AdvGuard модели межквариатных связей с использованием ограниченного графа семантического взаимодействия, статистически фильтрующие потенциальные компоненты и преобразуя их в линейные графики для классификации сопровождающей сети (ГХН). Этот подход отражает многообразные модели сходства запросов, которые отличают скоординированное извлечение от безвредных рабочих процессов. Легковесный детектор быстрого уровня обеспечивает защиту до того, как будет достаточно вспыхнута история взаимодействия a
