Компьютерные науки > Криптография и безопасность [представлен 10 декабря 2024 (v1), последний пересмотренный вариант 27 октября 2026 года (эта версия v3)] Название: DYNASHIELD: A Black-Box Changing Target Protection for LMs посредством динамического декодирования индивидуализации вид PDF HTML (экспериментальное) резюме: крупные языковые модели (LMМ) остаются уязвимыми для нападений на тюрьмы, в ходе которых состязательные сигналы вызывают вредную продукцию. Существующие системы защиты часто требуют доступа к типовым внутренним устройствам или дополнительной подготовке, что ограничивает их применимость для поставщиков услуг, развернутых через АТЦ с помощью черного ящика. В этом документе мы предлагаем DYNASHIELD - движущуюся систему защиты цели, которая повышает надежность за счет декодирования гиперпараметров и системных сигналов в момент вывода. DYNASHIELD включает в себя два ключевых этапа: 1) он определяет конфигурации декодирования, которые уменьшают вероятность успеха при нападении; и 2) он вероятно содержит пробы из взвешенного списка конфигураций для введения контролируемой изменчивости в поведение моделей. Мы оцениваем DYNASHIELD в 7 открытых МЛМ до 4 самых современных нападений на заключенных, используя состязательные сигналы от Адванча. Результаты свидетельствуют о значительном снижении коэффициента успеха атак по сравнению с 7 базовыми средствами защиты при сохранении качества ответов и минимальных накладных расходов. Поскольку DYNASHIELD функционирует…
DYNASHIELD: Защита цели движения чёрного бокса для МЛМ посредством динамической декодации
arXiv: 2412.0767272v3 Тип уведомления: заменить перекрестное резюме: крупные языковые модели (LMS) по-прежнему уязвимы для нападений на заключенных, в ходе которых состязательные призывы вызывают вредные результаты. Существующие системы защиты часто требуют доступа к типовым внутренним устройствам или дополнительной подготовке, что ограничивает их применимость для поставщиков услуг, развернутых через АТЦ с помощью черного ящика. В этом документе мы предлагаем DYNASHIELD - движущуюся систему защиты цели, которая повышает надежность за счет декодирования гиперпараметров и системных сигналов в момент вывода. DYNASHIELD включает в себя два ключевых этапа: 1) он определяет конфигурации декодирования, которые уменьшают вероятность успеха при нападении; и 2) он вероятно содержит пробы из взвешенного списка конфигураций для введения контролируемой изменчивости в поведение моделей. Мы оцениваем DYNASHIELD в 7 открытых МЛМ до 4 самых современных нападений на заключенных, используя состязательные сигналы от Адванча. Результаты свидетельствуют о значительном снижении показателя успеха нападений по сравнению с 7 базовыми средствами защиты, валяющимися
