Увязка безопасности с помощью завуалированных знаний

arXiv:2505.18588v2 Annuales Type: заменить резюме: Несмотря на значительный прогресс в обеспечении безопасности, крупные языковые модели (LMS) по-прежнему подвержены нападениям с целью тюремного заключения. Существующие механизмы защиты не полностью исключили вредные знания в МЛМ, что позволяет таким нападениям обходиться без гарантий и производить вредную продукцию. Для решения этой задачи мы предлагаем новую стратегию согласования требований безопасности - " Необучаемый опыт (ККУ), которая направлена на достижение двух основных целей: локализация и сохранение знаний, а также неусвоение вредных знаний. CKU работает, набирая нейроны в отдельных многослойных слоях перцетрона (MLP) для идентификации подмножества U нейронов, связанных с полезными знаниями. Во время процесса обучения CKU сливает градиенты нейронов в U, чтобы сохранить ценные знания и эффективно смягчать вредное содержание. Экспериментальные результаты показывают, что КУУ значительно повышает безопасность моделей без ущерба для общей эффективности и обеспечивает более высокий баланс между