Забвение не всегда плохо: Нейро-инспирированный механизм восстановления памяти для отравленных агентов LLM

Компьютерные науки > Искусственный интеллект [представлен 9 октября 2026 года] Название: Забытость не всегда плоха: Механизм восстановления памяти с помощью нейро-инпирата для отравленных агентов LLM View PDF HTML (экспериментальный) резюме: агенты большой языковой модели (LLM) очень уязвимы к атакам, связанным с отравлением памятью. Существующие системы защиты в первую очередь опираются на внешние модули либо для статической изоляции памяти, либо для непрерывной онлайновой проверки, что приводит к низкой эффективности памяти и высоким расчетным расходам. Для устранения этих ограничений, вдохновленных нейронаучными механизмами, которые слабое восстановление может дестабилизировать память и вызвать разложение в отсутствие подкрепления, мы предлагаем систему восстановления памяти без ОВЧ (DREAM), которая позволяет выборочно забыть отравленные воспоминания. В частности, DREAM внедряет трехэтапный трубопровод: имплицитное возобновление в результате вмешательства для выявления структурной хрупкости злоумышленных воспоминаний; адаптивная диагностика аномалий на основе многомерных схем активации с целью обнаружения топеологических отклонений и динамический модуль восстановления памяти, который избирательно подавляет вредные воспоминания при одновременном укреплении доброкачественных. Широкие эксперименты с различными нападавшими и реальными задачами показывают, что DREAM сокращает показатели успеха атак более чем на 95% от отравления задними дверями при сохранении сильной…