МОЛЕ: обнаружение внутренних угроз в агентах АИ

arXiv: 2609.06966v1 Annualce Type: New Brieflow: Model Discription, Hurrent insign или Operation control могут привести агентов АИ к раскрытию весов модели, данных о ядовой подготовке и ослаблению пропускных пунктов. Существующие контрольные показатели не проверяют, могут ли правозащитники выявлять эту деятельность среди обычной работы в рамках ограниченного бюджета для проведения обзора. Мы введем MOLE, открытый контрольный показатель 150 счетов с АИ, по которым 9 государственных услуг предоставляются за 30 рабочих дней; 12 угроз и 8 карпор из 4 моделей составляют примерно 20 миллиардов символов. Из 39 моделей агентов 72% завершают большинство установленных вредных целей, а отказ от использования агента не предвидит их завершения. MOLE позволяет сопоставлять 40 мониторов по генераторам корпусов, уровни консервативности и угрозы; даже наиболее поддающийся оценке контроль в нашем однодневном сопоставлении аудиторских мероприятий не хватает почти половины завершенного ущерба. MOLE также позволяет осуществлять мониторинг: поиск на основе контрольных показателей улучшает средний уровень монитора на 49-64%, в то время как выборочное использование o