I-HITL: Неотъемлемая человеческая жизнь

arXiv: 261 030,35835v2 Вид уведомления: заменить перекрестное резюме: Человеческий надзор является одним из столпов безопасности АИ. Часто он осуществляется человеком, находящимся в цикле (HITL), который утверждает критические действия агента АИ. Однако растущая способность агентов АИ обходить ограждения поднимает вопрос, как эффективно обеспечивать соблюдение ХИТЛ. Мы вносим концепцию неотъемлемого человека-в-рупса (I-HITL). Протокол I-HITL гарантирует, что агент может инициировать действие только с явно выраженного согласия человека даже в тех случаях, когда человек взаимодействует с системой (например, локальным агенским жгутом), скомпрометированной агентом. Прочный протокол I-HITL дополнительно обеспечивает такое одобрение даже в тех случаях, когда человек пытается делегировать полномочия агенту. Чтобы мотивировать I-HITL, мы сообщаем об экспериментах с популярной агентской платформой для кошелька, в которой повышение предела расходов агента требует одобрения HITL по электронной почте через разовые пароли (ОТП). Учитывая доступ к электронной почте пользователя и задачу, заблокированную крышкой, мы находим десять разных f