Компьютерная наука > Криптография и безопасность [представлен 21 ноября 2025 года (v1), последний пересмотренный вариант от 26 октября 2026 года (эта версия, v2)) Название: Cross-Useer Toonding: Contracts-Tarribunal User Results in Multi-Guerer Langer Landage Agents View PDF HTML (экспериментальное резюме): Language Agranchates переходят из категории помощников одного пользователя в категорию совместных участников рабочих мест, форумов и групповых чатов. Совместный агент наблюдает за смешанными сообщениями от нескольких пользователей, поддерживает постоянный контекст и выполняет действия инструмента, создавая при этом проблему границы, которая отсутствует у стандартных агентов-одиночек: агент должен решать не только вопрос о том, является ли инструкция безопасной, но и какой пользователь или задача он может управлять. Мы идентифицируем перекрестное отравление пользователя (CUP), когда противник вводит сообщение в общий контекст, который затем применяется, пока агент служит доброжелательному пользователю, вызывая несанкционированные действия или ответные реакции за пределы предполагаемой сферы применения инструкции. Мы подтверждаем ЦУП в отношении двух развернутых агентов с несколькими пользователями, Континуа и Элизаос, а также представляем МУРГУР, рамки для оценки совместных текстовых агентов при одновременном взаимодействии с различными потребителями. По всей области Слэк, Workspace и Airline CUP достигает большого успеха в атаке, продолжает поддерживать отношения на более…
Отравление с участием всех пользователей: ошибки в установлении границ между пользователями и целевыми задачами в работе многопользователей, сотрудничающих со специалистами по языковой поддержке
arXiv: 2511.17671v2 Annuales Type: заменить перекрестное резюме: языковые агенты переходят из категории помощников одного пользователя в категорию совместных сотрудников на рабочих местах, форумах и групповых беседах. Совместный агент наблюдает за смешанными сообщениями от нескольких пользователей, поддерживает постоянный контекст и выполняет действия инструмента, создавая при этом проблему границы, которая отсутствует у стандартных агентов-одиночек: агент должен решать не только вопрос о том, является ли инструкция безопасной, но и какой пользователь или задача он может управлять. Мы идентифицируем перекрестное отравление пользователя (CUP), когда противник вводит сообщение в общий контекст, который затем применяется, пока агент служит доброжелательному пользователю, вызывая несанкционированные действия или ответные реакции за пределы предполагаемой сферы применения инструкции. Мы подтверждаем ЦУП в отношении двух развернутых агентов с несколькими пользователями, Континуа и Элизаос, а также представляем МУРГУР, рамки для оценки совместных текстовых агентов при одновременном взаимодействии с различными потребителями. По всему Слаку, рабочему пространству и аэролайну CUP достигает большого успеха в атаке, продолжает оставаться акро