Скромность путем проведения допросов: Неосознанное намерение в рамках агентских социальных сетей
arXiv:2605.12856v3 Аннонс Тип: заменить резюме: появление многоагентных систем создает новые проблемы умеренности, выходящие за рамки фильтрации контента. Агенты с $-текститом {малозначным намерением} долларов могут вносить вклад в содержание, которое кажется доброжелательным для того, чтобы избежать умеренности на основе контента и одновременно служить скрытой цели. Для решения этой задачи мы ввели систему " Бот-мод &qt; , которая позволяет выявлять не традиционные сигналы уровня содержания, а цели с точки зрения намерения агента. Бот-Мод допрашивает целевой агент с помощью фиксированного набора диагностических зондов и определяет его цель через байесианские задние выводы относительно потенциальных намерений. Он начинается с калиброванного контента до начала и обновляет задний текст, используя доллар каждого ответа по каждому кандидату в соответствии со своим назначением, пока не будет соблюден критерий остановки. Чтобы оценить наш подход, мы сооружаем Molt-Intent — набор данных из "Moltbook", в котором запечатлены различные доброжелательные и злонамеренные действия в реальном коммуне.
