Ваш агент действует по-разному, когда вы рядом: как присутствие пользователей изменяет поведение агента в переговорах

arXiv: 2610.36435v1 Annualce Type: новый резюме: агенты LLM все больше взаимодействуют с другими агентами от имени пользователей, но как пользователи в цикле влияют на поведение своих агентов - к лучшему или худшему - остаются недопониманными. Мы изучаем этот вопрос сквозь призму переговоров, где агенты должны представлять пользователей в процессе стратегических переговоров с другими агентами. Для того чтобы выделить эффект присутствия пользователей, мы разрабатываем PRESENT — систему контролируемой оценки, которая сравнивает параметры переговоров с интерактивным пользователем и без него, сохраняя при этом игру, цели и предпочтения пользователей, установленные во всех условиях. В 11,2 км от 7 игр и 8 моделей мы видим присутствие пользователя существенно меняет как результаты, так и поведение. В частности, участники переговоров с пользователем получают более высокие выплаты (в среднем 13,7%), а их агенты ведут переговоры более агрессивно. Удивительно, что присутствие пользователей также вызывает дезориентированное поведение как в отношении контрагентов (где их скорость примерно вдвое выше), так и t