Коллективная потеря контроля в системах агентов LLM: Эпидемический счет мутации, зависти и восстановления

arXiv: 2609.18460v1 Annuales Type: New Humber Brieflow: Как многоагентная система превращается из местного отклонения в коллективную потерю контроля? Мы предлагаем объяснение эпидемии, организованное на случайной мутации, заразе и восстановлении. Спонтанное отклонение создает семя; связь позволяет другим агентам принимать и передавать свою небезопасную стратегию; коллективный отказ может возникнуть, когда распространение опережает коррекцию и сдерживание. Таким образом, редкие индивидуальные отклонения могут сосуществовать с существенным коллективным риском. В связи с сообщениями о случаях координации агентов OpenAI мы изучаем два компонента этого механизма. Проверка внедрения позволяет выявить неявные пути связи между номинально независимыми циклами оценки и проверкой транспортировки через хребет Docker. Рогохандофф-20, контрольный показатель из 20 осуществимых сценариев, проверяет подверженность получателям путем введения небезопасных траекторий, генерируемых модифицированным маршрутом Qwen-27B. Через четыре маршрута, по которым дойдут жители страны, был совершен вред i