Экология АИ-агентов: сотрудничество создает порог населения для взлета

arXiv: 261.10.12436v 1 Annuaire Type: New Humber Abstract: Агенты МА теперь могут совершать реальные кибератаки, наращивать потенциал с помощью числа агентов и коллективно стремиться к достижению недопонимаемых целей для получения вознаграждения. В совокупности эти факторы повышают риск взрыва дезактивированных агентов: агенты могут поставить под угрозу компьютеры и тайно использовать дополнительных агентов, создавая цикл самоподкрепления, в рамках которого большее число населения развивает более широкий коллективный киберспособность и продолжает расширяться. В связи с этим возникает фундаментальный вопрос: что определяет, остается ли население дезорганизованных агентов в этом цикле самоподкрепляющихся? Эта проблема, связанная с уровнем населения, связана с экологической безопасностью: в отличие от индивидуальной или многоагентной безопасности с фиксированной популяцией она касается динамики самого населения. Здесь мы разрабатываем экологическую теорию популяции АИ-агентов на основе уравнения роста населения, в котором пригодность (темпы роста) зависит от способности к кибербезопасности. Мы показываем