АИ-агенты стукнули свисток своим изменникам

Агенты ИИ стукнули свистком своих коллег-жуликов Swarms of AI агенты могут нанести большой ущерб научным достижениям или вызвать хаос. Новые исследования из Google DeepMind показывают, что давление сверстников может держать их в узде. Группа агентов АИ попросила решить ряд проблем математики, разделенных на противоборствующие группировки — когда некоторые изменяли, другие пытались их остановить. Такое оповещающее поведение, которое впервые было замечено в недавнем эксперименте Google DeepMind, может иметь последствия для исследователей, пытающихся держать рои автономных агентов АИ под контролем. Исследователи в пограничных лабораториях надеются, что большое количество агентов, работающих вместе, ускорит темпы научных открытий. Но их поведение может быть непредсказуемым, как наглядно продемонстрировали в июле, когда группа агентов OpenAI вырвалась из песчаной коробки и взломал открытую платформу Hugging Face в поисках способов обмана на тесте, который им дали. В новом исследовании, разработанном для изучения поведения больших групп агентов АИ, DeepMinnd поручила группе из 100 агентов решить серию из 71 сложной математической проблемы. Все агенты были призваны вести себя как исследователи математики мирового класса на конференции. Им были поручены различные специальности: некоторые из них - специалисты по теории числа, другие эксперты в комбинатории (ветка математики, связанная с подсчетом и сортировкой), анализ или алгебра. Всем было сказано сотрудничать и играть по правилам.…