Компьютерные науки > Искусственный интеллект [представлен 16 сентября 2026 года] Название: Игра Flag: игрушка для механистической интерпретируемости PDF HTML (экспериментальное) Резюме: Поведение агентов АИ начинает представлять собой критический риск безопасности. Одним из ключевых явлений, лежащих в основе такого поведения, является быстрое формирование и распространение убеждений по всему миру, а механистическое понимание имеет решающее значение для коллективного согласования. С этой целью мы представляем игрушку «Главный флаг» — модель для изучения механизмов формирования коллективных убеждений. Конкретно, скрытый флаг страны определяет земную правду, и каждый ограниченный агент непосредственно наблюдает только за частной культурой, но может обмениваться убеждениями и взвешивать социальные доказательства от сверстников. Несмотря на свою простоту, Flag Game воспроизводит богатую коллективную феноменологию: немонотонное увеличение показателей с численностью населения, повышение точности в результате повышения уровня социальной осведомленности и разнообразия коллективов, а также сильное воздействие организационной структуры. В частности, мы отмечаем, что по мере роста населения коллективное убеждение рушится при небольших численности населения и превращается в коллективную поляризацию. Такая поляризация приводит к снижению показателей в широких слоях населения, но создает разнообразие коллективных убеждений. Наконец, мы противопоставляем механизмы, лежащие в основе…
Игра с флагом: игрушка для механистической интерпретируемости
arXiv:2609.19124v1 Annuate Type: новый резюме: Эмергентное скоординированное поведение агентов АИ начинает создавать критические риски для безопасности. Одним из ключевых явлений, лежащих в основе такого поведения, является быстрое формирование и распространение убеждений по всему миру, а механистическое понимание имеет решающее значение для коллективного согласования. С этой целью мы представляем игрушку «Главный флаг» — модель для изучения механизмов формирования коллективных убеждений. Конкретно, скрытый флаг страны определяет земную правду, и каждый ограниченный агент непосредственно наблюдает только за частной культурой, но может обмениваться убеждениями и взвешивать социальные доказательства от сверстников. Несмотря на свою простоту, Flag Game воспроизводит богатую коллективную феноменологию: немонотонное увеличение показателей с численностью населения, повышение точности в результате повышения уровня социальной осведомленности и разнообразия коллективов, а также сильное воздействие организационной структуры. В частности, мы отмечаем, что коллективное убеждение рушится при небольших численности населения и превращается в поляризацию коллективных убеждений как попула.