агент-риск: оценка рисков в связи с изменениями в агентах АИ

arXiv:2610.16280v1 Вид уведомления: новое резюме: Прежде чем менять развернутый актив АИ (более жесткие ворота безопасности, новая модель), организации должны одобрить это изменение начиная с существующих журналов. Распространение классического анализа риска на частичные записи и частичные изменения в операционных системах, агент-риск перепроигрывает эпизоды, при условии что ничего больше не изменится, а агент не предвидит изменений. Журнал урегулирует эпизоды, действующие так же, как и раньше, объявленное значение останавливается, а остальное требует запечатанной поддержки, повторной записи в сохранённом состоянии или связывания. Мы доказываем, что записи должны записываться для точного воспроизведения и что спасшие штаты служат семье врат. Для независимых эпизодов мы связали повторный выпуск с необходимостью принятия решения и допустимым отходом от живого поведения. В песчаной коробке только в 7200-эписодовом журнале не было принято ни одного из двух ворот, которые позволили бы агенту действовать после отказа в записи. Повторное рассмотрение только заблокированных эпизодов из спасенных штатов позволило достичь обоих решений в течение половины звонков агента