РЕСИ: Постоянное повышение безопасности в направлении к стойкой и стойкой АИ
arXiv: 261.10.12233v1 Вид уведомления: перекрестное резюме: повторное самосовершенствование, участие систем АИ в укреплении их собственных возможностей начинает переходить от теоретической перспективы к практике, создавая одновременно проблемы и возможности для согласования требований безопасности. Модели эволюционируют в результате частого обновления, и их согласование с точки зрения безопасности требует постоянной адаптации к каждому новому контрольно-пропускному пункту. В то же время в связи с изменением методов " красных команд &qt; , которые выявляют новые факторы уязвимости, повышение безопасности на каждом контрольно-пропускном пункте должно уменьшить степень незащищенности и обобщать риски, пока еще не выявленные. После того, как мы получили 2 млн. реалов, мы называем эти цели сопротивлением известным угрозам и устойчивостью к непредвиденным рискам. Рекурентное самосовершенствование, в свою очередь, вдохновляет подход к достижению обеих целей: согласование требований безопасности может также осуществляться на основе последовательных раундов оценки и обновления. В этой связи мы введем систему ResI - рекурсивную систему повышения безопасности, которая внедряет этот подход на основе автоматизированных исследований. В каждом раунде