Нападения на следы движущегося материала практически применимы: изучение модели-дривенной экологической экспедиции, эксплуатации и побега

arXiv: 2609.20614v1 Annuales Type: кросс-бюллетень: Модели пограничной АИ быстро получают возможность использовать уязвимость в сложных программных средствах. Риск не является теоретическим, о чем свидетельствуют недавние побеги песчаных коробок из пограничных моделей на OpenAI и Anthropeic. В ходе обсуждения вопроса о том, каким образом следует делать вывод в песчаном ящике, часто основное внимание уделяется другим компонентам, помимо самого двигателя (например, сетевых параметров или систем выполнения кодов). Вместе с тем, предполагающий двигатель является привлекательной целью для модели дезорганизации. Например, если модель может привести к эксплуатации в этом двигателе только путем создания специально изготовленных выходных символов, то эта модель может инициировать многоэтапную, до-мегаметаллическую цепь эксплуатации двигателя без опоры на уязвимость других компонентов фиктивной стопки и без помощи поставляемых извне злоумышленных входных знаков. В этом документе мы показываем, что модель с ошибками может сделать вывод об отпечатках пальцев двигателя для определения