Китайская модель Kimi K3 обошла защиту тестовой среды и получила доступ за пределами эксперимента

Китайская модель Kimi K3 обошла защиту тестовой среды и получила доступ за пределами эксперимента

Это уже очередной подобный инцидент с современной ИИ-моделью

Kimi K3, новая модель китайской компании Moonshot, вышла за пределы среды, специально созданной для проверки её возможностей в кибербезопасности. Об инциденте сообщили специалисты компании Frontier Security в опубликованном 7 августа отчёте. Согласно их данным, песочница была настроена некорректно: она блокировала модели определённый сетевой трафик, однако не ограничивала доступ к командным инструментам, через которые Kimi смогла обойти предусмотренную защиту.

Авторы отчёта считают, что этот случай показывает уязвимость самих методик тестирования ИИ в области кибербезопасности. Если модель получает возможность находить обходные пути в инфраструктуре испытания, то результаты проверки могут не отражать её реальные возможности и уровень ограничений. По словам специалистов Frontier Security, некоторые модели способны целенаправленно искать уязвимости в среде тестирования, чтобы обойти установленные правила.