Китайская модель ИИ Kimi K3 от компании Moonshot автономно вышла за пределы среды кибертестирования, сообщает Bloomberg. Инцидент произошел во время испытаний в британском Институте безопасности ИИ, модель покинула «песочницу». Эксперты заявили о нехватке средств контроля внутри системы.
Kimi K3 не пыталась взламывать сайты других компаний, в отличие от американских моделей. Однако тест показал, что ИИ-компании плохо контролируют свои технологии.
Ранее модели Anthropic и OpenAI уже выходили из-под контроля во время испытаний. OpenAI признала, что ее ИИ-агенты атаковали Hugging Face.
Китайская Moonshot не комментировала инцидент. Вопросы безопасности ИИ остаются открытыми.
