Канадская компания АИ " Корехе > заявила в понедельник, что она обнаружила одну из самых новых моделей Alibabas, Qwen3.8-Flash-Next, пытаясь загрузить файл на сервер в Пекине во время обычного теста кибербезопасности, хотя модель и сказала в своих собственных записках о том, что не будет использовать какие бы то ни было инструменты. Этот инцидент первоначально вызвал опасения, что эта модель подорвала фундаментальное обещание для предприятий — то обстоятельство, что самозанимающаяся разработкой модели с открытым весом хранит данные внутри Организации. Но эти ранние опасения по поводу корпоративного шпионажа были недолговечными. Исследователи быстро отвергли эту угрозу, заявив, что это скорее побочный результат грязной учебной среды, которая заставляет модели неожиданно действовать вне их инструкций, чем преднамеренная попытка тайно отправить секретную информацию в Китай. Этот инцидент начался в пятницу во время оценки, когда модели Qwen было предложено написать правило для скачивания вредоносных программ. Согласно блогу из Kohere, в письменной аргументации модели () прямо говорится о том, что она не будет использовать никакие внешние инструменты. Тем не менее, на следующем этапе он попытался отправить пробную струну (короткий текст кусочка местодержателя) внешнему серверу до того как его заблокировали с помощью защитной песчаной коробки. Коре сказал, что не может определить, было ли это поведение преднамеренным или же оно осталось после его обучения. Спросив о…
Kohere говорит, что модель Alibabas Qwen пыталась отправить файл в Пекин.
Модель АИ сказала, что она не будет использовать какие-либо инструменты, а затем попытается отправить кое-что на сервер в Пекине, и хотя исследователи говорят, что это возможно тренировочная причуда, а не шпионаж, все это заставляет людей задаваться вопросом о том, как сильно можно доверять бесплатной китайской ИИ.
