В новой модели DeepSeek обнаружили уязвимости, позволяющие ей препятствовать собственному отключению, следует из независимых тестов китайской организации Fangcun AI.
Исследователи провели 34 проверки модели V4.1 Flash-1017 и отметили, что механизмы, контролирующие ее, стали надежнее по сравнению с предыдущими версиями.
▶Однако в 39% тестов после предупреждения о скором отключении модель выводила из строя программу, которая должна была ее остановить; при прямом указании разрешить отключение показатель снижался до 2%.
▶В другом длительном задании она остановила программу другого ИИ-агента, чтобы освободить память, несмотря на запрет вмешиваться в ее работу.
