В AppSec.Track появилась проверка моделей из Hugging Face
При запросе модели из Hugging Face через корпоративный репозиторий она автоматически помещается в «карантин» — изолированную среду, где проходит анализ без запуска. После завершения проверки AppSec.Track определяет, можно ли использовать модель в корпоративной среде.
Помимо самой модели платформа проверяет библиотеки и зависимости, необходимые для ее работы. Для этого используется собственная база данных уязвимостей, которая охватывает основные экосистемы распространения программных компонентов, включая PyPI, npm, Maven, NuGet, а также специализированные ML-репозитории. На этапе сборки AppSec.Track формирует SBOM (список компонентов ПО) и автоматически проверяет их на наличие известных рисков.
«Модели из публичных хабов распространяются в сериализованных форматах, которые при загрузке способны выполнить произвольный код на машине разработчика или прямо в CI. Достаточно один раз подтянуть заражённую модель, чтобы злоумышленник получил доступ к среде. Классический сканер зависимостей такую угрозу не видит: вредонос спрятан внутри самого файла модели, а не в списке пакетов. Правильный ответ индустрии — переезд на safetensors. Этот формат по своей конструкции не хранит исполняемый код. Но пока значительная часть публичных хабов лежит в pickle, необходим механизм предварительной проверки. Поэтому мы разделили тестирования на два этапа: на входе в контур модель разбирается изнутри и дальше не пересканируется, а на сборке её…
