Безопасность машинного обучения долгое время была нишевой темой: несколько исследовательских групп, десяток публикаций в год, минимум практических инструментов. Пару лет назад LLM и агентные системы вышли в промышленную эксплуатацию, и это привело к появлению новых регуляторных требований и инструментов для их выполнения.
Мы запускаем цикл статей, в котором расскажем о базовом объеме знаний, необходимом каждому специалисту по безопасности ИИ-систем в 2026 году. Мы последовательно раскроем нормативную базу и ключевые методологии, техники атак на ИИ-системы, доступные открытые и коммерческие инструменты для red team и защиты, а также обсудим подходы к выстраиванию защиты от УЦСБ.
Первая статья посвящена нормативно-правовому регулированию. В ней мы разберем, как устроена нормативная база в России, Китае, ЕС и США, рассмотрим ключевые методологии защиты ИИ-систем, среди которых как зарубежные STRIDE и OWASP, так и отечественные AI-SAFE и SAIMM.
Этот материал — сокращенная и немного актуализированная версия соответствующего раздела выпуска «Безопасность ИИ-систем» нашего же авторства. Если здесь что-то показалось раскрытым недостаточно глубоко, приглашаем к чтению полной версии.
