Эксперт по инфобезопасности: текстовые инструкции не обеспечивают безопасность ИИ
В беседе с РИА «ФедералПресс» он рассказал о тестах, во время которых модели смогли выйти за пределы изолированной среды или получить доступ к реальным системам, приняв их за часть учебного полигона.
«Фраза «не выходи за пределы задания» не заменяет межсетевой экран, а «используй инструменты ответственно» не заменяет управление правами», — подчеркнул Зыков.
По мнению специалиста, полномочия ИИ необходимо ограничивать средствами операционной системы, сети, криптографии и независимого контроля. Он также предупредил, что автоматическое подтверждение всех запрашиваемых моделью разрешений может привести к повреждению данных и инфраструктуры компании.