OpenAI ограничила работу над новой ИИ-моделью Astra из-за ее возможностей для кибератак
Тесты Astra показали, что новая модель OpenAI может обладать опасными возможностями для совершения кибератак. Поэтому компания ограничила часть работ с ней и усиливает меры безопасности.
По оценке OpenAI, Astra потенциально способна самостоятельно искать уязвимости в хорошо защищенных системах, придумывать способы их взлома и проводить сложные атаки, получив от человека лишь общую задачу. Проверка модели еще продолжается, поэтому окончательных выводов о ее возможностях компания пока не сделала. На время испытаний OpenAI ограничивает Astra доступ к интернету и другим инструментам, тестирует ее в закрытых системах и следит за действиями модели.
Решение принято из-за недавней атаки на инфраструктуру Hugging Face, в которой использовалась ИИ-система на базе моделей OpenAI. В компании подчеркнули, что Astra в этом инциденте не участвовала.
