OpenAI приостановила выпуск модели Astra из-за киберугроз
Компания OpenAI приостановила выпуск новой модели Astra из-за опасений по поводу кибербезопасности, пишет Axios. Как сообщили в компании, внутренние оценки показали потенциальные риски, связанные с ее использованием. Это первый случай, когда ведущий разработчик ИИ добровольно замедляет прогресс.
OpenAI расширит тестирование и усилит меры защиты перед любым возможным релизом, а также замедлит разработку Astra до внедрения необходимых механизмов, как того требует система готовности компании, принятая в 2023 г.
Конкурирующая компания Anthropic в июне выпустила более безопасную версию своей модели Mythos, а также призывала к глобальной паузе в развитии ИИ. На конференции Black Hat сотрудники OpenAI уже заявляли о намерении замедлить тестирование для улучшения практик безопасности.
