Anthropic включила угрозу существованию человечества в риски перед IPO
В проспекте IPO создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. Компания также указала на риск помощи злоумышленникам в разработке оружия массового поражения
Развитые системы искусственного интеллекта без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать злоумышленникам создавать оружие массового поражения. Такие предупреждения компания Anthropic, разработчик Claude, включила в проспект IPO, опубликованный на сайте Комиссии по ценным бумагам и биржам США (SEC).
В проспекте Anthropic говорится, что мощные системы ИИ потенциально «могут создавать катастрофические или экзистенциальные риски для человечества, особенно если такие системы используются во вред, копируются, превращаются в оружие или получают высокую степень автономности».
