Anthropic разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. По имеющимся данным, она превосходит по возможностям флагманскую Mythos, замедлять её разработку компания не намерена, но и выпускать её в широкий доступ она тоже не станет.
Источник изображения: anthropic.com
Риски наступления серьёзных отрицательных последствий, сопряжённые с работой моделей Anthropic, остаются низкими, настаивают в компании, но уже не настолько низкими, как на момент публикации предыдущего отчёта. Компания была вынуждена повысить общую оценку угроз, связанных с выходом моделей из-под контроля при пессимистических сценариях, с «очень низкой» до просто «низкой», ссылаясь на недавние инциденты в области кибербезопасности.
У моделей появились признаки быстрого роста способностей в автономном режиме проводить исследования и разработку, что может способствовать техническому прогрессу, но и использоваться не по назначению. «В рамках нашего стандартного процесса исследований и разработок мы проводим внутреннее обучение и оценку множества различных экспериментальных версий моделей, которые не планируем выпускать. Model 2 — одна из таких», — заявили в компании изданию Axios.
