Amodei Anthropic предлагает план "медлить темпы" развития возможностей АИ.

Антропический исполнительный директор Дарио Амодей опубликовал в субботу эссе, призывающее компании искусственного интеллекта ускорить процесс совершенствования потенциала моделей. Амодей предложил трехэтапный план, который, по его словам, поможет сдержать темпы развития без "потрясающего коммерческого преимущества или ведущей позиции Соединенных Штатов в МА", хотя он признал, что некоторые шаги могут быть легче достичь, чем другие. Антропическая компания активно готовится к тому, что, как многие ожидают, будет историческим IPO, хотя она официально не раскрыла, когда планирует дебютировать. По словам Амодей, " Антропическая организация &qt; взяла на себя обязательство в одностороннем порядке выполнить первый этап плана, который предоставляет третьим сторонам, проводящим оценку, доступ к компании для проверки практики обеспечения безопасности и сообщения о происшествиях. Второй шаг побуждает ведущие компании МА в демократических странах координировать и устанавливать общие стандарты безопасности, а третий призывает к координации между демократическими правительствами и авторитарными правительствами. «Чтобы быть ясным, манипулирование не означает прекращения типовой подготовки или технического прогресса, но обеспечение того, чтобы компаниям понадобилось достаточно времени для согласования и защиты своих моделей, а третьим сторонам — для подтверждения этого», - писал Амодей. Озабоченность по поводу возможностей AModei приземлилась после того, как антропический…