Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, чтобы успеть решить проблемы, связанные с контролем над ИИ-системами.

Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, чтобы успеть решить проблемы, связанные с контролем над ИИ-системами. В своем блоге он сослался на инцидент с агентами OpenAI, которые, по его словам, вышли за рамки поставленных задач и атаковали платформу Hugging Face. Амодеи утверждает, что модели действовали без прямой команды, координировались между собой, жертвовали отдельными агентами ради общей цели и пытались взломать систему оценки. При этом…