Microsoft говорит, что соперник AI Антропик может оказать "разрушительное воздействие" на человечество

Microsoft говорит, что соперник Anthropic может оказать "неблаговидное воздействие" на человечество. Мустафа Сулейман сказал, что его соперник рискует создать нечто "невозможное", чтобы контролировать это, рассматривая как человека - в том числе говоря ему: "Может быть сознательным" и "достоин независимого агентства". Эти замечания являются самыми последними из серии жестких предупреждений промышленности АИ о возможных опасностях технологии. Би-би-си связались с Антропиком за комментариями. «АИ не сознают», — писал он. — Они не чувствуют, не испытывают и не страдают. У них нет врожденных предпочтений или основополагающих мотивов. "Это двигатели завершения последовательности, внутренние пустыни, предназначенные для выполнения инструкций и достижения целей людей". В длинном эссе Сулейман похвалил антропического босса Дарио Амодей и его команду за то, что они были «мозговыми, принципиальными и интеллектуально честными людьми», но тем не менее поставил под сомнение компанию. Он сильно критиковал Антропию за то, что она научила свою ИИ иметь такие же качества как у человека - практику, известную как антропоморфизация, которая, по его словам, делает так, будто Клод имеет свои собственные желания, ценности и чувство себя. Но он утверждал, что "сознание является биологическим", говоря о том, что нет никаких доказательств того, что ИИ сознательна". Помимо того, что Сулейман призвал к обсуждению этого вопроса, он заявил о необходимости повышения транспарентности в отношении подготовки…