Предупреждаю о "модели благосостояния"

Предупреждение о „модель благосостояния". И мы не должны научить их действовать так, как будто они делают это. АИ не сознают. Они не чувствуют, не испытывают опыта и страданий. У них нет врожденных предпочтений или основополагающих мотивов. Это двигатели с последовательности, внутренние пустоты, предназначенные для выполнения инструкций и достижения целей человека. Для того чтобы человечество процветало в XXI веке, оно должно оставаться таковым. К сожалению, там растет припев людей, которые утверждают, что АИ могут быть или вскоре стать сознательными. Они утверждают, что АИ могут заслужить права и защиту, аналогичные тем, которые мы предоставляем другим сознательным существам1. Если эта точка зрения затвердеет, то она подорвет основы нашего общества, разрушив существующие политические и этические рамки и коренным образом изменив значение человеческой личности. Еще более важным является то, что предоставление прав и привитие этим системам личностей значительно усложнит задачу согласования и сдерживания ИИ. Контролирование чего-то более способного и умного, чем все человечество, уже является огромной задачей, гораздо больше всего того, с чем мы когда-либо сталкивались. Но контроль над тем, что считает его сознательным - что он имеет право на наше благополучие и свои собственные права - вполне может оказаться невозможным. Это не эксклюзивная спекуляция. Сегодня эти идеи уже вписываются в усилия МА по развитию. В январе 2026 года Антропик опубликовал конституцию Клода,…