Что стоит за последними предупреждениями о гибели?

Похоже, что индустрия АИ все еще активно обсуждает вопрос о том, представляет ли ее технология угрозу для существования человечества. Нынешняя дискуссия началась после того, как исследователь МА Джейкоб Коксон сказал, что геи ушли из Антропики, потому что он боялся, что ведущие компании АИ ТРАМ занимаются нашей жизнью. Я попытался объяснить, почему Иньм скептически относится к многим рассказам об АИ-думере, в то время как Кирстен спросил, не является ли это просто странным способом флексинга для того, чтобы показать насколько далеко развита модель их компании, особенно когда эти компании готовятся стать публичными. И Шон задался вопросом, как эти опасения могут появиться в Anthropics S-1, подающем заявку на IPO: ▪ Есть ли сейчас молодые юристы, которые проходят через и должны переписать весь раздел С1-записи для того, чтобы сказать: «Это официально позиция Антропикас, что там больше 10% шанса, что мы сможем разработать нечто, которое уничтожило бы все человечество и было бы материально вредным для нашего бизнеса?» Этот предупредительный снимок был не только сделан этим молодым исследователем, который также работал в OpenAI, но и сразу же поделился на X лидером в Anthropeic — кто, возможно, будет одним из самых незапланированных восклицательных знаков когда-либо, разделил пост и нитку Коксона и сказал: ♫ Мы действительно верим, что МА может убить всех людей! Какая странная атмосфера. Это была просто тонна катализаторов на и без того напряженной должности или серии постов.…