Антропический босс Дарио Амодей призывает к тому, чтобы развитие ИИ замедлилось.

Руководитель антропического босса Дарио Амодей призывает к тому, чтобы развитие ИИ замедлилось. В эссе в субботу Дарио Амодей сказал, что развитие ИИ не ставится под сомнение, но связанные с ним риски являются "серьезными", и компаниям и правительствам необходимо предоставить время для их устранения. Он предложил план из трех пунктов, который включает независимый мониторинг моделей ИИ по мере их разработки, регулирование в масштабах всей отрасли и глобальное регулирование. В последнее время растет озабоченность по поводу потенциальных рисков технологии, наиболее серьезные из которых предполагают более 10% вероятности того, что она «может убить всех людей» в течение следующего десятилетия. Антропия ранее заявляла, что она выявила и сорвала попытки использовать свою модель ИИ для «мощной деятельности», которая могла бы способствовать разработке биологического оружия. Но самое решительное предупреждение пришло от двух сотрудников команды безопасности Антропика, которые ушли в отставку за последние две недели, говоря о том, что человечество может не пережить гонку между компаниями АИ для разработки машин, которые умнее людей. И в новом интервью журналу Fortune генеральный директор OpenAI Сэм Альтман сказал, что стандарты безопасности "не были на месте", чтобы еще больше подтолкнуть возможности АИ. Альтман добавил, что МА вне контроля человека "абсолютно" возможна. Предупреждения вызвали призывы к действиям, но президент США Дональд Трамп до сих пор отверг такие опасения, сказав…