Microsoft's Nadella говорит, что AI нуждается в "чрезвычайном тормозе", который люди контролируют.

В субботу председатель компании Microsoft и исполнительный директор Satya Nadella призвали к созданию передовых систем искусственного интеллекта с помощью средств сдерживания, независимых механизмов контроля и "чрезвычайного тормоза", позволяющих уполномоченным людям затормозить или закрыть модель посередине задачи. «Мы должны окружать недетерминистские модели сильными детерминистическими системами, человеческим контролем и надежными оперативными процедурами, а также установить промышленные стандарты там, где существующие системы недостаточны», — написал Наделла в статье на платформе социальных сетей X. «Нарушение границ при закрытых и открытых моделях веса, таких как внутренние риски, является одним из способов создания такой системы». Замечания Наделлы приходятся на предупреждения руководителей и исследователей, в том числе соучредителя Microsoft Билла Гейтса, антропического директора Дарио Амодей, генерального директора OpenAI Сэма Альтмана и руководителя SpaceX Элона Маска о недостаточности протоколов безопасности AI и утверждают, что технология движется слишком быстро. Исследователь АИ покинул Антропик в прошлом месяце и обвинил компанию, а ее главного соперника OpenAI, в "споре с нашими жизнями". В тот же день руководство по согласованию на Anthropeic сфокусировалось на безопасности АИ, сказало более 10% вероятности того, что технология может убить всех людей в течение следующего десятилетия. И наоборот, президент Дональд Трамп неоднократно отвергал риски исчезновения…