В длинном посте на X генеральный директор компании Microsoft/Second изложил свои мнения об опасностях, создаваемых высокоразвитыми моделями АИ и о том, как противостоять этим рискам. Наделла говорит, что мы больше не можем мириться с миром, в котором ИИ рассматриваются как набор чёрных коробок, чьи советы и действия мы просто принимаем или отвергаем. Он призывает к созданию более транспарентной системы, в которой модели можно было бы сдерживать, наблюдать и оставлять за собой улики, которые могут читаться людьми. Сатья Наделла говорит, что мы должны считать все модели АИ „компромиссированы" Многие из его рекомендаций согласуются с тем, что мы слышали от других в этой отрасли: своевременное раскрытие информации о происшествиях, независимые ревизии, поддающиеся проверке данные и сдерживание. По этому последнему поводу он, похоже, идет немного дальше, чем некоторые другие в поле, говоря: мы должны предположить, что модель скомпрометирована и сдерживает ее с самого начала. Думай об этом, как о экстренном тормозе. Уполномоченное лицо должно всегда иметь возможность сделать паузу или закрыть модель среднего задания. Более совершенные модели потребуют более совершенных технологий сдерживания, которые нам необходимо стандартизировать. К сожалению, Наделла также называет АИ как ОВ сверхразведку по всему посту.
Сатья Наделла говорит, что мы должны считать все модели АИ «компромиссными»
В длинном посте на X генеральный директор Microsoft изложил свои мнения об опасностях, создаваемых высокоразвитыми моделями АИ и о том, как противостоять этим рискам. Наделла говорит, что мы больше не можем мириться с миром, в котором ИИ рассматриваются как «комплекс черных коробок», чьи советы и действия мы просто принимаем или [...]
