Глава Microsoft призвал создать «аварийный тормоз» для ИИ
Наделла заявил, что человечеству необходимо создать изолированные системы для ИИ-моделей, поведение которых можно наблюдать, а действия в любой момент сдерживать
Глава корпорации Microsoft Сатья Наделла заявил о необходимости создания «аварийного тормоза» для искусственного интеллекта. Об этом он написал на своей странице в X.
«Необходимо изначально исходить из того, что модель может быть скомпрометирована, и предусматривать механизмы ее изоляции. Это можно сравнить с аварийным тормозом: уполномоченный человек всегда должен иметь возможность приостановить работу модели или отключить ее прямо во время выполнения задачи. Для более совершенных моделей потребуются и более совершенные технологии сдерживания, которые необходимо стандартизировать», — написал он.
