Большая тенденция в роботах - это передача ключей на регенеративную модель АИ, но это создает проблему: эта архитектура не предсказуема по сравнению с традиционными алгоритмами. Как ты можешь быть уверен, что твой новый гуманоид будет в безопасности? Доктор. Динг Чжао, который руководит лабораторией "Безопасная АИ" в Университете Карнеги Меллона, работает над этой проблемой почти всю свою карьеру. ▪ Проблема безопасности, о которой мы говорим - это комбинация, один из действительно продвинутых эвалюров в области производительности AI-вероятности — как вы подписываете риск вероятностной системы? — говорит Чжао. – Вторая часть, которая очень трудна для того, чтобы решить эту проблему. — Сейф мир появился сегодня с пробным раундом более 12 миллионов долларов, возглавляемым Шин Капитал и А16z Speedrun, с дополнительными инвестициями от Box Group, Carnegie Mellon University Danagement, Innovation Endeavores and SV Angel. — Это время построения стандарта промышленной безопасности сейчас находится на стадии разработки и развертывания роботов. Это похоже на проблему, с которой сталкиваются такие компании как " Тесла &qt; или &qуйв и которая должна обеспечивать надлежащее реагирование их транспортных средств на различные неожиданные инциденты, которые они могут столкнуться на дороге. Но это будет труднее для роботов, как утверждает Чжао, потому что они работают в неструктурированных средах и поскольку у каждого объекта будут различные стандарты безопасности. ▪ Одна из самых…
Может ли "Безопасный мир" убедить людей, что роботы ГенАй не причинят им вреда?
Сейф мир строит цифровых людей, чтобы убедиться, что роботы не причинят вреда реальным.
