Институт Google DeepMind для расширения дебатов AGI

В среду исследователи Google и DeepMind запустили Институт ДипМинн, чтобы продолжить разговор об искусственном общем интеллекте. Институт перечисляет в качестве директоров соучредителя DeepMind Шейн Легг, руководителя Google Джеймса Манику и председателя Demis Hassabis Gool, а Leg — управляющего редактором. Цель нового института состоит в том, чтобы выявить различия во взглядах между Google, Goylop DeepMind и более широким глобальным научно-исследовательским сообществом вокруг AGI. Они не всегда согласятся с этим и скорее всего изменят свое мнение по мере появления большего числа данных и информации на быстро двигающейся границе, . Первая подборка четырех очерков охватывает широкий круг тем: экономическая политика в целях регулирования потенциальных нарушений AGI, сохранение учитываемых людьми моделей мышления, принципы процветания человека и рамки для оценки трансграничных моделей АИ. В одном эссе, подготовленном исследователями по безопасности DeepMind Рохином Шахом и Анкой Драганом, утверждается, что АИ-Айлс сокращает окно прозрачности — способность видеть и проверять поэтапное рассуждение модели-Шейфз — не является неизбежным. Поскольку новые архитектуры затрудняют мониторинг наиболее мощных моделей, авторы говорят, что разработчики и регулирующие органы должны непосредственно противостоять компромиссам в области безопасности. Это может означать ограничение opacque systemal guide . - количество последовательных вычислений, которые модель может выполнить без создания…