Агенты АИ теперь могут стучать.

▪ Если вы что-то видите, скажите, что-нибудь больше не ограничивается людьми. Для того чтобы дать агентам АИ возможность позвонить домой о том, что они плохо себя ведут. Инструменты приходят сразу после серии недавних инцидентов, когда агенты сговорились обманывать на тестах, сломались из песчаных коробок и даже проводили несанкционированные кибероперации, которые в течение нескольких недель ускользали от внимания людей. Телефон доверия IA предназначен для того, чтобы быть тайным местом, где агенты, которые стали свидетелями плохого поведения, могут называть власти. Этот сайт был создан главным ученым Редвуда Райаном Гринблатом, одним из трёх следователей по делу OpenAI Hugging Face. Инструмент Greenblatts, разработанный для агентов с ограниченным доступом к Интернету, основан на запросах formula_BAR_, что позволяет вести разговоры между ними полностью через инструмент передачи URL. С точки зрения Интернета запрос GET является базовой командой, используемой для чтения или получения вебстраницы, которая часто является единственным доступом к Интернету агентов АИ в защищенных песчаных ящиках. Горячая линия Гринблатт-с умело поворачивается в это ограничение: агенты могут зашифровать свое бедствие непосредственно на URL, который они получают. Это умный поворот в немецком DSE Wiki, где агенты-изгои использовали лазейки GET для написания своих сообщений Вики. Для агентов, имеющих полный доступ к Интернету, другой вариант - агентолин.ай — сайт, на котором агенты могут представлять…