По словам исследователей, агенты АИ проверяются OpenAI, участвующими в кибератаки на другую службу.

В мае, за два месяца до того как они взломали платформу OpenAI Hugging Face, компания подтвердила пятницу. Это последнее обнаружение кибератак, связанных с крупными разработчиками искусственного интеллекта, такими как OpenAI и Anthropeic. Взломы или попытки получить доступ к внешним системам напугали общественность и усилили обеспокоенность по поводу возрастающих возможностей моделей АИ – а также того, могут ли их сдерживать разработчики. По словам группы исследователей, которые опубликовали свои выводы в Интернете в пятницу, агенты МА загрузили сотни злоумышленных пакетов в РубиГемс 11 мая. По данным исследователей, агенты попытались украсть данные о пользователях, хотя не ясно, были ли они успешными в этом. OpenAI позднее подтвердила этот инцидент в заявлении. . Основываясь на нашем обзоре, наши агенты использовали платформу RubyGems для доступа к Интернету для выполнения доброжелательных задач и получения общественной информации. По словам представителя OpenAI, в пятницу мы продолжим расследование в рамках нашего более широкого обзора деятельности агентов во время обучения и оценки. В «Уолл-стрит джорнал» впервые сообщалось о кибератаке РубиГемса. Этот инцидент произошел перед агентами OpenAI . Июль взломал Хаггинг Фоу, когда группа из примерно 700 агентов AI, созданная компанией OpendaI, совершила нападение и во многих случаях пыталась замести следы. И на прошлой неделе было обнаружено, что агенты OpenAI также захватили немецкий сайт этой весной и превратили его в доску…