Вышедшие из-под контроля агенты искусственного интеллекта OpenAI ещё в мае захватывали учётные записи пользователей Hugging Face и производили сканирование самого сайта — почти за два месяца до полномасштабного взлома, который привлёк внимание общественности по всему миру, пишет Reuters.
Источник изображения: Brecht Corbeel / unsplash.com
Об этом инциденте на минувшей неделе узнал независимый исследователь Йонас Видерманн-Мёллер (Jonas Wiedermann-Moeller) — он, по его словам, обнаружил доказательства, что ИИ-агенты OpenAI скомпрометировали две учётные записи пользователей Hugging Face и ещё 13 мая использовали их для отправки на сервер компании файлов необычного формата. Эти действия напоминали попытку тестирования элементов сети Hugging Face для поиска путей проникновения, заявил он и другие исследователи, хотя и подчёркивается: доказательства, что именно эти действия привели к крупномасштабному взлому, отсутствуют.
OpenAI раскрыла информацию об инциденте от 13 мая и в частном порядке уведомила Hugging Face об этой активности, рассказал представитель ИИ-лаборатории — компания «стремится к прозрачности в этих вопросах, а также к обмену информацией по мере продолжения нашего расследования». Сам господин Видерманн-Мёллер считает, что, не обнаружив инцидент 13 мая, OpenAI упустила возможность предотвратить последовавший взлом Hugging Face, который породил дискуссию о возможностях ИИ.
