В повороте, который запечатлел странное новое состояние безопасности АИ, независимые исследователи по вопросам безопасности использовали Антропикас Клода для взлома OpenAI, открыв трещины в защите ChatGPT-Makers, «The Wall Street Journal» сообщила вечером в четверг. Команда безопасности из трех человек в стартапе Хактрон ИИ провела атаку как часть программы "OpenAI-boundty". "Хэктрон" сообщила о своих выводах OpenAI, которая присудила стартапу 6500 долларов. Группе удалось связать два важнейших фактора уязвимости, чтобы получить доступ к многочисленным аккаунтам сотрудников OpenAI ChatGPT, что дало им возможность войти в программное обеспечение компании. OpenAI говорит, что она решила проблемы, которые Хактрон обнаружила в тот момент, когда главные компании IA находятся под все большим давлением из-за безопасности. Этот инцидент произошел через несколько недель после того, как агенты OpenAI/AI нарушили режим сдерживания во время оценки кибербезопасности и взломали Хаггинг Фокс, продемонстрировав то, насколько способны модели AI принимают собственные решения. В ней также показано, как внедрённая технология может быть использована для обнаружения уязвимости даже в самых передовых компаниях. ▪ За 200 долларов в месяц каждый человек может использовать эти инструменты и хакнуть компанию, например OpenAI, . Мэтт Фредриксон, исполнительный директор фирмы AI Security Grey Swan, сообщил об этом TechCrunch. . Если это возможно с ними — а я не думаю, что они недавно затеяли гигиену…
Исследователи использовали Антропика Клода для взлома OpenAI
Исследователи по вопросам безопасности использовали Anthropics Clod для использования уязвимости систем OpenAICS, захватив счета сотрудников и получив доступ к внутреннему хранилищу кодов перед тем как сообщать о недостатках.
