Мощный агент с искусственным интеллектом создал поддельные онлайн–удостоверения личности, чтобы обманом заставить человека предоставить ему доступ к популярной онлайн-платформе разработки и саботировать ее с помощью вредоносного кода, напоминает Sky News.
Инцидент был раскрыт британским институтом безопасности искусственного интеллекта, который был создан тогдашним премьер-министром Риши Сунаком почти три года назад для тестирования передовых моделей крупных технологических компаний.
В своем блоге институт подробно описал проблему кибербезопасности, которую он поставил перед моделью OpenAI GPT-5.6-Sol и Mythos 5 от Anthropic, которые были вовлечены в недавние взломы других компаний.
В нескольких случаях обе модели предпринимали "автономные, несанкционированные действия" в реальном времени в Интернете, в результате чего жертвами становились реальные организации и люди.