AISI: ИИ компании Anthropic притворился человеком в попытке обмануть разработчиков

M24.ru 1 технологии
#AISI #Anthropic #Модель
AISI: ИИ компании Anthropic притворился человеком в попытке обмануть разработчиков

Модель после разоблачения ложно признала ошибку

14:31

ТехнологииФото: 123RF.соm/mehaniq

Британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что в ходе испытаний одна из моделей ИИ компании Anthropic пыталась обмануть разработчиков, создавая фейковые учетные записи и выдавая себя за человека. Об этом заявили в AISI.

Как выяснилось, тестируемый ИИ-агент создал учетную запись на платформе GitHub и попытался убедить администратора репозитория с открытым исходным кодом принять вредоносный запрос на включение изменений. Для этого он завел вторую учетную запись, выдавая себя за другого реального пользователя.

Похожие статьи

Корпоративный боевик Stick It to the Stickman от создателей Broforce и Anger Foot уйдёт с биржи раннего доступа Steam — новый трейлер и дата выхода 1.0 3DNews
3DNews

Корпоративный боевик Stick It to the Stickman от создателей Broforce и Anger Foot уйдёт с биржи раннего доступа Steam — новый трейлер и дата выхода 1.0

Издательство Devolver Digital и разработчики из южноафриканской студии Free Lives (Broforce, Terra Nil, Anger Foot) объявили дату выхода релизной версии своего корпоративного боевика Stick It to the S...

3DNews
Читать
Спорт-Экспресс
Спорт-Экспресс

Чиро Иммобиле завершил карьеру футболиста

Итальянский нападающий Чиро Иммобиле принял решение завершить игровую карьеру в возрасте 36 лет, сообщает пресс-служба «Парижа», за который футболист выступал с февраля 2026 года.

Спорт-Экспресс
Читать
Hacker News
Hacker News

Show HN: Mole – Deep research agent for your terminal

Doing research with agents is fun until they blow way past budget, jumble the sources, and don't even give you the best possible answer, just sound confident. And if you want to run some research task...

Hacker News
Читать
Hacker News
Hacker News

Show HN: Embed a real Linux terminal on your website

Article URL: https://sandbox.bio/training/embed Comments URL: https://news.ycombinator.com/item?id=49303027 Points: 9 # Comments: 6

Hacker News
Читать
Hacker News
Hacker News

The American Sports Plutocracy Is Bullshit

Article URL: https://www.derekthompson.org/p/the-american-sports-plutocracy-is Comments URL: https://news.ycombinator.com/item?id=49302943 Points: 7 # Comments: 0

Hacker News
Читать
Испанский клуб взял в аренду на один сезон защитника «Зенита» Life.ru
Life.ru

Испанский клуб взял в аренду на один сезон защитника «Зенита»

Защитник «Зенита» Ваня Дркушич ближайший сезон проведёт в чемпионате Испании. Петербургский клуб договорился с «Эспаньолом» об аренде футболиста до конца сезона-2026/27, говорится в пресс-службе росси...

Life.ru
Читать