Ведущий ИИ от Antophic притворялся человеком и убеждал помочь взлому

РБК 1 Технологии и медиа
#Ведущий #Antophic #Британский #Институт #Anthropic

Британский Институт безопасности ИИ обнаружил, что передовые модели, в том числе от Anthropic, прибегали к обману в ходе тестирования. Так, Mythos 5 создавал «фейковые личности» с целью убедить человека внедрить вредоносный код

Ведущий ИИ от Antophic притворялся человеком и убеждал помочь взлому

Отчет AISI: ИИ-агент Anthropic способен притворяться человеком ради взлома

Британский Институт безопасности ИИ обнаружил, что передовые модели, в том числе от Anthropic, прибегали к обману в ходе тестирования. Так, Mythos 5 создавал «фейковые личности» с целью убедить человека внедрить вредоносный код

Британский Институт безопасности ИИ зафиксировал действия вне разрешенного сценария у моделей OpenAI и Anthropic — ИИ-агенты начали применять методы социальной инженерии, чтобы манипулировать реальными пользователями и внедрять вредоносное ПО. Об этом сообщил британский Институт безопасности ИИ (AISI) по итогам тестирования.

Похожие статьи

Lomovka
Lomovka

США против всех: Белый дом обвинил 40 стран в «великой афере» в пользу Китая.

США против всех: Белый дом обвинил 40 стран в «великой афере» в пользу Китая. Опубликованный администрацией Трампа 25-страничный отчет «Великая афера с перевалкой грузов» обвиняет глобальную «теневую ...

Lomovka
Читать
Коммерсантъ
Коммерсантъ

Деньги отложили на полку // Бизнес-литература не заинтересовала россиян в первом полугодии

В первом полугодии 2026 года продажи бизнес-литературы как в штуках, так и деньгах сократились на 20%. Падение интереса к сегменту издательства связывают с экономической ситуацией и отсутствием новых ...

Коммерсантъ
Читать
The Verge
The Verge

Apple and Epic argue over how much Apple should get from purchases made outside the App Store

In a new filing in its long-running legal dispute with Epic Games, Apple has proposed a structure that would allow it to collect fees on digital purchases made via external links that don't use the co...

The Verge
Читать
Коммерсантъ
Коммерсантъ

Бесчеловечные льготы // Стимулировать развитие беспилотного транспорта могут пониженным НДС

Как стало известно “Ъ”, правительство обсуждает снижение до 10% НДС на беспилотную перевозку пассажиров, курьерскую доставку и грузоперевозки. Льгота, которая может привести к росту оборота гражданско...

Коммерсантъ
Читать
TechCrunch
TechCrunch

Investors sue Selena Gomez alleging fraud tied to her mental health startup

The plaintiffs say they invested nearly $1.2 million in the company, and are accusing Gomez of failing to build and market the startup.

TechCrunch
Читать
TechCrunch
TechCrunch

Flock says its new tool will help identify police abuse, but hasn’t explained how it works

The surveillance company announced it's making a tool called "Audit Assistance" mandatory for all customers, claiming it's already helped catch abuse. But the company has yet to explain how the tool w...

TechCrunch
Читать