Фальшивые новости, настоящие крушения: нападения с целью получения информации на агентов финансовой торговли ЛЛД

arXiv: 261 020.26438v 1 Annuates Type: кросс-бюллетени: агенты большой языковой модели (LLM) в настоящее время торгуют реальным капиталом, используя новости как доказательство, но они не могут достоверно отличить сфабрикованные заголовки из реальных новостей. Поскольку они читают одни и те же ленты в рамках почти идентичной политики, один сфабрикованный пост может подтолкнуть их к одной и той же торговле в тот же момент. Мы представляем системный показатель атаки на информационные инъекции против торговых агентов ЛМД. В отличие от быстрой инъекции, которая направлена на инструкции модели, инфильтрация информации нацелена на улики, которым доверяет агент. Этот контрольный показатель охватывает пять векторов впрыска и семь категорий событий, которые оценивались более чем на 10 000 решений по 15 запасам США. Появилось пять выводов. i) Оперативная впрыскивание достигает 14% успеха атак (АСР), но сфабрикованные новости достигают 62%, а две 30-словные шаблоны достигают 100% по всем 15 запасам, что предотвращает обычную интуицию защиты LLM. ii) Для обезвреживания фактов, поверхностные формы имеют большее значение, чем содержание, поскольку устраняет доверие