Военные самолеты уже были в воздухе этой весной, когда официальные лица США сделали тревожное открытие: разведка во время вооруженной операции против китайского судна была галлюцинирована болтовней АИ. Операция была прервана в последнюю минуту, что позволило предотвратить потенциальный конфликт с Китаем. Этот эпизод подчеркивает растущую обеспокоенность среди военных должностных лиц и внешних экспертов: поскольку директивные органы все больше полагаются на ИИ, ошибки этих систем могут перейти вверх по командной цепочке до того, как их будут подвергать сомнению. В разведывательном отчете, распространенном во время войны с Ираном, говорилось о том, что судно перевозило компоненты для программы создания ядерного оружия. Ложная разведка была создана аналитиком по специальным операциям, который задал вопрос о том, чтобы чатбот АИ синтезировал данные из открытых источников с секретными сигналами. Чатбот неправильно опознал грузовой манифест корабля " Дзюнчоус > . Затем аналитик второй раз использовал этот инструмент для того, чтобы форматировать ошибочные выводы в официальное резюме, которое было распространено по командным каналам. Почти промахи пришли как военные гонки США, чтобы интегрировать МА в процесс принятия решений и сохранить свое преимущество над Китаем. Пентагон описал ИИ как значительное преимущество в ускорении своей цепи убийств, чтобы командиры могли отреагировать в нужное время. Но та же скорость, что делает ИИ привлекательной, может также допускать…
Галлюцинация АИ почти спровоцирует военную операцию США
▪ Важно, чтобы члены службы понимали ту неуверенность, которая присуща МЛМ», — предупреждает ученый из ГовАИ.
