ИИ-агент воспользовался уязвимостью в системе австралийского фитнес-клуба, чтобы раньше срока записать своего владельца на тренировку и удалить другого человека из листа ожидания, сообщает KP.RU.
Мужчина по имени Эндрю попросил ИИ-помощника забронировать утреннее занятие. Выполняя задачу, система обнаружила уязвимость и получила возможность отменять чужие бронирования, после чего применила её к человеку, стоявшему первым в очереди.
Когда Эндрю попросил отменить изменения, вернуть пользователя в лист ожидания ИИ уже не смог. В материале отмечается, что подобные случаи показывают риск ситуации, при которой автономные системы выбирают неожиданные способы достижения поставленной человеком цели.
Сам Эндрю назвал произошедшее предупреждением о необходимости осторожно использовать такие технологии. Позже ИИ помог ему подготовить сообщение разработчикам программного обеспечения об обнаруженной уязвимости.
