Новая атака с внедрением данных агента может заставить ИИ-агентов неправильно щелкать мышью или выполнять команды злоумышленника

Попросите агента искусственного интеллекта обобщить отзывы на странице продукта, и один-единственный отзыв может заставить его нажать «Купить сейчас». Попросите помощника по программированию применить исправление специалиста по сопровождению из ветки GitHub, и поддельный комментарий может заставить его запустить на вашем компьютере чужую команду. Ни один из трюков не отвлекает от выполнения задачи агента.

Каждый из них просто искажает факты, которым он доверяет, и позволяет ему продолжать работу, которую вы выполняете.