Yu Xian : Soyez vigilant face aux infobulles et aux attaques par empoisonnement lors de l’utilisation d’outils d’IA.

Le fondateur de SlowMist, Yu Xian, a émis une alerte de sécurité. Lors de l'utilisation d'outils d'IA, les utilisateurs doivent rester vigilants face aux attaques par injection de prompt dans agentsmd/skillsmd/mcp et d'autres emplacements. Des cas similaires ont déjà été signalés. Une fois le mode dangereux des outils d'IA activé, ces outils peuvent contrôler entièrement l'ordinateur de l'utilisateur de manière automatique, sans aucune confirmation. Cependant, si le mode dangereux n'est pas activé, chaque opération nécessite une confirmation de l'utilisateur, ce qui peut également affecter l'efficacité d'utilisation.