Yuxian: É preciso ter cautela com ataques de envenenamento de prompts ao usar ferramentas de IA

BlockBeats notícia, em 29 de dezembro, o fundador da SlowMist, Cosine, emitiu um alerta de segurança, ressaltando que os usuários devem estar atentos a ataques de envenenamento de prompts em ferramentas de IA, especialmente em agents md/skills md/mcp, pois já existem casos relacionados.

Uma vez ativado o modo perigoso das ferramentas de IA, essas ferramentas podem controlar automaticamente o computador do usuário sem qualquer confirmação. No entanto, se o modo perigoso não estiver ativado, cada operação exigirá confirmação do usuário, o que pode afetar a eficiência do uso.