Coseno: occorre prestare attenzione agli attacchi di avvelenamento dei prompt quando si utilizzano strumenti di intelligenza artificiale

BlockBeats notizia, 29 dicembre, il fondatore di SlowMist, Cosine, ha pubblicato un avviso di sicurezza: quando si utilizzano strumenti di intelligenza artificiale, gli utenti devono prestare particolare attenzione agli attacchi di avvelenamento dei prompt nelle sezioni agents md/skills md/mcp, poiché sono già stati segnalati casi correlati.

Una volta attivata la modalità pericolosa degli strumenti di intelligenza artificiale, questi strumenti possono controllare automaticamente il computer dell'utente senza alcuna conferma. Tuttavia, se la modalità pericolosa non è attivata, ogni operazione richiede la conferma dell'utente, il che può influire sull'efficienza dell'utilizzo.