Cosine: Seien Sie wachsam gegenüber Vergiftungsangriffen mit KI-Tools

BlockBeats News, 29. Dezember. SlowMist-Gründer Tang Chao hat eine Sicherheitswarnung herausgegeben und die Nutzer daran erinnert, bei der Verwendung von KI-Tools wachsam gegenüber Vergiftungsangriffen zu sein, die Auslösewörter wie agents md/skills md/mcp verwenden, da entsprechende Vorfälle bereits aufgetreten sind.

Sobald der gefährliche Modus des KI-Tools aktiviert ist, kann das Tool den Computer des Nutzers vollständig automatisch steuern, ohne jegliche Bestätigung. Ist der gefährliche Modus jedoch nicht aktiviert, erfordert jeder Vorgang eine Bestätigung durch den Nutzer, was die Effizienz der Nutzung beeinträchtigt.