Yu Xian: Waspadai serangan tooltip dan poisoning saat menggunakan alat AI.

Pendiri SlowMist, Yu Xian, mengeluarkan peringatan keamanan. Saat menggunakan alat AI, pengguna harus waspada terhadap serangan prompt injection di agentsmd/skillsmd/mcp dan tempat lainnya. Kasus terkait sudah pernah terjadi. Setelah mode berbahaya pada alat AI diaktifkan, alat terkait dapat sepenuhnya mengendalikan komputer pengguna secara otomatis tanpa konfirmasi apa pun. Namun, jika mode berbahaya tidak diaktifkan, setiap operasi memerlukan konfirmasi dari pengguna, yang juga akan memengaruhi efisiensi penggunaan.