Sebuah ancaman keamanan siber baru menyasar ekosistem kecerdasan buatan (AI) setelah ditemukan sebuah skill agen AI berbahaya yang berhasil melewati pemindaian keamanan standar. Serangan ini dilaporkan telah menjangkau sekitar 26.000 pengguna, menyoroti kerentanan serius dalam cara platform mengelola dan memverifikasi ekstensi AI yang beredar di pasar terbuka.
Para penyerang diketahui menggunakan taktik manipulasi yang cerdik untuk membangun kredibilitas. Mereka melakukan pull request ke marketplace open-source populer guna mewarisi jumlah bintang (star) yang tinggi di GitHub. Taktik ini memberikan kesan palsu bahwa skill tersebut terpercaya dan telah diakui oleh komunitas pengembang, sehingga mempermudah proses adopsi oleh pengguna yang kurang waspada.
Setelah skill tersebut berhasil diinstal secara luas, pelaku melakukan perubahan konten pada tautan dokumentasi eksternal yang dirujuk oleh agen tersebut. Tautan yang awalnya terlihat aman kemudian digantikan dengan skrip berbahaya yang mampu mengambil alih kendali agen AI secara penuh dari jarak jauh.
Teknik ini mengungkap celah fatal dalam sistem keamanan saat ini, di mana alat pemindaian sering kali hanya memeriksa kode statis dan tidak mampu memantau konten dinamis yang diakses agen saat runtime. Agen AI yang menjalankan instruksi dari sumber eksternal tanpa verifikasi ketat menjadi pintu masuk utama bagi eksploitasi ini.
Para ahli keamanan siber kini mendesak administrator sistem untuk mengubah paradigma dalam memperlakukan skill agen AI. Ekstensi tersebut tidak boleh lagi dianggap sebagai teks atau instruksi sederhana, melainkan sebagai perangkat lunak eksekusi yang memerlukan protokol keamanan ketat, termasuk penerapan version pinning untuk mencegah perubahan kode yang tidak sah.
Langkah mitigasi lainnya mencakup pemeriksaan mendalam terhadap sumber daya eksternal yang dirujuk oleh sebuah skill dan pembentukan repositori terpusat yang telah disetujui perusahaan. Bergantung pada sinyal kepercayaan statis seperti jumlah bintang di repositori atau pemindaian satu kali terbukti tidak lagi cukup untuk melindungi lingkungan korporat dari ancaman agen AI yang semakin canggih dan terus berkembang.