Dunia keamanan siber kembali dikejutkan oleh temuan teknik baru yang digunakan oleh para pelaku ancaman untuk menyusupkan perangkat lunak berbahaya ke dalam repositori open-source populer seperti npm dan PyPI. Para penyerang kini memanfaatkan teknik prompt injection yang dirancang khusus untuk mengecoh sistem pemindai keamanan berbasis kecerdasan buatan (AI). Dengan metode ini, malware yang seharusnya terdeteksi justru berhasil lolos dari pengawasan otomatis.
Dalam aksinya, file berbahaya tersebut sering kali memuat referensi eksplisit mengenai senjata kimia atau biologis. Selain itu, penyerang menyertakan puluhan ribu baris kode berulang yang bertujuan untuk membanjiri serta menghabiskan kapasitas context window pada model AI. Akibatnya, model AI mengalami kebingungan atau memilih untuk menghentikan proses analisis demi alasan keamanan, sehingga kode berbahaya yang tersembunyi di balik JavaScript yang telah diobfuskasi tidak terpindai.
Strategi ini mengeksploitasi apa yang disebut sebagai blindspot tingkat kedua. Banyak alat keamanan modern yang terlalu berfokus pada penyelarasan keamanan AI (AI safety alignment), namun lupa memperlakukan konten file sebagai data yang tidak terpercaya. Ketika sistem AI memicu peringatan keamanan palsu akibat konten yang tidak relevan, malware yang sebenarnya justru tetap aman dan tidak terdeteksi oleh sistem.
Menariknya, metode keamanan tradisional terbukti tetap tangguh menghadapi serangan ini. Aturan YARA, analisis statis, dan sistem sandboxing perilaku masih dianggap efektif karena teknik-teknik tersebut mengabaikan komentar atau teks panjang, melainkan berfokus penuh pada logika eksekusi kode. Hal ini membuktikan bahwa ketergantungan penuh pada AI dalam alur kerja keamanan siber bukanlah solusi yang komprehensif.
Para pakar keamanan merekomendasikan tim pengembang dan administrator TI untuk melakukan pembersihan komentar atau teks yang tidak perlu sebelum mengirimkan kode ke model bahasa besar (LLM). Selain itu, sangat krusial untuk memastikan bahwa AI tidak dijadikan satu-satunya gerbang keamanan dalam pipeline deteksi. Penggunaan sistem keamanan berlapis tetap menjadi standar emas dalam melindungi integritas perangkat lunak.
Sebagai langkah mitigasi tambahan, perusahaan disarankan untuk menerapkan kebijakan fail-closed. Artinya, apabila pemindai AI mengalami timeout atau menolak memproses file karena alasan tertentu, sistem harus secara otomatis menandai file tersebut untuk tinjauan manual oleh analis manusia. Pendekatan ini memastikan bahwa potensi ancaman yang lolos dari deteksi otomatis dapat diidentifikasi sebelum menyebabkan kerusakan yang lebih luas.