Para praktisi keamanan siber kini menghadapi tantangan besar dalam melindungi sistem berbasis Large Language Model (LLM). Meskipun Prompt Injection menduduki peringkat pertama dalam daftar ancaman keamanan OWASP Top 10 untuk aplikasi LLM selama tiga tahun berturut-turut, data insiden dunia nyata justru menempatkan serangan ini di posisi ke-12. Ketimpangan data ini bukan berarti ancaman tersebut berkurang, melainkan menunjukkan keterbatasan alat deteksi konvensional dalam mengenali pola serangan yang terselubung.
Kyriakos Lambros dan Steve Wilson, dua tokoh kunci di balik proyek OWASP, menyoroti bahwa celah ini bersifat struktural. Berbeda dengan kerentanan perangkat lunak tradisional yang meninggalkan jejak atau CVE (Common Vulnerabilities and Exposures), Prompt Injection bekerja dengan cara menyisipkan instruksi berbahaya ke dalam konten yang diproses model, seperti tiket dukungan atau log sistem. Karena tindakan tersebut dilakukan menggunakan kredensial yang sah dan tidak melibatkan cacat produk, pemindai keamanan otomatis sering kali gagal mendeteksinya.
Analisis yang mereka publikasikan melalui arXiv memeriksa 7.714 insiden keamanan LLM dari berbagai basis data global. Hasilnya menunjukkan adanya ketidaksesuaian tajam antara penilaian para ahli dengan catatan insiden publik. Model statistik yang mereka gunakan menunjukkan bahwa kedua peringkat tersebut hampir tidak memiliki korelasi, yang mengindikasikan bahwa data insiden masa lalu tidak selalu mencerminkan risiko yang paling berbahaya bagi sistem masa depan.
Bagi industri teknologi, temuan ini menjadi alarm keras. Selama ini, banyak Chief Information Security Officer (CISO) yang memprioritaskan keamanan berdasarkan jumlah CVE. Jika metrik ini digunakan sebagai acuan utama, perusahaan berisiko mengabaikan ancaman yang sebenarnya paling sering terjadi. Mengandalkan pemindai kerentanan untuk menangkap Prompt Injection ibarat mencari jarum dalam tumpukan jerami dengan mata tertutup, karena serangan ini beroperasi pada level logika, bukan pada level kode yang rusak.
Wilson menyarankan perubahan paradigma dalam pertahanan sistem AI. Ia mengusulkan penerapan gerbang otorisasi (authorization gate) di luar model. Artinya, meskipun agen AI dapat mengusulkan perubahan teknis, mereka tidak boleh memiliki otoritas mandiri untuk mengeksekusinya. Dengan membatasi kemampuan agen untuk melakukan perubahan infrastruktur secara otonom, risiko dampak dari Prompt Injection dapat ditekan secara signifikan tanpa harus menghilangkan fungsi utama AI tersebut.
Di Indonesia, adopsi teknologi berbasis AI sedang meningkat pesat di berbagai sektor, mulai dari perbankan hingga layanan pelanggan digital. Banyak perusahaan lokal mulai mengintegrasikan LLM untuk mengotomatisasi alur kerja internal. Namun, pemahaman mengenai keamanan khusus untuk AI masih tertinggal dibandingkan dengan standar keamanan siber umum. Jika perusahaan di Indonesia hanya mengandalkan tools keamanan tradisional tanpa melakukan pengujian adversarial, mereka berpotensi menjadi sasaran empuk serangan yang tak terdeteksi oleh radar standar.
Kasus di Indonesia sering kali luput dari laporan global karena kurangnya transparansi pelaporan insiden AI. Banyak organisasi mungkin telah mengalami gangguan serupa namun tidak menyadarinya karena sistem mereka tidak dirancang untuk membedakan antara instruksi pengguna yang sah dengan perintah injeksi yang berbahaya. Kesadaran untuk membangun sistem dengan asumsi bahwa serangan akan terjadi merupakan langkah krusial yang harus segera diadopsi oleh tim TI lokal.
Lambros menekankan bahwa kita tidak bisa berharap untuk menghilangkan Prompt Injection sepenuhnya. Serangan ini ibarat hukum fisika dalam sistem LLM karena model dipaksa untuk menafsirkan instruksi terpercaya dan konten tidak terpercaya dalam satu waktu. Pertahanan yang efektif bukanlah mencoba menyaring setiap input secara sempurna, melainkan membatasi apa yang bisa dicapai oleh penyerang jika mereka berhasil menyusup.
Tren ke depan menunjukkan bahwa keamanan AI akan bergeser dari sekadar deteksi kode menjadi tata kelola arsitektur. Pengembang perlu memprioritaskan batasan alat (tool boundaries) dan memori agen sejak tahap desain. Menunggu volume laporan insiden meningkat sebelum bertindak adalah strategi yang lamban, karena saat laporan muncul, sistem sudah dalam kondisi tereksploitasi.
Sebagai kesimpulan, ketimpangan antara daftar OWASP dan data insiden nyata membuktikan bahwa keamanan AI memerlukan pendekatan baru yang lebih proaktif. Industri harus berhenti memandang keamanan AI hanya sebagai masalah bug software. Sebaliknya, ini adalah tantangan dalam mengendalikan perilaku agen otonom. Bagi organisasi yang ingin tetap aman, investasi pada arsitektur pertahanan yang membatasi otoritas model adalah investasi paling berharga saat ini untuk menghadapi ancaman yang tak terlihat oleh scanner konvensional.