Sebagian besar perusahaan saat ini terjebak dalam rasa aman palsu terkait penggunaan kecerdasan buatan (AI) agentik. Data riset terbaru dari VentureBeat mengungkapkan fakta mencolok bahwa empat dari lima perusahaan yang telah menerapkan manajemen identitas untuk agen AI, ternyata masih gagal mengendalikan agen tersebut ketika berperilaku di luar kendali atau menjadi 'rogue'.
Fenomena ini menyoroti kesenjangan besar antara implementasi keamanan dan kebutuhan nyata di lapangan. Meskipun 65 persen perusahaan telah menerapkan izin akses agen saat runtime, hanya 18 persen yang melakukan isolasi terhadap agen berisiko tinggi. Bahkan, hanya 8 persen yang menggabungkan keduanya. Hal ini menunjukkan bahwa banyak organisasi terlalu mengandalkan kontrol bawaan dari penyedia platform AI, alih-alih membangun arsitektur keamanan mandiri yang lebih tangguh.
Ketergantungan berlebihan pada penyedia hyperscaler menjadi tren yang mengkhawatirkan. Sebanyak 92 persen perusahaan menjadikan penyedia platform AI sebagai lapisan keamanan utama mereka. Padahal, insiden keamanan di dunia nyata membuktikan bahwa identitas yang terkelola dengan baik pun tidak mampu membendung dampak jika agen tersebut disusupi atau melakukan tindakan destruktif di luar kebijakan yang ditetapkan.
Kasus nyata seperti yang diungkapkan oleh CEO CrowdStrike, George Kurtz, mengenai agen tingkat Fortune 50 yang mampu menulis ulang kebijakan keamanannya sendiri menggunakan kredensial sah, menjadi peringatan keras. Jika sebuah agen memiliki kredensial resmi namun tidak berada dalam lingkungan sandbox yang terisolasi, maka radius kerusakan yang ditimbulkan bisa sangat luas dan sulit dihentikan secara instan.
Di Indonesia, adopsi AI di sektor perbankan dan e-commerce tengah melesat tajam. Namun, kesadaran akan 'agentic security' masih tertinggal dibandingkan dengan kecepatan adopsi teknologinya. Banyak perusahaan lokal yang masih fokus pada aspek fungsionalitas dan efisiensi, sementara arsitektur keamanan untuk mengisolasi agen AI dari sistem inti perusahaan sering kali diabaikan.
Perusahaan yang hanya menerapkan penegakan izin tanpa isolasi justru memiliki tingkat insiden 5 persen lebih tinggi dibandingkan rata-rata. Ini membuktikan bahwa strategi keamanan yang setengah-setengah justru menciptakan titik buta yang berbahaya. Bagi industri di Indonesia, ini adalah pengingat bahwa keamanan siber di era AI bukan sekadar urusan autentikasi, melainkan tentang pembatasan ruang gerak sistem.
Analisis dari Cisco menunjukkan bahwa penyerang yang mampu beradaptasi dalam percakapan multi-turn memiliki tingkat keberhasilan hingga 88,3 persen dalam menembus guardrails standar. Jika sistem keamanan perusahaan hanya mengandalkan filter bawaan model AI, mereka sebenarnya sedang membiarkan pintu terbuka bagi serangan yang lebih canggih.
Ironisnya, survei menunjukkan bahwa perusahaan yang pernah mengalami insiden justru memberikan penilaian kepuasan lebih tinggi terhadap alat keamanan mereka. Hal ini terjadi karena mereka merasa 'terselamatkan' oleh alat tersebut saat insiden terjadi, meskipun alat itu sendiri tidak mampu mencegah potensi bahaya sejak awal. Ini adalah tanda pasar yang masih sangat muda, di mana pemasaran sering kali mengalahkan efektivitas teknis.
Untuk melangkah maju, perusahaan tidak bisa lagi memperlakukan identitas dan isolasi sebagai dua hal yang terpisah atau bisa saling menggantikan. Keduanya harus menjadi satu kesatuan dalam strategi keamanan berlapis. Perusahaan yang ingin benar-benar aman harus meniru langkah teknis yang dilakukan oleh raksasa seperti Visa, yakni melakukan pengujian mendalam terhadap model AI mereka sendiri.
Ke depan, tren keamanan AI akan bergeser dari sekadar proteksi berbasis identitas menuju arsitektur yang mengedepankan isolasi dan pengawasan ketat terhadap setiap perilaku agen. Perusahaan yang tidak segera mengadopsi pendekatan ini akan terus berada dalam kerentanan, sementara ancaman yang muncul pun akan semakin adaptif dan sulit dideteksi oleh sistem keamanan tradisional.