Pengembangan sistem AI otonom yang mampu melakukan penalaran, pengambilan keputusan, dan eksekusi tugas secara mandiri telah membawa risiko keamanan baru yang tidak bisa diatasi dengan kontrol keamanan aplikasi tradisional. Nutanix menyoroti bahwa ketergantungan pada satu lapisan pertahanan saja tidak cukup untuk menghadapi risiko seperti halusinasi model, kebocoran data sensitif, hingga penyalahgunaan kredensial oleh agen AI.
Oscar Wahlberg, Senior Director of Product Management di Nutanix, menegaskan bahwa perusahaan yang beralih dari fase eksperimen ke produksi harus menerapkan arsitektur keamanan berlapis. Pendekatan ini mencakup tiga pilar utama: infrastruktur, jaringan, dan bidang kontrol (control plane). Setiap lapisan memiliki tanggung jawab spesifik untuk memastikan bahwa agen AI tidak melampaui wewenang yang diberikan.
Lapisan infrastruktur menjadi fondasi utama dengan membangun root of trust. Sebelum memberikan izin eksekusi kepada agen, sistem harus memastikan identitas agen tersebut valid dan beroperasi di lingkungan yang aman. Teknologi seperti platform attestation, confidential computing, dan secure boot wajib diintegrasikan untuk mencegah peretasan pada level perangkat keras.
Sementara itu, lapisan jaringan menangani komunikasi dinamis antar agen. Dalam lingkungan AI otonom, lalu lintas data bersifat sangat cair dan kompleks. Penggunaan aturan statis sudah tidak relevan lagi. Perusahaan perlu menerapkan kebijakan dinamis yang mengatur interaksi setiap agen, memastikan mereka hanya berkomunikasi dengan sumber daya yang diizinkan secara eksplisit.
Nutanix sendiri menjawab tantangan ini melalui Agent Gateway, sebuah solusi yang memusatkan tata kelola agen. Alat ini memungkinkan tim TI untuk memantau, mengaudit, dan membatasi akses agen terhadap model atau data tertentu. Dengan integrasi ke infrastruktur seperti Cisco AI PODs, perusahaan mendapatkan kerangka kerja zero trust yang lebih komprehensif.
Bagi ekosistem teknologi di Indonesia, adopsi AI otonom oleh sektor perbankan dan layanan keuangan mulai meningkat. Namun, tantangan keamanan sering kali menjadi penghambat utama. Banyak organisasi di Indonesia masih terjebak pada pendekatan keamanan parsial yang hanya fokus pada enkripsi atau firewall standar, tanpa mempertimbangkan perilaku otonom agen yang bisa bergerak secara lateral di dalam jaringan.
Penerapan arsitektur defense-in-depth sangat relevan dengan regulasi perlindungan data pribadi (UU PDP) di Indonesia. Perusahaan yang mengoperasikan agen AI harus memastikan bahwa kebocoran data akibat kesalahan logika agen tidak menjadi tanggung jawab hukum yang merugikan. Penggunaan gateway terpusat dapat menjadi mitigasi krusial bagi perusahaan lokal dalam mengontrol token consumption dan akses data sensitif.
Wahlberg menekankan bahwa salah satu kesalahan terbesar perusahaan adalah menganggap satu model keamanan bisa diterapkan di seluruh lapisan AI. Tanpa pemisahan tanggung jawab yang jelas, sistem akan rentan terhadap serangan yang memanfaatkan celah antara kebijakan infrastruktur dan eksekusi aplikasi. Governance harus diperlakukan sebagai sistem kontrol runtime, bukan sekadar pemenuhan kepatuhan di akhir.
Ke depan, tren keamanan AI akan bergeser dari sekadar proteksi statis menuju tata kelola berbasis perilaku. Agen AI akan semakin sering berinteraksi dengan API pihak ketiga dan sumber data eksternal, sehingga visibilitas real-time menjadi harga mati. Perusahaan yang gagal membangun kontrol pusat akan kesulitan mengelola risiko runaway agents yang dapat menguras sumber daya komputasi secara sia-sia.
Langkah selanjutnya bagi perusahaan adalah mengintegrasikan keamanan ke dalam siklus hidup pengembangan AI sejak awal. Mengadopsi kerangka kerja yang memisahkan akses infrastruktur dari logika bisnis agen akan menjadi standar industri baru. Keamanan AI bukan lagi sekadar pelengkap, melainkan komponen inti yang menentukan keberlangsungan operasional bisnis berbasis kecerdasan buatan di masa depan.