Perusahaan-perusahaan besar di seluruh dunia telah men-deploy agen kecerdasan buatan (AI agent) secara masif, namun lapisan pengendalian yang diperlukan untuk mengelola sistem otonom tersebut justru tertinggal jauh di belakang. Temuan ini muncul dari lima survei paralel yang dilakukan VentureBeat Research sepanjang Juni 2026, melibatkan 573 responden dari organisasi dengan minimal 100 karyawan. Setiap survei mengukur salah satu dari lima kontrol fundamental: identitas, evaluasi, telemetri biaya, lapisan konteks, dan orkestrasi.
Data menunjukkan kesenjangan drastis antara kecepatan adopsi dan kematangan tata kelola. Sebanyak 57 hingga 68 persen perusahaan di setiap lapisan kontrol berencana mengganti atau menambah vendor dalam satu tahun ke depan, dan sekitar sepertiganya ingin bergerak dalam kuartal ini. Angka-angka ini mencerminkan kesadaran tiba-tiba bahwa fondasi keamanan dan keandalan tidak dibangun sebelum agent dilepaskan ke lingkungan produksi.
Latar belakang fenomena ini adalah tekanan kompetitif yang mendorong tim teknologi melompat ke tren agentic AI tanpa menunggu standar keamanan matang. Platform-platform AI besar seperti Microsoft, Google, dan Amazon menawarkan alat bawaan yang memudahkan eksperimen cepat, namun alat-alat default itu justru menciptakan ilusi kesiapan. Banyak perusahaan mengira sudah memiliki "agent" sebenarnya, padahal mayoritas hanyalah chatbot dengan label baru.
Survei Orkestrasi Agentik mengungkap 71 persen perusahaan menyatakan seperempat atau kurang dari agent yang dideploy mampu menyelesaikan pekerjaan multi-langkah secara mandiri. Hanya 10 persen yang mengatakan agent otonom benar menjadi mayoritas sistem yang dijalankan. Artinya, sebagian besar organisasi membangun tata kelola untuk sistem yang belum sepenuhnya ada, atau sebaliknya — menjalankan agent otonom tanpa kontrol yang memadai.
Bahaya nyata muncul saat otonomi melebihi kepercayaan pada sistem evaluasi. Dua pertiga responden mengizinkan atau merencanakan agent mendorong perubahan kode ke produksi berdasarkan hasil evaluasi otomatis saja, tanpa tinjauan manusia. Namun hanya 5 persen yang sepenuhnya mempercaya evaluasi tersebut. Setengah dari perusahaan pernah mengalami kegagalan yang menimpa pelanggan setelah agent lolos evaluasi internal. Kesenjangan ini menuntut pengujian evaluasi terhadap hasil produksi aktual, bukan hanya benchmark internal.
Sisi keamanan tidak less mengkhawatirkan. Sebanyak 69 persen perusahaan mengizinkan agent berbagi kredensial — beberapa agent beroperasi di bawah satu kunci API atau akun layanan. Organisasi yang menerapkan berbagi kredensial mengalami insiden keamanan atau near-miss sebesar 63,5 persen, dibanding 40,9 persen pada perusahaan yang menerapkan identitas terisolasi (scoped identity) untuk setiap agent. Perbaikan dimulai dari agent yang menyentuh sistem produksi.
Inefisiensi infrastruktur menambah beban finansial. Lebih dari delapan puluh persen perusahaan yang mengelola GPU sendiri melaporkan utilisasi 50 persen atau lebih rendah. Hanya 44 persen yang secara ketat melacak biaya dan pengembalian komputasi AI. Fokus investasi seharusnya bukan membeli GPU baru, melainkan mengoptimalkan utilisasi dan memahami biaya per beban kerja pada infrastruktur yang sudah ada.
Masalah konteks bisnis menjadi penyebab kegagalan yang tersembunyi namun merusak. Lima puluh tujuh persen perusahaan pernah menelusuri jawaban percaya diri tapi salah dari agent ke definisi bisnis yang hilang, usang, atau inkonsisten — metrik salah, dokumen tidak ada, definisi entitas ambigu. Sebagian besar mengalami hal ini berulang kali. Mengatur definisi yang dijadikan acuan agent — metrik dan entitas terlebih dahulu — harus mendahului penskalaan agent yang bergantung padanya.
Tidak ada lapisan yang memiliki pemain dominan yang sudah mapan. Default saat ini adalah alat bawaan dari platform AI besar yang sudah digunakan perusahaan. Niat berganti vendor tertinggi ada di lapisan orkestrasi, di mana 68 persen berencana adoptasi, penambahan, atau penggantian platform dalam 12 bulan, dan 34 persen dalam kuartal ini. Arah aliran dana — ke alat bawaan platform atau ke spesialis yang menantang — akan menentukan dinamika pasar empat kuartal ke depan.
Di Indonesia, fenomena ini relevan seiring percepatan adopsi AI generatif di perusahaan-perusahaan besar, bank, dan startup unicorn. Banyak organisasi lokal mengadopsi Microsoft Copilot, Google Vertex AI, atau Amazon Bedrock sebagai titik masuk, lalu membangun agent kustom di atasnya. Risiko yang sama menghadang: tim keamanan (SecOps) dan tata kelola data (data governance) sering tidak terlibat sejak awal. Regulasi PDP (Perlindungan Data Pribadi) menambah urgensi untuk identitas terisolasi dan audit trail yang ketat.
Beberapa vendor lokal seperti Nodeflux, Kata.ai, dan Bukalapak (melalui BukaAI) mulai menawarkan lapisan orkestrasi dan evaluasi yang disesuaikan konteks regulasi dan bahasa Indonesia. Namun pasar masih didominasi pendekatan "build in-house" yang rentan celah keamanan. Perusahaan Indonesia perlu belajar dari pola global: jangan biarkan kecepatan eksperimen mengalahkan fondasi kepercayaan. Investasi pada lapisan evaluasi, identitas, dan konteks bisnis bukan biaya tambahan — melainkan prasyarat agar agent benar-benar menghasilkan nilai, bukan risiko.