Tiga perusahaan teknologi global, LinkedIn, Walmart, dan Zendesk, menyimpulkan bahwa penghambat terbesar saat menerapkan agen kecerdasan buatan bukanlah kualitas model, melainkan infrastruktur warisan yang tak dirancang untuk kecepatan mesin. Kesimpulan tersebut muncul dalam ajang VB Transform 2026, di mana para pemimpin infrastruktur memaparkan temuan dari pengalaman masing-masing saat mengubah agen AI dari tahap uji coba ke produksi nyata.
Animesh Singh dari LinkedIn, Desiree Gosby dari Walmart, dan Sami Ghoche dari Zendesk sepakat bahwa mayoritas sistem perusahaan dibangun berdasarkan cara kerja manusia, bukan agen otomatis yang berpikir dalam hitungan milidetik. Kesenjangan kecepatan itulah yang memaksa tim teknis mereka merancang ulang fondasi operasional agar agen bisa berjalan tanpa hambatan.
Masalah ini mencuat karena adopsi agen AI meluas pesat di kalangan korporasi. Saat perusahaan mulai menyerahkan tugas nyata kepada agen, sistem lama yang selama ini memadai bagi karyawan manusia tiba-tiba menunjukkan batasnya. Gosby menegaskan bahwa tujuan utamanya adalah mencegah divisi teknik kembali menjadi penghambat inovasi.
Di LinkedIn, hambatan pertama muncul dari Kubernetes yang mengasumsikan kontainer aktif saat dibutuhkan, proses yang memakan waktu beberapa detik. Singh menganggap waktu itu terlalu lambat untuk agen. Solusinya adalah menyediakan kumpulan kontainer yang sudah disiapkan sebelumnya agar beban kerja agen bisa berganti secara langsung.
Masalah lebih rumit muncul saat LinkedIn mengizinkan agen mengatur sendiri alurnya. Sistem evaluasi berlima poin gagal mencegah halusinasi karena model bahasa yang menilai keluaran model lain memiliki kelemahan serupa. LinkedIn lantas membangun kerangka kendali sendiri dan membatasi model hanya di bagian yang butuh penalaran, sementara 80 persen alur kerja dijalankan dengan kode deterministik.
Walmart justru menghadapi hambatan akibat kesuksesan internal. Alat pembuat agen yang diberikan ke tangan karyawan menjadi viral, memicu lahirnya puluhan agen tumpang tindih tanpa koordinasi. Gosby menyebut para pembuat agen tak resmi ini sebagai citizen developers. Perbaikan yang dilakukan bukan dengan membatasi alat, melainkan menambah tata kelola untuk mendeteksi duplikasi dan mempromosikan versi terbaik.
Zendesk menemui kendala dari sisi data. Perusahaan itu memiliki 20 miliar percakapan pelanggan di repositorinya. Ghoche mengatakan memberikan seluruh arsip itu ke model berjendela konteks besar tidak menyelesaikan masalah. Mereka terpaksa membangun pipa data dan infrastruktur pendukung secara mendalam agar agen bisa bekerja efektif.
Bagi industri di Indonesia, temuan ini relevan karena banyak perusahaan lokal masih mengandalkan sistem inti warisan, mulai dari ERP hingga basis data lama, yang belum siap dipacu oleh agen AI. Startup pendatang baru memang lebih lincah, namun perusahaan menengah cenderung terjebak biaya migrasi yang tinggi. Tanpa penyesuaian infrastruktur, ambisi otomatisasi berbasis AI berisiko mandek di tahap percontohan.
Pos Indonesia, perbankan konvensional, hingga instansi layanan publik memiliki pola serupa. Mereka memiliki data melimpah, namun pipa pengolahan belum memadai untuk kebutuhan agen. Bila tren global diabaikan, daya saing sektor layanan domestik bisa tertinggal saat pesaing regional mulai menjalankan operasi otomatis berkecepatan tinggi.
Pada bagian sumber terbuka, ketiga eksekutif memilih strategi serupa: memiliki sistem sendiri di area yang memungkinkan, dan memakai laboratorium model mutakhir hanya untuk kebutuhan penalaran tingkat tinggi. Singh menjelaskan LinkedIn membangun gerbang AI tunggal dan subsistem memori independen agar bisa mengganti penyedia model dengan cepat. Walmart memiliki gerbang internal untuk tiga jenis beban kerja, termasuk alur deterministik untuk kepatuhan.
“Kami membangun gerbang sendiri, antarmuka tunggal untuk setiap panggilan keluar ke model, baik di awan publik maupun pusat data kami,” kata Singh. Gosby menambahkan pemilihan model terbuka atau tertutup bergantung pada efektivitas beban kerja, bukan kebijakan tetap. Ghoche menilai porsi kasus yang butuh laboratorium frontier menyusut seiring berkembangnya kebutuhan AI perusahaan.
Ke depan, saran para pemimpin tersebut layak dijadikan rujukan. Ghoche menekankan investasi evaluasi sejak awal agar masalah terpecah dan pengembangan lebih cepat. Gosby menyarankan memberi alat agen ke karyawan sejak hari pertama dengan pemantauan memadai. Singh mengingatkan untuk merancang sistem agar lepas dari ikatan model tertentu.
Tren pemisahan infrastruktur dari model akan makin kuat pada dua tahun mendatang. Perusahaan yang membangun gerbang dan memori independen bakal lebih mudah berpindah antarmodel seiring harga dan kualitas berubah. Di Indonesia, kesadaran ini perlu masuk ke perencanaan teknologi agar investasi AI tidak sia-sia.