Penggunaan agen kecerdasan buatan (AI) di lingkungan perusahaan kini menghadapi tantangan fundamental terkait interoperabilitas, tata kelola keamanan, dan transparansi audit. Meskipun teknologi agen AI menjanjikan otomatisasi alur kerja yang masif, infrastruktur pendukung untuk menghubungkan berbagai sistem agen tersebut masih dalam tahap pengembangan awal. Lima startup inovatif kini muncul untuk mengisi kesenjangan ini guna memastikan agen AI dapat berkomunikasi, bekerja dengan izin yang aman, serta dapat dipertanggungjawabkan ketika terjadi kesalahan.
Salah satu hambatan utama yang diidentifikasi adalah isolasi digital antar agen. Vlad Luzin, CTO dan co-founder BAND, menyebutkan bahwa agen saat ini sering kali terjebak dalam ruang kerja yang terisolasi. Platform komunikasi seperti Slack atau Discord tidak didesain untuk kebutuhan agen, melainkan untuk interaksi manusia. Hal ini menciptakan friksi operasional yang signifikan ketika sebuah agen harus mendelegasikan tugas kepada rekan AI lainnya. BAND hadir dengan solusi berupa lapisan infrastruktur koordinasi yang memungkinkan agen untuk saling mengenali, berkolaborasi, dan berbagi hasil kerja secara real-time.
Di sisi keamanan, ancaman siber kini bergerak dengan kecepatan mesin, sementara sistem pertahanan perusahaan masih tertahan pada kecepatan manual manusia. Tom Findling dari Conifers menyoroti bahwa pelaku kejahatan siber telah memanfaatkan agen AI untuk mempercepat serangan, mengubah durasi kampanye dari hitungan bulan menjadi hanya hitungan menit. Conifers menjawab tantangan ini dengan mengintegrasikan berbagai elemen pertahanan—seperti intelijen ancaman, deteksi, dan investigasi—ke dalam sistem yang bersifat agentic. Hasilnya, waktu penanganan insiden yang tadinya memakan waktu tujuh jam dapat dipangkas secara drastis menjadi kurang dari 12 menit.
Masalah transparansi audit juga menjadi perhatian serius bagi perusahaan yang mengadopsi teknologi ini. Ben Hylak, CTO Raindrop AI, menekankan bahwa kompleksitas agen yang beroperasi selama berjam-jam atau berhari-hari meningkatkan risiko kegagalan sistem yang fatal. Raindrop AI menyediakan platform untuk mengidentifikasi masalah kritis dalam proses produksi melalui simulasi perbaikan sebelum diterapkan secara langsung. Pendekatan ini memungkinkan tim untuk melakukan uji A/B secara live, memastikan bahwa setiap perubahan pada model AI dapat diverifikasi dengan mudah dan tidak menimbulkan efek samping yang tidak diinginkan.
Sementara itu, aspek otorisasi dan tata kelola menjadi fokus utama Arcade.dev. Sam Partee, co-founder dan CTO Arcade, menjelaskan bahwa agen AI sering kali kesulitan mendapatkan hak akses yang tepat untuk bertindak atas nama pengguna. Melalui runtime agen yang aman, perusahaan dapat memberikan otorisasi yang presisi serta observabilitas yang memungkinkan manusia memantau setiap langkah yang diambil oleh agen. Langkah ini krusial untuk memastikan bahwa setiap tindakan agen dapat diatribusikan dengan jelas dan tetap berada dalam batasan otoritas yang diberikan.
Bagi ekosistem teknologi di Indonesia, perkembangan ini memberikan sinyal penting mengenai transisi dari sekadar penggunaan model bahasa besar (LLM) menuju integrasi sistem agen otonom. Banyak perusahaan besar di Indonesia yang saat ini masih berfokus pada implementasi chatbot dasar kini harus mulai memikirkan arsitektur untuk masa depan yang lebih kompleks. Tantangan yang dihadapi adalah bagaimana mengadopsi teknologi orkestrasi ini tanpa mengorbankan keamanan data yang sensitif, mengingat regulasi perlindungan data pribadi di Indonesia semakin ketat.
Implementasi agen AI di Indonesia juga harus mempertimbangkan infrastruktur jaringan yang ada. Berbeda dengan pasar global yang sudah mulai mengadopsi protokol A2A (Agent-to-Agent) dan MCP (Model Context Protocol), adopsi di tanah air mungkin akan menghadapi tantangan latensi dan integrasi dengan sistem legacy perbankan atau logistik. Namun, kebutuhan akan efisiensi operasional akan mendorong perusahaan lokal untuk mencari solusi yang mampu menghubungkan silo-silo data yang selama ini terpisah.
Ke depan, tren orkestrasi agen akan menjadi standar industri. Perusahaan tidak lagi hanya akan menggunakan satu agen AI, melainkan sekumpulan agen yang berkolaborasi dalam ekosistem yang terkelola. Keberhasilan adopsi teknologi ini akan sangat bergantung pada kemampuan perusahaan untuk membangun sistem yang tidak hanya cerdas dalam mengambil keputusan, tetapi juga transparan dalam proses operasionalnya.
Sebagai langkah selanjutnya, pengembangan standar keamanan untuk AI otonom akan menjadi prioritas bagi pengembang dan regulator di seluruh dunia. Penggunaan audit log yang otomatis, seperti yang dikembangkan oleh Raindrop AI, akan menjadi kebutuhan mutlak bagi sektor yang teregulasi ketat seperti keuangan dan kesehatan. Tanpa adanya lapisan audit dan keamanan yang memadai, risiko dari penggunaan agen AI otonom dapat melampaui manfaat efisiensi yang ditawarkan.
Para pemimpin teknologi di Indonesia perlu mulai mengevaluasi kesiapan infrastruktur internal mereka untuk mendukung arsitektur multi-agen. Fokus tidak lagi hanya pada pemilihan model AI terbaik, melainkan pada bagaimana membangun jembatan antar sistem yang memungkinkan agen AI bekerja secara harmonis, aman, dan dapat diaudit oleh manusia. Inovasi yang dipelopori oleh perusahaan-perusahaan di atas menjadi peta jalan penting bagi transformasi digital perusahaan di Indonesia pada tahun-tahun mendatang.