Perusahaan kartu korporat Brex merilis pendekatan baru dalam mengamankan agen kecerdasan buatan (AI) dengan memantau langsung aktivitas jaringan yang dilakukan sistem tersebut, bukan sekadar menulis aturan sejak awal. CEO sekaligus co-founder Brex, Pedro Franceschi, menyatakan strategi ini lahir dari kebutuhan menahan risiko saat agen AI memegang kredensial penting seperti API key dan token OAuth di lingkungan perusahaan.
Upaya itu diwujudkan melalui platform internal bernama CrabTrap, sebuah proxy HTTP/HTTPS sumber terbuka yang mencegat seluruh lalu lintas jaringan agen. Sistem ini memeriksa aturan kebijakan dan menggunakan model LLM sebagai penengah (LLM-as-a-judge) untuk memutuskan apakah sebuah permintaan boleh dilanjutkan atau diblokir. Franceschi menilai lapisan jaringan selama ini belum dimanfaatkan sebagai titik penegakan keamanan yang efektif.
Kebijakan agen AI di level perusahaan kerap menghadapi jalan buntu. Pembatasan berbasis SDK dan pengamanan model sering tidak cukup untuk mengendalikan apa yang dilakukan agen begitu mereka memiliki akses ke internet terbuka. Setiap kali agen mendapat kemampuan baru, tim teknis harus menyetel ulang API atau menambah proses audit manual.
Menurut Franceschi, pembangun sistem menghadapi ketegangan langsung: semakin mumpuni sebuah agen, semakin berbahaya penggunaannya; namun semakin aman dibuat, semakin tidak berguna. Token API dengan izin terperinci membantu di tepi saja dan tetap bisa disalahgunakan. Sementara pengamanan semantik seperti pengaturan konteks dan steer prompt mudah dilumpuhkan lewat injeksi prompt, terutama bagi agen yang terhubung ke dunia maya.
Pemberian akses read-only memang meredam risiko, tetapi agen kehilangan kemampuan menjalankan tugas berarti. Sebaliknya, akses tulis luas dan ragam alat yang lebar memicu halusinasi model yang berujung pada dampak nyata di produksi. Gateway MCP hanya berlaku untuk protokol tertentu, sedangkan guardrail dari penyedia LLM terikat pada satu model dan sulit dikustomisasi untuk kebutuhan perusahaan.
Brex memilih lapisan transportasi sebagai titik sentral karena posisinya berada di antara setiap agen dan setiap permintaan jaringan. CrabTrap bekerja tanpa bergantung pada framework, bahasa, maupun API tertentu. Cukup dengan mengatur variabel HTTP_PROXY dan HTTPS_PROXY, seluruh permintaan keluar akan melewati proxy sebelum mencapai tujuan.
Pendekatan ini relevan bagi perusahaan Indonesia yang mulai mengadopsi agen AI untuk otomasi bisnis. Banyak startup lokal masih mengandalkan izin berbasis tools dan human-in-the-loop yang menambah beban operasional. CrabTrap menunjukkan bahwa kontrol terpusat di level jaringan bisa mengurangi kerentanan tanpa mengorbankan fungsi agen.
Di sisi lain, model LLM-as-a-judge dalam CrabTrap hanya aktif untuk permintaan di luar pola yang dikenal, biasanya di bawah 3% dari total trafik agen yang sudah matang. Sisanya ditangani aturan statis deterministik sehingga latensi tetap terkendali. Brex membangun policy builder berbasis loop agen yang menjalankan mode shadow, menganalisis riwayat trafik, dan menyusun draf kebijakan dari perilaku asli.
Franceschi menegaskan bahwa kebijakan tidak ditulis dari nol, melainkan dibentuk dari perilaku yang diamati. "Kami memulai dengan perilaku nyata dan menyuntingnya berdasarkan pembelajaran di dunia nyata, yang terbukti jauh lebih efektif daripada mulai dari halaman kosong," ujarnya. Sistem evaluasi membandingkan catatan audit historis dengan draf kebijakan sehingga perubahan bisa diuji sebelum tayang.
Brex menyimpan seluruh jejak audit di PostgreSQL yang bisa diakses lewat API dan dasbor admin. Bila sebuah sumber daya terus ditolak, sistem memperingatkan manusia atau agen untuk mengusulkan pembaruan kebijakan. Hal ini menutup putaran antara penolakan yang terobservasi dan penyempurnaan aturan.
Ke depan, tata kelola agen AI diproyeksikan bergeser dari pengamanan di level kode ke arah plane kontrol jaringan terpusat yang belajar dari perilaku sesungguhnya. Brex tidak menutup kemungkinan perluasan CrabTrap ke luar perusahaan mengingat statusnya sebagai perangkat sumber terbuka. Komunitas pengembang global, termasuk di Indonesia, dapat menyesuaikan alat ini dengan kebijakan keamanan lokal.
Latensi sempat dikhawatirkan menjadi penghalang karena LLM ditempatkan di antara agen dan API. Kenyataannya, karena judge hanya menyala untuk 3% permintaan dan agen cepat stabil, beban tidak signifikan. Replay ribuan permintaan selesai dalam menit, bukan jam, berkat pemanggilan judge konkuren. Keamanan berlapis tetap menjadi prinsip Brex, dengan transport layer sebagai tambahan di atas proteksi yang sudah ada.
Bagi Indonesia, tren ini mendorong diskusi soal standar keamanan agen AI di sektor keuangan dan layanan publik. Kementerian dan perbankan yang menguji copilot AI perlu mempertimbangkan kontrol jaringan sebagai bagian dari tata kelola. Tanpa itu, adopsi agen berbasis kredensial sensitif berisiko lepas kendali meski sudah dilengkapi guardrail konvensional.