Teknologi

Kedaulatan AI Perusahaan Butuh Kendali Penuh atas Tumpukan Agen

Ringkasan

  • VP Cohere Rachad Alao di Menlo Park pekan ini menekankan kedaulatan AI perusahaan menuntut kendali penuh atas seluruh tumpukan agen, bukan sekadar model tertutup.

Rachad Alao, Wakil Presiden Rekayasa Produk di startup AI perusahaan asal Kanada, Cohere, menegaskan bahwa kedaulatan kecerdasan buatan bagi organisasi tidak cukup hanya dengan memakai model terbuka atau menempatkan aplikasi di balik tembok api korporasi. Pernyataan tersebut disampaikan dalam sesi wawancara santai bersama CEO VentureBeat Matt Marshall di konferensi VB Transform 2026, yang berlangsung pekan ini di Hotel Nia, Menlo Park, Amerika Serikat.

Alao menjabarkan bahwa lembaga dengan sistem misi-kritis seperti perbankan, rumah sakit, dan pemerintahan membutuhkan kontrol ketat atas lokasi data serta proses AI itu sendiri. Operasi kecerdasan buatan, menurut dia, harus berjalan di yurisdiksi yang dipahami atau dikendalikan langsung oleh organisasi bersangkutan.

Pandangan tersebut muncul di tengah pesatnya adopsi agen generatif yang mulai menggantikan chatbot sederhana di lingkungan korporasi. Perusahaan besar mencari cara menjalankan beban kerja AI tanpa kehilangan kendali infrastruktur maupun kebebasan berganti penyedia layanan. Isu ini kian mendesak seiring meningkatnya regulasi data di berbagai negara.

Cohere menawarkan definisi kedaulatan AI yang mencakup tumpukan teknologi secara menyeluruh. Mulai dari unit pemrosesan grafis (GPU) dan infrastruktur awan privat, sistem tata kelola yang merutekan permintaan antarmodel, hingga konektor, alat pencarian, dan kerangka agen yang bertindak di atas data perusahaan. Alao menekankan satu prinsip: kendali harus ada di seluruh tumpukan.

Marshall sempat menantang argumen ekonomi di balik model lokal berukuran kecil. Harga inferensi memang terus anjlok, sehingga seolah optimasi setiap token tidak lagi relevan. Alao membalas bahwa total konsumsi justru meroket ketika perusahaan beralih dari obrolan simpel ke agen yang berpikir, memanggil alat, mencari sistem internal, dan menempuh banyak langkah sebelum memberi jawaban.

Ia menyebut utilitas token naik secara eksponensial karena kasus agen makin kompleks. Alur kerja tersebut butuh pemrosesan, penalaran, dan interaksi alat yang masif. Cohere sendiri tidak menagih pelanggan berdasarkan pemakaian token, berbeda dengan sejumlah penyedia yang justru punya insentif memaksimalkan konsumsi tersebut.

Bagi ekosistem teknologi Indonesia, diskursus ini relevan mengingat banyak bank dan instansi publik mulai menguji agen AI. Ketergantungan pada layanan awan global berisiko memicu kebuntuan vendor dan kendala kepatuhan lintas batas. Penguasaan tumpukan lokal akan menjadi prasyarat agar sektor strategis tidak kehilangan kontrol data warga.

Alao menyarankan pendekatan merutekan model sesuai kebutuhan. Tugas paling sensitif dan diatur ketat dijalankan dengan model Cohere di premis sendiri, sementara tugas kurang sensitif namun butuh kecerdasan tinggi dilewatkan ke platform North yang memakai model batas-depan lebih besar. Ia mencontohkan sebuah bank Kanada yang menerapkan pola tersebut.

Cohere merilis North Mini Code bulan lalu untuk rekayasa perangkat lunak agen, termasuk kerja terminal, tinjauan kode, dan penggunaan alat. Model itu berjalan di satu GPU Nvidia H100. Perusahaan juga punya Command A+, model campuran ahli 218 miliar parameter dengan 25 miliar aktif per langkah, serta versi terkompresi 4-bit berlisensi Apache 2.0 untuk penempatan privat.

Alao mengakui model batas-depan kepemilikan tertutup masih unggul di tugas tersulit. Namun keunggulan itu tidak layak dipakai sembarangan. Untuk 80 persen kebutuhan pengembang, North Mini Code jauh lebih efektif dan murah.

Pencarian perusahaan kini melampaui sekadar mengambil teks ke jendela konteks model. Alao menyatakan pencarian multimodal lintas dokumen dan gambar telah menjadi komponen utama alur kerja agen. Model memutuskan kapan dan bagaimana mengambil informasi layaknya alat lain.

Ke depan, tata kelola yang memungkinkan pelanggan merutekan lalu lintas ke model tepat akan menjadi kunci memecah kebuntuan vendor. Cohere memosisikan lapisan tata kelola itu sebagai jawaban atas kecemasan portabilitas. Kendali data dan kebebasan berpindah penyedia akan menentukan adopsi AI perusahaan di pasar yang makin ketat regulasinya.

Mengapa Ini Penting

Indonesia sedang menyusun regulasi data strategis dan mendorong industri perbankan serta layanan publik beralih ke AI, sehingga ketergantungan pada tumpukan asing berisiko mengikis kedaulatan digital nasional. Pendekatan merutekan model dan penempatan privat yang diusulkan Cohere memberi cetak biru bagi BUMN dan startup lokal untuk membangun sistem tanpa terjebak kebuntuan vendor global. Tanpa kendali penuh atas GPU, tata kelola, dan pencarian multimodal, transformasi AI domestik rentan terhenti oleh batas kepatuhan lintas negara.

Sumber Asli
VentureBeat
Tanggal
15 Juli 2026
Waktu Baca
4 menit