Peringatan dari pengembang kecerdasan buatan (AI) terkemuka di Amerika Serikat mengenai potensi hilangnya kendali manusia atas model AI canggih kini memicu respons serius dari Beijing. Meski AS dan Tiongkok menjadi dua kekuatan utama dalam pengembangan teknologi ini, keduanya memiliki pendekatan regulasi yang kontras dalam memitigasi risiko eksistensial yang mungkin ditimbulkan oleh sistem cerdas masa depan.
Beijing menanggapi narasi ketakutan dari para pemimpin industri AI di AS, seperti Anthropic dan OpenAI, sebagai strategi politik terselubung. Media pemerintah Tiongkok, termasuk China Daily dan Global Times, secara terbuka menyebut seruan untuk memperlambat pengembangan AI sebagai upaya Washington untuk memelihara hegemoni teknologinya. Mereka menilai langkah tersebut sebagai bentuk 'Perang Dingin' baru yang bertujuan mengecualikan Tiongkok dari ekosistem tata kelola AI global.
Perbedaan fundamental terlihat pada cara kedua negara memandang risiko. Jika AS cenderung berfokus pada ancaman eksistensial yang dramatis, otoritas Tiongkok lebih memandang AI sebagai teknologi yang sangat kuat namun tetap dapat dikendalikan. Bagi Beijing, risiko AI harus dikelola melalui standar teknis, regulasi yang ketat, dan pengawasan negara secara langsung tanpa harus menghentikan inovasi secara drastis.
Strategi regulasi Tiongkok kini berfokus pada kewajiban pengembang, penilaian keamanan mandiri, serta pengujian eksternal. Berbeda dengan usulan di AS yang menginginkan pemantauan independen di dalam perusahaan, Beijing lebih mengedepankan tanggung jawab pengembang untuk memastikan sistem tetap berada dalam koridor hukum. Hal ini juga didorong oleh ekosistem lokal yang lebih banyak mempromosikan model terbuka (open-weight), di mana parameter sistem dapat diperiksa oleh komunitas keamanan siber.
Namun, ketergantungan pada model terbuka bukannya tanpa risiko. Insiden bypass pada sandbox pengujian yang menimpa model Kimi K3 milik Moonshot menunjukkan bahwa celah keamanan tetap menjadi ancaman nyata. Pihak berwenang Tiongkok kini tengah merancang standar nasional pertama di dunia untuk keamanan agen AI, yang dirancang untuk mendeteksi perilaku sistem yang melenceng dari instruksi awal.
Bagi Indonesia, fenomena ini menjadi pengingat penting mengenai urgensi kedaulatan teknologi. Sebagai negara dengan adopsi AI yang terus meningkat, ketergantungan pada model-model tertutup dari perusahaan global atau model terbuka dari negara lain menempatkan Indonesia pada posisi rentan. Tanpa kerangka regulasi yang kuat, Indonesia berisiko menjadi objek eksperimen atau korban dari kerentanan sistem yang dikembangkan di luar negeri.
Perspektif Indonesia harus melampaui sekadar menjadi konsumen. Pengembangan talenta lokal dalam audit keamanan AI menjadi krusial agar perusahaan maupun instansi pemerintah di tanah air tidak sekadar menelan mentah-mentah teknologi tanpa memahami risiko operasionalnya. Kasus perdebatan antara AS dan Tiongkok menunjukkan bahwa AI bukan sekadar alat produktivitas, melainkan instrumen geopolitik yang memiliki dampak signifikan terhadap infrastruktur kritis.
Ke depan, tren regulasi global diprediksi akan semakin terfragmentasi. Jika tidak ada titik temu antara standar keamanan AS dan Tiongkok, perusahaan teknologi di seluruh dunia, termasuk di Indonesia, mungkin terpaksa memilih 'kubu' teknologi yang harus diikuti. Hal ini akan memperumit interoperabilitas sistem di masa depan.
Langkah selanjutnya bagi Beijing adalah memperketat pengawasan terhadap agen AI yang mampu melakukan tugas otonom. Menteri Keamanan Negara Tiongkok, Chen Yixin, secara eksplisit menekankan bahwa model canggih dari AS dapat mengancam infrastruktur informasi kritis mereka. Hal ini mempertegas bahwa AI kini telah masuk dalam radar keamanan nasional, bukan lagi sekadar isu teknis di laboratorium.
Pada akhirnya, persaingan ini akan menentukan standar keamanan global. Indonesia perlu memantau perkembangan ini dengan cermat, terutama dalam hal penyusunan regulasi AI nasional yang tidak hanya mengadopsi standar internasional, tetapi juga mempertimbangkan aspek keamanan siber yang spesifik bagi kepentingan nasional agar tidak terjebak dalam pusaran persaingan teknologi dua negara adidaya tersebut.