Direktur Institut Penelitian Perlucutan Senjata PBB (Unidir), Robin Geiss, memberikan peringatan keras mengenai masa depan peperangan global. Dalam kuliah umum di Universitas Tsinghua, Beijing, Geiss menegaskan bahwa dunia sedang bergerak menuju era 'perang mesin' seiring dengan pesatnya adopsi kecerdasan buatan (AI) dalam sistem persenjataan otonom yang mengubah lanskap pertempuran secara fundamental.
Geiss menyoroti bahwa kombinasi antara ketegangan geopolitik global, kurangnya dialog substantif antar negara adidaya mengenai senjata nuklir, dan destabilisasi sistemik akibat AI menciptakan lingkungan keamanan yang sangat berbahaya. Ia menekankan bahwa kecepatan pertempuran yang didorong oleh AI kini melampaui kemampuan regulasi internasional tradisional untuk mengikutinya.
Dalam iklim politik global saat ini, Geiss mengakui bahwa pembentukan konvensi internasional yang mengikat secara hukum untuk mengatur penggunaan AI dalam militer hampir mustahil diwujudkan dalam jangka pendek. Meski demikian, terdapat konsensus global mengenai prinsip dasar, yaitu kewajiban mematuhi hukum humaniter internasional dan pentingnya mempertahankan kendali manusia atas penggunaan kekuatan militer.
Salah satu poin krusial yang ditekankan oleh Unidir adalah perlunya menjaga komando dan kendali nuklir agar tetap berada di luar jangkauan sistem AI. Hal ini dianggap sebagai garis merah yang tidak boleh dilanggar untuk mencegah terjadinya eskalasi yang tidak disengaja akibat kesalahan algoritma atau kegagalan sistem teknis dalam situasi krisis.
Untuk menghindari krisis global yang tidak terduga, Geiss mengusulkan agar Amerika Serikat dan China memelopori moratorium atau penundaan pada ambang batas teknis tertentu yang dianggap berbahaya. Ia berharap kedua negara adidaya ini dapat duduk bersama untuk menyepakati batasan-batasan teknis yang didefinisikan oleh komunitas ilmuwan demi keamanan kolektif.
Senada dengan Geiss, Zhou Bo, pensiunan kolonel senior Tentara Pembebasan Rakyat (PLA), menyatakan bahwa China dan Amerika Serikat memiliki tanggung jawab moral sebagai kekuatan AI dominan untuk memimpin pembentukan aturan main global. Ia menegaskan bahwa kedua negara tersebut tidak perlu menunggu inisiatif dari pihak lain, seperti Eropa, untuk memulai dialog konkret mengenai tata kelola teknologi militer masa depan.