Dunia saat ini sedang memasuki fase perlombaan senjata baru yang jauh lebih berbahaya daripada era Perang Dingin. Jika dulu stabilitas dunia dipertaruhkan melalui penguasaan senjata nuklir, hari ini panggung utamanya adalah pengembangan senjata otonom berbasis kecerdasan buatan atau Lethal Autonomous Weapons Systems (LAWS). Tanpa disadari, kita sedang menyaksikan perlombaan teknologi di mana algoritma akan segera mengambil keputusan krusial di medan tempur tanpa intervensi tangan manusia. Fenomena ini bukan lagi fiksi ilmiah, melainkan realitas geopolitik yang sedang dipersiapkan oleh kekuatan-kekuatan besar dunia.
Masalah mendasar yang dipersoalkan oleh para pakar etika teknologi adalah hilangnya akuntabilitas dalam penggunaan kekuatan militer. Ketika sebuah sistem AI diberi wewenang untuk mendeteksi target dan melakukan eliminasi secara mandiri, garis pertanggungjawaban hukum menjadi kabur. Paul Scharre, seorang pakar keamanan dalam bukunya Army of None, menegaskan bahwa ketergantungan pada algoritma dalam pengambilan keputusan mematikan berisiko tinggi menciptakan eskalasi konflik yang tidak terkendali. Jika sebuah sistem membuat kesalahan fatal atau serangan salah sasaran, hukum internasional saat ini belum memiliki instrumen untuk menghukum sebuah kode perangkat lunak.
Lebih jauh lagi, perlombaan senjata AI ini menciptakan ketimpangan keamanan yang sangat berbahaya. Negara-negara dengan kekuatan finansial dan infrastruktur data raksasa akan dengan mudah mendominasi teknologi ini, sementara negara-negara berkembang hanya akan menjadi objek atau pasar bagi teknologi militer tersebut. Kondisi ini memicu ketegangan geopolitik baru, di mana keamanan nasional suatu negara akan sangat bergantung pada seberapa canggih algoritma pertahanan yang mereka miliki. Indonesia, dengan posisinya yang strategis di kawasan Asia Tenggara, harus mulai menyadari bahwa keamanan siber dan ketahanan terhadap teknologi militer asing adalah aspek krusial dari kedaulatan negara yang tidak bisa ditawar.
Risiko lainnya adalah proliferasi atau penyebaran teknologi ini ke pihak-pihak non-negara. Jika teknologi senjata AI ini menjadi komoditas pasar gelap atau bocor ke aktor-aktor teroris maupun kelompok radikal, ancaman keamanan tidak lagi terbatas pada konflik antarnegara. Kita bisa menghadapi masa depan di mana senjata presisi tinggi bisa dioperasikan dengan biaya rendah tanpa perlu pelatihan militer yang intensif. Ini adalah skenario ketidakamanan global yang belum pernah kita bayangkan sebelumnya, di mana stabilitas dunia sangat rapuh terhadap gangguan sistemik yang dipicu oleh kegagalan perangkat lunak atau peretasan terhadap sistem pertahanan otonom.
Menghadapi ancaman ini, komunitas internasional dituntut untuk segera merumuskan kesepakatan global yang mengikat terkait batasan penggunaan AI dalam sistem militer. Namun, tantangannya adalah negara-negara besar cenderung enggan melakukan moratorium pengembangan karena merasa tidak ingin kalah dalam perlombaan teknologi. Selama narasi keamanan global masih didorong oleh kompetisi zero-sum game, maka pengembangan senjata otonom akan terus menjadi prioritas nasional bagi negara-negara adidaya.
Sebagai warga dunia, kita perlu menuntut transparansi dan regulasi yang lebih ketat terhadap etika AI di sektor pertahanan. Kedaulatan manusia harus tetap menjadi pengendali utama dalam setiap keputusan yang menyangkut nyawa. Mengabaikan bahaya perlombaan senjata AI saat ini adalah bentuk ketidaksiapan kita menghadapi masa depan di mana mesin, bukan lagi nalar manusia, yang menentukan jalannya sejarah dan perdamaian dunia. Anda harus sadar bahwa di balik kemajuan teknologi yang memukau, terdapat risiko eksistensial yang dapat mengubah wajah keamanan global secara permanen dalam waktu yang sangat singkat.
