​Anatomi Konflik di Era Algoritma: Menggugat Nurani di Tengah Otonomi Mematikan

Anatomi Konflik di Era Algoritma: Menggugat Nurani di Tengah Otonomi Mematikan

Oleh: Rosihan Arsyad -Ketua Dewan Redaksi

​Sepanjang sejarah peradaban, anatomi konflik manusia telah mengalami evolusi yang brutal namun dapat diprediksi: dari batu dan baja, menuju proyektil mesiu, hingga akhirnya menembus ruang hampa berupa kode dan algoritma. Namun, dalam setiap fase eskalasi teknologi tersebut, satu elemen fundamental selalu tetap—kehadiran manusia sebagai agen moral yang memegang kendali atas keputusan hidup dan mati. Hari ini, aksioma historis tersebut berada di ambang keruntuhan. Kemunculan Sistem Senjata Otonom Mematikan (Lethal Autonomous Weapons Systems/LAWS) tidak sekadar mengubah cara perang dimenangkan, tetapi mengubah definisi tentang siapa—atau apa—yang berperang.

​Di tengah gegap gempita perlombaan senjata Kecerdasan Buatan (AI) yang digawangi oleh negara-negara adidaya, sebuah intervensi krusial datang bukan dari mimbar Perserikatan Bangsa-Bangsa (PBB) atau markas besar aliansi militer, melainkan dari Vatikan. Pesan kepausan yang dirilis secara resmi sebagai Pesan untuk Hari Perdamaian Sedunia (Message for the World Day of Peace) menyoroti bahaya eksistensial dari pendelegasian wewenang membunuh kepada mesin. Pidato ini menjembatani jurang antara teologi, etika teknologi, dan hukum humaniter internasional, mengingatkan komunitas global bahwa kemajuan teknis tanpa jangkar moral adalah resep bagi pemusnahan yang terotomatisasi.

​Ontologi Perang dan Reduksi Nyawa Manusia

​Untuk memahami urgensi dari seruan moral ini, kita harus membedah apa yang secara ontologis berubah di medan pertempuran modern. Saat ini, kita telah menyaksikan transisi dari platform nirawak (unmanned platforms) yang dikendalikan dari jarak jauh, seperti UAV (Unmanned Aerial Vehicles) dan UUV (Unmanned Underwater Vehicles), menuju sistem yang sepenuhnya otonom. Berkat kemajuan dalam machine learning dan radar AESA (Active Electronically Scanned Array) yang terintegrasi dengan pemrosesan data instan, mesin kini memiliki kemampuan untuk mencari, mengidentifikasi, dan mengeksekusi target tanpa intervensi komando manusia (sistem human-out-of-the-loop).

​Di sinilah letak tegangan etis yang paling tajam. Titik berat dari pesan keagamaan dan kemanusiaan Paus adalah konsep martabat manusia yang tidak dapat diganggu gugat. Dalam peperangan konvensional, betapapun tragisnya, sebuah nyawa diambil oleh agen manusia lainnya—sebuah tindakan yang tunduk pada kerangka akuntabilitas, hukum, dan hati nurani. Namun, ketika keputusan tersebut diserahkan kepada kecerdasan buatan, manusia yang menjadi target direduksi menjadi sekadar titik data, sebuah deret angka dalam matriks probabilitas statistik, atau pixel dalam sistem penargetan termal.

​Pendekatan mekanistik ini secara absolut menolak nilai intrinsik kehidupan. Mesin beroperasi murni berdasarkan pengenalan pola dan optimalisasi tujuan akhir. Sebuah algoritma pembunuh tidak memahami apa itu penderitaan, tidak mengenal arti rasa sakit, dan sama sekali buta terhadap nilai filosofis dari nyawa yang baru saja ia lenyapkan.

​Kekosongan Empati dan Anomali “Kabut Perang”

​Para pendukung militerisasi AI sering kali berargumen bahwa algoritma jauh lebih akurat daripada manusia. Mereka mengklaim bahwa senjata otonom tidak mengenal rasa takut, tidak mengalami kelelahan, dan tidak akan bertindak berdasarkan amarah atau balas dendam—faktor-faktor psikologis yang kerap memicu kejahatan perang. Secara teoretis, janji akan “kalkulus presisi” ini terdengar meyakinkan.

​Namun, argumen ini mengabaikan realitas taktis dari apa yang disebut oleh Carl von Clausewitz sebagai Friktion (friksi) atau Fog of War (kabut perang). Medan pertempuran bukanlah laboratorium matematika yang steril; ia adalah ruang yang sangat kacau, dinamis, dan penuh dengan ambiguitas visual maupun situasional.

​Dalam situasi nyata, komando dan keahlian manusia—seperti yang dimiliki oleh para penerbang militer atau komandan lapangan—menawarkan sesuatu yang tidak dapat diprogram oleh baris kode mana pun: pengecualian moral dan intuisi belas kasih. Seorang prajurit manusia memiliki kapasitas untuk menilai konteks di luar parameter teknis. Mereka dapat membedakan antara seorang kombatan yang berpura-pura menyerah dan seorang pemuda wajib militer yang gemetar ketakutan; mereka memiliki intuisi untuk menahan tembakan ketika melihat anomali yang melibatkan warga sipil, betapapun sahnya target tersebut di mata radar.

​AI menghadapi apa yang oleh para ilmuwan komputer disebut sebagai “kerapuhan algoritma” (algorithmic brittleness). Ketika mesin dihadapkan pada situasi yang tidak ada dalam set data pelatihannya (training data), ia tidak berimprovisasi dengan kebijaksanaan; ia mengambil keputusan yang kaku, yang berpotensi menghasilkan eskalasi kinetik yang mematikan. Tanpa adanya agen manusia yang mampu merasakan keraguan moral, lapisan terakhir dari kemanusiaan dalam konflik bersenjata akan terhapus.

​Paradoks Otonomi dan Kebangkrutan Akuntabilitas Hukum

​Dimensi lain yang secara tajam disoroti dalam seruan global ini adalah kebangkrutan sistem pertanggungjawaban hukum. Hukum Humaniter Internasional (HHI), khususnya Konvensi Jenewa, dibangun di atas fondasi bahwa aktor manusia bertanggung jawab atas tindakan di masa perang. Prinsip-prinsip utama seperti pembedaan (distinction), proporsionalitas (proportionality), dan tindakan pencegahan (precaution) menuntut adanya penilaian subjektif yang kompleks.

​Jika sebuah loitering munition (amunisi berkeliaran) otonom berbasis AI secara keliru mengidentifikasi bus sekolah sebagai konvoi logistik militer dan melakukan serangan, siapa yang memikul beban kejahatan perang tersebut? Apakah komandan batalion yang melepaskan drone swarm tersebut berjam-jam sebelumnya? Apakah perusahaan teknologi yang merancang kode pemrogramannya? Ataukah algoritma itu sendiri?

​Sebuah program piranti lunak tidak dapat diadili di Mahkamah Pidana Internasional. Ia tidak dapat dipenjara, dan yang paling krusial, ia tidak dapat merasakan penyesalan eskatologis atau moral. Ketika tidak ada pihak yang dapat secara logis atau adil dimintai pertanggungjawaban penuh atas tindakan destruktif, tatanan hukum internasional akan runtuh ke dalam anarki fungsional. Oleh karena itu, mempertahankan manusia dalam rantai komando operasional (meaningful human control) bukan sekadar preferensi teknis, melainkan keniscayaan etis dan legal.

​Kebuntuan Diplomasi dan Dominasi Hak Veto

​Seruan Paus, yang setara dengan bobot sebuah Pesan Apostolik, memberikan landasan filosofis bagi para diplomat. Namun, menerjemahkan seruan moral menjadi arsitektur keamanan global yang mengikat adalah tantangan yang jauh lebih curam. Di ruang-ruang sidang Perserikatan Bangsa-Bangsa di Jenewa, melalui forum Convention on Certain Conventional Weapons (CCW), negosiasi untuk melarang atau membatasi senjata otonom telah berjalan merangkak selama lebih dari satu dekade.

​Kemacetan ini bukanlah hasil dari kebingungan hukum, melainkan kalkulasi geopolitik yang dingin. Negara-negara adidaya yang memiliki hak veto di Dewan Keamanan PBB—sekaligus memimpin riset semikonduktor, komputasi kuantum, dan hipersonik—melihat AI militer sebagai instrumen supremasi masa depan. Menghentikan riset LAWS dianggap sebagai Opportunity Cost strategis yang terlalu mahal. Mereka berlindung di balik ambiguitas definisi: menolak menyepakati apa sebenarnya yang dimaksud dengan “kendali manusia yang bermakna”, sembari terus mempercepat integrasi kecerdasan buatan ke dalam doktrin pertahanan mereka, mulai dari komando dan kendali ruang angkasa hingga peperangan maritim terdistribusi (Distributed Maritime Operations).

​Perlombaan senjata tak terlihat ini jauh lebih berbahaya daripada proliferasi nuklir di era Perang Dingin. Senjata nuklir membutuhkan infrastruktur yang masif, material fisil yang langka, dan fasilitas pengayaan yang mudah dilacak oleh satelit intelijen. Sebaliknya, proliferasi AI berbasis pada perangkat lunak. Algoritma perusak dapat dikembangkan di laboratorium komersial, disalin dalam hitungan detik, dan diterapkan pada drone komersial murah. Risiko jatuhnya teknologi ini ke tangan aktor non-negara (terorisme algoritmik) adalah mimpi buruk keamanan nasional yang sudah berada di depan mata.

​Merumuskan Traktat Baru: Sebuah Keniscayaan

​Berdasarkan realitas ini, himbauan normatif saja tidak akan pernah cukup untuk menahan laju mesin perang kecerdasan buatan. Membutuhkan lebih dari sekadar resolusi Majelis Umum PBB yang tidak mengikat. Dunia membutuhkan sebuah traktat internasional yang bersifat imperatif, serupa dengan Konvensi Senjata Kimia (CWC) atau Traktat Non-Proliferasi Nuklir (NPT), namun dirancang khusus untuk era digital.

​Ada tiga pilar utama yang harus dikonstruksi dalam instrumen hukum tersebut:

​Pertama, Pelarangan Absolut Terhadap Penargetan Antipersonel Otonom: Traktat harus secara tegas melarang sistem senjata apa pun yang dapat memilih dan menyerang target manusia tanpa konfirmasi eksplisit dari operator manusia. Penggunaan AI untuk sistem pertahanan reaktif (seperti Phalanx CIWS anti-rudal) dapat diizinkan, tetapi pendelegasian keputusan membunuh manusia harus menjadi garis merah yang tidak boleh dilewati.

​Kedua, Kewajiban Jejak Audit (Auditability): Setiap negara yang mengadopsi teknologi AI militer harus menjamin bahwa sistem algoritma tersebut memiliki rekam jejak keputusan yang transparan, sehingga jika terjadi anomali taktis atau jatuhnya korban sipil, pertanggungjawaban rantai komando dapat ditelusuri kembali kepada aktor manusia.

​Ketiga, Penegakan Hukum dan Sanksi: Traktat ini tidak akan bertaring tanpa mekanisme penegakan yang ketat. Meskipun negara adidaya mungkin enggan meratifikasinya pada tahap awal, preseden traktat pelarangan ranjau darat (Traktat Ottawa) membuktikan bahwa stigmatisasi internasional yang dimotori oleh negara-negara menengah dan koalisi masyarakat sipil dapat menekan penggunaan senjata yang dianggap tidak manusiawi.

​Penutup: Kedaulatan Manusia di Atas Mesin

​Menatap masa depan, integrasi teknologi ke dalam postur pertahanan adalah sebuah keniscayaan. Kemampuan analisis data besar (big data analytics) untuk intelijen, logistik militer, dan simulasi strategis akan terus berkembang. Namun, kita harus membedakan dengan tegas antara menggunakan AI untuk membantu pengambilan keputusan strategis, dan memberikan AI otoritas untuk melakukan eksekusi mematikan.

​Pidato keagamaan dan kemanusiaan dari Vatikan tersebut sejatinya memberikan refleksi tajam bagi para pemimpin negara, diplomat, dan pemikir strategis militer di seluruh dunia. Konflik bersenjata selalu menjadi cerminan dari sisi tergelap manusia, namun selama manusia masih memegang kendali, selalu ada ruang untuk diplomasi, negosiasi, pembatasan proporsional, dan pada akhirnya, perdamaian.

​Ketika kita melepaskan kendali tersebut kepada mesin—ketika peperangan diotomatisasi menjadi eksekusi algoritmik yang tanpa nurani—kita tidak hanya berpotensi melanggar hukum humaniter, tetapi kita sedang melucuti martabat kita sendiri sebagai manusia. Teknologi diciptakan untuk melayani strategi besar sebuah bangsa, bukan untuk mendikte akhir dari sebuah peradaban. Di titik inilah resolusi hukum internasional yang kuat dan mengikat harus segera diwujudkan, sebelum kabut perang sepenuhnya diambil alih oleh tirani algoritma.

Yasyi Hill, 28 Mei 2026