PODCAST

Mengerikan! Sekawanan Drone Yang Bisa Bekerjasama Menyerang Target

Para peretas jahat berpotensi mengendalikan AWS dan menimbulkan kekacauan

Bayangkan sekawanan drone yang beterbangan, bukan dikendalikan manusia, melainkan bekerja sama dalam formasi rumit untuk menyerang target. Inilah gambaran awal senjata otonom mematikan (Autonomous Weapon Systems/AWS) yang memicu perdebatan sengit. Teknologi ini berpotensi menjadi ancaman baru yang mengerikan.

Salah satu contoh awal hadir pada tahun 2013 ketika mahasiswa MIT menciptakan drone Perdix. Drone ini mampu membentuk formasi kompleks dan menyerang target secara mandiri. Para ahli khawatir dengan potensi pengembangan AWS yang masif, yang dapat serupa senjata pemusnah massal. Kemampuan AWS untuk memilih dan menyerang target tanpa campur tangan manusia menjadi sorotan utama.

William Roper, Direktur Kantor Kemampuan Strategis Pentagon, mendemonstrasikan drone mikro yang sedang diuji oleh kantornya melalui program bernama Perdex Foto oleh Jahi Chikwendiu The Washington Post
William Roper, Direktur Kantor Kemampuan Strategis Pentagon, mendemonstrasikan drone mikro yang sedang diuji oleh kantornya melalui program bernama Perdex Foto oleh Jahi Chikwendiu The Washington Post

Namun, tingkat kemandirian AWS bervariasi. Kategori pertama adalah senjata otonom dengan pengawasan manusia (“Human-on-the-Loop”). Sistem ini memungkinkan operator manusia untuk melakukan intervensi dan membatalkan serangan sebelum terjadi eskalasi. Kategori kedua adalah senjata semi-otonom (“Human-in-the-Loop”). Beroperasi berdasarkan target yang dipilih manusia, namun memiliki kemampuan menyerang secara mandiri. Kategori terakhir adalah senjata otonom penuh (“Human Out-of-the-Loop”) yang beroperasi sepenuhnya tanpa campur tangan manusia. Inilah kategori yang memicu kekhawatiran terbesar.

Perdix, Drone Yang Diciptakan Untuk Menyerang Target

Para ahli berpendapat bahwa terlepas dari tingkat kemandiriannya, AWS berpotensi melanggar prinsip diskriminasi dalam perang. Prinsip ini menekankan pembedaan antara target militer dan sipil untuk meminimalisir korban sipil. Namun, dikhawatirkan ketidakmampuan AWS dalam membedakan target secara akurat dapat menyebabkan jatuhnya korban sipil yang tidak diinginkan.

Just War Theory, teori perang yang adil, dipertanyakan relevansinya dalam menghadapi teknologi baru seperti AWS. Artikel ini menyerukan pembentukan regulasi internasional untuk membatasi pengembangan dan penggunaan AWS. Uni Eropa mengambil langkah awal dengan mengusulkan “Artificial Intelligence Regulation Act” namun masih memiliki kekurangan.

Selain regulasi, ancaman lain yang perlu diwaspadai adalah peretasan (“adversarial hacking”). Para peretas jahat berpotensi mengendalikan AWS dan menimbulkan kekacauan. Bahkan aktor non-negara seperti teroris berpotensi menyalahgunakan AWS untuk kepentingan mereka.

Dengan memahami senjata otonom mematikan dan dilema yang menyertainya, kita dapat mengambil langkah untuk mencegah penggunaan teknologi ini. Peningkatan kesadaran publik dan tanggung jawab ilmuwan diperlukan untuk mencegah militerisasi teknologi AI. Mari kita wujudkan masa depan yang lebih aman dengan fokus pada pengembangan teknologi berkelanjutan, bukannya senjata otonom mematikan.

Berita Artificial Intellegence (AI) Underworld Lainnya:

Scroll to Top