Saya bertanya kepada AI bagaimana kehidupan bermetamorfosa
June 14, 2024
No Comments
Inilah hasilnya ketika Saya bertanya kepada AI bagaimana kehidupan bermetamorfosa
Mengerikan! Sekawanan Drone Yang Bisa Bekerjasama Menyerang Target
Para peretas jahat berpotensi mengendalikan AWS dan menimbulkan kekacauan
Bayangkan sekawanan drone yang beterbangan, bukan dikendalikan manusia, melainkan bekerja sama dalam formasi rumit untuk menyerang target. Inilah gambaran awal senjata otonom mematikan (Autonomous Weapon Systems/AWS) yang memicu perdebatan sengit. Teknologi ini berpotensi menjadi ancaman baru yang mengerikan.
Salah satu contoh awal hadir pada tahun 2013 ketika mahasiswa MIT menciptakan drone Perdix. Drone ini mampu membentuk formasi kompleks dan menyerang target secara mandiri. Para ahli khawatir dengan potensi pengembangan AWS yang masif, yang dapat serupa senjata pemusnah massal. Kemampuan AWS untuk memilih dan menyerang target tanpa campur tangan manusia menjadi sorotan utama.
Namun, tingkat kemandirian AWS bervariasi. Kategori pertama adalah senjata otonom dengan pengawasan manusia (“Human-on-the-Loop”). Sistem ini memungkinkan operator manusia untuk melakukan intervensi dan membatalkan serangan sebelum terjadi eskalasi. Kategori kedua adalah senjata semi-otonom (“Human-in-the-Loop”). Beroperasi berdasarkan target yang dipilih manusia, namun memiliki kemampuan menyerang secara mandiri. Kategori terakhir adalah senjata otonom penuh (“Human Out-of-the-Loop”) yang beroperasi sepenuhnya tanpa campur tangan manusia. Inilah kategori yang memicu kekhawatiran terbesar.
Perdix, Drone Yang Diciptakan Untuk Menyerang Target
Para ahli berpendapat bahwa terlepas dari tingkat kemandiriannya, AWS berpotensi melanggar prinsip diskriminasi dalam perang. Prinsip ini menekankan pembedaan antara target militer dan sipil untuk meminimalisir korban sipil. Namun, dikhawatirkan ketidakmampuan AWS dalam membedakan target secara akurat dapat menyebabkan jatuhnya korban sipil yang tidak diinginkan.
Just War Theory, teori perang yang adil, dipertanyakan relevansinya dalam menghadapi teknologi baru seperti AWS. Artikel ini menyerukan pembentukan regulasi internasional untuk membatasi pengembangan dan penggunaan AWS. Uni Eropa mengambil langkah awal dengan mengusulkan “Artificial Intelligence Regulation Act” namun masih memiliki kekurangan.
Selain regulasi, ancaman lain yang perlu diwaspadai adalah peretasan (“adversarial hacking”). Para peretas jahat berpotensi mengendalikan AWS dan menimbulkan kekacauan. Bahkan aktor non-negara seperti teroris berpotensi menyalahgunakan AWS untuk kepentingan mereka.
Dengan memahami senjata otonom mematikan dan dilema yang menyertainya, kita dapat mengambil langkah untuk mencegah penggunaan teknologi ini. Peningkatan kesadaran publik dan tanggung jawab ilmuwan diperlukan untuk mencegah militerisasi teknologi AI. Mari kita wujudkan masa depan yang lebih aman dengan fokus pada pengembangan teknologi berkelanjutan, bukannya senjata otonom mematikan.
Berita Artificial Intellegence (AI) Underworld Lainnya:
AI Hacking: Ancaman Baru di Era Kecerdasan Buatan
June 10, 2024
No Comments
Ancaman Baru di Era Kecerdasan Buatan Model Data Poisoning Evasion Hijacking Attack
Data Poisoning Attack: Racun Berbahaya di Balik Skandal Enron
June 8, 2024
No Comments
Data Poisoning Attack Enron: Racun Berbahaya di Balik Skandal Enron Enron, nama yang pernah berkibar di puncak kejayaan, kini terukir dalam sejarah sebagai salah satu skandal perusahaan terbesar di dunia. Di balik gemerlapnya, Enron menyimpan racun mematikan bernama Data Poisoning