Medan Pertempuran Modern Menjadi Laboratorium Senjata AI Eksperimental
Modern battlefields have become a breeding ground for experimental AI weaponry https://dailyai.com/2024/07/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry/

Keterangan Gambar : Medan Pertempuran Mo

Dalam konflik yang terus berkecamuk di Ukraina dan Timur Tengah, medan perang modern telah menjadi tempat uji coba untuk perang berbasis kecerdasan buatan (AI). Mulai dari drone otonom hingga algoritma targeting prediktif, sistem AI sedang membentuk ulang sifat konflik bersenjata.

AS, Ukraina, Rusia, Tiongkok, Israel, dan negara lain terlibat dalam perlombaan senjata AI, masing-masing berusaha untuk mencapai supremasi teknologi dalam lanskap geopolitik yang semakin tidak stabil.

Dengan munculnya senjata dan taktik baru ini, juga muncul konsekuensinya. Kini kita dihadapkan pada pertanyaan kritis tentang masa depan perang, kontrol manusia, dan etika dari pengambilan keputusan hidup-mati yang dioutsourcingkan kepada mesin.

AI mungkin telah memicu eskalasi militer. Proyek Maven, yang dimulai pada tahun 2017, merupakan upaya utama Pentagon untuk mengintegrasikan AI ke dalam operasi militer. Tujuannya adalah untuk memungkinkan identifikasi dan pelacakan target secara real-time dari rekaman drone tanpa intervensi manusia.

Proyek Maven di Ukraina melibatkan sistem AI canggih yang terintegrasi ke dalam Lynx Synthetic Aperture Radar (SAR) dari MQ-9 Reaper. Sebagai contoh, AI mungkin telah berperan dalam tabrakan drone.

Kinerja Proyek Maven sejauh ini cenderung tidak konsisten. Implikasi etis dari menggunakan AI untuk membuat keputusan hidup-mati dalam perang sangat mengkhawatirkan, sementara risiko kerusakan memperkenalkan aspek yang lebih mencekam dalam perlombaan senjata teknologi ini.

Komitmen untuk memperlambat perkembangan ini dan menjaga senjata di bawah kunci telah dilakukan, namun ada ketidaksesuaian antara prinsip-prinsip tersebut dan praktiknya. Kerjasama dengan entitas komersial yang tidak tunduk pada pengawasan yang sama dengan lembaga pemerintah menimbulkan keraguan terhadap kemampuan DoD untuk mengendalikan pengembangan AI.

Seiring teknologi AI militer berkembang, menetapkan tanggung jawab atas kesalahan dan kegagalan menjadi tugas yang sulit. Bagaimana kita bisa mencegah masa depan di mana pembunuhan lebih terotomatisasi daripada manusia, dan akuntabilitas hilang dalam kabut algoritmik?