Aksi Militer AS Eksperimen dengan Taktik Pertempuran yang Dikendalikan GPT-4Taktik Pertempuran Diken
The US Army experiments with GPT-4-controlled battlefield tactics https://dailyai.com/2024/03/the-us-army-experiments-with-gpt-4-controlled-battlefield-tactics/

Keterangan Gambar : Aksi Militer AS Eksp

Tentara Amerika Serikat sedang mencoba mengintegrasikan chatbot AI ke dalam perencanaan strategis mereka, meskipun dalam batasan simulasi permainan perang berbasis video game populer Starcraft II.

Studi ini, yang dipimpin oleh Laboratorium Penelitian Tentara Amerika Serikat, menguji penggunaan teknologi OpenAI, seperti GPT-4 Turbo dan GPT-4 Vision, untuk meningkatkan strategi pertempuran.

Baru-baru ini, OpenAI mulai bekerja pada beberapa proyek Departemen Pertahanan dan berkolaborasi dengan DARPA. Penggunaan AI di medan perang sangat diperdebatkan, dan sebuah studi baru-baru ini tentang perang AI menemukan bahwa LLM seperti GPT-3.5 dan 4 sering kali meningkatkan taktik, kadang-kadang mengakibatkan perang nuklir.

Penelitian baru ini menggunakan Starcraft II untuk mensimulasikan skenario medan perang yang melibatkan sejumlah terbatas unit militer dengan visibilitas penuh di lapangan.

Para peneliti menyebut sistem ini "COA-GPT" - dengan COA merupakan singkatan dari istilah militer "Courses of Action." COA-GPT mengasumsikan peran asisten komandan militer, bertugas untuk merancang strategi untuk menghancurkan pasukan musuh dan merebut titik-titik strategis.

COA-GPT adalah sistem pendukung keputusan yang didukung AI yang membantu personel komando dan kontrol dalam mengembangkan Courses of Action (COA). Ini menggunakan LLM yang dibatasi oleh pedoman yang telah ditentukan sebelumnya. Personel komando dan kontrol memasukkan informasi misi dan COA-GPT menghasilkan COA potensial. Melalui proses iteratif menggunakan bahasa alami, operator manusia dan COA-GPT berkolaborasi untuk menyempurnakan dan memilih COA yang paling sesuai untuk tujuan misi.

COA tradisional terkenal lambat dan membutuhkan banyak tenaga, tetapi tidak dengan COA-GPT. Keputusan diambil dalam hitungan detik, secara iteratif mengintegrasikan umpan balik manusia militer ke dalam proses pembelajaran AI.

COA-GPT unggul dibandingkan dengan metode lain, tetapi ada biaya yang harus dibayar. COA-GPT menunjukkan kinerja yang lebih unggul dibandingkan dengan metode yang ada dalam menghasilkan COA strategis, dan dapat beradaptasi dengan umpan balik real-time. Namun, ada kelemahan. Terutama, COA-GPT menimbulkan korban lebih tinggi dalam mencapai tujuan misi.

Studi ini menyatakan, "Kami mengamati bahwa COA-GPT dan COA-GPT-V, bahkan ketika ditingkatkan dengan umpan balik manusia, menunjukkan korban pasukan sendiri yang lebih tinggi dibandingkan dengan baseline lainnya."

Namun, hal ini tidak menghentikan para peneliti. Studi tersebut mengatakan, "Sebagai kesimpulan, COA-GPT mewakili pendekatan transformatif dalam operasi C2 militer, memfasilitasi pengambilan keputusan yang lebih cepat, lebih gesit, dan mempertahankan keunggulan strategis dalam peperangan modern."

Tentu saja, mengkhawatirkan bahwa sistem AI yang menyebabkan lebih banyak korban pasukan sendiri dari yang diharapkan didefinisikan sebagai "pendekatan transformatif."

Ini datang setelah Departemen Pertahanan menciptakan pasukan tugas AI generatif tahun lalu. DOD telah mengidentifikasi banyak jalur eksplorasi, namun kekhawatiran tentang kesiapan teknologi dan implikasi etis masih menggantung.

Misalnya, siapa yang bertanggung jawab ketika aplikasi militer AI berjalan salah? Para pengembang? Orang yang bertanggung jawab? Atau seseorang di rantai yang lebih rendah?

Untuk mengatasi risiko, AS menetapkan garis-garis pembatas sukarela untuk AI militer, yang ditandatangani bersama oleh 30 negara lain, dengan absennya China dan Rusia.

Seberapa efektif garis-garis pembatas tersebut masih harus dilihat, dan kita sudah melihat contoh-contoh AI semi-otonom membuat keputusan yang berpotensi mengenai nyawa dalam konflik Ukraina dan Israel-Palestina.