Dunia semakin terjerembab ke dalam perang yang di gambarkan dalam Sekuel Film Sci-fi Terminator. Hal itu terjadi setelah panel yang di tunjuk pemerintah mengatakan dalam draf laporan untuk Kongres, “Amerika Serikat seharusnya menyetujui penggunaan atau pengembangan senjata otonom yang di dukung oleh perangkat lunak kecerdasan buatan (AI).”
Panel, yang dipimpin oleh mantan kepala eksekutif Google Eric Schmidt, pada Selasa menyimpulkan dua hari diskusi publik, yaitu Amerika Serikat mempertimbangkan AI untuk keamanan nasional dan kemajuan teknologi.
Wakil ketuanya, Robert Work, mantan wakil menteri pertahanan, mengatakan senjata otonom diharapkan membuat lebih sedikit kesalahan daripada yang dilakukan manusia dalam pertempuran, yang menyebabkan berkurangnya korban atau pertempuran yang disebabkan oleh kesalahan identifikasi target.
“Ini adalah keharusan moral untuk setidaknya mengejar hipotesis ini,” katanya.
Pertentangan Panjang Hadirnya “Terminator” Di Dunia Nyata
Diskusi tersebut mengarungi batas kontroversial hak asasi manusia dan peperangan. Selama sekitar delapan tahun, koalisi organisasi non-pemerintah telah mendorong perjanjian yang melarang “robot pembunuh”. Dalih utamanya adalah kontrol manusia di perlukan untuk menilai proporsionalitas serangan dan menyalahkan kejahatan perang. Menurut situs koalisi, tiga puluh negara termasuk Brasil dan Pakistan menginginkan pelarangan. Selain itu sebuah badan PBB telah mengadakan pertemuan tentang sistem tersebut setidaknya sejak 2014.
Kemampuan senjata otonom sudah berusia puluhan tahun, kekhawatiran telah meningkat dengan pengembangan AI untuk memberi daya pada sistem tersebut. Selain itu kekhawatiran semakin meningkat bersama dengan penelitian yang menemukan bias dalam AI dan contoh penyalahgunaan perangkat lunak.
Panel AS, yang di sebut Komisi Keamanan Nasional untuk Kecerdasan Buatan, dalam pertemuan minggu ini mengakui risiko senjata otonom. Seorang anggota dari Microsoft misalnya memperingatkan adanya tekanan untuk membangun mesin yang bereaksi dengan cepat, yang dapat meningkatkan konflik.
Panel hanya ingin manusia membuat keputusan untuk meluncurkan hulu ledak nuklir.
Namun, panel lebih memilih pekerjaan anti-proliferasi daripada perjanjian yang melarang sistem, yang di katakan akan bertentangan dengan kepentingan AS dan sulit untuk di tegakkan.
Memicu Perlombaan Senjata Yang Sia-sia
Mary Wareham, koordinator Kampanye delapan tahun untuk Menghentikan Robot Pembunuh , mengatakan “fokus komisi pada kebutuhan untuk bersaing dengan investasi serupa yang di buat oleh China dan Rusia … hanya berfungsi untuk mendorong perlombaan senjata.”
Jika kita membiarkan hal ini berlanjut, semua negara akan berfokus untuk meningkatkan pertahanan negaranya dengan AI. Maka Riset dan pembangunan persenjataan akan gencar di lakukan di berbagai negara. Padahal dana riset dan pembangunan persenjataan dapat di alokasikan kepada pengentasan kemiskinan.
