Tetap terinformasi dengan pembaruan gratis
Cukup mendaftar di Kecerdasan buatan Myft Digest: Dikirim langsung ke kotak masuknya.
Penulis adalah direktur program Institute of Global Affairs in Eurasia Group
Ketika Openai dan Mattel mengumumkan sebuah asosiasi awal bulan ini, ada pengakuan implisit tentang risiko tersebut. Mainan pertama yang dipromosikan dengan kecerdasan buatan tidak akan untuk anak -anak di bawah 13 tahun.
Asosiasi lain minggu lalu tiba dengan peringatan yang tampaknya kurang. Operai mengungkapkan secara terpisah bahwa dia telah memenangkannya Kontrak Pentagon Pertama. Ini akan mengemudikan program $ 200 juta untuk “mengembangkan kemampuan prototipe perbatasan untuk mengatasi tantangan keamanan nasional yang kritis baik di domain perang maupun di perusahaan.” Departemen Pertahanan Amerika Serikat.
Bahwa perusahaan teknologi penting dapat meluncurkan pekerjaan militer dengan pengawasan publik yang begitu kecil melambangkan perubahan. Aplikasi Aplikasi Keselamatan Nasional telah menjadi fakta. Berbekal cerita tentang bagaimana mereka telah supercharged ke Israel dan Ukraina dalam perang mereka, beberapa perusahaan teknologi telah membingkai ini sebagai patriotisme baru, tanpa melakukan percakapan tentang apakah itu harus terjadi di tempat pertama, apalagi bagaimana cara memastikan bahwa etika dan keamanan diprioritaskan.
Silicon Valley dan Pentagon selalu saling terkait, tetapi ini adalah langkah pertama Openai dalam perekrutan militer. Perusahaan telah membangun tim keamanan nasional dengan mantan mahasiswa Administrasi Biden, dan hanya tahun lalu yang melakukannya Keheningan menghilangkan larangan Dengan menggunakan aplikasi mereka untuk hal -hal seperti pengembangan senjata dan “perang.” Pada akhir 2024, Operai telah dikaitkan dengan Anduril, mega-star yang disejajarkan di Maga yang dipimpin oleh Palmer Luckey.
Big Tech telah berubah secara dramatis sejak 2018, ketika karyawan Google memprotes upaya rahasia Pentagon yang disebut Project Maven tentang masalah etika, yang menyebabkan raksasa teknologi membiarkan kontrak berakhir. Sekarang, Google benar -benar direvisi Pendekatan Anda.
Google Cloud berkolaborasi Lockheed Martin Dalam generatif. Sasaran, itu juga mengubah kebijakan mereka sehingga militer dapat menggunakan api AI. Pendukung teknologi besar Amazon dan Microsoft adalah segalanya. Dan Anthrope telah bermitra dengan Palantir untuk membawa Claude ke Angkatan Darat AS.
Sangat mudah untuk membayangkan keunggulan AI, tetapi apa yang hilang dari pandangan publik adalah percakapan tentang risiko. Sekarang didokumentasikan dengan baik bahwa AI terkadang berhalusinasi, atau memperoleh kehidupannya sendiri. Pada tingkat yang lebih struktural, teknologi konsumen mungkin tidak cukup aman untuk penggunaan keamanan nasional, yang dimiliki para ahli diperingatkan.
Banyak orang Amerika dan Eropa Barat berbagi skeptisisme ini. Salah satu organisasi saya baru -baru ini survei Dari Amerika Serikat, Inggris, Prancis, dan Jerman menemukan bahwa sebagian besar mendukung peraturan yang lebih ketat ketika datang ke militer. Orang -orang peduli, dapat dipersenjatai oleh musuh, atau digunakan oleh pemerintah mereka sendiri untuk memantau warga.
Para responden ditawari delapan pernyataan, menekankan setengah dari manfaat AI untuk pasukan negara mereka dan setengah menekankan risiko. Di Inggris, kurang dari setengah (43 persen) mengatakan bahwa AI akan membantu militer negara mereka untuk meningkatkan alur kerja mereka, sementara sebagian besar (80 persen) mengatakan bahwa teknologi baru ini harus lebih diatur untuk melindungi hak -hak dan kebebasan orang.
Penggunaan AI untuk perang dapat, dalam bentuknya yang paling ekstrem, untuk mempercayai algoritma yang rusak dalam masalah hidup atau mati. Dan itu sudah terjadi di Timur Tengah.
Media + Israel972 Majalah Dia telah menyelidiki AI Israel dalam tujuannya kepada para pemimpin Hamas di Gaza dan memberi tahu bahwa “ribuan warga Palestina, kebanyakan dari mereka perempuan dan anak -anak atau orang -orang yang tidak terlibat dalam pertempuran, dieliminasi oleh serangan udara Israel, terutama selama minggu -minggu pertama perang, karena keputusan program AI.”
Tentara AS, sementara itu, telah menggunakan AI untuk memilih gol di Timur Tengah, tetapi seorang pejabat senior Pentagon mengatakan kepada Bloomberg tahun lalu Itu tidak cukup dapat diandalkan untuk bertindak sendiri.
Percakapan terbuka tentang apa artinya sehingga raksasa teknologi bekerja dengan militer tertunda. Seperti ribuan orang yang tinggal, mantan peneliti Openai, memiliki diperingatkan: “Perusahaan IA harus lebih transparan daripada saat ini dalam kasus penggunaan terkait dengan keamanan nasional, penerapan hukum dan imigrasi yang mereka lakukan dan tidak mendukung, dengan negara/lembaga mana dan bagaimana menegakkan aturan ini.”
Dalam momen perang dan ketidakstabilan di seluruh dunia, publik berteriak untuk percakapan tentang apa artinya sebenarnya bahwa militer menggunakan AI. Mereka pantas mendapat jawaban.
