Dalam sebuah artikel kebijakan yang diterbitkan pada hari Rabu, mantan CEO Google, Eric Schmidt, CEO AI Scale, Alexandr Wang, dan Pusat Direktur Keamanan AI, Dan Hendrycks, mengatakan bahwa Amerika Serikat tidak boleh mengejar dorongan dalam gaya Proyek Manhattan untuk mengembangkan sistem intelijen “Superhuman”, yang juga dikenal sebagai AGI.
Kertas, berjudul “Strategi Superintelligence“Dia mengatakan bahwa tawaran agresif dari Amerika Serikat untuk secara eksklusif mengendalikan sistem superintelligent dapat menyebabkan pembalasan sengit dari Cina, berpotensi dalam bentuk serangan dunia maya, yang dapat mengacaukan hubungan internasional.
“[A] Proyek Manhattan [for AGI] Mengasumsikan bahwa saingan akan memperoleh ketidakseimbangan yang langgeng atau omnikidal alih -alih bergerak untuk menghindarinya, ”tulis rekan kerja. “Apa yang dimulai sebagai dorongan untuk superpene dan kontrol global berisiko menyebabkan penanggulangan yang bermusuhan dan meningkatkan ketegangan, sehingga merusak stabilitas yang ingin dipastikan strategi.”
Dalam rekan kerja tiga tokoh yang sangat berpengaruh di industri AI Amerika Serikat, artikel ini terjadi hanya beberapa bulan setelah a Komisi Kongres Amerika Serikat mengusulkan “Gaya Proyek Manhattan” Upaya untuk membiayai pengembangan AGI, pemodelan setelah Program Pompa Atom Amerika Serikat pada tahun 1940 -an.Awal dari proyek Manhattan baru“Di AI sambil berdiri di depan situs superkomputer bersama dengan co -founder opera, Greg Brockman.
Dokumen Strategi Superintelligence menantang gagasan itu, dipertahankan oleh beberapa kebijakan dan pemimpin industri AS dalam beberapa bulan terakhir, yang didukung oleh program oleh pemerintah yang mengejar AGI adalah cara terbaik untuk bersaing dengan Cina.
Di Schmidt, Wang dan Hendrycks, Amerika Serikat berada dalam konfrontasi AGI yang tidak berbeda dari Kehancuran dengan aman. Dengan cara yang sama bahwa kekuatan global tidak mencari monopoli tentang senjata nuklir, yang dapat memicu serangan pencegahan oleh musuh, Schmidt dan rekan -rekannya berpendapat bahwa Amerika Serikat harus berhati -hati tentang bersaing menuju dominasi sistem yang sangat kuat.
Sementara membandingkan sistem AI dengan senjata nuklir mungkin terdengar ekstrem, para pemimpin dunia sudah menganggap bahwa AI adalah keuntungan militer yang unggul. Sudah, The Pentagon mengatakan bahwa AI membantu mempercepat rantai pembunuhan Angkatan Darat.
Schmidt et al. Memperkenalkan konsep yang disebut perusahaan asuransi bersama (MAIM), di mana pemerintah dapat secara proaktif menonaktifkan proyek -proyek yang mengancam alih -alih menunggu musuh ke Armen ke AGI.
Schmidt, Wang dan Hendrycks mengusulkan agar Amerika Serikat mengubah pendekatan mereka untuk “memenangkan karir menjadi pengawas” dengan metode pengembangan bahwa mencegah negara lain untuk membuat superintestinal. Co -Authors berpendapat bahwa pemerintah harus “berkembang [its] Arsenal Cyber -tank untuk menonaktifkan proyek -proyek yang mengancam “dikendalikan oleh negara -negara lain, serta membatasi akses musuh ke chip canggih dan model open source.
Rekan -rekannya mengidentifikasi dikotomi yang telah dikembangkan di dunia kebijakan AI. Ada “doomer”, yang percaya bahwa hasil bencana dari perkembangan kecerdasan buatan adalah kesimpulan yang tak terhindarkan dan mengadvokasi negara -negara yang memperlambat kemajuan AI. Di sisi lain, ada “burung unta”, yang percaya bahwa bangsa -bangsa harus mempercepat pengembangan AI dan pada dasarnya saya hanya berharap semuanya berhasil.
Dokumen tersebut mengusulkan cara ketiga: pendekatan terukur untuk mengembangkan AGI yang memprioritaskan strategi defensif.
Strategi ini sangat penting dari Schmidt, yang sebelumnya menyatakan perlunya Amerika Serikat untuk bersaing dengan Cina dalam pengembangan sistem AI tingkat lanjut. Hanya beberapa bulan yang lalu, Schmidt meluncurkan artikel opini. Deepseek menandai titik balik dalam karier Amerika Serikat dengan Cina.
Pemerintahan Trump tampaknya sudah mati sebelumnya dalam pengembangan AI Amerika Serikat. Namun, seperti yang ditunjukkan oleh rekan kerja, keputusan Amerika Serikat tentang AGI tidak ada dalam ruang hampa.
Sementara dunia mengamati Amerika Serikat untuk mendorong batas AI, Schmidt dan rekan -rekannya menunjukkan bahwa mungkin lebih bijaksana untuk mengadopsi pendekatan defensif.
