Tetap terinformasi dengan pembaruan gratis
Cukup mendaftar di Kecerdasan buatan Myft Digest: Dikirim langsung ke kotak masuknya.
Dua tema mendominasi Forum Ekonomi Dunia tahunan di Davos minggu lalu: Donald Trump dan kecerdasan buatan. Dari keduanya, yang terakhir adalah yang paling menarik dan hampir pasti lebih signifikan. Banyak perhatian dalam diskusi itu didedikasikan VeteranKejutan Cina. Namun, kami hanya belajar bahwa pengetahuan meluas: tidak ada negara yang akan memonopoli teknologi baru ini. Ini telah mengejutkan pasar. Dengan teknologi baru, “kejutan” seperti itu tidak mengejutkan. Tapi itu tidak mengubah pertanyaan besar, itulah arti intelijen mesin yang memajukan bagi kita semua.
Manusia bersifat sosial dan cerdas. Kombinasi ini adalah “aplikasi pembunuh” Anda. Itu memungkinkan mereka untuk mendominasi planet ini. Kecerdasan manusia menciptakan teknologi tujuan umum yang membentuk dunia, Dari domestasi api hingga penciptaan komputer. Tapi, dengan komputer yang mereka pikirkan, ini bisa berubah. Blaise PascalMatematikawan dan filsuf Prancis ke -17 mengatakan bahwa “Manusia tidak lebih dari tongkat, yang paling lemah di alam, tetapi itu adalah tongkat pemikiran.“Apakah keunikan itu sekarang akan segera berakhir?
Di Davos, saya menghadiri dua diskusi menarik tentang hadiah dan risiko kemajuan di AI. Satu Wawancara dari Sir Demis HassabisCo -founder Google DeepMind dan reseptor bersama Hadiah Nobel dalam Kimia, oleh Roula Khalaf, Editor FT. Yang lainnya adalah a wawancara dari Dario AmodeiPendiri dan CEO Anthrope dan penulis Mesin Grace yang penuh kasiholeh Zanny Minton BeddoesEditor Ekonom.
Wawancara dengan Hassabis menekankan kemajuan terbaru dalam kemampuan kami untuk melakukan analisis ilmiah, terutama dalam biologi. Lebih dari 2 juta peneliti menggunakan AlfafoldDia mengatakan, program DeepMind dikembangkan. “Kami melipat semua protein yang diketahui sains, 200 mn. . . [T]Aturan umum adalah bahwa seorang mahasiswa doktoral mengambil semua gelar doktor dalam menemukan struktur protein. Kemudian, 200 MN akan memakan waktu satu miliar tahun doktoral. Dan kami baru saja memberikan seluruh dunia, gratis.
Secara umum, Amodei berpendapat, kita dapat membayangkan AI sebagai “Negara jenister di pusat data“, Salah satu yang bisa dibuat orang Cina lebih murah daripada sebelumnya. Namun, apakah ini jenius yang benar? relativitas Einstein.
Tampaknya masuk akal bahwa dampak dari kapasitas pemecahan masalah tersebut, apakah “jenius” atau tidak, luar biasa. Ini bisa, antara lain, mempercepat peningkatan pengetahuan dan, oleh karena itu, pertumbuhan produktivitas dan penyebaran kemakmuran. Keduanya diinginkan. Dalam beberapa dekade terakhir, peningkatan “produktivitas faktor total”, ukuran terbaik kemajuan teknis, telah sederhana. Selain itu, sejumlah besar masih hidup dalam kemiskinan ekstrem dan, menyedihkan, Kemajuan telah melambat.
Namun, juga terbukti bahwa kemajuan yang dipercepat juga dapat menciptakan kesulitan. Struktur pasar tenaga kerja dapat berubah secara besar -besaran, misalnya, dengan, dalam hal ini, penurunan yang kuat dalam permintaan pekerja yang asetnya dilatih, tetapi sebagian besar rutin, kecerdasan. Prakiraan efek tersebut bervariasi. A 2023 kertas Oleh Erik Brynjolfsson dan Gabriel Unger menunjukkan bahwa, karena telah benar di seluruh revolusi komputer, efek pada produktivitas bisa sederhana. Namun, kali ini bisa berbeda, dengan produktivitas tinggi, tetapi perubahan ekonomi dan sosial yang besar dan berbahaya. Sekali lagi, tergantung pada bagaimana masyarakat merespons, keberhasilan dapat mengarah pada “technosfeudalisme”, dengan konsentrasi kekayaan yang lebih besar. Penemuan sejumlah besar perawatan baru dapat sangat meningkatkan biaya perawatan medis dan juga biaya untuk menangani kehidupan yang sangat luas, bahkan jika mereka seimbang, mereka lebih sehat. Apakah orang -orang siap untuk hidup dengan orang -orang yang hebat -hebat? Oleh karena itu, hal -hal yang tampaknya baik dapat menciptakan tantangan nyata.
Di luar ini, pengembangan AI yang diharapkan menciptakan risiko besar. Bagaimana Anda mengendalikan penggunaan aktor yang tidak jujur, termasuk negara -negara yang bermusuhan, teroris dan pembunuh massal? Penilaian moral apa yang diizinkan dilakukan dalam perang? Bagaimana Anda mengontrol penggunaan pengawasan? “Kakak” akan lebih mengamati kita selamanya? Sekali lagi, apa yang kita lakukan tentang pembuatan palsu dan berita palsu? Bagaimana kebebasan bertahan dari semua ancaman?
Hasbis jelas bahwa kita membutuhkan batasan global yang efektif pada penggunaan AI. Di era kerja sama internasional dan penghinaan yang hancur dengan gagasan “perintah internasional berdasarkan aturan”, akankah Cina dan Amerika Serikat bekerja bersama sehingga AI aman? Tampaknya tidak mungkin, terutama karena mereka memiliki sudut pandang yang berbeda tentang bagaimana teknologi tersebut harus digunakan.
Pada 2015, saya menulis skeptis yang umumnya artikel dalam kemungkinan dampak (sederhana) pada produktivitas teknologi baru. Beberapa tahun berikutnya akhirnya bisa menunjukkan bahwa saya salah. Namun, saya juga memperhatikan bahwa jika kami mendekat “Singularitasnya” – Kecerdasan buatan yang melebihi semua kecerdasan manusia, semuanya harus berubah.
Salah satu ide hebat di Frank Herbert Bukit pasir Serial ini adalah bahwa di masa lalu (masa depan kita) yang jauh melawan jihad yang sukses melawan mesin yang berpikir. Sejak saat itu, manusia harus menjadi manusia super. Karakter utama Menjelaskan Bahwa “manusia telah mendirikan mesin -mesin ini untuk merebut rasa kecantikan kita, Selgo kita yang diperlukan, yang kita buat penilaian hidup. Secara alami, mesin -mesin itu dihancurkan.”
