Dengan $ 30 Jutaan mansion meresap di tebing dengan maksud ke Golden Gate Bridge, sekelompok peneliti AI, filsuf dan teknologi berkumpul untuk membahas akhir umat manusia.
Simposium pada hari Minggu sore, disebut “penerus yang layak,” berputar di sekitar a ide provokatif Pengusaha Daniel Faggella: “Tujuan Moral” dari AI Advanced harus menciptakan bentuk kecerdasan yang begitu kuat sehingga “Saya dengan senang hati lebih suka bahwa (bukan umat manusia) menentukan jalan kehidupan di masa depan itu sendiri.”
Faggella menjelaskan masalah ini dalam undangannya. “Acara ini sangat fokus pada transisi pascaperang,” tulisnya melalui X DMS. “Tidak di Agi yang selamanya berfungsi sebagai alat untuk kemanusiaan.”
Sebuah pesta yang penuh dengan fantasi futuristik, di mana para peserta mendiskusikan akhir umat manusia sebagai masalah logistik alih -alih metaforis, dapat digambarkan sebagai ceruk. Jika Anda tinggal di San Francisco dan bekerja di AI, maka ini adalah hari Minggu yang khas.
Sekitar 100 tamu merawat koktail non -alkohol dan piring keju yang menggigit di dekat lantai oleh jendela langit -langit di depan Samudra Pasifik sebelum berkumpul untuk mendengarkan tiga pembicaraan tentang masa depan kecerdasan. Seorang asisten tampak seperti kemeja yang bertuliskan “Kurzweil benar”, tampaknya referensi untuk Ray KurzweilFuturistik yang memperkirakan mesin akan melebihi kecerdasan manusia di tahun -tahun mendatang. Lainnya mengenakan kemeja yang mengatakan, “Apakah ini membantu kita untuk sampai ke Agi Seguros?” disertai dengan emoji wajah berpikir.
Faggella mengatakan kepada WIRED bahwa dia mengorganisir acara ini karena “laboratorium besar, orang -orang yang tahu bahwa AGI kemungkinan akan mengakhiri umat manusia, tidak membicarakannya karena insentif tidak mengizinkannya” dan merujuk pada komentar pertama para pemimpin teknologi seperti Elon Musk, Sam Altman dan dan dan dan Refers Demis Hassabisbahwa “semua orang cukup jujur tentang kemungkinan Agi membunuh kita semua.” Sekarang insentif untuk bersaing, dia berkata: “Semua orang bersaing dengan kebosanan untuk membangunnya.” (Agar adil, musk Dia masih berbicara tentang risiko Terkait dengan AI maju, meskipun ini tidak mencegahnya berlari ke depan).
Di LinkedIn, Faggella JACTED Daftar tamu yang penuh dengan bintang, dengan pendiri AI, para peneliti dari semua laboratorium terbaik dari pemikir filosofis Barat dan terpenting dari AGI “.
Pembicara pertama, Jenewa DavisSeorang penulis yang berbasis di New York memperingatkan bahwa nilai -nilai kemanusiaan bisa tidak mungkin diterjemahkan ke dalam AI. Ada kemungkinan bahwa mesin tidak pernah mengerti apa yang harus diperhatikan, katanya, dan mencoba mengkodekan preferensi manusia dalam sistem masa depan bisa menjadi rabun. Sebaliknya, ia mengusulkan ide yang terdengar tinggi yang disebut “penyelarasan kosmik”, membangun yang dapat mencari nilai -nilai yang lebih dalam dan lebih universal yang belum kami temukan. Slide -nya sering menunjukkan gambar yang tampaknya dihasilkan oleh AI dari teknologi teknologi, dengan sekelompok manusia berkumpul di bukit rumput dengan maksud ke kota futuristik di kejauhan.
Kritik terhadap Kesadaran Mesin akan mengatakan bahwa model bahasa besar hanyalah Stochastic Parrots, sebuah metafora air untuk sekelompok peneliti, beberapa di antaranya bekerja di Google, yang menulis Di koran terkenal Bahwa LLM tidak terlalu memahami bahasa dan hanya mesin probabilistik. Tetapi perdebatan itu bukan bagian dari simposium, di mana para pembicara menganggap sebagai gagasan bahwa Superintelligence dan Fast mendekat.
