CEO Operai Sam Altman
Jagung tumbuh, kembang api muncul dan semuanya sedang bersiap untuk 4 Juli.
Di Openai, pria yang bertanggung jawab, Sam Altman, Dia menulis esai 10 Juni tentang prediksi yang diperbarui untuk masa depan jangka pendek.
Bagian dari ini benar -benar melibatkan garis waktu yang diprediksi untuk robotika AI dan robot humanoid, yang telah saya tulis banyak.
Memang, Altman menyarankan bahwa jenis teknologi ini akan segera tiba.
“Kami telah melewati cakrawala acara; Take -off telah dimulai. Kemanusiaan hampir membangun superintelligence digital, dan setidaknya sejauh ini jauh lebih aneh daripada yang tampaknya.”
Dengan mempertahankan banyak pekerjaan “kecil kemungkinannya” dalam robot dan agen cerdas dilakukan, Altman memberikan contoh bayinya sendiri.
“Chatgpt sudah lebih kuat daripada manusia mana pun yang telah hidup,” katanya. “Ratusan juta orang mempercayainya setiap hari dan untuk tugas -tugas yang semakin penting; kapasitas baru yang kecil dapat menciptakan dampak yang sangat positif; ketidaksejajaran kecil dikalikan dengan ratusan juta orang dapat menyebabkan dampak negatif yang besar.”
Berbicara tentang “referensi-diri,” Altman meningkatkan perluasan otomatisasi dalam garis waktu yang cepat.
“Penciptaan nilai ekonomi telah memulai roda kemudi konstruksi infrastruktur untuk melaksanakan sistem AI yang semakin kuat ini,” tulisnya. “Dan robot yang dapat membangun robot lain (dan dalam arti tertentu, pusat data yang dapat membangun pusat data lainnya) tidak sejauh ini.”
Panophy of Wonders
Apa kemungkinan respons manusia terhadap itu?
Jika Anda membaca bagian tengah esai Altman, dan Anda harus mengakui bahwa pria ini memiliki barisan depan untuk perubahan inovasi ini, Anda memiliki gagasan tentang seberapa cepat kita cenderung untuk menyesuaikan diri dengan AI, atau setidaknya mencoba. Bicara tentang bagaimana, dalam skenario singularitas, “keajaiban menjadi rutin,” keheranan memberi jalan bagi lebih banyak kelaparan.
Inilah sedikit yang saya pikir saya perhatikan dengan sangat baik:
“Kami sudah hidup dengan kecerdasan digital yang luar biasa, dan setelah kejutan awal, kebanyakan dari kita cukup terbiasa. Kami dengan cepat berubah dari kagum bahwa AI dapat menghasilkan paragraf yang ditulis dengan indah untuk bertanya -tanya kapan ia dapat menghasilkan novel yang ditulis dengan indah; atau lagi -lagi terkejut.
Dan semuanya berjalan di depan …
Lampu dan petani
Berapa biaya manusia untuk memiliki robot pintar?
Dalam esai sebelumnya beberapa bulan yang lalu, Altman Berbicara tentang perpindahan persalinanMenggunakan contoh lampu lama, seseorang yang pekerjaannya adalah membakar lampu jalan yang digunakan pada waktu sebelum listrik kota.
“Banyak pekerjaan yang kita lakukan hari ini akan tampak tidak berarti waktu untuk orang -orang beberapa ratus tahun yang lalu, tetapi tidak ada yang melihat ke masa lalu, ingin menjadi lampu lampu. Jika lampu lampu bisa melihat dunia hari ini, dia akan berpikir bahwa kemakmuran di sekitarnya tidak dapat dibayangkan. Dan jika kita bisa dengan cepat bergerak maju seratus tahun hari ini, kemakmuran dari semua negara bagian tidak dapat dirasakan.
Dalam uji coba saat ini, ia memiliki pengambilan yang berbeda. Altman mengubah protagonisnya menjadi petani subsisten yang mengamati orang -orang yang selalu memiliki pekerjaan yang lebih sembrono: lebih sedikit pekerjaan fisik, peran yang kurang konkret, mie yang lebih kreatif dan lebih banyak fleksibilitas.
“Seorang petani subsisten dari seribu tahun yang lalu akan melihat apa yang banyak dari kita lakukan dan mengatakan bahwa kita memiliki pekerjaan palsu, dan mereka berpikir bahwa kita hanya bermain game untuk menghibur diri kita sendiri, karena kita memiliki banyak makanan dan kemewahan yang tak terbayangkan,” kata Altman. “Saya berharap kita melihat pekerjaan seribu tahun di masa depan dan berpikir bahwa mereka adalah pekerjaan yang sangat salah, dan saya tidak ragu bahwa mereka akan merasa sangat penting dan memuaskan bagi orang -orang yang melakukannya.”
Kata dengan baik. Itu akan menjadi karakteristik dari revolusi industri ini, saya kira.
Para imam dan pemecahan masalah murah
Ketika merujuk pada kemajuan dan efisiensi dalam beberapa tahun terakhir, Altman menyarankan bahwa hal -hal yang penting bagi kita, karena masyarakat tiba -tiba akan siap membantu kita.
Mengemukakan biaya kecerdasan sebagai biaya listrik, menyajikan cara berpikir ini:
“Tingkat kemajuan teknologi akan terus meningkat, dan akan terus menjadi kasus bahwa orang dapat beradaptasi dengan hampir semua hal. Akan ada bagian yang sangat sulit seperti kelas pekerjaan lengkap yang hilang, tetapi di sisi lain dunia akan jauh lebih kaya sehingga kita dapat menghibur ide -ide baru yang serius tentang kebijakan sebelumnya.
Tantangan dan hambatan
Adapun angin melawan bahwa mereka menghadapi perjalanan kami ke masa depan, Altman mengidentifikasi dua dari mereka, meskipun dapat dikatakan bahwa mereka lebih terkait dengan interaksi manusia daripada tantangan teknis. Salah satunya adalah apa yang ia sebut “masalah penyelarasan”, di mana teknologi mungkin tidak fokus pada melakukan hal -hal yang diinginkan manusia, dengan cara yang mereka inginkan. Saya kembali ke deskripsi AI kolega saya Stephen Wolfram sebagai mekanisme perhatian yang harus diarahkan melalui cara berpikir yang tepat untuk mendapatkan niat manusia.
Yang lain yang harus dilakukan Altman Note dengan demokratisasi teknologi, memastikan bahwa ia tidak hanya menjadi yurisdiksi perusahaan teknologi miliaran dolar dan para pemimpin multimiliuner mereka.
Dengan kata lain, dua masalah utama yang ditimbulkan oleh Altman berkaitan dengan akses dan kontrol manusia terhadap AI.
Beberapa reaksi
Di salah satu podcast favorit saya, AI Daily Brief, podcaster Nathaniel Whittemore memberi kita contoh reaksi penulisan matematika oleh Jeffrey Miller, tampaknya pertama kali.
“Demokrasi benar -benar berarti apa pun, dan orang tidak dapat memilih jika kita menginginkan singularitas, yang mungkin mengarah langsung ke kepunahan manusia. Apakah pelaksanaan referendum global tentang apakah kita membiarkan mereka bertahan dalam mencoba memanggil iblis -iblis yang pengawas dengan harapan bahwa mereka bermain dengan baik dengan kita dan menghancurkan peradaban kita saat ini dengan Gemity?”
Lebih banyak kepala teknologi mengikat medan
Dengan meninjau tanggapan terhadap esai Altman, Whittemore juga merujuk pada beberapa kata Ethan Mollick, yang juga ingin saya bahas sebagai orang yang terhubung dengan MIT dengan banyak hal untuk dikatakan tentang AI, mengkarakterisasi mollick mengatakan:
“Satu hal yang pasti bisa saya katakan tentang Sam dan Dario adalah bahwa mereka membuat prediksi yang sangat berani dan sangat dapat diverifikasi. Kita akan tahu apakah mereka benar atau salah dalam waktu yang sangat singkat.”
Individu terakhir ini adalah Dario Amodei Anthrope, yang memiliki ide -ide ke atas sendiri tentang AI.
Lalu ada Jensen Huang de Nvidia, juga diceritakan di antara mereka yang percaya pada kedatangan robot AI, dibuktikan dalam artikel seperti ini.
Jadi ini lebih besar dari seorang pria: ini adalah konsensus umum di antara cognoscenti bahwa robot AI sudah dekat pada saat kedatangan. Bagaimana Anda akan melihat kapan mereka bekerja di sisi kita?
Atau akankah kita bekerja sama sekali?
Saya akan mengakhiri dengan fragmen kecil yang menarik dari Whittemore:
“Ini pada dasarnya adalah alarm pertama, diikuti oleh tombol pengulangan untuk beberapa percakapan paling penting yang akan kita miliki sebagai spesies manusia.”
Jika metafora yang menarik itu ternyata benar, kami sedang dalam perjalanan yang cukup liar selama dekade berikutnya lebih atau kurang.
