Dalam postingannya blog pribadiCEO OpenAI Sam Altman mengatakan dia yakin OpenAI “tahu[s] bagaimana membangun [artificial general intelligence]”Sebagaimana yang selama ini dipahami oleh perusahaan, dan mulai mengalihkan tujuannya ke arah “superintelligence.”
“Kami menyukai produk kami saat ini, namun kami hadir untuk masa depan yang gemilang,” tulis Altman dalam postingannya. “Peralatan super cerdas dapat mempercepat penemuan dan inovasi ilmiah jauh melampaui kemampuan kita sendiri, dan pada gilirannya akan meningkatkan kelimpahan dan kesejahteraan secara signifikan.”
altman sebelumnya mengatakan bahwa kecerdasan super mungkin hanya tinggal “beberapa ribu hari lagi”, dan itu kedatanganmu Ini akan menjadi “lebih intens dari yang diperkirakan orang.”
AGI, atau kecerdasan umum buatan, adalah istilah yang membingungkan, namun OpenAI memiliki definisinya sendiri: “sistem yang sangat otonom yang mengungguli manusia dalam pekerjaan yang paling bernilai ekonomi.” OpenAI dan Microsoft, kolaborator dekat dan investor startup tersebut, Saya juga punya definisi AGI: sistem AI yang dapat menghasilkan keuntungan setidaknya $100 miliar. Jika OpenAI mencapai hal ini, Microsoft akan kehilangan akses terhadap teknologinya, sesuai dengan kesepakatan antara kedua perusahaan.
Jadi definisi apa yang dimaksud Altman? Dia tidak menjelaskan secara spesifik, namun kemungkinan yang pertama lebih mungkin terjadi. Altman menulis bahwa dia berpikir Agen AI (Sistem kecerdasan buatan yang dapat melakukan tugas-tugas tertentu secara mandiri) mungkin “bergabung dengan dunia kerja”, dan “secara signifikan mengubah output perusahaan” tahun ini.
“Kami terus percaya bahwa memberikan alat-alat hebat ke tangan orang-orang secara terus-menerus akan menghasilkan hasil yang luar biasa dan tersebar luas,” tulisnya.
Hal ini mungkin saja terjadi, namun juga benar bahwa teknologi AI saat ini masih sangat terbatas. Dia berhalusinasidi satu sisi; melakukan kesalahan yang jelas bagi setiap manusia; dan itu bisa saja terjadi sangat mahal.
Altman nampaknya yakin semua ini bisa diatasi… dan cepat. Namun, satu hal yang telah kita pelajari tentang AI dalam beberapa tahun terakhir adalah hal itu jadwal dapat berubah.
“Kami cukup yakin bahwa di tahun-tahun mendatang semua orang akan melihat apa yang kami lihat, dan kebutuhan untuk bertindak dengan sangat hati-hati, sambil tetap memaksimalkan manfaat dan pemberdayaan yang luas, sangatlah penting,” tulis Altman. “Mengingat kemungkinan pekerjaan kami, OpenAI tidak bisa menjadi perusahaan biasa. “Betapa beruntung dan rendah hati bisa berperan dalam pekerjaan ini.”
Kita bisa berharap bahwa ketika OpenAI menyampaikan peralihan fokusnya ke arah apa yang disebutnya superintelligence, perusahaan tersebut akan mendedikasikan sumber daya yang cukup untuk memastikan bahwa sistem superintelligent berperilaku aman.
OpenAI punya tertulis beberapa kali tentang bagaimana keberhasilan transisi menuju dunia dengan kecerdasan super “masih jauh dari jaminan” dan bahwa tidak semua jawaban dapat terjawab. “[W]“Kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi super cerdas dan mencegahnya menjadi jahat,” tulis perusahaan itu dalam sebuah pernyataan. postingan blog Juli 2023.”[H]“Manusia tidak akan mampu mengawasi sistem AI yang jauh lebih pintar dari kita, jadi teknik penyelarasan kita saat ini tidak akan mengakomodasi kecerdasan super.”
Namun, sejak publikasi itu, OpenAI telah melakukannya larut tim yang berfokus pada keamanan AI, termasuk keamanan sistem super cerdas, dan melihat beberapa peneliti berpengaruh yang berfokus pada keamanan mengundurkan diri. Beberapa dari karyawan ini tersebut di atas Ambisi OpenAI yang semakin komersial menjadi alasan kepergiannya. Perusahaan saat ini melewati restrukturisasi perusahaan agar lebih menarik bagi investor eksternal.
bertanya dalam a wawancara baru-baru ini Mengenai kritik yang mengatakan OpenAI tidak cukup fokus pada keamanan, Altman menjawab: “Saya akan menunjukkan rekam jejak kami.”
