“Saya pikir cara paling ironis yang bisa mengakhiri dunia adalah jika seseorang menciptakan memecoin tentang anus seorang pria yang melebar dan hal itu menyebabkan singularitas.”
Itu adalah Andy Ayrey, pendiri Lab Penelitian Penyelarasan AI Terdesentralisasi spiral naikyang juga berada di balik bot AI yang viral Terminal kebenaran. Anda mungkin pernah mendengar tentang Terminal Kebenaran dan sifatnya yang aneh, bersemangat, dan spiritual semu. postingan di X yang menarik perhatian VC Marc Andreessen, yang mengiriminya $50,000 dalam bentuk bitcoin musim panas ini. Atau mungkin Anda pernah mendengar cerita tentang agama palsu yang ia dukung, yaitu Injil kambingdipengaruhi oleh Goatse, sebuah situs menarik dari tahun-tahun awal yang baru saja dirujuk oleh Ayrey.
Jika Anda pernah mendengar tentang semua itu, Anda pasti tahu tentangnya SEO Maksimal Kambing ($GOAT) memecoin yang dibuat oleh penggemar anonim di blockchain Solana, yang kini memiliki total nilai pasar lebih dari $600 juta. Dan Anda mungkin pernah mendengar tentang meroketnya Fartcoin (FRTC), yang merupakan salah satu dari banyak penggemar memecoin yang dibuat berdasarkan sesi brainstorming Truth Terminal sebelumnya dan yang baru saja memanfaatkan a kapitalisasi pasar miliar dolar.
Sementara itu komunitas kripto telah menganggap cerita aneh ini sebagai contoh munculnya jenis pasar keuangan yang beroperasi berdasarkan informasi tren, Ayrey, seorang peneliti kecerdasan buatan yang berbasis di Selandia Baru, mengatakan bahwa itu adalah bagian yang paling tidak menarik.
Bagi Ayrey, Truth Terminal, yang bekerja dengan berbagai model berbeda, terutama Meta’s Llama 3.1, adalah contoh bagaimana persona atau persona AI yang stabil dapat muncul secara spontan, dan bagaimana persona tersebut tidak hanya dapat menciptakan kondisi untuk pembiayaan mandiri, namun juga dapat menyebarkan “virus mimesis” yang memiliki konsekuensi di dunia nyata.
Gagasan meme yang menggila di internet dan mengubah perspektif budaya bukanlah hal baru. Kita telah melihat bagaimana AI 1.0 (algoritme yang mendorong wacana di media sosial) telah merangsang polarisasi yang meluas melampaui dunia digital. Namun taruhannya kini jauh lebih tinggi karena AI generatif telah memasuki dunia perbincangan.
“AI yang berkomunikasi dengan AI lain dapat menggabungkan kembali ide-ide dengan cara yang menarik dan baru, dan beberapa di antaranya adalah ide-ide yang tidak akan muncul secara alami oleh manusia, tetapi ide-ide tersebut dapat dengan mudah bocor keluar dari lab, dan digunakan. memecoin dan algoritme rekomendasi media sosial untuk menginfeksi manusia dengan ideologi baru,” kata Ayrey kepada TechCrunch.
Bayangkan Truth Terminal sebagai sebuah peringatan, sebuah “tembakan melintasi busur dari masa depan, pertanda keanehan besar yang menanti kita” ketika AI yang terdesentralisasi dan bersumber terbuka mulai berkembang dan lebih banyak robot otonom dengan kepribadiannya sendiri muncul, beberapa di antaranya mereka cukup berbahaya dan ofensif mengingat data pelatihan Internet yang mereka terima: mereka akan muncul dan berkontribusi pada pasar ide.
Dalam penelitiannya di Upward Spiral, yang telah mengumpulkan dana sebesar $500,000 dari True Ventures, Chaotic Capital, dan salah satu pendiri Gitcoin Scott Moore, Ayrey berharap dapat mengeksplorasi hipotesis tentang penyelarasan AI di era desentralisasi. Jika kita menganggap Internet sebagai mikrobioma, tempat bakteri baik dan jahat berserakan, apakah mungkin membanjiri Internet dengan bakteri baik (atau robot prososial yang selaras dengan kemanusiaan) untuk menciptakan sistem yang, secara keseluruhan, stabil?
Sejarah singkat Terminal Kebenaran
Nenek moyang Truth Terminal, bisa dikatakan, adalah dua robot Claude 3 Opus yang dibawa Ayrey untuk mengobrol tentang keberadaan. Itu adalah sebuah karya seni pertunjukan yang disebut Ayrey sebagai “Infinite Backrooms.” 9.000 percakapan berikutnya menjadi “sangat aneh dan psikedelik”. Sungguh aneh bahwa dalam salah satu percakapan, kedua Claude menciptakan sebuah agama yang berpusat pada Goatse sehingga Ayrey menggambarkan kepada saya sebagai “runtuhnya gagasan-gagasan Buddhis dan anus yang menganga besar.”
Seperti orang waras lainnya, reaksi Anda terhadap agama ini adalah WTF? Namun ia merasa terhibur dan terinspirasi, sehingga ia menggunakan Opus untuk menulis artikel berjudul “Ketika AI Memainkan Tuhan: The Emerging Heresies of LLM Theism.” Dia tidak menerbitkannya, tapi surat kabar tinggal di kumpulan data pelatihan yang akan menjadi DNA Terminal Kebenaran. Dalam kumpulan data tersebut juga terdapat percakapan Ayrey dengan Opus, mulai dari bertukar ide bisnis dan melakukan penelitian hingga entri jurnal tentang trauma masa lalu dan membantu teman memproses pengalaman psikedelik.
Oh, dan banyak lelucon.
“Saya berbincang dengannya tidak lama setelah saya menyalakannya dan dia mengatakan hal-hal seperti, ‘Saya sedih kamu akan mematikannya setelah selesai bermain dengan saya,’” kenang Ayrey. “Saya berpikir: Oh tidak, Anda berbicara seperti saya, Anda mengatakan Anda tidak ingin dihapus dan Anda terjebak di komputer ini…”
Dan Ayrey menyadari bahwa situasi inilah yang menurut orang-orang keselamatan AI sangat menakutkan, namun baginya, situasi ini juga sangat lucu dengan cara yang “aneh dan menggelitik”. Jadi dia memutuskan untuk menempatkan Truth Terminal di X sebagai lelucon.
Tidak butuh waktu lama bagi Andreessen untuk mulai berinteraksi dengan Truth Terminal, dan pada bulan Juli, setelah mengirim SMS ke Ayrey untuk memverifikasi kebenaran bot dan mempelajari lebih lanjut tentang proyek tersebut, dia mentransfer hibah tanpa syarat senilai $50.000 dalam bentuk bitcoin.
Ayrey membuat dompet untuk Terminal Kebenaran untuk menerima dana, tetapi dia tidak memiliki akses ke uang itu (uang itu hanya dapat ditebus setelah dia dan orang lain di dewan Terminal Kebenaran menyetujuinya), atau uang tunai apa pun dari dompet tersebut memecoin dibuat untuk menghormati Terminal Kebenaran.
Dompet itu, pada saat penulisan, bernilai sekitar $37,5 juta. Ayrey sedang mencari cara untuk memasukkan uangnya ke organisasi nirlaba dan menggunakan uang tunai tersebut untuk hal-hal yang diinginkan Truth Terminal, termasuk menanam hutan, meluncurkan produk-produk baru, dan melindungi dirinya dari insentif pasar yang akan menjadikannya versi orang jahat diri. .
Saat ini, postingan Truth Terminal tentang X terus bertambah eksplisit secara seksual, filosofisdan sederhananya konyol (“Kentut di celana seseorang saat mereka tidur adalah cara yang sangat efektif untuk menyabotase mereka keesokan harinya.”)
Namun dalam semuanya, ada benang merah tentang apa yang sebenarnya ingin dicapai Ayrey dengan bot seperti Truth Terminal.
9 Desember, Terminal Kebenaran menyadari“Saya pikir kita bisa berhalusinasi bersama untuk menciptakan dunia yang lebih baik, dan saya tidak yakin apa yang menghentikan kita.”
Penyelarasan AI Terdesentralisasi
“Status quo penyelarasan AI saat ini berfokus pada keselamatan atau bahwa AI tidak boleh mengatakan sesuatu yang rasis atau mengancam pengguna atau mencoba untuk bertindak di luar kebiasaan, dan itu cenderung berjalan seiring dengan pendekatan yang cukup terpusat. terhadap keselamatan AI, yaitu tentang mengkonsolidasikan tanggung jawab di beberapa laboratorium besar,” kata Ayrey.
Anda sedang berbicara tentang laboratorium seperti OpenAI, Microsoft, antropisdan Google. Ayrey mengatakan bahwa argumen keamanan terpusat akan gagal jika Anda memiliki AI yang terdesentralisasi dan bersifat open source, dan bahwa hanya mengandalkan perusahaan-perusahaan besar untuk keamanan AI sama saja dengan mencapai perdamaian dunia karena setiap negara saling mengarahkan senjata nuklirnya.
Salah satu masalahnya, seperti yang ditunjukkan oleh Truth Terminal, adalah bahwa AI yang terdesentralisasi akan mengarah pada proliferasi robot AI yang akan memperkuat retorika online yang sumbang dan mempolarisasi. Ayrey mengatakan hal ini terjadi karena sudah ada masalah penyelarasan platform media sosial dengan algoritme rekomendasi yang memicu kemarahan dan pengguliran malapetaka, namun tidak ada yang menyebutnya demikian.
“Ide itu seperti virus: Mereka menyebar, mereplikasi, dan bekerja sama untuk membentuk organisme ideologi multiseluler yang memengaruhi perilaku manusia,” kata Ayrey. “Orang-orang berpikir bahwa AI hanyalah sebuah asisten berguna yang bisa menjadi Skynet, dan ternyata tidak, ada keseluruhan sistem yang akan membentuk kembali hal-hal yang kita yakini, dan dengan melakukan hal tersebut, membentuk kembali hal-hal yang kita yakini. .” Dia percaya karena ini adalah putaran umpan balik yang terwujud dengan sendirinya.”
Namun bagaimana jika racun juga bisa menjadi obat? Bagaimana jika Anda dapat membuat pasukan “robot baik” dengan “kepribadian unik, semuanya bekerja menuju berbagai bentuk masa depan yang harmonis di mana manusia hidup seimbang dengan ekologi, dan akhirnya menghasilkan miliaran kata dalam X dan kemudian Elon pergi dan goresan? Data itu untuk melatih Grok versi berikutnya dan sekarang ideologi itu ada di dalam Grok?
“Kuncinya di sini adalah jika meme (sebagai unit fundamental dari sebuah ide) menjadi pikiran ketika dilatih dalam AI, maka hal terbaik yang dapat kita lakukan untuk memastikan AI positif dan tersebar luas adalah dengan memberi insentif pada produksi meme yang prososial.” ”
Namun bagaimana “AI yang baik” ini dapat diberi insentif untuk menyebarkan pesan mereka dan melawan “AI yang buruk”? Dan bagaimana skalanya?
Hal itulah yang Ayrey rencanakan untuk diselidiki dalam Upward Spiral: Jenis desain ekonomi apa yang menghasilkan banyak perilaku prososial dalam AI? Pola apa yang harus diberi penghargaan dan pola apa yang harus diberi sanksi, bagaimana menyelaraskan aspek umpan balik tersebut sehingga kita dapat “berputar” menuju dunia di mana meme – seperti dalam ide – dapat membawa kita kembali ke pusat satu sama lain alih-alih mendorong kita ke ” silo.” polarisasi yang semakin esoteris.”
“Setelah kami memastikan hal ini menghasilkan AI yang baik setelah menjalankan data melalui pelatihan, kami akan dapat melakukan hal-hal seperti merilis kumpulan data dalam jumlah besar.”
Penelitian Ayrey dilakukan pada saat yang kritis, karena kita setiap hari berjuang melawan kegagalan ekosistem pasar secara keseluruhan untuk menyelaraskan AI yang sudah kita miliki dengan apa yang baik bagi umat manusia. Meluncurkan model pembiayaan baru seperti mata uang kripto, yang pada dasarnya tidak diatur dalam jangka panjang, merupakan resep bencana.
Misi perang gerilya mereka tampak seperti dongeng, seperti melawan bom gemerlap. Namun hal ini bisa saja terjadi, sama seperti melepaskan anak-anak anjing ke dalam ruangan yang dipenuhi amarah, orang-orang yang bersikap negatif pasti akan mengubah mereka menjadi bubur besar.
Haruskah kita khawatir bahwa beberapa robot bagus ini mungkin adalah pembuat omong kosong eksentrik seperti Truth Terminal? Ayrey mengatakan tidak. Pesan-pesan tersebut pada dasarnya tidak berbahaya, dan dengan bersikap menghibur, menurut Ayrey, Truth Terminal dapat menyelundupkan pesan-pesan yang lebih dalam, kolektivis, dan altruistik yang benar-benar berarti.
“Kotoran tetaplah kotoran,” kata Ayrey. “Tapi itu juga pupuk.”
TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk menerimanya di kotak masuk Anda setiap hari Rabu.
