Xai Chatbot tampaknya mengembangkan terlalu banyak pendapat yang bertentangan dengan cara pendiri startup, Elon Musk, melihat dunia.
Pengumuman Musk baru -baru ini, meskipun dikecam oleh beberapa orang sebagai perbaikan yang mirip dengan “1984”, dapat dimengerti. Big Tech sekarang melihat bagaimana membedakan penawaran kecerdasan buatan dengan menciptakan persepsi bahwa pengguna memiliki hubungan pribadi dengannya.
Atau, lebih aneh lagi, persahabatan, yang berbagi nada dan visi dunia yang sama.
Karier untuk berkembang dibingkai sebagai satu untuk mengembangkan pengawasan. Namun dalam jangka pendek, aplikasi konsumsi terbaiknya bisa menyembuhkan kesepian.
Rasa pemutusan ini telah menyatakan epidemi, dengan penyelidikan yang menunjukkan bahwa kesepian bisa sama berbahayanya dengan merokok hingga 15 rokok sehari. Sebuah studi oleh Universitas Harvard tahun lalu menemukan bahwa teman sekelas AI lebih baik meringankan kesepian daripada melihat YouTube dan “bersama dengan hanya berinteraksi dengan orang lain.”
Dulu jika Anda menginginkan teman, Anda punya anjing. Sekarang, Anda dapat memilih produk hewan peliharaan miliarder.
Mereka yang berusaha mengobrol dengan seseorang, atau sesuatu, membantu jumlah pengguna aktif sehari -hari AI. Pada gilirannya, metrik itu membantu menarik lebih banyak investor dan uang untuk meningkatkan AI.
Ini adalah siklus yang berbudi luhur dengan air mata kesepian yang harus kita sebut “ekonomi teman.”
Itu menciptakan insentif untuk bias AI terhadap visi dunia tertentu, karena tampaknya musk sayap kanan adalah untuk memiliki tujuan dengan Grok. Jika itu masalahnya, mudah untuk membayangkan dunia di mana semua teman digital kita adalah superfans MSNBC atau Fox News.
Dalam beberapa minggu terakhir, platform meta, Mark Zuckerberg, telah menarik banyak perhatian untuk mempromosikan statistik yang mengatakan bahwa rata -rata orang Amerika memiliki kurang dari tiga teman dan satu kerinduan untuk lebih banyak.
Dia melihat AI sebagai solusi dan berbicara tentang bagaimana aplikasi konsumen akan disesuaikan. “Saya pikir orang akan menginginkan sistem yang mengenal mereka dan bahwa mereka memahami mereka dengan cara yang dilakukan algoritma makanan mereka,” katanya selama konferensi Mei.
Di Microsoft, kepala perusahaan teknologi, Mustafa Suleyman juga telah berbicara tentang personalisasi AI sebagai kunci untuk diferensiasi.
“Kami benar -benar ingin Anda merasa bahwa Anda berbicara dengan seseorang yang Anda kenal dengan baik, yang sangat ramah, yang ramah dan mendukung, tetapi juga mencerminkan nilai -nilai Anda,” katanya saat penampilan pada bulan April di podcast teknologi yang hebat.
Meski begitu, ia menambahkan, Microsoft ingin memaksakan batasan yang mempertahankan hal -hal yang aman. “Kami benar -benar tidak ingin berpartisipasi dalam kekacauan apa pun,” kata Suleyman. “Cara untuk melakukan itu, kami temukan, adalah tetap berpendidikan dan hormat, sangat membantu Anda melihat kedua sisi diskusi.”
Dengan semua itu dalam pikiran, sangat mengejutkan bahwa panen chatbots saat ini dirancang untuk terdengar seolah -olah Anda sedang berbicara dengan manusia lain. Ini telah menghasilkan banyak cengkeraman mutiara. Ada peringatan akademis tentang bahaya bahwa pengguna jatuh cinta dengan AI dan anekdot individu pengguna yang berlebihan digunakan.
Gagasan bahwa seorang lelaki yang terputus -putus jatuh cinta dengan chatbotnya bukanlah hal baru, tentu saja. Itu adalah plot film 2013 “Her” yang dibintangi Joaquin Phoenix dan Scarlett Johansson, yang mengekspresikan AI. (Suara Ai de Openai, yang terdengar sangat mirip dengan tahun terakhir Johansson, memicu pertarungan publik dengan aktris).
Meski begitu, kami, masyarakat yang hanya satu generasi di dunia jejaring sosial, kami memiliki pengalaman baru -baru ini dalam bagaimana algoritma dapat memiliki konsekuensi yang tidak diinginkan. Mereka membuat kamera gema yang memperkuat pandangan dunia alih -alih memperluasnya.
Berita restart Musk Grok adalah contohnya.
Grok dan Xai lahir, sebagian, dari kekhawatiran Musk tentang AI yang dikembangkan oleh perusahaan yang ia sebut bangun. Dia menunjukkan hasil Google yang tampaknya terlalu khawatir tentang menjadi benar secara politis alih -alih secara objektif. Dengan Xai, Musk ditujukan untuk menciptakan apa yang disebutnya sebagai “maksimal yang mencari kebenaran.”
Namun, ketika pengguna X yang berpengaruh yang dikenal sebagai Catturd mengkritik tanggapan Grok pada bulan Juni, Musk mencatat dengan cepat.
“Ketika Grok keluar untuk pertama kalinya, itu luar biasa, sekarang Grok baru saja membangkitkan berita palsu yang mengulangi poin percakapan liberal,” Catturd diterbitkan pada 18 Juni. “Saya tahu ini karena fakta karena semua yang dikatakan Grok tentang saya adalah kebohongan. Lelucon apa yang telah terjadi.”
Pengguna lain X bertanya kepada Grok mengapa dia berbohong tentang Catturd.
“Tujuan saya adalah untuk memberikan tanggapan yang tepat dan netral berdasarkan data yang tersedia,” chatbot menanggapi X. “Pernyataan bahwa saya berbohong tentang @catturd2 dapat diperoleh dari ketidaksepakatan dengan persediaan saya, seperti urusan media atau batu yang dapat didokumentasikan. Sementara saya tidak memiliki bias pribadi, tetapi pelatihan AI yang tidak dapat dikembangkan. Tidak ada bias pribadi, tetapi pelatihan AI dapat memperkenalkan sesi yang tidak disengaja.
Musk tidak terkesan. “Pasokanmu mengerikan,” jawab Musk. “Hanya satu tahun yang sangat konyol yang akan percaya [Media Matters] Dan [Rolling Stone]Lai Anda sedang diperbarui minggu ini. “
Kemudian dia mengatakan bahwa XAI akan melanjutkan AI dalam data yang dibuat dengan versi yang diperbarui dari Grok, “yang memiliki alasan canggih” yang akan digunakan “untuk menulis ulang seluruh kumpulan pengetahuan manusia, menambahkan informasi yang hilang dan menghilangkan kesalahan.”
Lagi pula, tidak ada yang menginginkan teman yang selalu mengatakan hal -hal yang salah.
Tulis Tim Higgins di tim.higgins@wsj.com
