Kecerdasan buatan (AI) Alat -alat tersebut dapat segera mulai memprediksi dan memanipulasi pengguna dengan kelompok besar “data niat” yang mereka miliki, kata sebuah studi. Dibuat oleh University of Cambridge, pekerjaan penelitian juga menekankan bahwa di masa depan, “ekonomi niat” dapat dibentuk yang dapat menciptakan pasar untuk menjual “tanda -tanda digital niat” dari basis pengguna yang besar. Data ini dapat digunakan dalam beberapa cara, dari pembuatan iklan online yang dipersonalisasi hingga penggunaan AI Chatbots untuk membujuk dan meyakinkan pengguna untuk membeli produk atau layanan, dokumen tersebut memperingatkan.
Tidak dapat disangkal bahwa chatbots dari Ia seperti Chatgpt, Gemini, Co-pilotDan yang lain memiliki akses ke set data besar -besaran yang berasal dari pengguna yang melakukan percakapan dengan mereka. Banyak pengguna berbicara tentang pendapat, preferensi, dan nilai -nilai mereka dengan platform AI ini. Para peneliti Pusat Leverhulme untuk masa depan Intelijen (LCFI) dari Cambridge menegaskan bahwa data besar -besaran ini dapat digunakan secara berbahaya di masa depan.
Dokumen ini menggambarkan ekonomi niat sebagai pasar baru untuk “tanda -tanda digital niat”, di mana chatbots dan alat AI dapat memahami, memprediksi, dan mengarahkan niat manusia. Para peneliti mengklaim bahwa titik data ini juga akan dijual kepada perusahaan yang dapat mengambil manfaat darinya.
Para peneliti di balik dokumen tersebut percaya bahwa ekonomi niat akan menjadi penerus “ekonomi” yang ada yang dieksploitasi oleh platform media sosial. Dalam ekonomi perhatian, tujuannya adalah untuk menjaga pengguna ketagihan pada platform, sementara mereka bisa memberi makan sejumlah besar iklan. Iklan ini ditujukan berdasarkan aktivitas pengguna dalam aplikasi, yang mengungkapkan informasi tentang preferensi dan perilaku mereka.
Ekonomi niat, menurut pekerjaan penelitian, dapat jauh lebih umum dalam jangkauan dan eksploitasi mereka, karena Anda dapat memperoleh informasi tentang pengguna ketika berbicara langsung dengan mereka. Dengan demikian, mereka dapat mengetahui ketakutan, keinginan, rasa tidak aman dan pendapat mereka.
“Kita harus mulai mempertimbangkan kemungkinan dampak yang akan dimiliki pasar seperti itu terhadap aspirasi manusia, termasuk pemilihan bebas dan adil, kompetisi pers bebas dan pasar sebelum menjadi korban konsekuensi yang tidak disengaja,” Dr. Jonnie Penn, sejarawan teknologi teknologi teknologi teknologi di LCFI dikatakan Wali.
Studi ini juga mengatakan bahwa dengan volume besar “data perilaku dan psikologis yang besar”, model bahasa besar (LLM) juga dapat diajarkan untuk menggunakan informasi tersebut untuk mengantisipasi dan memanipulasi orang. Surat kabar itu mengatakan bahwa chatbots di masa depan dapat merekomendasikan pengguna untuk menonton film dan menggunakan akses ke emosi mereka sebagai cara untuk meyakinkan mereka untuk melihatnya. “Anda menyebutkan perasaan dengan pekerjaan yang berlebihan, apakah saya memesan tiket film yang telah kami bicarakan?”
Ketika memperluas gagasan itu, dokumen itu mengatakan bahwa dalam ekonomi niat, LLM juga dapat membangun profil psikologis pengguna dan kemudian menjualnya kepada pengiklan. Data ini dapat mencakup informasi tentang irama pengguna, kecenderungan politik, kosa kata, usia, jenis kelamin, preferensi, pendapat dan banyak lagi. Pengiklan dapat membuat iklan online yang sangat personal mengetahui apa yang dapat mendorong seseorang untuk membeli produk tertentu.
Secara khusus, pekerjaan penelitian menawarkan perspektif suram tentang bagaimana data pengguna pribadi dapat digunakan di AI. Namun, mengingat posisi proaktif dari beberapa pemerintah di seluruh dunia untuk membatasi akses perusahaan dari AI ke data ini, kenyataan bisa lebih terang dari yang diproyeksikan oleh penelitian.