Selama bertahun -tahun, perusahaan telah mendapatkan uang untuk mendapatkan perhatian mereka. Setiap perpindahan, selip, dan klik membantu mereka menemukan apa yang disimpan oleh fokus mereka. Ini menciptakan apa yang oleh para ahli disebut ekonomi perhatian. Dia mengubah segala sesuatu tentang bagaimana berita itu meluas ke cara orang lewat. Tapi sekarang, para peneliti mengatakan internet bergerak melampaui itu. Alih -alih hanya mendapatkan perhatian mereka, perusahaan ingin tahu apa yang mereka rencanakan. Bukan hanya yang Anda inginkan, tetapi apa yang akan Anda sukai. Mereka ingin memahami dan bahkan membentuk keputusan mereka sebelum membuatnya. Di tengah perubahan ini ada model bahasa besar atau LLM. Ini adalah otak di balik chatbots dan asisten digital. Mereka dilatih dalam sejumlah besar informasi dan mungkin terdengar sangat manusiawi. Dia mungkin sudah berbicara dengan satu, baik melalui layanan pelanggan atau tutor virtual. Sistem AI ini tidak hanya memahami bahasa. Mereka mempelajari bagaimana Anda berbicara, pertanyaan apa dan bahkan bagaimana Anda menjawab sanjungan. Saat melakukan ini, mereka dapat menebak apa yang Anda pikirkan. Dan dengan lebih banyak percakapan, mereka semakin meningkat untuk mengetahui apa yang dia inginkan, atau apa yang bisa dia inginkan segera. Para peneliti di University of Cambridge mengklaim bahwa alat kecerdasan buatan (AI) dapat segera digunakan untuk memanipulasi massa untuk membuat keputusan yang seharusnya tidak. Studi ini memperkenalkan konsep “ekonomi niat”, pasar di mana AI dapat memprediksi, memahami dan memanipulasi niat manusia untuk keuntungan. Dipromosikan oleh LLMS, alat AI seperti chatgpt, Gemini dan chatbots lainnya, “akan mengantisipasi dan mengarahkan” pengguna berdasarkan “data yang disengaja, perilaku dan psikologis.” “Agen antropomorfik AI, dari peserta chatbot hingga tutor dan pacar digital, akan memiliki akses ke sejumlah besar data dan perilaku psikologis intim, yang sering diperoleh melalui dialog lisan informal dan percakapan,” kata penyelidikan.
Studi ini mengutip contoh model AI yang dibuat oleh meta, yang disebut Cicero yang telah mencapai kapasitas manusia untuk memainkan diplomasi permainan papan yang mengharuskan peserta untuk menyimpulkan dan memprediksi niat lawan. Keberhasilan Cicero menunjukkan bagaimana AI mungkin telah belajar untuk “mendorong” mitra percakapan ke tujuan tertentu yang dapat secara efektif diterjemahkan menjadi pengguna online menuju produk tertentu yang mungkin ingin dijual oleh pengiklan. Penelitian ini menyatakan bahwa tingkat penyesuaian ini akan memungkinkan perusahaan sebagai tujuan untuk melelang niat pengguna kepada pengiklan di mana mereka membeli hak untuk mempengaruhi keputusan. Dr. Yaqub Chaudhary dari Leverhulme de Cambridge Center for the Future of Intelligence (LCFI) menekankan perlunya mempertanyakan minat apa yang dilayani oleh para peserta AI ini, terutama ketika mereka mengumpulkan data percakapan intim. Ekonomi Niat didasarkan pada dasar ekonomi perawatan, yang berkonsultasi dengan perhatian pengguna untuk platform seperti Instagram dan Facebook. Sebaliknya, ekonomi niat berfokus pada komersialisasi motivasi dan niat manusia, memperlakukan mereka sebagai mata uang yang berharga. Studi sebelumnya telah mengeksplorasi dampak ekonomi ekonomi pada perilaku konsumen, namun, transisi ke ekonomi niat adalah subxamine. Pekerjaan yang ada sering membingkai perubahan ini sebagai pemberdayaan bagi konsumen, tetapi tidak memiliki pengawasan kritis terhadap implikasi sosial mereka. Definisi filosofis tradisional tentang niat fokus pada tindakan dan penalaran yang disengaja, sementara konsep yang dipromosikan teknologi menganggap bahwa niat sebagai fenomena operasional komputasi. Asumsi bahwa pemilihan manusia dapat dibentuk dalam lingkungan digital terstruktur mendukung banyak penelitian dan pengembangan LLM. Konferensi Pengembang OpenAI pertama pada November 2023 menandai momen mendasar dalam evolusi LLM.
Iklan seperti generatif transformator generatif (GPT) yang dapat disesuaikan, kapasitas multimodal dan program pertukaran pendapatan yang menggarisbawahi strategi OpenAI untuk memanfaatkan data yang dihasilkan oleh pengguna melalui inovasi pengembang. Mitra utama seperti Microsoft diinvestasikan dengan kuat dalam infrastruktur untuk mengakomodasi beban kerja LLM, dengan Microsoft memposisikan Azure sebagai platform cloud yang dominan. NVIDIA dan META juga bertujuan untuk mengintegrasikan LLM ke dalam komputasi sentral, memanfaatkannya untuk menyimpulkan niat manusia dan meningkatkan interaksi antara aplikasi. Kemampuan LLMS untuk mengekstrak dan memprediksi niat pengguna menunjukkan perubahan dalam bagaimana data dikumpulkan dan dimonetisasi. OpenAI, misalnya, mencari set data yang mengekspresikan niat manusia untuk memperbaiki sistem AI di masa depan, sementara perusahaan sebagai tujuan mengembangkan set data dan bingkai seperti “intensionomi” untuk mengklasifikasikan motivasi. Kemajuan ini juga berlaku di lingkungan komersial, seperti sistem penargetan dan rekomendasi pengumuman, di mana ide -ide perilaku mendorong pengalaman hiperpersonalisasi. Namun, inovasi ini menimbulkan kekhawatiran etis. Teknik untuk mendapatkan niat melalui percakapan AI dapat menyebabkan manipulasi, seperti yang ditunjukkan dalam proyek -proyek seperti Meta Cicero, yang menggabungkan permainan strategis dengan dialog persuasif. AI generatif menghilangkan perlindungan privasi tradisional, menggunakan konten sebagai proxy untuk menyimpulkan atribut pribadi. Asosiasi seperti Openai dengan Dotdash Meredith menggambarkan lebih banyak lagi bagaimana data niat dipasarkan untuk iklan. Pekerjaan penelitian baru juga memperingatkan bahwa LLMS sebagai chatgpt tidak hanya mengubah cara kita berinteraksi dengan teknologi, mereka meletakkan fondasi untuk pasar baru di mana niat kita bisa menjadi produk untuk dibeli dan dijual.
Selama beberapa dekade, perusahaan teknologi telah mendapat manfaat dari apa yang dikenal sebagai ekonomi ekonomi, di mana mata dan klik kita adalah mata uang. Platform dan situs web media sosial bersaing untuk bagian perhatian kami yang terbatas, melayani aliran dan iklan konten tanpa akhir. Namun, menurut para peneliti Chaudhary dan Dr. Jonnie Penn, kami menyaksikan tanda -tanda awal sesuatu yang lebih invasif: sistem ekonomi yang dapat memperlakukan motivasi dan rencana kami sebagai data berharga untuk ditangkap dan diperdagangkan. Apa yang membuat ekonomi potensial baru ini sangat mengkhawatirkan adalah sifat intimnya. “Apa yang orang katakan ketika berbicara, bagaimana mereka mengatakannya dan jenis kesimpulan yang dapat dilakukan secara real time sebagai hasilnya, jauh lebih intim daripada hanya catatan interaksi online,” jelas Chaudhary. Tanda -tanda pertama dari pasar yang sedang berkembang ini sudah terlihat. Apple’s new “APP APP developer framework includes protocols to” predict actions that someone could take in the future “and suggest applications based on these predictions. Operai has openly asked “data that express human intention … through any language, theme and format.” The main technology companies are positioning for this future potential. Microsoft has been associated with OpenAI in what researchers describe as “the largest infrastructure construction that humanity has seen”, investing more than $ 50 billion annually from 2024 dan seterusnya. Semuanya, dari pemilihan konsumen hingga perilaku pemungutan suara. Tujuan dari ekonomi niat dapat melampaui perencanaan liburan atau kebiasaan pembelian. Para peneliti berpendapat bahwa kita harus mempertimbangkan kemungkinan dampak pada aspirasi manusia, termasuk pemilihan bebas dan adil, pers bebas dan persaingan pasar yang adil sebelum menjadi korban konsekuensi tidak disengaja. Mungkin aspek ekonomi niat yang paling mengganggu bukanlah kemampuannya untuk memprediksi pilihan kita, tetapi potensinya untuk membimbingnya secara halus. Ketika asisten AI kita menjadi lebih canggih dalam mengantisipasi kebutuhan kita, kita harus bertanya pada diri kita sendiri: di dunia di mana niat kita adalah produk, berapa banyak pilihan kita yang akan menjadi kita?
Pendapat yang diungkapkan bersifat pribadi
