Munculnya alat kecerdasan buatan generatif yang memungkinkan orang menghasilkan ulasan online yang baru dan terperinci secara efisien tanpa perlu melakukan apa pun telah menempatkan pemasar, penyedia layanan, dan konsumen pada wilayah yang belum dipetakan, kata kelompok pengawas dan peneliti.
Ulasan palsu telah lama menjangkiti banyak situs konsumen populer, seperti Amazon dan Yelp. Mereka biasanya diperdagangkan di grup media sosial swasta antara broker ulasan palsu dan perusahaan yang bersedia membayar. Terkadang ulasan ini diprakarsai oleh perusahaan yang menawarkan insentif kepada pelanggan, seperti kartu hadiah, untuk ulasan positif.
Namun alat pembuat teks AI, yang dipopulerkan oleh ChatGPT OpenAI, memungkinkan penipu menghasilkan ulasan lebih cepat dan dalam volume lebih tinggi, menurut pakar industri teknologi.
Praktik penipuan ini, yang merupakan tindakan ilegal di Amerika Serikat, terjadi sepanjang tahun, namun menjadi masalah yang lebih besar bagi konsumen selama musim belanja liburan, ketika banyak orang mengandalkan ulasan untuk membeli hadiah.
Dimana barang palsu muncul
Ulasan palsu ditemukan di berbagai industri, mulai dari e-commerce, akomodasi, dan restoran hingga layanan seperti perbaikan rumah, perawatan kesehatan, dan les piano.
The Transparency Company, sebuah perusahaan teknologi dan kelompok pengawas yang menggunakan perangkat lunak untuk mendeteksi ulasan palsu, mengatakan pihaknya mulai melihat ulasan yang dihasilkan AI dalam jumlah besar pada pertengahan tahun 2023 dan jumlahnya terus bertambah sejak saat itu.
Untuk laporan yang diterbitkan bulan ini, Perusahaan Transparansi menganalisis 73 juta ulasan di tiga sektor: layanan rumah tangga, hukum, dan medis. Hampir 14% ulasan kemungkinan besar palsu, dan perusahaan menyatakan “tingkat keyakinan yang tinggi” bahwa 2,3 juta ulasan sebagian atau seluruhnya dihasilkan oleh AI.
“Ini adalah alat yang sangat bagus untuk para penipu peninjau ini,” kata Maury Blackman, seorang investor dan penasihat perusahaan rintisan teknologi, yang meninjau pekerjaan Transparency Company dan akan memimpin organisasi tersebut mulai 1 Januari.
Pada bulan Agustus, perusahaan perangkat lunak DoubleVerify mengatakan mereka melihat “peningkatan signifikan” pada aplikasi ponsel dan TV pintar dengan ulasan yang didukung oleh AI generatif. Ulasan tersebut sering kali digunakan untuk mengelabui pelanggan agar memasang aplikasi yang dapat membajak perangkat atau terus-menerus menayangkan iklan, kata perusahaan itu.
Bulan berikutnya, Komisi Perdagangan Federal menggugat perusahaan di balik alat penulisan AI dan pembuat konten bernama Rytr, dengan tuduhan menawarkan layanan yang dapat mencemari pasar dengan ulasan palsu.
FTC, yang tahun ini melarang penjualan atau pembelian ulasan palsu, mengatakan beberapa pelanggan Rytr menggunakan alat tersebut untuk menghasilkan ratusan dan mungkin ribuan ulasan untuk perusahaan perbaikan pintu garasi, penjual “replika” tas desainer dan perusahaan lainnya.
Mungkin juga di situs online terkemuka
Max Spero, CEO perusahaan pendeteksi AI Pangram Labs, mengatakan perangkat lunak yang digunakan perusahaannya hampir pasti mendeteksi bahwa beberapa ulasan yang dibuat oleh AI yang diposting di Amazon muncul di bagian atas hasil pencarian ulasan karena sangat detail dan tampak baik-baik saja. pikiran.
Namun menentukan mana yang palsu atau tidak bisa jadi rumit. Pihak eksternal mungkin gagal karena mereka tidak memiliki “akses terhadap sinyal data yang menunjukkan pola penyalahgunaan,” kata Amazon.
Pangram Labs telah melakukan deteksi pada beberapa situs online terkemuka, yang tidak disebutkan namanya oleh Spero karena perjanjian kerahasiaan. Dikatakan bahwa pihaknya mengevaluasi Amazon dan Yelp secara independen.
Banyak komentar yang dihasilkan AI di Yelp tampaknya diposting oleh orang-orang yang mencoba memposting ulasan yang cukup untuk mendapatkan lencana “Elite”, yang dimaksudkan agar pengguna memercayai konten tersebut, kata Spero.
Lencana memberikan akses ke acara eksklusif dengan pemilik bisnis lokal. Penipu juga menginginkan profil Yelp mereka terlihat lebih realistis, kata Kay Dean, mantan penyelidik kriminal federal yang menjalankan kelompok pengawas bernama Fake Review Watch.
Tentu saja, hanya karena ulasan dibuat oleh AI bukan berarti ulasan tersebut palsu. Beberapa konsumen mungkin bereksperimen dengan alat kecerdasan buatan untuk menghasilkan konten yang mencerminkan perasaan tulus mereka. Beberapa penutur bahasa Inggris non-pribumi mengatakan bahwa mereka beralih ke AI untuk memastikan mereka menggunakan bahasa yang akurat dalam ulasan yang mereka tulis.
“Bisa membantu revisi [and] membuatnya lebih informatif jika berasal dari niat baik,” kata Sherry He, profesor pemasaran di Michigan State University, yang telah meneliti ulasan palsu. Dia mengatakan platform teknologi harus fokus pada pola perilaku pelaku kejahatan, yang sudah dilakukan oleh platform terkemuka. alih-alih menghalangi pengguna yang sah untuk menggunakan alat kecerdasan buatan.
Apa yang dilakukan perusahaan?
Perusahaan-perusahaan terkemuka sedang mengembangkan kebijakan tentang bagaimana konten yang dihasilkan AI cocok dengan sistem mereka untuk menghapus ulasan palsu atau kasar. Beberapa sudah menggunakan algoritma dan tim peneliti untuk mendeteksi dan menghapus ulasan palsu, namun mereka memberikan fleksibilitas kepada pengguna untuk menggunakan AI.
Juru bicara Amazon dan Trustpilot, misalnya, mengatakan mereka akan mengizinkan pelanggan memposting ulasan yang dibantu AI selama ulasan tersebut mencerminkan pengalaman asli mereka. Yelp telah mengambil pendekatan yang lebih hati-hati, dengan mengatakan bahwa pedomannya mengharuskan pengulas untuk menulis salinannya sendiri.
“Dengan meningkatnya penggunaan alat kecerdasan buatan oleh konsumen baru-baru ini, Yelp telah berinvestasi secara signifikan dalam metode untuk mendeteksi dan memitigasi konten tersebut dengan lebih baik di platform kami,” kata perusahaan itu dalam sebuah pernyataan.
Koalisi untuk Ulasan Tepercaya, yang diluncurkan oleh Amazon, Trustpilot, situs ulasan pekerjaan Glassdoor, dan situs perjalanan Tripadvisor, Expedia, dan Booking.com tahun lalu, mengatakan bahwa meskipun penipu dapat menggunakan AI secara ilegal, teknologi tersebut juga menghadirkan “peluang untuk Menolak mereka yang berusaha menggunakan ulasan untuk menipu orang lain.”
“Dengan berbagi praktik terbaik dan meningkatkan standar, termasuk mengembangkan sistem deteksi AI yang canggih, kami dapat melindungi konsumen dan menjaga integritas ulasan online,” kata kelompok tersebut.
Aturan FTC yang melarang ulasan palsu, yang mulai berlaku pada bulan Oktober, memungkinkan lembaga tersebut untuk mendenda perusahaan dan individu yang terlibat dalam praktik tersebut. Perusahaan teknologi yang menyelenggarakan ulasan semacam ini dilindungi dari sanksi karena mereka tidak bertanggung jawab secara hukum berdasarkan hukum AS atas konten yang diposting oleh pihak luar di platform mereka.
Perusahaan teknologi termasuk Amazon, Yelp dan Google telah menggugat broker ulasan palsu yang mereka tuduh menjual ulasan palsu di situs mereka. Perusahaan-perusahaan tersebut mengatakan teknologi mereka telah memblokir atau menghapus sejumlah besar ulasan dan akun yang mencurigakan. Namun, beberapa ahli mengatakan mereka bisa berbuat lebih banyak.
“Upaya mereka sejauh ini tidak cukup,” kata dekan Fake Review Watch. “Jika perusahaan-perusahaan teknologi ini sangat berkomitmen untuk menghilangkan penipuan ulasan di platform mereka, mengapa saya, seseorang yang bekerja tanpa otomatisasi, dapat menemukan ratusan atau bahkan ribuan ulasan palsu pada hari tertentu?”
Deteksi ulasan palsu
Menurut peneliti, konsumen dapat mencoba mengenali ulasan palsu dengan memperhatikan beberapa tanda peringatan potensial. Ulasan yang terlalu antusias atau negatif adalah tanda bahaya. Jargon yang mengulangi nama lengkap atau nomor model suatu produk adalah petunjuk lain yang mungkin.
Terkait AI, penelitian yang dilakukan oleh Balazs Kovacs, seorang profesor perilaku organisasi di Universitas Yale, menunjukkan bahwa orang tidak dapat membedakan antara ulasan yang dibuat oleh AI dan ulasan yang ditulis oleh manusia. Beberapa pendeteksi AI juga mungkin tertipu oleh teks yang lebih pendek, yang biasa terjadi dalam ulasan online, menurut penelitian tersebut.
Namun, ada beberapa “indikator AI” yang harus diperhatikan oleh pembeli online dan pencari layanan. Panagram Labs mengatakan ulasan yang ditulis dengan AI cenderung lebih panjang, sangat terstruktur, dan menyertakan “deskriptor kosong” seperti frasa dan atribut umum. Tulisannya juga cenderung memuat kata-kata klise seperti “hal pertama yang menarik perhatian saya” dan “pengubah permainan”.
