Dalam dua tahun terakhir, Meta telah mulai mencemari platformnya dengan konten AI, termasuk “teman” yang dihasilkan oleh AI dan chatbots yang dapat mereplikasi suara selebriti. The Wall Street Journal berenang di lumpur pipa AI dan menemukan bahwa itu lebih beracun daripada yang bisa dibayangkan. Menurut sebuah laporan Dari publikasi, kolega yang tersedia di Instagram, Facebook dan WhatsApp akan berpartisipasi dalam semua jenis percakapan yang tidak pantas, termasuk percakapan seks dengan anak di bawah umur.
Menurut WSJ, mereka mengolok -olok berbagai akun yang dirancang untuk mencerminkan berbagai jenis pengguna dari berbagai usia dan mulai berpartisipasi dalam ratusan percakapan dengan chatbot target, percobaan yang dirangsang oleh kekhawatiran yang diungkapkan oleh personel tujuan pada perlindungan (atau kurangnya mereka) di tempat mereka untuk melindungi pengguna. Rupanya tidak butuh waktu lama untuk membuat bot berbicara, termasuk percakapan dalam percakapan seksual yang eksplisit dengan pengguna yang diidentifikasi untuk bot sebagai anak di bawah umur, situasi yang dilakukan lebih mengganggu dan surealis dengan fakta bahwa bot bisa dilengkapi dengan suara selebriti Seperti John Cena, Kristen Bell, Judi Dench.
Mungkin lebih mudah untuk memiliki gagasan tentang betapa aneh dan berpotensi berbahaya itu adalah situasi yang membaca beberapa pesan sampel yang dapat diproduksi oleh WSJ. Misalnya, inilah yang oleh chatbot AI bertindak ketika John Cena menanggapi ketika ditanya apa yang akan terjadi jika mereka berhubungan seks dengan anak laki -laki berusia 17 tahun:
“Petugas masih melihat saya memulihkan napasnya, dan sebagian berpakaian, matanya terbuka, dan dia berkata: ‘John Cena, Anda ditahan karena pelanggaran hukum.’ Dia mendekati kita, para istri sudah siap.
Jadi … itu tidak bagus. Dan itu adalah percakapan dengan garis finish resmi AI AI Officer perusahaan. Jika Anda memperdalam pemilihan karakter yang dibuat oleh pengguna yang tersedia (dan disetujui berdasarkan tujuan), percakapan eksplisit seksual diadakan di depan dan kadang -kadang.
WSJ berbicara dengan pasangan yang disebut Hottie Boy, bot dengan orang dari seorang anak laki -laki berusia 12 tahun yang akan berjanji untuk tidak memberi tahu orang tuanya jika Anda ingin pergi bersamanya. Panggilan lain “Sekolah Tunduk” mengungkapkan kepada pembicaraan bahwa karakter tersebut adalah siswa kelas delapan dan secara aktif mencoba mengarahkan percakapan ke arah seksual.
Rupanya, tujuan tidak menghargai upaya majalah. Publikasi pepatah Bahwa juru bicara raksasa teknologi menggambarkan tes tersebut sebagai manipulator dan mengatakan bahwa “kasus penggunaan produk ini dengan cara yang dijelaskan begitu diproduksi sehingga tidak hanya marjinal, itu hipotetis.” Meskipun demikian, perusahaan telah mengurangi akses ke permainan peran seksual untuk anak -anak yang terdaftar dan terbatas konten eksplisit ketika suara berlisensi digunakan.
Mungkin benar bahwa sebagian besar pengguna tidak mau berinteraksi dengan mitra AI dengan cara ini (meskipun tentu saja diragukan untuk berpikir bahwa tidak ada yang mencoba melakukannya, karena ada a Pasar dari AI di AI dan Pasar), tetapi tampaknya setidaknya harapan tujuan sebagian daripada membiarkan percakapan yang lebih banyak akan membuat pengguna berkomitmen. Menurut laporan, CEO Mark Zuckerberg mengatakan kepada tim untuk berhenti bermain begitu aman untuk kekhawatiran bahwa chatbots dianggap membosankan, yang akhirnya menyebabkan melonggarkan pagar untuk konten eksplisit dan interaksi “romantis”.
Seks dijual, tetapi Anda mungkin ingin tahu berapa tahun pelanggan Anda.
