Apa itu AI Slop? Mengapa Anda melihat lebih banyak foto dan video palsu di jejaring sosial Anda

Pada Mei 2025, a surat meminta “[Am I the asshole] Untuk memberi tahu tunangan suamiku tentang hubungan mereka? “Dia dengan cepat menerima 6.200 suara dan lebih dari 900 komentar di Reddit. Popularitas ini membuat publikasi tempat di sampul publikasi tren Reddit.

Publikasi berisi beberapa indikator Tanda -tanda AI, seperti penggunaan frasa stok (“[my husband’s] Keluarga sangat marah “) dan kutipan berlebihan, dan menggambar skenario yang tidak realistis yang dirancang untuk menghasilkan kemarahan alih -alih mencerminkan dilema asli.

Saat publikasi ini telah dieliminasi oleh moderator forum, pengguna reddit Mereka telah berulang kali mengekspresikannya frustrasi dengan proliferasi jenis konten ini.

Publikasi yang dihasilkan oleh AI di Reddit adalah contoh dari apa yang dikenal sebagai “slop ai”: konten yang dihasilkan oleh kualitas rendah, dibuat dan dibagikan oleh siapa pun, dari orang -orang berpengaruh tingkat rendah hingga operasi pengaruh politik yang terkoordinasi.

Perkiraan menyarankan Bahwa lebih dari setengah publikasi terpanjang dalam bahasa Inggris di LinkedIn ditulis oleh AI. Menanggapi laporan itu, Adam Walkiewicz, Direktur Produk LinkedIn, mengatakan kepada WIRED bahwa ia memiliki “pertahanan yang solid untuk secara proaktif mengidentifikasi konten duplikat yang tepat atau hampir tepat. Ketika kami mendeteksi konten itu, kami mengambil langkah -langkah untuk memastikan bahwa itu tidak dipromosikan secara luas.”

Tetapi situs berita berkualitas rendah yang dihasilkan oleh AI muncul Di mana -mana, dan gambar AI juga ada banjir Platform jejaring sosial seperti Facebook. Anda mungkin telah menemukan gambar seperti “Camarones Jesús” Di feed Anda sendiri.

Konten yang dihasilkan oleh AI murah. Laporan dari Pusat Keunggulan NATO Stratcom tahun 2023 ditemukan Itu hanya € 10 (sekitar £ 8), Anda dapat membeli puluhan ribu sudut pandang dan saya suka salah, dan ratusan komentar yang dihasilkan oleh AI, di hampir semua yang utama Platform Jaringan Sosial.

Sementara banyak hiburan yang tampaknya tidak bersalah, satu belajar Dari tahun 2024 ia menemukan bahwa sekitar seperempat dari semua lalu lintas internet terdiri dari “bot buruk.” Bot -bot ini, yang berupaya menyebarkan informasi yang salah, tiket untuk acara kulit kepala atau mencuri data pribadi, juga meningkatkan banyak untuk menutupi sebagai manusia.

Singkatnya, dunia berurusan dengan “Enshittification” Web: Layanan online secara bertahap memburuk dari waktu ke waktu Perusahaan teknologi Memprioritaskan pendapatan pada pengalaman pengguna. Konten yang dihasilkan oleh AI hanyalah aspek dari ini.

Dari publikasi reddit yang membuat para pembaca marah akan menangis Video kucingKonten ini sangat mencolok dan, oleh karena itu, menguntungkan untuk kedua pembuat lereng dan Platform.

Ini dikenal sebagai umpan komitmen, taktik untuk disukai orang, berkomentar dan berbagi, terlepas dari kualitas publikasi. Dan Anda tidak perlu mencari konten yang terpapar padanya.

Satu belajar Dianjurkan untuk mengeksplorasi bagaimana umpan komitmen, seperti bayi-bayi cantik yang dibungkus kubis, direkomendasikan kepada pengguna jejaring sosial, bahkan ketika mereka tidak mengikuti halaman atau akun AI-Slop. Halaman -halaman ini, yang sering dikaitkan dengan sumber berkualitas rendah dan mempromosikan produk nyata atau yang ditemukan, dapat dirancang untuk meningkatkan basis pengikut mereka untuk menjual akun nanti untuk menghasilkan keuntungan.

Tujuan (Perusahaan Induk Facebook) mengatakan pada bulan April bahwa mereka mengambil langkah -langkah energik konten “spam” Itu mencoba untuk “memainkan algoritma Facebook untuk meningkatkan pendapat”, tetapi tidak menentukan konten yang dihasilkan oleh AI. Tujuan telah menggunakan profilnya sendiri yang dihasilkan oleh AI di Facebook, tetapi sejak itu menghilangkan beberapa akun ini.

Apa risikonya

Semua ini dapat memiliki konsekuensi serius bagi demokrasi dan komunikasi politik. Ai bisa dengan harga murah dan efisien Buat informasi yang salah tentang pemilihan yang tidak dapat dibedakan dari konten yang dihasilkan oleh manusia. Sebelum Amerika Serikat 2024 Pemilihan Presidenpeneliti diidentifikasi Kampanye pengaruh besar yang dirancang untuk mengadvokasi masalah Republik dan menyerang musuh politik.

Dan sebelum berpikir bahwa hanya Partai Republik yang melakukannya, pikirkan lagi: bot -bot ini seperti bias sebagai manusia dari semua perspektif. KE laporan Di University of Rutgers ia menemukan bahwa orang Amerika dari semua sisi spektrum politik mempercayai bot untuk mempromosikan kandidat favorit mereka.

Para peneliti juga tidak bersalah: para ilmuwan dari University of Zurich baru -baru ini tertangkap Penggunaan bot dengan AI untuk diterbitkan di Reddit sebagai bagian dari proyek penelitian tentang apakah komentar non -autentik dapat mengubah pikiran orang. Tetapi mereka tidak dapat mengungkapkan bahwa komentar ini salah untuk moderator Reddit.

Reddit sekarang mempertimbangkan untuk mengambil langkah -langkah hukum terhadap universitas. Direktur hukum perusahaan pepatah: “Apa yang dilakukan tim Universitas Zurich ini sangat salah baik pada tingkat moral maupun hukum.”

Agen politik, termasuk negara -negara otoriter seperti Rusia, Cina dan Iran, menginvestasikan sejumlah besar Operasi didorong oleh IA Mempengaruhi pemilihan di seluruh dunia.

Seberapa efektif operasi ini dalam perdebatan. Sebuah studi menemukan bahwa upaya Rusia untuk ikut campur dalam pemilihan Amerika 2016 melalui jejaring sosial adalah palsusementara yang lain ditemukan Angka survei yang diprediksi untuk Trump. Bagaimanapun, kampanye ini menjadi jauh lebih canggih dan terorganisir dengan baik.

Dan bahkan konten yang dihasilkan oleh AI apolitis yang tampaknya dapat memiliki konsekuensi. Volume hebat menghambat akses berita dan konten nyata yang dihasilkan oleh manusia.

Apa yang harus dilakukan?

Kandungan ganas menunjukkan sangat sulit untuk dideteksi oleh manusia dan komputer secara setara. Informatika baru -baru ini diidentifikasi Bot sekitar 1.100 akun X palsu yang mempublikasikan konten yang dihasilkan oleh mesin (terutama pada cryptocurrency) dan berinteraksi satu sama lain melalui saya suka dan retweet. Secara problematis, The Botometer (Alat yang mereka kembangkan untuk mendeteksi bot) tidak dapat mengidentifikasi akun -akun ini sebagai salah.

Penggunaan AI relatif mudah dideteksi jika Anda tahu apa yang harus dicari, terutama ketika konten dirumuskan atau tanpa permintaan maaf. Tetapi jauh lebih sulit dalam hal konten segera (misalnya, komentar Instagram) atau gambar berkualitas tinggi palsu. Dan teknologi yang digunakan untuk menciptakan AI Slop adalah membaik dengan cepat.

Sebagai pengamat dekat tren AI dan propagasi DisinformasiKami ingin mengakhiri catatan positif dan menawarkan solusi praktis untuk mendeteksi AI slop atau mengurangi kekuatannya. Namun dalam kenyataannya, banyak orang hanya melompat kapal.

Tidak puas dengan jumlah slop AI, pengguna jejaring sosial Lepas platform tradisional dan bergabunglah dengan komunitas online hanya undangan. Hal ini dapat menyebabkan fraktur yang lebih besar dari ruang publik kita dan memperburuk polarisasi, karena komunitas yang sering kita cari dipahami Individu dari Ide Terkait.

Karena klasifikasi ini meningkat, jejaring sosial berisiko menjadi hiburan yang tidak berarti, diproduksi dan dikonsumsi terutama oleh bot yang berinteraksi dengan bot lain sementara manusia spektaks. Tentu saja, platform tidak ingin kehilangan pengguna, tetapi mereka dapat menekan AI Slop dan publik dapat mentolerir.

Beberapa solusi teknis yang mungkin termasuk Label konten yang dihasilkan oleh AI melalui regulasi deteksi dan penyebaran bot yang lebih baik, meskipun tidak jelas Seberapa baik peringatan seperti ini bekerja dalam praktik?.

Beberapa investigasi juga menunjukkan janji Dengan membantu orang mengidentifikasi lebih dalam, tetapi penelitian ada di tahap awal mereka.

Secara umum, kita mulai menyadari skala masalah. Mendarat, jika manusia tenggelam dalam AI SLP, jadi lakukan AI: Model -model Internet dilatih “Teeshitted” menghasilkan sampah.

Artikel ini diterbitkan lagi dari percakapan di bawah lisensi Creative Commons. Baca artikel asli.