“Hei, apakah kamu?”
Bunni sering mendapatkan DM ini: peringatan acak orang asing yang menandai profil palsu yang meniru secara online. Sebagai pencipta Onlyfans, ia telah belajar untuk hidup dengan siklus penambahan yang melelahkan dan menjengkelkan yang datang dengan wilayah tersebut. Lima tahun kemudian, dia tahu latihan itu.
Tapi kali ini dia merasa berbeda. Akun yang dimaksud terlalu dekat. Fotonya? Tanpa ragu, itu adalah bajunya, tato, kamarnya. Semuanya ditinjau, tapi itu Itu bukan wajahnya.
Defake terbalik terbalik
Apa yang terjadi pada Bunni adalah salah satu evolusi penyalahgunaan Defake yang paling tidak biasa, dan mengganggu. Deepfake, Biasanya berarti dihasilkan oleh AI atau dimanipulasi dengan AIMereka lebih sering dikaitkan dengan pornografi non -konsensual yang melibatkan selebriti, di mana wajah seseorang secara meyakinkan dicangkokkan ke dalam tubuh orang lain. Bentuk gambar berdasarkan gambar ini dirancang untuk mempermalukan dan mengeksploitasi, dan meluas dengan cepat melalui situs pornografi dan platform sosial. Salah satu pusat paling menonjol untuk jenis konten ini, Tn. Deepfake, Baru -baru ini libur Setelah penyedia layanan utama menyelesaikan dukungan, ia mengurangi akses ke infrastrukturnya.
Penutupan terjadi seminggu setelah Kongres menyetujui hukum “Take It, a Tagihan yang mengharuskan platform untuk menghilangkan Deepfake dan pembalasan konten pornografi dalam waktu 48 jam setelah aplikasi pembongkaran. Undang -undang, yang diharapkan ditandatangani oleh Presiden Donald Trump, adalah bagian dari dorongan yang lebih luas untuk mengatur pelecehan yang dihasilkan oleh AI.
Tapi kasus Bunni memperumit percakapan. Ini bukan masalah wajahnya yang terikat pada konten eksplisit: dia sudah menjadi pencipta orang yang baru. Sebaliknya, fotonya diubah secara digital untuk menghapus identitas mereka, diperbaiki dengan nama yang berbeda dan digunakan untuk membangun kepribadian yang sama sekali baru.
Mengejar Pemegang Bag AI – Situasi Bunni
Di bulan Februari Bunni memposting video di Instagram. Video itu menunjukkan seorang surealis bersebelahan: Bunni sejati menunjuk ke foto publikasi Reddit yang nyaris tidak terlihat seperti dia. Gambar palsu telah dengan cermat gagal banyak karakteristik yang menentukan: tindikan wajah yang hilang, rambut hitam terang mereka, ekspresinya melunak. Sebaliknya ada wajah yang dirancang untuk anonimitas: mata hijau besar, kulit halus dan estetika yang didesinfeksi alternatif.
The True Bunni menunjukkan foto palsu.
Kredit: Tangkapan layar pengguna Instagram @bunnii_squared
Foto Instagram Bunni Asli
Kredit: Tangkapan layar pengguna Instagram @bunnii_squared
Profil reddit, sekarang dihilangkan tapi Sebagian dibangkitkan melalui mesin waybackDia mempresentasikan “Sofia”: self -ye -leply -prococlamed dari Spanyol dengan “alt style” dan cinta untuk musik rock, yang “terbuka untuk bertemu orang baru.” Bunni berusia 25 tahun dan tinggal di Inggris. Dia tidak, dan belum pernah, Sofia.
Profil palsu Reddit untuk “Sofia”, orang yang diproduksi yang mengklaim sebagai 19 tahun -satu tahun dari Spanyol.
Kredit: Pengambilan Layar Mesin Wayback
“Saya sangat terbiasa sehingga konten saya dicuri,” kata Bunni kepada Mashable. “Itu hanya terjadi. Tapi ini seperti cara yang sama sekali berbeda untuk melakukannya sehingga tidak terjadi pada saya sebelumnya. Itu benar -benar aneh.”
Dia menjadi lebih aneh. Akun Sofia, yang pertama kali muncul pada Oktober 2023, dimulai dengan tidak bersalah, menerbitkan di forum untuk merasa nyaman seperti R/AWWW. Namun segera, ia beremigrasi ke lebih banyak niche, dan lebih membingungkan, subnetdits seperti R/Teenagers, R/Teenagersbutbetter dan R/Teenagersbuthot. Dua yang terakhir, cabang -cabang dari kapal selam utama, ada di daerah abu -abu ironi dengan lebih dari 200.000 anggota gabungan.
Penangkapan layar yang menunjukkan publikasi “Sofia 🖤🎀🌙” dalam Subnetdits R/Teenagersbuth dan R/Teenagersbutbetter, membuat publikasi informal dan terkait buku tampak otentik.
Kredit: Pengambilan Layar Mesin Wayback
Menggunakan selfie yang diedit yang diangkat dari sosial Bunni, akun yang diterbitkan di bawah penampilan mencari nasihat mode, persetujuan, dan bahkan foto hewan peliharaan mereka.
“Pakaian saya terlihat aneh?” Legenda bertanya di bawah foto Bunni mencoba jeans di ruang penyesuaian.
“Aku membeli jeans itu,” kenang Bunni. “Apa maksudmu?”
Tapi permainan itu bukan hanya tentang bermain. Kepribadian Sofia juga diterbitkan di R/Faceratings dan R/Amiuglybrutally Subnetdits di mana pengguna memenuhi syarat daya tarik orang asing dengan kejujuran brutal. Alasan yang mungkin lebih dari kemungkinan kredibilitas dan validasi konstruksi.
Kecepatan cahaya yang dapat dipasangkan
Kredit: Pengambilan Layar Mesin Wayback
Tahap terakhir peniruan melampaui konten dewasa. Dalam file seketika terakhir dari akun, “Sofia” telah mulai menerbitkan di subnetdit seperti R/Selfie, forum selfie standar di mana gambar NSFW dilarang, tetapi tautan diizinkan untuk memperhitungkan hanya penggemar dalam profil pengguna, dan R/Punkgirls, ruang yang jauh lebih eksplisit dengan campuran alternatif dan alternatif Amateur. Publikasi Sofia di R/Punkgirls berkata: “[F19] Akhirnya menerbitkan foto seksi di Reddit, haruskah saya terus menerbitkan? Lain berlanjut dengan: “[F19] Karena semua orang ingin melihat saya lebih banyak menerbitkan. “
Akun tersebut menggunakan foto -foto Bunni yang diubah dan melewati validasi pencarian 19 tahun melalui publikasi sugestif seksual.
Kredit: Pengambilan Layar Mesin Wayback
Publikasi terakhir dari akun ini adalah dalam utas R/AskReddit yang menggambarkan pengalaman seksual teraneh yang pernah mereka miliki.
Komentar lain yang mengaburkan batas antara pembangunan orang dan umpan seksual, membantu peniru tampak lebih nyata saat berpartisipasi dalam perilaku budaya perawatan.
Kredit: Pengambilan Layar Mesin Wayback
Bunni berasumsi bahwa akhir permainan mungkin adalah penipuan yang ditujukan untuk pria, menipu mereka untuk membeli telanjang, berpotensi dibesarkan dari anggota mereka sendiri. Profil itu sendiri tidak mempublikasikan tautan ke platform eksternal seperti Snapchat atau hanya penggemar, tetapi mencurigai bahwa aktivitas yang benar terjadi dalam pesan pribadi.
“Apa yang saya bayangkan telah lakukan adalah menerbitkan di subddits SFW, menggunakan gambar SFW dan kemudian mengirim pesan kepada orang -orang yang berinteraksi dengan mereka dan sebagai” oh, Anda ingin membeli konten saya “, tetapi itu benar -ku Puas dengan wajah pengganti, ”katanya.
Untungnya bagi Bunni, setelah berkomunikasi dengan moderator di R/Remaja, akun peniru dihilangkan dengan melanggar persyaratan Reddit. Tetapi insiden itu menimbulkan pertanyaan yang lebih besar dan lebih gelap: seberapa sering insiden seperti ini diproduksi, yang melibatkan identitas yang dirancang secara digital untuk menghindari deteksi, benar -benar terjadi?
Pencipta yang populer tetapi tidak terkenal adalah tujuan yang sempurna
Dalam kasus khas konten curian, penipu dapat menerbitkan gambar dengan nama Bunni Atau dengan nama palsu, dibuat oleh Besfishers. Tapi versi ini lebih canggih. Saat mengubah wajahnya, menghilangkan tindikan, mengubah bentuk mata, karakteristik yang berubah secara halus, peniru tampaknya mengambil langkah -langkah untuk menghindari diidentifikasi oleh pengikut, teman atau bahkan pencarian gambar terbalik. Bukan hanya pencurian identitas. Itu adalah kebingungan identitas.
Laporan Transparansi Reddit pada paruh kedua tahun 2024 Lukiskan gambar parsial. Platform ini menghilangkan 249.684 contoh dari cara intim yang tidak dikeluarkan dan hanya 87 kasus yang secara khusus ditandai sebagai peniruan. Tetapi data ini hanya mencerminkan pemindahan tim keselamatan dan kepercayaan diri Reddit. Itu tidak termasuk konten yang dihilangkan oleh SubnetDit Moderator: Relawan yang tidak dibayar yang menegakkan aturan spesifik masyarakat mereka sendiri. Mods R/Remaja dan R/Amiugly, dua subbreddits di mana “Sofia” telah aktif, mereka mengatakan mereka tidak dapat mengingat insiden serupa. Atau menyimpan catatan formal pembongkaran atau alasan untuk eliminasi.
Reddit menolak berkomentar ketika Mashable dihubungi mengenai cerita ini.
Jika Trump menandatangani “Take It Down Law”, platform harus segera menghilangkan gambar intim yang tidak disepakati dalam waktu 48 jam.
Tidak sulit untuk melihat mengapa pencipta seperti Bunni akan menjadi tujuan yang ideal untuk peniru seperti ini. Sebagai pencipta Onlyfans dengan kehadiran beberapa tahun di platform seperti Instagram, Tiktok dan Reddit, Bunni telah mengumpulkan arsip besar gambar yang tersedia untuk umum: tambang emas bagi siapa saja yang ingin memilih kepribadian palsu dengan upaya minimum. Dan karena itu ada di strata tingkat menengah dari pencipta Onlyfans, populer, tetapi tidak terkenal di internet, peluang pengguna Reddit kasual yang mengenalinya rendah. Untuk scammers, Besfishers dan troll, titik visibilitas yang optimal, tanpa membuat virality, menjadikannya merek yang sempurna: cukup akrab untuk terlihat nyata, cukup gelap untuk tetap tanpa terdeteksi.
Yang lebih mengkhawatirkan adalah ambiguitas hukum yang mengelilingi jenis peniruan ini. Menurut Julian Sarafian, seorang pengacara berbasis California yang mewakili pencipta konten online, kesamaan dilindungi oleh undang -undang hak cipta Amerika dan berpotensi lebih banyak di bawah peraturan evolusi cacat evolusi California.
“Ini rumit ketika kesamaan pencipta dimodifikasi,” Sarafian menjelaskan. “Tetapi jika orang yang masuk akal masih dapat mengenali individu asli, atau jika konten yang mendasarinya jelas dapat diidentifikasi sebagai miliknya, mungkin masih ada alasan untuk tindakan hukum.”
Karena pengguna Reddit mengenali foto -foto yang diedit seperti Bunni, Sarafian mengatakan dia bisa membawa kasus di bawah hukum California, tempat Reddit berbasis.
Tetapi Bunni mengatakan bahwa biaya mengejar keadilan hanya melebihi manfaat.
“Saya menerima beberapa komentar seperti ‘Oh, Anda harus mengambil tindakan hukum,'” katanya. “Tapi saya tidak berpikir itu benar -benar sepadan. Jumlah yang Anda bayar untuk tindakan hukum benar -benar konyol, dan Anda mungkin tidak akan sampai di mana pun, jujur saja.”
Peniruan AI tidak berjalan
Meskipun ini mungkin tampak merupakan insiden yang terisolasi, troll soliter dengan waktu, akses ke alat fotografi AI dan niat yang buruk, peningkatan aksesibilitas alat pengeditan dengan AI menyarankan sebaliknya. KE Pencarian cepat untuk “Tukar dengan Wajah AI” Ini menghasilkan daftar panjang platform drag dan rilis yang mampu mengubah wajah dalam hitungan detik dalam hitungan detik, keterampilan lanjutan tidak diperlukan.
“Saya tidak bisa membayangkan bahwa ini adalah yang pertama, dan saya jelas bukan yang terakhir, karena seluruh masalah ini tidak proporsional,” kata Bunni. “Jadi saya tidak bisa membayangkan itu akan berkurang.”
Ironisnya, konsekuensinya tidak membahayakannya secara finansial. Bagaimanapun, kata Bunni, video yang diterbitkannya mengungkap peniruan sebenarnya meningkatkan visibilitasnya. Tetapi visibilitas itu datang dengan biayanya sendiri: gelombang rasa bersalah terhadap korban dan komentar merendahkan.
“Sialan anak laki -laki yang ada di Instagram yang mengatakan: ‘Anda meletakkan hal -hal ini, inilah yang Anda dapatkan, ini salah Anda,” katanya. “Banyak orang tidak mengerti bahwa kamu memiliki hak wajahmu sendiri.”
Apakah Anda memiliki cerita untuk berbagi penipuan atau pemerkosaan keselamatan yang mempengaruhi itu? Ceritakan tentang itu. E-mail [email protected] Dengan “Jaringan Keamanan” atau Gunakan Garis Formulir ini. Seseorang dari Mashable akan menghubungi.
