Pembela privasi dan hak digital menghasilkan alarm tentang undang -undang yang banyak orang harapkan untuk mendorong: penindasan federal terhadap balas dendam pornografi dan mendalam yang dihasilkan oleh AI.
Yang baru ditandatangani Take It Down Act Itu membuat publikasi ilegal bukan konsensual, nyata atau dihasilkan oleh AI, dan menawarkan platform hanya 48 jam untuk memenuhi permintaan untuk menghilangkan tanggung jawab korban atau wajah. Meskipun dipuji secara luas sebagai kemenangan untuk waktu yang lama bagi para korban, para ahli juga memperingatkan bahasa vagus mereka, standar longgar untuk memverifikasi pernyataan dan jendela kepatuhan yang rendah dapat membuka jalan untuk membesar -besarkan, menyensor konten yang sah dan bahkan kewaspadaan.
“Moderasi konten skala sangat bermasalah dan selalu berakhir dengan wacana yang penting dan perlu,” katanya kepada TechCrunch, direktur urusan federal dari Frontier Electronic Foundation, sebuah organisasi hak -hak digital.
Platform online memiliki satu tahun untuk membangun proses untuk menghilangkan gambar intim non -konsensual (NCII). Meskipun undang -undang mensyaratkan bahwa permintaan pembongkaran datang dari korban atau perwakilannya, hanya meminta perusahaan fisik atau elektronik, identifikasi dengan foto atau bentuk verifikasi lainnya tidak diperlukan. Itu mungkin bertujuan mengurangi hambatan bagi para korban, tetapi dapat menciptakan peluang penyalahgunaan.
“Saya benar -benar ingin salah tentang ini, tetapi saya pikir akan ada lebih banyak permintaan untuk menghilangkan gambar yang mewakili orang aneh dan trans dalam hubungan, dan bahkan lebih dari itu, saya pikir itu akan menjadi pornografi konsensual,” kata McKinney.
Senator Marsha Blackburn (R-TN), Copatrochinator of the Take It Down Law, juga mensponsori Hukum keamanan anak -anak Apa yang menempatkan tanggung jawab pada platform untuk melindungi anak -anak dari konten berbahaya secara online. Blackburn mengatakan dia percaya Konten yang terkait dengan orang transgender Ini berbahaya bagi anak -anak. Demikian pula, Heritage Foundation, kelompok pakar konservatif di belakang proyek 2025, juga memiliki pepatah Bahwa “menjaga konten trans yang jauh dari anak -anak adalah untuk melindungi anak -anak.”
Karena tanggung jawab yang dihadapi platform jika mereka tidak menarik gambar dalam waktu 48 jam setelah penerimaan permintaan, “Nilai default hanya akan menghilangkannya tanpa menyelidiki apakah ini benar -benar NCII atau jika itu adalah jenis pidato lain yang dilindungi, atau jika itu relevan untuk orang yang mengajukan permintaan,” kata McKinney.
Snapchat dan Meta telah mengatakan bahwa mereka mendukung hukum, tetapi tidak ada yang menanggapi permintaan TechCrunch untuk informasi lebih lanjut tentang cara memverifikasi jika orang yang meminta pembongkaran adalah korban.
Mastodon, platform terdesentralisasi yang menampung server andalannya sendiri yang dapat bergabung, mengatakan kepada TechCrunch bahwa mereka akan tunduk pada eliminasi jika terlalu sulit untuk memverifikasi korban.
Mastodon dan platform desentralisasi lainnya seperti Bluesky atau Pixed dapat sangat rentan terhadap efek relaksasi dari aturan pembongkaran 48 jam. Jaringan ini bergantung pada server independen, yang sering dikelola oleh organisasi nirlaba atau individu. Menurut hukum, FTC dapat menangani platform apa pun yang tidak “cukup mematuhi” dengan tuntutan pembongkaran seperti melakukan “tindakan atau praktik yang tidak adil atau menyesatkan”, bahkan jika tuan rumah bukan entitas komersial.
“Ini mengkhawatirkan di wajahnya, tetapi sangat pada saat kursi FTC mengambil belum pernah terjadi sebelumnya lulus ke Politisasi Badan dan telah secara eksplisit berjanji untuk menggunakan kekuatan agensi untuk menghukum platform dan layanan di a ideologisBerbeda dengan dasar prinsip, “kata dalam inisiatif hak -hak sipil cyber, sebuah organisasi nirlaba yang didedikasikan untuk mengakhiri porno balas dendam, dalam a penyataan.
Pemantauan proaktif
McKinney memperkirakan bahwa platform akan mulai memoderasi konten sebelum disebarluaskan, sehingga mereka memiliki publikasi yang kurang bermasalah untuk menghancurkan di masa depan.
Platform sudah menggunakan AI untuk memantau konten berbahaya.
Kevin Guo, CEO dan co -founder dari AI yang dihasilkan Mulai Deteksi Konten HivePerusahaannya mengatakan, ia bekerja dengan platform online untuk mendeteksi defasi yang dalam dan materi pelecehan seksual anak (CSAM). Beberapa pelanggan Hive termasuk Reddit, Giphy, Vevo, Bluesky dan Bereal.
“Sebenarnya kami adalah salah satu perusahaan teknologi yang mendukung RUU itu,” kata Guo kepada TechCrunch. “Ini akan membantu untuk memecahkan beberapa masalah yang cukup penting dan memaksa platform ini untuk mengadopsi solusi secara lebih proaktif.”
Model Hive adalah perangkat lunak sebagai layanan, sehingga awal tidak mengontrol bagaimana platform menggunakan produk mereka untuk menandai atau menghilangkan konten. Tetapi Guo mengatakan bahwa banyak klien memasukkan Hive API pada titik pemuatan untuk memantau sebelum sesuatu dikirim ke masyarakat.
Seorang juru bicara Reddit mengatakan kepada TechCrunch bahwa platform tersebut menggunakan “alat internal, proses, dan peralatan yang canggih untuk mengatasi dan menghilangkan” NCII. Reddit juga dikaitkan dengan SWGFL nirlaba untuk mengimplementasikan alat StopNCII -nya, yang memindai lalu lintas langsung bertepatan dengan database NCII yang diketahui dan menghilangkan kebetulan yang tepat. Perusahaan tidak membagikan bagaimana hal itu akan menjamin bahwa orang yang meminta pembongkaran adalah korban.
McKinney memperingatkan bahwa jenis pemantauan ini dapat diperluas ke pesan terenkripsi di masa depan. Sementara undang -undang berfokus pada penyebaran publik atau semi -public, itu juga mensyaratkan bahwa platform “menghilangkan dan melakukan upaya yang wajar untuk menghindari gambaran” dari gambar intim non -konsensual. Dia berpendapat bahwa ini dapat mendorong pemindaian proaktif dari semua konten, bahkan di ruang terenkripsi. Undang -undang tidak termasuk ukuran apa pun untuk layanan pengiriman pesan yang dienkripsi dari ujung ke ujung seperti whatsapp, sinyal atau iMessage.
Meta, Signal dan Apple belum menanggapi permintaan TechCrunch untuk informasi lebih lanjut tentang rencana pesan terenkripsi mereka.
Implikasi yang lebih luas dari kebebasan berekspresi
Pada 4 Maret, Trump menyampaikan pidato bersama kepada Kongres di mana ia memuji mengambil hukum dan mengatakan ia berharap untuk menandatanganinya.
“Dan saya juga akan menggunakan faktur itu untuk saya, jika Anda tidak peduli,” tambahnya. “Tidak ada orang yang diperlakukan lebih buruk dari saya secara online.”
Sementara publik menertawakan komentar itu, tidak semua orang menganggapnya sebagai lelucon. Trump belum malu untuk menekan atau membalas terhadap wacana yang tidak menguntungkan, baik memberi label pada media utama “musuh orang” Kecuali untuk pers asosiasi dari kantor oval meskipun ada perintah pengadilan, atau Tarik dana NPR dan PBS.
Pada hari Kamis, administrasi Trump Barred Harvard University Sejak menerima pengakuan siswa asing, meningkatkan konflik yang dimulai setelah Harvard menolak untuk mematuhi tuntutan Trump untuk membuat perubahan dalam kurikulumnya dan menghilangkan konten yang terkait dengan DEI, antara lain. Sebagai pembalasan, Trump memiliki dana federal beku untuk Harvard dan mengancam akan mencabut negara bebas universitas.
“Pada saat kita sudah melihat bahwa dewan sekolah mencoba melarang buku dan kita melihat bahwa politisi tertentu secara eksplisit secara eksplisit tentang jenis konten yang tidak ingin orang melihat, apakah itu teori kritis ras atau informasi aborsi atau informasi tentang perubahan iklim … itu sangat tidak nyaman bagi kita dengan pekerjaan kita sebelumnya dalam moderasi konten untuk melihat anggota kedua partai.
