Setelah bertahun -tahun kritik karena pengelolaan krisis kesehatan mental remaja, Instagram telah banyak berinvestasi dalam memperkuat karakteristik keselamatannya untuk remaja, termasuk yang sepenuhnya cara baru bagi pengguna anak di bawah umur untuk diterbitkanberkomunikasi dan pindah dalam aplikasi. Tetapi tes terbaru dari fitur keamanan baru ini menunjukkan bahwa itu mungkin tidak cukup.
Menurut a penyelidikan Dibuat oleh organisasi nirlaba yang disutradarai oleh kaum muda Desainnya untuk kami dan anjing penjaga Teknologi yang bertanggung jawab – kemudian dikuatkan oleh Washington Post Kolumnis Geoffrey Fowler: Platform berlanjut dengan konten usia nirkabel yang tidak pantas, eksplisit secara seksual dan umumnya berbahaya meskipun ada perlindungan kontrol konten.
Dalam penelitian ini, perwakilan dari “gen-z yang sudah tua” dari desain untuk penggunaan menguji lima akun remaja palsu dalam konfigurasi default akun remaja aplikasi untuk jangka waktu dua minggu. Dalam semua kasus, akun pemuda direkomendasikan konten sensitif dan seksual. Empat dari lima akun terkait dengan citra tubuh yang buruk dan gangguan makan direkomendasikan, dan hanya algoritma dari suatu akun muncul apa yang dipertimbangkan oleh organisasi nirlaba yang dianggap sebagai konten “pendidikan”.
Algoritma individu juga merekomendasikan deskripsi penggunaan ilegal zat eksplisit dan publikasi secara seksual yang melibatkan bahasa yang dimodifikasi dan kode yang melewati filter. Tetapi tidak semua perlindungan ragu -ragu, termasuk pembatasan -dalam platform dalam pesan dan pelabelan.
Kecepatan cahaya yang dapat dipasangkan
“Temuan ini menunjukkan bahwa tujuan tidak secara independen mendorong lingkungan online yang aman, karena bermaksud untuk orang tua dan legislator,” tulis laporan itu. “Legislator harus memaksa tujuan untuk menghasilkan data pada akun remaja sehingga regulator dan organisasi nirlaba dapat memahami dari waktu ke waktu jika remaja benar -benar dilindungi ketika mereka menggunakan Instagram.”
Sebagai tanggapan atas Washington PostJuru bicara meta Liza Croww mengatakan bahwa ruang lingkup tes yang terbatas tidak menangkap dampak sebenarnya dari karakteristik keamanan aplikasi. “Laporan yang diproduksi tidak mengubah fakta bahwa lusinan jutaan remaja sekarang memiliki pengalaman yang lebih aman berkat akun remaja Instagram. Laporan ini rusak, tetapi bahkan dibawa ke surat itu, hanya mengidentifikasi 61 keping konten yang mempertimbangkan” kurang dari 0,3 persen dari konten yang mungkin akan dilihat oleh para peneliti ini selama tes. “
Mengatasi masalah berkelanjutan di seluruh platform
Percobaan Juni 2024 untuk Wall Street Journal dan University of Northeastern menemukan bahwa seringkali sedikit akun Konten eksplisit dan grafis yang direkomendasikan secara seksual Dalam umpan video yang berpusat dalam aplikasi, meskipun secara otomatis dikonfigurasi dalam konfigurasi konten paling ketat dari platform. Fenomena ini adalah masalah algoritmik yang diketahui oleh Metriz Meta, yang, menurut dokumen internal, ditandai oleh karyawan yang telah membuat ulasan keamanan pada tahun 2021. Dalam sebuah jawaban, perwakilan Instagram mengatakan eksperimen tidak mencerminkan kenyataan bagaimana pengguna muda berinteraksi dengan aplikasi tersebut.
Pada saat itu, Instagram belum meluncurkan produk tiang baru, Akun remajaDiperkenalkan sebagai bentuk baru dan lebih dipantau untuk pengguna yang lebih muda dan menerbitkan secara online, termasuk kontrol konten yang lebih kuat. Pengguna minor secara otomatis ditempatkan di akun untuk remaja ketika terdaftar di Instagram, yang menetapkan halaman pribadi mereka, membatasi kemampuan pesan dan kemampuan untuk mengirimkan konten pakan dan DM yang sensitif langsung dan menyaring. Remaja antara usia 13-15 memiliki kendali yang lebih ketat dalam penggunaan aplikasi mereka, dan sekarang mereka menjadi akun yang jatuh melalui celah-celah diwarnai dan ditandai oleh meta dalam ai.
Menurut Meta, lebih dari 54 juta remaja telah pindah ke remaja yang dibatasi sejak peluncuran awal, dan sebagian besar pengguna di bawah 16 telah mempertahankan konfigurasi keamanan yang telah ditentukan dan lebih ketat. Dan meskipun angka menunjukkan perubahan positif, bahkan CEO meta Mark Zuckerberg mengakui bahwa mungkin ada Seberapa efektif perusahaan dapat memantau basis pengguna yang luas dan algoritma kompleks.
