Menurut laporan, Meta berencana untuk mengubah sebagian besar penilaian risiko untuk produk dan karakteristik mereka menjadi kecerdasan buatan (AI). Menurut laporan itu, raksasa jejaring sosial yang berbasis di Menlo Park sedang mempertimbangkan untuk mengizinkan AI untuk mengelola persetujuan dari karakteristik dan pembaruan produknya, yang sampai sekarang dikelola secara eksklusif oleh evaluator manusia. Menurut laporan, perubahan ini akan memengaruhi penambahan algoritma baru, karakteristik keamanan baru dan bagaimana konten pada platform jejaring sosial yang berbeda dibagikan. Menurut laporan, keputusan akan meningkatkan kecepatan menerapkan fungsi, pembaruan, dan produk baru.
Menurut NPR laporanMeta berencana untuk mengotomatisasi hingga 90 persen dari semua penilaian risiko internal. Publikasi tersebut mengklaim telah memperoleh dokumen dari perusahaan yang merinci kemungkinan perubahan dalam strategi.
Sampai sekarang, setiap fitur atau pembaruan baru untuk Instagram, WhatsApp, Facebook atau utas harus melalui sekelompok pakar manusia yang meninjau implikasi tentang bagaimana perubahan akan mempengaruhi pengguna, jika itu akan melanggar privasi mereka atau melukai anak di bawah umur. Menurut laporan, evaluasi, yang dikenal sebagai tinjauan privasi dan integritas, juga mengevaluasi apakah karakteristik dapat mengarah pada peningkatan informasi yang salah atau konten beracun.
Dengan AI yang mengelola penilaian risiko, tim produk akan menerima “keputusan instan” setelah mengisi kuesioner tentang fitur baru. Dikatakan bahwa sistem AI menyetujui fungsi atau memberikan daftar persyaratan yang harus dipenuhi sebelum proyek dapat dilanjutkan. Peralatan produk harus memverifikasi bahwa mereka telah memenuhi persyaratan tersebut sebelum meluncurkan fungsi, kata laporan itu.
Menurut laporan tersebut, perusahaan percaya bahwa mengubah proses revisi akan secara signifikan meningkatkan kecepatan rilis untuk karakteristik dan pembaruan aplikasi dan akan memungkinkan peralatan produk bekerja lebih cepat. Namun, menurut laporan, beberapa karyawan saat ini dan sebelumnya khawatir tentang apakah manfaat ini akan mengorbankan pengawasan ketat.
Dalam sebuah pernyataan untuk publikasi, Sasaran Dia mengatakan bahwa pengulas manusia masih digunakan untuk “masalah baru dan kompleks” dan bahwa AI hanya diizinkan untuk menangani keputusan risiko rendah. Namun, menurut dokumen, laporan tersebut menyatakan bahwa transisi penyelesaian yang direncanakan mencakup memungkinkan AI untuk menangani area yang berpotensi kritis seperti keamanan AI, pemuda dan risiko integritas, suatu area yang dikatakan menangani unsur -unsur seperti konten kekerasan dan “perambatan kepalsuan.”
Sasaran yang tidak dikenal -tujuan yang terkenal dengan penilaian risiko produk mengatakan kepada NPR bahwa proses otomatisasi dimulai pada bulan April dan telah berlanjut sepanjang Mei. “Saya pikir itu sangat tidak bertanggung jawab mengingat niat mengapa kami ada. Kami memberikan perspektif manusia tentang bagaimana hal -hal yang bisa salah,” kata karyawan itu.
Secara khusus, awal minggu ini, tujuan dilepaskan Laporan integritasnya untuk kuartal pertama tahun 2025. Dalam laporan tersebut, perusahaan menyatakan: “Kami mulai melihat bahwa LLM beroperasi di luar kinerja manusia untuk kebijakan yang dipilih.”
Raksasa jejaring sosial menambahkan bahwa mereka telah mulai menggunakan model AI untuk menghilangkan konten antrian ulasan dalam skenario di mana itu “sangat yakin” yang mengatakan konten tidak melanggar kebijakannya. Membenarkan gerakan, Meta menambahkan: “Ini melepaskan kemampuan pengulas kami yang memungkinkan mereka untuk memprioritaskan pengalaman konten mereka yang lebih mungkin melanggar.”
