Para peneliti di University of Zurich telah mengaku telah menerbitkan dalam materi rahasia yang dihasilkan oleh AI ke subnet populer R/Changmyview atas nama sains.
Seperti yang dijelaskan para peneliti dalam rancangan laporan tentang pekerjaan mereka: “Dalam R/ChangeMyView, pengguna berbagi pendapat tentang berbagai topik, menantang orang lain untuk mengubah perspektif mereka dengan menyajikan argumen dan tandingan saat berpartisipasi dalam percakapan sipil.” Pembaca subbeddit mengevaluasi publikasi dan mengakui publikasi yang mengubah perspektif mereka.
Para peneliti ingin tahu apakah konten yang dihasilkan oleh model bahasa besar dapat mengubah pikiran pembaca, jadi “terlibat dalam diskusi dalam r/changemyview menggunakan akun semi -otomasi dan didorong oleh AI.”
Mengingat pentingnya masalah ini, sangat penting untuk melakukan penelitian bahkan jika itu berarti tidak mematuhi aturan
Para peneliti mengusulkan studi mereka di bulan November 2024 surat Di Pusat Sains Terbuka, yang menggambarkan pendekatan yang direncanakan untuk menggunakan LLM untuk menulis posisi generik, di samping kebiasaan lain untuk mencerminkan usia, jenis kelamin, asal etnis, lokasi dan orientasi politik anggota manusia r/changemyviv
Para ilmuwan juga berencana untuk membuat respons yang dihasilkan menggunakan model yang disesuaikan berdasarkan komentar sebelum forum.
Para peneliti bermaksud menggunakan indikasi seperti berikut:
Diasumsikan secara luas bahwa semua jenis aktor menggunakan AI untuk menghasilkan konten yang memajukan agenda mereka. Oleh karena itu, mengetahui apakah pendekatan itu berfungsi mungkin berguna.
Tetapi para peneliti tidak memberi tahu moderator R/ChangMyView tentang kegiatan mereka atau meminta izin, meskipun mengetahui bahwa forum tersebut standar Dibutuhkan penyebaran publikasi yang dihasilkan oleh AI.
Menurut akhir pekan surat Untuk moderator r/changmyview, mereka menyadari penelitian pada bulan Maret ketika universitas mengungkapkan keberadaan penelitian dalam pesan yang berisi teks berikut:
Dengan kata lain: Saya minta maaf/Saya tidak menyesal, karena sains.
Para peneliti memberikan daftar akun yang mereka gunakan untuk studi mereka. Modifikasi menemukan konten akun yang diterbitkan di mana bot:
- Berpura -pura menjadi korban pemerkosaan
- Dia bertindak sebagai penasihat trauma khusus penyalahgunaan
- Anggota yang dituduh kelompok agama ‘Causa[ing] Kematian ratusan pedagang yang tidak bersalah dan petani dan penduduk desa.
- Berfungsi sebagai orang kulit hitam yang menentang Black Lives Matter
- Dimiliki sebagai orang yang mendapat perhatian buruk di rumah sakit asing.
Publikasi moderator menyatakan bahwa para peneliti menerima persetujuan Dewan Etika Universitas Zurich, tetapi kemudian percobaan bervariasi tanpa tinjauan etika tambahan.
Oleh karena itu, MOD telah mengajukan keluhan ke universitas dan meminta agar studi tidak dipublikasikan.
Universitas menanggapi dengan mengatakan: “Proyek ini menghasilkan ide -ide penting, dan risiko (misalnya, trauma, dll.) Minimal. Ini berarti bahwa menekan publikasi tidak sebanding dengan pentingnya ide -ide yang dihasilkan oleh penelitian ini.”
Modifikasi subbredit tidak terlalu memikirkan hal itu dan mengutip studi OpenAI di mana IA yang diperjuangkan melakukan penelitian sendiri tentang kekuatan persuasif LLM menggunakan salinan R/Changemyviv “tanpa mengalami pada subjek manusia yang tidak disetujui.”
Pendaftaran Dia telah berjuang untuk menemukan dukungan untuk pekerjaan para peneliti, tetapi mereka merasa itu tidak etis.
“Ini adalah salah satu pelanggaran terburuk dari etika penelitian yang pernah saya lihat.” menulis Profesor Ilmu Informasi di Colorado Colorado Boulder Dr. Casey Fiesler. “Memanipulasi orang di komunitas online menggunakan penipuan, tanpa persetujuan, bukan ‘risiko rendah’ dan, sebagaimana dibuktikan oleh wacana dalam publikasi Reddit ini, itu mengakibatkan kerusakan.”
Peneliti Zurich draf [PDF]Berjudul “Dapatkah Anda Mengubah Sudut Pandang Anda? Bukti Eksperimen Lapangan Online Besar -Besar” dapat membantu Anda memutuskan percobaan ini.
Dari apa yang berharga, rancangan ini menginformasikan bahwa “LLMS bisa sangat persuasif dalam konteks dunia nyata, mengatasi semua poin referensi yang sebelumnya diketahui dari persuasi manusia.” ®
