Penelitian ilmiah tentang teknologi digital terperangkap dalam “siklus kegagalan” yang bergerak terlalu lambat untuk memungkinkan pemerintah dan masyarakat untuk memperhitungkan perusahaan teknologi, berhasil dua peneliti terkemuka dalam laporan baru yang diterbitkan di majalah tersebut Sains.
Amy Orben dari University of Cambridge dan Dr. J Nathan Matias dari University of Cornell mengatakan bahwa ritme di mana teknologi baru terungkap untuk miliaran orang telah melakukan ketegangan yang tak tertahankan dalam sistem ilmiah yang mencoba mengevaluasi efeknya.
Mereka berpendapat bahwa perusahaan teknologi besar secara efektif mengalihdayakan keamanan produk mereka kepada para ilmuwan independen dari universitas dan organisasi yang menguntungkan yang bekerja dengan sebagian kecil dari sumber daya, sementara perusahaan juga menghalangi akses ke data dan informasi penting. Ini kontras dengan industri lain di mana tes keamanan dilakukan sebagian besar ‘di rumah’.
Orben dan Matias meminta tinjauan ‘produksi bukti’ yang mengevaluasi dampak teknologi dalam segala hal, dari kesehatan mental hingga diskriminasi.
Rekomendasi mereka termasuk mempercepat proses penelitian, sehingga intervensi kebijakan dan desain yang lebih aman diuji secara paralel dengan pengumpulan bukti awal dan penciptaan catatan kerusakan yang terkait dengan teknologi yang diinformasikan oleh publik.
“Perusahaan teknologi besar semakin banyak bertindak dengan impunitas yang dirasakan, sementara kepercayaan dalam rasa hormat mereka terhadap keamanan publik memudar,” kata Orben, dari Unit Kognisi MRC dan Ilmu Otak Cambridge. “Kebijakan dan formulator publik menggunakan ilmuwan independen sebagai arbiter keamanan teknologi.”
“Para ilmuwan seperti diri kita berkomitmen untuk kebaikan publik, tetapi kami diminta untuk memperhitungkan industri satu miliar dolar tanpa dukungan yang memadai untuk penelitian kami atau alat dasar untuk menghasilkan bukti berkualitas baik dengan cepat.”
“Kita harus segera memperbaiki ekosistem ilmu dan kebijakan ini sehingga kita dapat memahami dan mengelola risiko potensial yang dikumpulkan oleh masyarakat digital kita dalam evolusi,” kata Orben.
‘Siklus umpan balik negatif’
Yang terakhir Sains kertasPara peneliti menunjukkan bahwa perusahaan teknologi sering mengikuti kebijakan implementasi dengan cepat dari produk terlebih dahulu dan kemudian berusaha untuk ‘memurnikan’ kemungkinan kerusakan nanti. Ini termasuk mendistribusikan produk generatif ke jutaan sebelum menyelesaikan tes keamanan dasar, misalnya.
Ketika mereka ditugaskan untuk memahami potensi kerusakan teknologi baru, para peneliti mempercayai ‘ilmu rutin’ yang, setelah mempromosikan kemajuan sosial selama beberapa dekade, sekarang menunda laju perubahan teknologi sejauh kadang -kadang menjadi ‘tidak dapat digunakan’.
Dengan banyak warga negara dengan menekan politisi untuk bertindak berdasarkan keamanan digital, Orben dan Matias berpendapat bahwa perusahaan teknologi menggunakan ritme sains yang lambat dan kurangnya bukti kuat untuk melawan intervensi kebijakan dan “meminimalkan tanggung jawab mereka sendiri.”
Bahkan jika penelitian menerima sumber daya yang memadai, mereka menunjukkan bahwa para peneliti akan menghadapi pemahaman tentang produk yang berkembang pada tingkat yang belum pernah terjadi sebelumnya.
“Produk teknologi berubah setiap hari atau mingguan, dan beradaptasi dengan orang -orang. Bahkan staf perusahaan mungkin tidak sepenuhnya memahami produk kapan saja, dan penelitian ilmiah dapat ketinggalan zaman untuk waktu selesai, apalagi diterbitkan,” kata Matias, yang mengarahkan Cornell Citizens and Technology Laboratory (CAT).
“Pada saat yang sama, pernyataan tentang kekurangan sains dapat menjadi sumber keterlambatan dalam keamanan teknologi ketika sains memainkan peran penjaga gerbang untuk intervensi politik,” kata Matias.
“Sama seperti industri minyak dan kimia telah memanfaatkan ritme sains yang lambat untuk mengalihkan bukti bahwa laporan tanggung jawab, eksekutif di perusahaan teknologi telah mengikuti pola yang sama. Beberapa bahkan menolak untuk mengkompromikan sumber daya substansial untuk penelitian keamanan tanpa jenis bukti kausal tertentu, yang juga mereka tolak untuk membiayai.”
Para peneliti menyajikan “siklus umpan balik negatif”:
Perusahaan teknologi bukanlah penyelidikan keamanan sumber daya dengan benar, mengubah beban menjadi ilmuwan independen yang kekurangan data dan dana. Ini berarti bahwa tidak ada bukti kausal dengan kualitas tinggi dalam tenggat waktu yang diperlukan, yang melemahkan kemampuan pemerintah untuk mengatur, semakin mengecilkan penelitian keamanan, karena perusahaan berhenti menjadi kait.
Orben dan Matias berpendapat bahwa siklus ini harus dirancang ulang dan menawarkan cara untuk melakukannya.
Menginformasikan kerusakan digital
Untuk mempercepat identifikasi kerusakan yang disebabkan oleh teknologi online, pemimpin politik atau masyarakat sipil dapat membangun catatan untuk laporan insiden dan mendorong masyarakat untuk menyumbangkan bukti ketika mereka mengalami kerusakan.
Metode serupa sudah digunakan di bidang, seperti Toksikologi Lingkungan, di mana laporan publik tentang jalan sungai yang terkontaminasi atau program laporan kecelakaan kendaraan yang melaporkan keamanan otomotif, misalnya.
“Kami tidak memenangkan apa pun ketika orang yang tidak mempercayai pengalaman mereka hidup karena tidak adanya bukti ketika bukti itu tidak disusun,” kata Matias.
Catatan yang ada, dari catatan kematian hingga database kekerasan dalam rumah tangga, juga dapat meningkat untuk memasukkan informasi tentang partisipasi teknologi digital seperti AI.
Para penulis dokumen juga menggambarkan sistem ‘bukti minimum yang layak’, di mana rumulator kebijakan dan peneliti menyesuaikan ‘ambang bukti’ yang diperlukan untuk menunjukkan potensi kerusakan teknologi sebelum mulai mencoba intervensi.
Ambang batas bukti ini dapat ditetapkan oleh panel yang terdiri dari komunitas yang terkena dampak, publik atau ‘pengadilan sains’: kelompok ahli berkumpul untuk melakukan evaluasi yang cepat.
“Bukti kausal kerusakan teknologi sering kali diperlukan sebelum desainer dan ilmuwan dapat menguji intervensi untuk membangun masyarakat digital yang lebih aman,” kata Orben.
“Namun, tes intervensi dapat digunakan untuk mencapai cara untuk membantu orang dan masyarakat, dan mengidentifikasi potensi kerusakan dalam proses. Kita perlu pindah dari sistem berurutan ke yang gesit dan paralel.”
Di bawah sistem bukti minimum yang layak, apakah perusahaan menghalangi atau tidak mendukung penelitian independen, dan tidak transparan tentang tes keselamatan internalnya sendiri, jumlah bukti yang diperlukan untuk mulai mencoba kemungkinan intervensi akan dikurangi.
Orben dan Matias juga menyarankan pembelajaran dari keberhasilan ‘Kimia Verde’, yang melihat badan independen dalam daftar kimia yang diklasifikasikan berdasarkan potensi kerusakan, untuk membantu mendorong pasar untuk mengembangkan alternatif yang lebih aman.
“Metode dan sumber daya ilmiah yang kita miliki untuk penciptaan bukti saat ini tidak bisa berurusan dengan ritme pengembangan teknologi digital,” kata Orben.
“Ilmuwan dan formulator kebijakan harus mengenali kegagalan sistem ini dan membantu menjelaskan lebih baik sebelum usia eksponen masyarakat bahkan lebih pada risiko perubahan teknologi tanpa kendali.”
Matias ditambahkan: “Ketika sains tentang dampak teknologi baru terlalu lambat, semua orang kalah.”
Air mancur: Universitas Cambridge
