Dalam eskalasi pertarungannya dengan teknologi besar, pemerintah federal telah mengumumkan berencana untuk menerapkan “tugas kehati-hatian digital” pada perusahaan teknologi untuk mengurangi dampak buruk di dunia maya.
Pengumuman ini muncul setelah rencana kontroversial pemerintah untuk membuat undang-undang a larangan media sosial untuk remaja di bawah 16 tahun dan menerapkan aturan yang lebih ketat pada platform digital seperti Google, Facebook, Instagram, X dan TikTok untuk mengatasi misinformasi dan disinformasi.
Dalam pidatonya tadi malam, Menteri Komunikasi Michelle Rowland menjelaskan mengapa pemerintah berencana memperkenalkan tugas perawatan digital:
Yang diperlukan adalah berhenti bereaksi terhadap dampak buruk hanya berdasarkan regulasi konten dan beralih ke pencegahan berbasis sistem, disertai dengan perluasan perspektif kita mengenai dampak buruk yang terjadi secara online.
Ini merupakan langkah maju yang positif dan selaras dengan yurisdiksi lain di seluruh dunia.
Apa yang dimaksud dengan ‘kewajiban menjaga digital’?
Kewajiban menjaga adalah kewajiban hukum untuk menjamin keselamatan orang lain. Hal ini tidak terbatas pada sekadar tidak melakukan tindakan yang merugikan; Hal ini juga berarti mengambil langkah-langkah yang wajar untuk mencegah bahaya.
Usulan tugas kehati-hatian digital akan meminta pertanggungjawaban perusahaan teknologi seperti Meta, Google, dan X untuk melindungi konsumen dari bahaya di platform online mereka. Hal ini akan menyelaraskan platform media sosial dengan perusahaan yang membuat produk fisik dan sudah mempunyai kewajiban untuk melakukan segala kemungkinan untuk memastikan produk mereka tidak merugikan pengguna.
Tanggung jawab kehati-hatian digital akan mengharuskan perusahaan teknologi untuk secara rutin melakukan penilaian risiko guna secara proaktif mengidentifikasi konten berbahaya.
Penilaian ini harus mempertimbangkan apa yang disebut Rowland sebagai “kategori kerugian yang bertahan lama,” yang juga akan diatur dalam undang-undang. Rowland mengatakan kategori-kategori ini dapat mencakup:
- merugikan generasi muda
- kerusakan pada kesejahteraan mental
- instruksi dan promosi praktik-praktik berbahaya
- konten, perilaku, dan aktivitas ilegal lainnya.
Pendekatan ini direkomendasikan baru-baru ini tinjauan hukum keselamatan online. Hal ini sudah diterapkan di belahan dunia lain, termasuk Inggris, sebagai bagian dari upaya ini Hukum Keamanan Online dan di bawah mandat Uni Eropa Hukum Layanan Digital.
Selain memberikan tanggung jawab kepada perusahaan teknologi untuk melindungi pengguna platform mereka, undang-undang ini juga memberikan kewenangan untuk memerangi konten berbahaya di tangan konsumen.
Misalnya, di UE, konsumen bisa mengajukan pengaduan secara online tentang materi berbahaya secara langsung kepada perusahaan teknologi, yang secara hukum diwajibkan untuk menindaklanjuti keluhan tersebut. Ketika sebuah perusahaan teknologi menolak untuk menghapus konten, pengguna dapat mengajukan keluhan kepada koordinator layanan digital untuk penyelidikan lebih lanjut. Mereka bahkan dapat meminta penyelesaian secara hukum jika hasil yang memuaskan tidak dapat dicapai.
Undang-undang UE menyatakan bahwa jika perusahaan teknologi melanggar kewajiban mereka dalam menjaga konsumen, mereka dapat melakukannya menghadapi denda hingga 6% dari omset global tahunan mereka.
Pusat Hukum Hak Asasi Manusia Australia mendukung gagasan kewajiban menjaga secara digital. mengatakan “Platform digital harus memiliki kewajiban hukum untuk memperhatikan semua pengguna.”
Gil C/Shutterstock
Mengapa lebih tepat dibandingkan melarang media sosial?
Berbagai ahli – termasuk saya – telah menunjukkan permasalahan dalam rencana pemerintah untuk melarang akses terhadap jejaring sosial bagi mereka yang berusia di bawah 16 tahun.
Misalnya, persyaratan usia “satu ukuran untuk semua” tidak mempertimbangkan tingkat kematangan generasi muda yang berbeda. Terlebih lagi, melarang generasi muda mengakses media sosial hanya akan menunda paparan mereka terhadap konten online yang berbahaya. Hal ini juga menghilangkan kemampuan orang tua dan guru untuk berinteraksi dengan anak-anak di platform dan membantu mereka mengelola potensi bahaya dengan aman.
Usulan “kewajiban kepedulian digital” yang diajukan pemerintah akan mengatasi permasalahan ini.
Perjanjian ini berjanji untuk memaksa perusahaan teknologi membuat dunia online lebih aman dengan menghapus konten berbahaya, seperti gambar atau video yang mendorong tindakan menyakiti diri sendiri. Mereka berjanji untuk melakukan hal ini tanpa melarang akses generasi muda terhadap materi atau komunitas sosial online yang berpotensi bermanfaat.
Tugas menjaga digital juga berpotensi mengatasi masalah misinformasi dan misinformasi.
Fakta bahwa Australia mengikuti jejak yurisdiksi internasional juga merupakan hal yang signifikan. Hal ini menunjukkan adanya dorongan global terpadu dari Big Tech untuk memerangi konten berbahaya yang muncul di platform, sehingga menempatkan tanggung jawab kepedulian pada perusahaan, bukan pengguna.
Pendekatan terpadu ini membuat perusahaan teknologi lebih mungkin untuk mematuhi undang-undang tersebut, ketika banyak negara menerapkan kontrol serupa dan memiliki ekspektasi konten yang serupa.
Mick Tsikas/AAP
Bagaimana penerapannya?
Pemerintah Australia mengatakan akan menerapkan tugas perawatan digital dengan penuh semangat. Seperti yang dikatakan Menteri Rowland tadi malam:
Jika platform benar-benar gagal dalam menjalankan tugasnya – ketika terjadi kegagalan sistemik – kami akan memastikan bahwa regulator dapat mengambil tindakan dengan sanksi yang tegas.
Apa sebenarnya perjanjian penalti ini belum diumumkan. Begitu pula dengan metode yang digunakan masyarakat untuk mengajukan keluhan kepada regulator tentang konten berbahaya yang mereka lihat secara online dan ingin dihapus.
Ada sejumlah kekhawatiran dalam penerapannya telah dibesarkan di Inggris. Hal ini menunjukkan bahwa melakukan perincian dengan benar akan sangat penting bagi keberhasilan di Australia dan sekitarnya. Misalnya saja, mendefinisikan apa yang dimaksud dengan kerugian akan menjadi tantangan yang berkelanjutan dan mungkin memerlukan uji kasus melalui pengaduan dan/atau proses pengadilan.
Dan karena UE dan Inggris baru memperkenalkan undang-undang ini pada tahun lalu, dampak penuh dari undang-undang ini (termasuk tingkat kepatuhan perusahaan teknologi) belum diketahui.
Pada akhirnya, peralihan pemerintah untuk memberikan tanggung jawab kepada perusahaan teknologi untuk menghapus konten berbahaya, dari sumbernya, disambut baik. Hal ini akan membuat platform media sosial menjadi tempat yang lebih aman bagi semua orang, baik tua maupun muda.
