ACLU membunyikan alarm mengenai kekuatan kepolisian di negara tersebut, yang semakin bergantung pada mereka kecerdasan buatan.
Dalam enam halaman kertas putih Diterbitkan pada 10 Desember, kelompok hak-hak sipil terbesar di AS memperingatkan bahwa penerapan teknologi AI generatif yang populer, seperti chatbots dan alat menggambar, merupakan langkah berlebihan dalam kemajuan teknologi dan menimbulkan ancaman terhadap kebebasan sipil Amerika.
Organisasi tersebut secara khusus menyoroti penggunaan Draft One, alat AI generatif kontroversial yang membantu petugas polisi menyusun laporan berdasarkan audio kamera tubuh dan didasarkan pada model GPT-4 OpenAI. Beberapa departemen kepolisian di seluruh negeri telah secara bertahap menguji alat AI selama setahun terakhir, termasuk Draf Pertama sedang meningkatdan kota-kota di Amerika Serikat menawarkan kemampuan AI generatif sebagai solusi terhadap kendala anggaran dan staf.
Para ahli punya mengkritik penerapannya teknologi ini, mengingat pentingnya peran laporan polisi dalam pengambilan keputusan peradilan, mulai dari penyelidikan dan penemuan hingga hukuman.
Kecepatan cahaya yang dapat dihancurkan
“Fungsi yang dipaksakan dalam menulis sebuah pembenaran, dan kemudian bersumpah akan kebenarannya, dan mempublikasikan catatan tersebut kepada profesional hukum lainnya (jaksa/jaksa) adalah sebuah pengawasan terhadap kekuasaan polisi,” tulis pakar hukum Andrew Guthrie Ferguson dalam salah satu artikelnya. revisi undang-undang pertama laporan polisi yang disusun oleh AI. Laporan tersebut dikutip oleh ACLU dalam buku putihnya.
ACLU menguraikan empat bidang utama yang menjadi perhatian dalam buku putihnya, termasuk proses akuntabilitas yang diperlukan untuk pelaporan yang ditulis oleh manusia seperti yang dijelaskan Ferguson. Dalam analisisnya, organisasi ini menekankan ketidakpastian yang dipicu oleh bias dan halusinasi yang melekat pada teknologi itu sendiri, dan mempertanyakan transparansi proses ini bagi masyarakat umum, belum lagi implikasinya terhadap privasi data. Menurut organisasi tersebut, lebih mengandalkan interpretasi alat kecerdasan buatan generatif daripada ingatan manusia dan pengamatan subjektif dari petugas polisi akan merugikan proses peradilan yang adil.
Jika AI menjadi garda depan bagi petugas kepolisian, ACLU mendesak, AI harus digunakan hanya setelah ingatan manusia telah terekam. Alat AI dapat menyalin narasi verbal yang direkam secara audio yang dibuat oleh petugas yang terlibat, jelas organisasi tersebut, yang dapat diserahkan bersama untuk ditinjau.
Namun, bertentangan dengan rekomendasi dari kelompok hak-hak sipil, para pemimpin AI terus berinvestasi pada kepolisian dan aplikasi militer teknologinya.
“Laporan polisi memainkan peran penting dalam sistem peradilan kita. Laporan ini penting dalam proses pidana yang menentukan apakah seseorang tidak bersalah, bersalah, dan dihukum, dan seringkali merupakan satu-satunya laporan resmi tentang apa yang terjadi selama suatu insiden,” tulis ACLU. “Teknologi penulisan laporan AI menghilangkan elemen penting manusia dari prosedur kepolisian dan terlalu baru, terlalu belum teruji, terlalu tidak dapat diandalkan, terlalu buram dan terlalu bias untuk dimasukkan ke dalam sistem peradilan pidana kita.”
