Permintaan terhadap Google dan karakter Layanan Chatbot AI, yang dituduh berkontribusi pada kematian seorang remaja – Anda bisa maju, Seorang hakim dari Florida memutuskan. Dalam keputusan yang disajikan hari ini, Hakim Anne Conway mengatakan bahwa upaya untuk membela Amandemen Pertama tidak cukup untuk gugatan tersebut dibuang. Conway memutuskan bahwa, meskipun ada beberapa kesamaan dengan video game dan media ekspresif lainnya, “Dia tidak siap untuk mempertahankan produksi AI dari karakter itu adalah pidato.”
Putusan tersebut merupakan indikator yang relatif awal dari jenis perawatan yang dapat diterima oleh model bahasa di pengadilan. Ini berasal dari gugatan yang diajukan oleh keluarga Sewell Setzer III, seorang 14 tahun yang meninggal karena bunuh diri setelah diduga terobsesi dengan chatbot yang mendorong ide bunuh diri. Karakter AI dan Google (yang terkait erat dengan perusahaan chatbot) berpendapat bahwa layanan ini mirip dengan berbicara dengan karakter video game yang bukan pemain atau bergabung dengan jejaring sosial, sesuatu yang akan memberinya perlindungan hukum yang luas yang ditawarkan oleh Amandemen Pertama dan mungkin akan secara drastis mengurangi kemungkinan keberhasilan permintaan tanggung jawab. Conway, bagaimanapun, skeptis.
Sementara perusahaan “mengistirahatkan kesimpulan mereka terutama dalam analogi” dengan contoh -contoh itu, “analogi mereka tidak maju,” kata hakim. Keputusan Pengadilan “tidak menyala Ya Karakter AI mirip dengan media lain yang telah menerima perlindungan dari Amandemen Pertama; Sebaliknya, keputusan menyala sebagai Karakter AI mirip dengan media lain ”: Dengan kata lain, jika karakter AI mirip dengan hal -hal seperti video game karena ia juga mengkomunikasikan ide -ide yang akan mengatakan sebagai pidato. Kesamaan ini akan diperdebatkan seiring perkembangan kasus.
Meskipun Google tidak memiliki AI karakter, itu akan terus menjadi terdakwa dalam permintaan berkat hubungannya dengan perusahaan dan produk; Pendiri perusahaan, Noam Shazeer dan Daniel de Freitas, yang termasuk secara terpisah dalam permintaan, bekerja di platform sebagai karyawan Google sebelum pergi untuk meluncurkannya dan kemudian dihubungi di sana. Karakter AI juga menghadapi Permintaan terpisah mengklaim bahwa ia merusak kesehatan mental pengguna muda lain, dan beberapa legislator negara telah mempromosikan peraturan “chatbots” pelengkap yang mensimulasikan hubungan dengan pengguna, termasuk RUU, RUU, Tindakan utamaItu akan melarang mereka menggunakan anak -anak di California. Jika disetujui, aturan tersebut kemungkinan akan dirilis di pengadilan setidaknya sebagian berdasarkan keadaan Amandemen Pertama dari chatbots pelengkap.
Hasil dari kasus ini akan sangat tergantung pada apakah karakter AI secara hukum merupakan “produk” yang berbahaya. Putusan tersebut menunjukkan bahwa “pengadilan umumnya tidak mengklasifikasikan ide, gambar, informasi, kata -kata, ekspresi atau konsep seperti produk”, termasuk banyak video game konvensional: kutipan, misalnya, putusan yang ditemukan Mortal Kombat produsen Itu tidak dapat dianggap bertanggung jawab Untuk “pecandu” kepada pemain dan menginspirasi mereka untuk membunuh. (Setelan karakter juga menuduh platform desain adiktif). Namun, sistem seperti karakter AI tidak mendefinisikan diri mereka secara langsung seperti sebagian besar dialog karakter video game; Sebaliknya, mereka menghasilkan teks otomatis yang sebagian besar ditentukan dengan bereaksi dan mencerminkan input pengguna.
“Ini adalah masalah yang sangat sulit dan baru yang harus dihadapi pengadilan.”
Conway juga menunjukkan bahwa penggugat mengarah ke AI karakter pada tugas tidak mengkonfirmasi usia pengguna dan tidak mengizinkan pengguna untuk “mengecualikan konten tidak senonoh”, di antara fitur -fitur lain yang seharusnya cacat yang melampaui interaksi langsung dengan chatbots.
Di luar membahas perlindungan Amandemen Pertama dari platform, hakim mengizinkan keluarga Setzer untuk melanjutkan dengan pernyataan praktik komersial yang menipu, termasuk bahwa perusahaan “menipu pengguna untuk percaya bahwa karakter karakter adalah orang sungguhan, beberapa di antaranya adalah seorang profesional kesehatan mental yang berlisensi” dan bahwa Setzer “dianiaya oleh oleh orang yang dianiaya [Character AI’s] Keputusan Desain Antropomorfik. ”
Ini juga memungkinkan pernyataan bahwa karakter AI secara lalai melanggar aturan yang bertujuan untuk mencegah orang dewasa berkomunikasi secara seksual dengan anak di bawah umur secara online, mengatakan bahwa pengaduan “menyoroti beberapa interaksi yang bersifat seksual antara karakter Sewell dan karakter AI.” Karakter AI telah mengatakan bahwa ia telah menerapkan perlindungan tambahan sejak kematian Setzer, termasuk a Model berat Untuk remaja.
Becca Branum, Wakil Direktur Proyek Kebebasan Ekspresi dari Pusat Demokrasi dan Teknologi, menggambarkan analisis amandemen pertama hakim “cukup tipis”, meskipun, karena ini adalah keputusan yang sangat awal, ada banyak ruang untuk debat di masa depan. “Jika kita berpikir tentang seluruh kerajaan yang bisa diperoleh AI, jenis -jenis output chatbot itu cukup ekspresif, [and] Ini juga mencerminkan kebijaksanaan editorial dan ekspresi yang dilindungi dari perancang model, ”kata Branum Tepi. Tapi “membela semua, ini benar -benar baru,” tambahnya. “Ini adalah masalah yang sangat sulit dan baru yang harus dihadapi pengadilan.”
