Encode, organisasi nirlaba yang ikut mensponsori program California sial SB 1047 Legislasi Keamanan AI telah meminta izin untuk mengajukan amicus brief untuk mendukung keputusan Elon Musk. mandat untuk menghentikan transisi OpenAI menjadi perusahaan nirlaba.
di sebuah ringkasan yang diusulkan Dalam pengajuan yang diajukan ke Pengadilan Distrik AS untuk Distrik Utara California pada Jumat sore, pengacara Encode mengatakan mengubah OpenAI menjadi organisasi nirlaba akan “merusak” misi perusahaan untuk “mengembangkan dan menerapkan…teknologi transformatif dengan cara tertentu itu aman dan bermanfaat.” kepada publik.”
“OpenAI dan CEO-nya, Sam Altman, mengklaim sedang mengembangkan teknologi yang mengubah masyarakat, dan klaim tersebut harus ditanggapi dengan serius,” kata laporan tersebut. “Jika dunia benar-benar berada di titik puncak era baru kecerdasan umum buatan (AGI)“maka masyarakat mempunyai kepentingan yang besar terhadap teknologi yang dikendalikan oleh badan amal publik yang secara hukum berkewajiban untuk memprioritaskan keselamatan dan manfaat publik daripada organisasi yang berfokus pada menghasilkan keuntungan finansial bagi beberapa investor yang memiliki hak istimewa.”
Dalam sebuah pernyataan, Sneha Revanur, pendiri dan presiden Encode, menuduh OpenAI “menginternalisasi keuntungan.” [of AI] tetapi mengeksternalisasikan konsekuensinya terhadap seluruh umat manusia”, dan mengatakan bahwa “[t]“Pengadilan harus melakukan intervensi untuk memastikan bahwa pengembangan AI melayani kepentingan publik.”
Laporan Encode mendapat dukungan dari Geoffrey Hinton, pionir di bidang AI dan peraih Nobel 2024, dan Stuart Russell, profesor ilmu komputer di UC Berkeley dan direktur Center for Human-Compatible AI.
“OpenAI didirikan sebagai organisasi nirlaba yang secara eksplisit berfokus pada keamanan dan membuat berbagai janji terkait keamanan dalam piagamnya,” kata Hinton dalam sebuah pernyataan. Siaran pers. “Ia menerima banyak pajak dan keuntungan lainnya karena statusnya yang nirlaba. “Membiarkannya menghancurkan semua hal tersebut pada saat tidak nyaman akan mengirimkan pesan yang sangat buruk kepada pelaku lain dalam ekosistem.”
OpenAI diluncurkan pada tahun 2015 sebagai laboratorium penelitian nirlaba. Namun ketika eksperimennya menjadi semakin padat modal, dibuat strukturnya saat ini, dengan asumsi investasi eksternal dari pemodal ventura dan perusahaan, termasuk Microsoft.
Saat ini, OpenAI memiliki struktur hibrida: bagian nirlaba yang dikendalikan oleh organisasi nirlaba dengan kepemilikan “keuntungan terbatas” untuk investor dan karyawan. Namun dalam a postingan blog Pada Jumat pagi, perusahaan tersebut mengatakan pihaknya berencana untuk memulai transisi dari perusahaan nirlaba saat ini menjadi Delaware Public Benefit Corporation (PBC), dengan saham biasa dan Misi Terbuka AI sebagai kepentingan kepentingan umum Anda.
OpenAI nirlaba akan tetap ada tetapi akan menyerahkan kendali dengan imbalan saham PBC.
Musk, kontributor awal organisasi nirlaba tersebut, mengajukan gugatan pada bulan November untuk meminta perintah menghentikan perubahan yang diusulkan, yang telah lama dilakukan. Dia menuduh OpenAI mengabaikan misi filantropis aslinya yang menjadikan hasil penelitian AI-nya tersedia bagi semua orang dan membuat para pesaingnya (termasuk startup AI, xAI) kekurangan modal melalui cara-cara anti-persaingan.
OpenAI punya ditelepon Keluhan Musk “tidak berdasar” dan hanya sekedar omong kosong belaka.
Perusahaan induk Facebook dan saingan AI, Meta, juga mendukung upaya untuk memblokir konversi OpenAI. Pada bulan Desember Tujuan terkirim sepucuk surat kepada Jaksa Agung California Rob Bonta, dengan alasan bahwa membiarkan perubahan tersebut akan mempunyai “implikasi seismik bagi Silicon Valley.”
Pengacara Encode mengatakan rencana OpenAI untuk mengalihkan kendali operasinya ke PBC “akan mengubah organisasi yang diwajibkan oleh hukum untuk menjamin keamanan AI tingkat lanjut menjadi organisasi yang diwajibkan oleh hukum untuk ‘menyeimbangkan’ pertimbangannya atas manfaat publik terhadap ‘uang.’ manfaat’ dari kepentingan. [its] pemegang saham’”.
Pengacara Encode mencatat dalam laporan singkatnya, misalnya, bahwa organisasi nirlaba OpenAI telah berjanji untuk berhenti bersaing dengan “proyek yang selaras dengan nilai dan sadar keamanan” yang hampir membangun AGI sebelum melakukannya, namun OpenAI, sebagai for- organisasi profit, akan melakukannya. kurang (jika ada) insentif untuk melakukan hal tersebut. Laporan tersebut juga mencatat bahwa dewan direksi organisasi nirlaba OpenAI tidak lagi dapat membatalkan modal investor jika diperlukan demi alasan keamanan setelah restrukturisasi perusahaan selesai.
OpenAI terus bereksperimen A KELUAR dari tingkat tinggi bakat sebagian karena kekhawatiran bahwa perusahaan memprioritaskan produk komersial dengan mengorbankan keamanan. Salah satu mantan karyawan, Miles Brundage, seorang peneliti kebijakan veteran yang meninggalkan OpenAI pada bulan Oktober, mengatakan dalam a serangkaian publikasi tentang
“Kewajiban fidusia OpenAI terhadap kemanusiaan akan hilang, karena undang-undang Delaware memperjelas bahwa direktur PBC tidak berkewajiban kepada publik,” lanjut laporan Encode. “Kepentingan publik akan dirugikan jika organisasi nirlaba yang berfokus pada keselamatan dan memiliki misi terbatas menyerahkan kendali atas sesuatu yang begitu transformatif dengan cara apa pun kepada perusahaan nirlaba yang tidak memiliki komitmen terhadap keselamatan.”
Encode, yang didirikan pada Juli 2020 oleh Revanur, menggambarkan dirinya sebagai jaringan relawan yang berfokus untuk memastikan suara generasi muda didengar dalam percakapan tentang dampak AI. Encode telah berkontribusi pada beberapa undang-undang AI negara bagian dan federal selain SB 1047, termasuk Gedung Putih. RUU Hak AI dan Presiden Joe Biden perintah eksekutif tentang AI.
Diperbarui 30 Desember 2024 dengan pernyataan dari Revanur dan Hinton.
TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk menerimanya di kotak masuk Anda setiap hari Rabu.
