Respons ‘Genosida Putih’ Grok menunjukkan Jenderal AI dimanipulasi dengan ‘di Will’ ‘

Dalam lebih dari dua tahun sejak kecerdasan buatan generatif mengambil dunia dengan penyerangan setelah peluncuran publik ChatgptKepercayaan telah menjadi masalah abadi.

HalusinasiMatematika dan bias budaya memiliki hasil lengkap, mengingat pengguna bahwa ada batasan seberapa banyak kita dapat mempercayai AI, setidaknya untuk saat ini.

Elon Musk’s Grok Chatbot, yang dibuat oleh startup XAI -nya, menunjukkan minggu ini bahwa ada alasan yang lebih dalam untuk khawatir: AI dapat dengan mudah dimanipulasi oleh manusia.

Grok pada hari Rabu dimulai Menanggapi konsultasi pengguna dengan pernyataan palsu “genosida putih” di Afrika Selatan. Pada akhirnya, tangkapan layar diterbitkan dalam X jawaban yang sama, bahkan ketika pertanyaan tidak ada hubungannya dengan subjek.

Setelah diam tentang masalah ini selama lebih dari 24 jam, Xai mengatakan Kamis malam bahwa Grok’s perilaku aneh Itu disebabkan oleh “modifikasi tidak sah” pada indikasi SO yang disebut dari sistem aplikasi obrolan, yang membantu menginformasikan cara berperilaku dan berinteraksi dengan pengguna. Dengan kata lain, manusia mendikte respons AI.

Sifat respons, dalam hal ini, secara langsung terkait dengan Musk, yang lahir dan tumbuh di Afrika Selatan. Musk, pemilik XAI, selain peran CEO -nya Tesla Dan SpaceX, telah Mempromosikan klaim palsu Kekerasan terhadap beberapa petani Afrika Selatan merupakan “genosida putih”, perasaan itu Presiden Donald Trump Dia juga telah mengekspresikan.

“Saya pikir ini sangat penting karena konten dan siapa yang memimpin perusahaan ini, dan cara -cara yang menunjukkan atau menjelaskan jenis kekuatan yang harus dibentuk alat -alat ini untuk membentuk pemikiran dan pemahaman tentang dunia orang,” kata Deirdre Muligan, Profesor di Universitas California di Berkeley dan seorang ahli di AI.

Mulligan mencirikan kesalahan Grok sebagai “gangguan algoritmik” yang “memisahkan sifat netral dari model bahasa besar dari jahitan. Dia mengatakan tidak ada alasan untuk melihat kerusakan Grok sebagai” pengecualian “.

Chatbots dengan AI dibuat oleh Sasaran, Google Dan operai bukanlah informasi “pengemasan” dengan cara yang netral, melainkan melewati data melalui “set filter dan nilai yang diintegrasikan ke dalam sistem,” kata Mulligan. GROK’s Breakdown menawarkan jendela tentang kemudahan mana pun dari sistem ini dapat diubah untuk memenuhi agenda individu atau kelompok.

Perwakilan XAI, Google dan OpenAI tidak menanggapi permintaan komentar. Tujuan menolak berkomentar.

Perubahan Grok yang tidak sah, kata Xai di dalamnya penyataanmelanggar “kebijakan internal dan nilai -nilai pusat.” Perusahaan mengatakan akan mengambil langkah -langkah untuk menghindari bencana serupa dan mempublikasikan indikasi sistem aplikasi untuk “memperkuat kepercayaannya pada Grok sebagai pencarian AI untuk kebenaran.”

Ini bukan kesalahan pertama menjadi viral online. Satu dekade yang lalu, aplikasi foto Google Orang Afrika -Amerika dengan buruk dilabeli sebagai gorila. Tahun lalu, Google sementara ditangkap Karakteristik gambar Gemini AI setelah mengakui bahwa ia menawarkan “ketidakakuratan” dalam gambar sejarah. Dan beberapa pengguna menuduh generator gambar Dall-E Openai untuk menunjukkan tanda-tanda bias pada tahun 2022, yang mengarahkan perusahaan mengumumkan yang menerapkan teknik baru sehingga gambar “tepatnya mencerminkan keragaman populasi dunia.”

Pada tahun 2023, 58% pembuat keputusan AI di perusahaan di Australia, Inggris dan Amerika Serikat menyatakan keprihatinan tentang risiko halusinasi dalam penyebaran generatif AI, menurut Forrester. Survei pada bulan September tahun itu termasuk 258 responden.

Para ahli mengatakan kepada CNBC bahwa insiden Grok ingat Deepseek dari Cina, yang menjadi a sensasi di malam hari Di Amerika Serikat awal tahun ini, karena kualitas model barunya dan, menurut laporan, dibangun di sebagian kecil dari biaya saingannya di AS.

Para kritikus mengatakan bahwa Deepseek Sensor dianggap sensitif terhadap pemerintah Cina. Seperti Cina dengan Depseek, Musk tampaknya memengaruhi hasil berdasarkan pandangan politik mereka, kata mereka.

Saat xai debut Grok pada November 2023, Musk mengatakan dia ditakdirkan untuk memiliki “kecerdikan”, “beruntun pemberontak” dan menjawab “pertanyaan pedas” yang bisa dihindari oleh para pesaing. Pada bulan Februari, XAI bersalah Seorang insinyur perubahan yang menekan jawaban Grok untuk pertanyaan pengguna tentang informasi yang salah, menjaga nama Musk dan Trump keluar dari jawaban.

Tetapi obsesi Grok baru -baru ini dengan “genosida putih” di Afrika Selatan lebih ekstrem.

Petar Tsankov, CEO perusahaan audit AITiceflow AI, mengatakan ledakan Grok lebih mengejutkan daripada apa yang kita lihat dengan Depseek karena seseorang “akan mengharapkan semacam manipulasi Cina.”

Tsankov, yang perusahaannya berbasis di Swiss, mengatakan industri ini membutuhkan lebih banyak transparansi sehingga pengguna dapat lebih memahami bagaimana perusahaan membangun dan melatih model mereka dan bagaimana hal itu memengaruhi perilaku. Dia mengamati upaya UE untuk menuntut lebih banyak perusahaan teknologi untuk memberikan transparansi sebagai bagian dari peraturan yang lebih luas di wilayah tersebut.

Tanpa protes publik, “kami tidak pernah dapat menerapkan model yang lebih aman,” kata Tsankov, dan mereka akan menjadi “orang yang akan membayar harga” untuk menaruh kepercayaan mereka pada perusahaan yang mengembangkannya.

Mike Gualtieri, Analis Forrester, mengatakan bahwa bencana Grok akan melepaskan pertumbuhan pengguna untuk chatbots atau mengurangi investasi yang diinvestasikan perusahaan dalam teknologi. Dia mengatakan pengguna memiliki tingkat penerimaan tertentu untuk jenis kejadian ini.

“Entah Grok, Chatgpt atau Gemini, semua orang menunggunya sekarang,” kata Gualtieri. “Mereka telah diberitahu bagaimana model berhalusinasi. Ada harapan bahwa ini terjadi.”

Olivia Gambelin, etika AI dan penulis buku yang bertanggung jawab AI, yang diterbitkan tahun lalu, mengatakan bahwa meskipun jenis aktivitas grok ini mungkin tidak mengejutkan, itu menggarisbawahi kegagalan mendasar dalam model AI.

Gambelin mengatakan bahwa “itu menunjukkan bahwa itu mungkin, setidaknya dengan model Grok, menyesuaikan model -model mendasar dari tujuan umum ini sesuka hati.”

– Lora Kolodny dan Salvador Rodríguez de CNBC berkontribusi pada laporan ini

LIHAT: Xai Chatbot Grok Oleh Elon Musk Membawa Pernyataan ‘Genosida Putih’ Afrika Selatan.