Para pendiri perusahaan AI memiliki reputasi membuat pernyataan berani tentang potensi teknologi untuk merombak bidang, terutama sains. Tetapi Thomas Wolf, yang merangkul co -founder dan Direktur Face ilmiah, memiliki pendapat yang lebih terukur.
Di sebuah Esai yang diterbitkan dalam x Pada hari Kamis, Wolf mengatakan dia takut bahwa AI menjadi “ya-laki di server” tanpa adanya kemajuan dalam penyelidikan AI. Dia mengembangkan bahwa paradigma pengembangan AI saat ini tidak akan menghasilkan AI yang mampu memecahkan masalah kreatif di luar kotak, jenis masalah memecahkan hadiah Nobel.
“Kesalahan utama yang biasanya dilakukan orang adalah berpikir [people like] Newton atau Einstein hanya memanjat siswa yang baik, bahwa seorang jenius menjadi hidup ketika Anda secara linear mengekstrapolasi siswa 10% lebih tinggi, “tulis Wolf.”
Pernyataan Wolf kontras dengan yang dari CEO Operai Sam Altman, yang dalam a Esai awal tahun ini Dia mengatakan bahwa “Superintelligent” dapat “secara besar -besaran mempercepat penemuan ilmiah.” Dengan cara yang sama, Antrope CEO Dario Amodei telah meramalkan bahwa AI bisa Membantu merumuskan para imam untuk sebagian besar jenis kanker.
Masalah Wolf dengan AI hari ini, dan di mana ia berpikir bahwa teknologi diarahkan, adalah bahwa ia tidak menghasilkan pengetahuan baru dengan menghubungkan fakta -fakta yang sebelumnya tidak terkait. Bahkan dengan sebagian besar internet yang Anda inginkan, AI seperti saat ini kami memahaminya terutama mengisi celah antara apa yang sudah diketahui manusia, kata Wolf.
Beberapa ahli AI, termasuk mantan insinyur Google François CholletMereka telah menyatakan pendapat yang sama, dengan alasan bahwa sementara AI dapat menghafal pola penalaran, tidak mungkin dapat menghasilkan “penalaran baru” berdasarkan situasi baru.
Wolf percaya bahwa Laboratorium IA sedang membangun apa yang pada dasarnya adalah “siswa yang sangat patuh”, bukan revolusioner ilmiah dalam arti frasa apa pun. AI hari ini tidak dianjurkan untuk mempertanyakan dan mengusulkan ide -ide yang berpotensi bertentangan dengan data pelatihan mereka, katanya, yang membatasi dia untuk menjawab pertanyaan yang diketahui.
“Untuk membuat Einstein di pusat data, kami tidak hanya membutuhkan sistem yang mengetahui semua jawaban, tetapi dapat mengajukan pertanyaan yang tidak ada orang lain yang bisa dilakukan atau berani lakukan,” kata Wolf. “Orang yang menulis ‘apa yang terjadi jika semua orang salah dalam hal ini?’ Ketika semua buku teks, ahli dan pengetahuan umum menyarankan sebaliknya. “
Wolf berpikir bahwa “Krisis Evaluasi“Di IA sebagian bersalah atas keadaan kekecewaan ini. Ini menunjukkan titik referensi yang biasa digunakan untuk mengukur peningkatan sistem AI, yang sebagian besar terdiri dari pertanyaan yang memiliki pertanyaan yang jelas, jelas dan” tertutup “.
Sebagai solusi, Wolf mengusulkan bahwa industri AI “beralih ke ukuran pengetahuan dan penalaran” yang dapat menjelaskan apakah IA dapat mengadopsi “pendekatan kontrafaktual yang berani”, membuat proposal umum berdasarkan “trek kecil” dan mengajukan “pertanyaan tidak menarik” yang mengarah pada “rute penelitian baru”.
Caranya adalah menemukan bagaimana ukuran ini terlihat, mengakui Wolf. Tapi dia pikir usaha itu bisa sepadan.
“[T]Aspek sains yang paling penting [is] Kemampuan untuk mengajukan pertanyaan yang tepat dan menantang bahkan apa yang telah dipelajari, ”kata Wolf. “Kami tidak membutuhkan A+ [AI] Siswa yang dapat menjawab setiap pertanyaan dengan pengetahuan umum. Kami membutuhkan siswa B untuk melihat dan mempertanyakan apa yang tersesat orang lain. ”
