Tetap terinformasi dengan pembaruan gratis
Cukup mendaftar di Kecerdasan buatan Myft Digest: Dikirim langsung ke kotak masuknya.
Dua pelopor pembelajaran penguatan, teknik ilmiah yang telah menjadi dasar bagi kebangkitan kecerdasan buatan, telah memperingatkan terhadap penyebaran model AI yang tidak aman setelah memenangkan Turing Award tahun ini.
Andrew Barto, Profesor Emeritus di University of Massachusetts, dan Richard Sutton, profesor di University of Alberta dan mantan ilmuwan riset Deepmind, telah memenangkan hadiah asosiasi $ 1 juta untuk menghitung mesin untuk mengembangkan metode inovatif.
Barto dan Sutton mengembangkan pembelajaran penguatan pada 1980 -an setelah mereka terinspirasi oleh psikologi dan bagaimana orang belajar. Teknik pembelajaran otomatis, yang menghargai sistem AI untuk berperilaku dengan cara yang diinginkan, telah membantu meningkatkan keberhasilan beberapa kelompok utama dunia, seperti Openai dan Google.
Pemenang penghargaan, yang sering disebut Hadiah Komputer Nobel, mengatakan mereka khawatir tentang Ai Perusahaan terburu -buru sebelum mencobanya secara menyeluruh.
“Perangkat lunak untuk jutaan orang tanpa perlindungan bukanlah praktik teknik yang baik,” kata Barto, membandingkannya untuk membangun jembatan dan mencobanya dengan membuat orang menggunakannya.
“Praktik teknik telah berevolusi untuk mencoba mengurangi konsekuensi negatif dari teknologi, dan saya tidak melihat bahwa perusahaan yang sedang dikembangkan,” tambahnya.
Hadiahnya, yang menyandang nama ahli matematika Inggris Alan Turing, datang kemudian Terobosan ai Mereka juga diakui baik dalam Hadiah Kimia dan Fisika Nobel pada bulan Oktober. Ini menyoroti pentingnya alat komputasi dan ilmu data dalam memecahkan masalah ilmiah yang kompleks dalam skala waktu yang jauh lebih pendek.
“Alatnya [Barto and Sutton] Dikembangkan masih merupakan pilar sentral dari booming AI dan telah membuat kemajuan penting, menarik banyak penyelidik muda dan mempromosikan miliaran dolar dalam investasi. [Reinforcement learning’s] Dampaknya akan berlanjut di masa depan, ”kata Jeff Dean, wakil presiden senior Google, yang mensponsori hadiah tersebut.
Google DeepMind menggunakan teknik ini untuk mengembangkan Alphago, sistem AI yang kedaluwarsa pemain manusia dalam permainan, sebuah tonggak penting dalam penyelidikan AI. Openai juga menggunakan jenis pembelajaran penguatan yang didasarkan pada umpan balik manusia untuk mengendalikan produksi chatgpt.
Tetapi baik Barto dan Sutton memperingatkan terhadap ritme pengembangan AI saat ini, di mana perusahaan berlari untuk meluncurkan model yang kuat tetapi rentan untuk membuat kesalahan, meningkatkan jumlah pembiayaan dan investasi miliaran infrastruktur yang belum pernah terjadi sebelumnya sebagai pusat data untuk melatih dan melaksanakan AI.
Kelompok -kelompok teknologi besar telah mengatakan bahwa pengeluaran AI dapat melebihi $ 320 miliar tahun ini, sementara Openai, yang meluncurkan chatgpt pada tahun 2022, saat ini mengumpulkan $ 40 miliar dalam dana baru dengan penilaian $ 260 miliar.
Barto mengkritik sektor AI karena termotivasi oleh insentif komersial, alih -alih mempromosikan investigasi AI. “Gagasan memiliki pusat data yang besar dan kemudian membebankan jumlah tertentu untuk menggunakan perangkat lunak adalah untuk memotivasi hal -hal, dan itu bukan alasan saya akan berlangganan kepada saya,” tambahnya.
Operai berpendapat bahwa ia perlu membuka investasi yang lebih besar melalui struktur perusahaan yang lebih tradisional untuk mencapai misi pendirian perusahaan untuk memastikan bahwa kecerdasan umum buatan, sebuah skenario di mana sistem komputer mencapai tingkat kecerdasan yang serupa atau lebih tinggi kepada manusia, menguntungkan kemanusiaan.
Tetapi Sutton mengesampingkan narasi perusahaan teknologi di sekitar AGI sebagai “berlebihan.” “Agi adalah istilah yang aneh karena selalu ada IA dan orang -orang yang mencoba memahami kecerdasan.” Dia menambahkan bahwa “sistem yang lebih pintar dari orang -orang” pada akhirnya akan terjadi melalui pemahaman yang lebih baik tentang pikiran manusia.
Barto dan Sutton juga mengkritik upaya Presiden Amerika Serikat, Donald Trump, untuk mengurangi pengeluaran federal untuk penelitian ilmiah dan menolak staf lembaga ilmiah Amerika Serikat.
Ini bisa memiliki konsekuensi yang menghancurkan bagi domain Amerika dalam sains, kata Barto, yang menggambarkannya “salah dan sebuah tragedi tidak hanya untuk negara ini, tetapi juga untuk dunia.”
Dia menambahkan bahwa peluang untuk melakukan jenis penelitian yang memungkinkan pekerjaannya dalam pembelajaran penguatan “akan hilang” tanpa kebebasan untuk mengeksplorasi konsep abstrak dan tidak terbukti.
Terlepas dari kekhawatiran mereka, kedua ilmuwan optimis tentang potensi pembelajaran penguatan, dikombinasikan dengan AI, untuk membawa hasil positif ke dunia.
“Kami memiliki potensi untuk menjadi kurang serakah dan egois dan lebih sadar daripada apa yang terjadi pada orang lain. . . Ada banyak hal buruk di dunia, tetapi terlalu banyak kecerdasan bukanlah salah satunya, ”kata Sutton.
