Apa kesamaan yang dimiliki semua makhluk cerdas? Empat hal, menurut ilmuwan meta ai, Yann Lecun.
Pada KTT Aksi AI awal tahun ini, para pemimpin politik dan pakar AI bertemu untuk membahas pengembangan AI. Lecun berbagi definisi intelijen basal dengan pemimpin IBM, Anthony Annunziata.
“Ada empat karakteristik penting dari perilaku cerdas yang dapat dilakukan oleh setiap hewan, atau hewan yang relatif cerdas, dan tentu saja manusia,” katanya. “Memahami dunia fisik, memiliki ingatan yang gigih, mampu bernalar dan dapat merencanakan dan merencanakan tindakan yang kompleks, khususnya perencanaan hierarki.”
Lecun berkata AI, terutama Model bahasa besarMereka belum mencapai ambang ini, dan menggabungkan kemampuan ini akan membutuhkan perubahan dalam cara mereka dilatih. Itulah sebabnya banyak perusahaan teknologi terbesar adalah batu bulat dalam model yang ada dalam karier mereka untuk mendominasi permainan AI, katanya.
“Untuk memahami dunia fisik, yah, Anda melatih sistem penglihatan yang terpisah. Dan kemudian mengacaukannya ke LLM. Untuk memori, Anda tahu, Anda menggunakan kain, atau mengacaukan beberapa memori asosiatif di atas, atau hanya membuat model Anda lebih besar,” katanya. LAPyang mewakili generasi pemulihan augmented, ini adalah cara untuk meningkatkan hasil model bahasa besar menggunakan sumber pengetahuan eksternal. Itu dikembangkan di garis finish.
Namun, semua itu hanya “peretasan,” kata Lecun.
Lecun telah berbicara beberapa kali tentang alternatif yang menelepon Model Dunia. Ini adalah model yang dilatih dalam skenario kehidupan nyata dan memiliki tingkat kognisi yang lebih tinggi daripada AI berdasarkan pola. Lecun, dalam percakapannya dengan Annunziata, menawarkan definisi lain.
“Anda memiliki beberapa gagasan tentang keadaan dunia pada saat itu, Anda membayangkan tindakan yang bisa diambil, model dunia memprediksi apa keadaan dunia akan menjadi tindakan yang Anda ambil,” katanya.
Tetapi, katanya, dunia berkembang menurut serangkaian kemungkinan yang tak terbatas dan tidak terduga, dan satu -satunya cara untuk melatih bagi mereka adalah melalui abstraksi.
Meta sudah mengalami dengan ini melalui V-JIPA, model yang meluncurkan publik pada bulan Februari. Meta menggambarkannya sebagai model non -generatif yang belajar memprediksi bagian video yang hilang atau bertopeng.
“Ide dasarnya adalah tidak memprediksi pada tingkat piksel. Transfer sistem untuk menjalankan representasi abstrak video sehingga Anda dapat membuat prediksi dalam representasi abstrak itu, dan mudah -mudahan representasi ini akan menghilangkan semua detail yang tidak dapat diprediksi,” katanya.
Konsep ini mirip dengan bagaimana bahan kimia membentuk hierarki mendasar untuk komponen dasar materi.
“Kami membuat abstraksi. Partikel, selain itu, atom, selain ini, molekul, selain itu, bahan,” katanya. “Setiap kali kami mengunggah lapisan, kami menghilangkan banyak informasi tentang lapisan di bawah ini yang tidak relevan dengan jenis tugas yang kami minati.”
Itu, pada dasarnya, adalah cara lain untuk mengatakan bahwa kita telah belajar untuk memahami dunia fisik yang menciptakan hierarki.
