Nvidia menghasilkan laba bersih lebih dari $19 miliar pada kuartal terakhir perusahaan melaporkan pada hari Rabu, namun hal tersebut tidak memberikan jaminan kepada investor bahwa pertumbuhan pesatnya akan terus berlanjut. Pada konferensi pendapatannya, para analis mendesak CEO Jensen Huang tentang bagaimana kinerja Nvidia jika hal ini terjadi Perusahaan teknologi mulai menggunakan metode baru untuk meningkatkan model AI mereka..
Metode yang mendukung Model OpenAI o1atau “peningkatan waktu ujian”, cukup sering muncul. Idenya adalah bahwa model AI akan memberikan jawaban yang lebih baik jika mereka diberi lebih banyak waktu dan daya komputasi untuk “memikirkan” pertanyaan. Secara khusus, ini menambahkan lebih banyak komputasi ke fase inferensi AI, yaitu segala sesuatu yang terjadi setelah pengguna menekan Enter saat diminta.
CEO Nvidia ditanya apakah dia melihat pengembang model AI beralih ke metode baru ini dan bagaimana kinerja chip lama Nvidia untuk inferensi AI.
Huang mengindikasikan bahwa o1, dan penskalaan waktu pengujian secara umum, dapat memainkan peran yang lebih besar di masa depan bisnis Nvidia, dan menyebutnya sebagai “salah satu perkembangan paling menarik” dan “hukum penskalaan baru”. Huang berusaha keras untuk meyakinkan investor bahwa Nvidia berada pada posisi yang tepat untuk perubahan tersebut.
Komentar CEO Nvidia tersebut selaras dengan apa yang dikatakan CEO Microsoft Satya Nadella di atas panggung di acara Microsoft pada hari Selasa: o1 mewakili cara baru bagi industri AI untuk meningkatkan modelnya.
Hal ini sangat penting bagi industri chip karena lebih menekankan pada inferensi AI. Meskipun chip Nvidia adalah standar terbaik untuk melatih model AI, ada sejumlah besar startup yang memiliki dana besar yang menciptakan chip inferensi AI ultra-cepat, seperti Groq dan Cerebras. Ini bisa menjadi ruang yang lebih kompetitif bagi Nvidia untuk beroperasi.
Meskipun laporan terbaru Meskipun peningkatan model generatif melambat, Huang mengatakan kepada analis bahwa pengembang model AI masih meningkatkan model mereka dengan menambahkan lebih banyak komputasi dan data selama fase pra-pelatihan.
CEO Anthropic Dario Amodei juga mengatakan pada hari Rabu saat wawancara di atas panggung pada pertemuan puncak Cerebral Valley di San Francisco bahwa dia tidak melihat adanya perlambatan dalam pengembangan model.
“Perluasan model dasar pra-pelatihan masih utuh dan berkelanjutan,” kata Huang, Rabu. “Seperti yang diketahui, ini hukum empiris, bukan hukum fisika dasar, tapi buktinya terus meningkat. Namun, apa yang kami pelajari adalah bahwa hal itu tidaklah cukup.”
Hal itu tentu ingin didengar oleh para investor Nvidia, selaku saham pembuat chip tersebut telah melonjak lebih dari 180% pada tahun 2024 menjual chip AI yang digunakan OpenAI, Google, dan Meta untuk melatih model mereka. Namun, mitra Andreessen Horowitz dan beberapa eksekutif AI lainnya sebelumnya mengatakan bahwa metode ini mulai menunjukkan hasil yang semakin berkurang.
Huang mencatat bahwa sebagian besar beban kerja komputasi Nvidia saat ini berkisar pada model AI pra-pelatihan, bukan inferensi, tetapi lebih mengaitkan hal ini dengan keadaan dunia AI saat ini. Dia mengatakan bahwa suatu hari nanti akan ada lebih banyak orang yang menjalankan model AI, yang berarti lebih banyak inferensi AI akan terjadi. Huang mencatat bahwa Nvidia adalah platform inferensi terbesar di dunia saat ini, dan skala serta keandalan perusahaan memberikan keuntungan besar dibandingkan dengan perusahaan rintisan.
“Harapan dan impian kami adalah suatu hari nanti dunia akan melakukan banyak kesimpulan, dan saat itulah AI benar-benar berhasil,” kata Huang. “Semua orang tahu bahwa jika mereka berinovasi pada arsitektur CUDA dan Nvidia, mereka dapat berinovasi lebih cepat dan mereka tahu semuanya akan berjalan baik.”
