Singkatnya: Seiring dengan terus berkembangnya lanskap AI, dampak perangkat seperti Jetson Orin Nano Super dalam mendemokratisasi pengembangan AI dapat memainkan peran penting. Namun, kinerjanya di dunia nyata hanya akan terlihat jelas seiring berjalannya waktu dan penggunaan ekstensif oleh komunitas pengembang.
Nvidia, yang terkenal dengan unit pemrosesan grafisnya, telah mengumumkan yang baru tambahan ke jajaran alat pengembangan AI-nya: Jetson Orin Nano Super Developer Kit, superkomputer AI generatif seukuran telapak tangan yang tersedia dengan harga $249, setengah dari harga pendahulunya yang $499.
Ditujukan untuk pengembang AI, penghobi, dan pelajar, kit ini menawarkan klaim kinerja yang mengesankan, termasuk 67 INT8 TOPS (triliun operasi per detik), yang merupakan peningkatan 70% dibandingkan model sebelumnya. Perusahaan juga melaporkan peningkatan bandwidth memori sebesar 50%, kini mencapai 102 GB/dtk, dan peningkatan kinerja inferensi AI generatif hingga 1,7x. Jetson Orin Nano memungkinkan pengambilan keputusan dan respons secara real-time dengan memproses data secara lokal di perangkat.
Inti dari Jetson Orin Nano Super adalah GPU berarsitektur Nvidia Ampere dengan inti tensor, dipadukan dengan CPU Arm 6-inti. Kombinasi ini memungkinkan beberapa saluran aplikasi AI secara bersamaan dan inferensi berkinerja tinggi, menurut Team Green. Kit ini mendukung hingga empat kamera dan menawarkan resolusi dan kecepatan bingkai yang lebih tinggi dibandingkan versi sebelumnya.
Nvidia menekankan keserbagunaan perangkat ini, menunjukkan kesesuaiannya untuk membuat chatbot model bahasa besar (LLM), agen visual AI, dan robot berbasis AI. Namun kemampuan tersebut belum diverifikasi secara independen.
Menariknya, Nvidia mengklaim bahwa pemilik Kit Pengembang Jetson Orin Nano dapat mengakses peningkatan kinerja serupa melalui pembaruan perangkat lunak ke JetPack SDK. Tindakan ini berpotensi memperpanjang umur perangkat keras lama, namun menimbulkan pertanyaan tentang perlunya membeli perangkat keras baru bagi sebagian pengguna.
Kit ini dilengkapi dengan dukungan perangkat lunak yang ekstensif, termasuk alat Nvidia AI seperti Isaac untuk robotika, Metropolis untuk vision AI, dan Holoscan untuk pemrosesan sensor. Perusahaan juga menyoroti dukungan komunitas dan tutorial yang tersedia melalui Nvidia Jetson AI Lab.
Meskipun pengumuman Nvidia berfokus pada potensi perangkat tersebut untuk aplikasi AI generatif, perlu dicatat bahwa aplikasi praktis dan keterbatasan perangkat kompak tersebut di bidang yang berkembang pesat ini masih harus dilihat. Di sisi lain, peluncuran perangkat yang lebih terjangkau dan berkinerja lebih tinggi ini dapat mengurangi hambatan masuk dalam pengembangan AI.
Peluncurannya dilakukan di saat meningkatnya minat terhadap komputasi edge AI, sebuah tren yang didorong oleh tuntutan akan latensi yang lebih rendah, privasi yang lebih besar, dan penggunaan bandwidth yang lebih rendah dalam aplikasi AI.
Kecanggihan yang dialami pasar AI pertumbuhan yang cepatdengan proyeksi yang menunjukkan peningkatan dari $20,45 miliar pada tahun 2023 menjadi $269,82 miliar pada tahun 2032, dengan tingkat pertumbuhan tahunan gabungan sebesar 33,3%.
