AI generatif mengubah perangkat lunak PC menjadi pengalaman inovatif, dari manusia digital hingga asisten menulis, agen pintar dan alat kreatif.
PC NVIDIA RTX AI sedang memberi makan transformasi ini dengan teknologi yang menyederhanakan untuk mulai bereksperimen dengan generatif dan membuka kinerja yang lebih tinggi di Windows 11.
Nvidia Tensorrt Telah diciptakan kembali untuk PC RTX AI, menggabungkan kinerja Tensor terkemuka di industri dengan konstruksi mesin tepat pada waktu pada perangkat dan ukuran paket 8x yang lebih kecil untuk implementasi IA bebas -tidak dibayarkan di lebih dari 100 juta PC RTX AI.
Diumumkan di Microsoft Build, Tensorrt untuk RTX didukung oleh Windows ML -Sebuah tumpukan kesimpulan baru yang menyediakan pengembang aplikasi untuk kompatibilitas perangkat keras yang luas dan kinerja generasi terbaru.
Untuk pengembang yang mencari karakteristik daftar untuk diintegrasikan, NVIDIA Software Development Kits (SDK) menawarkan berbagai opsi, dari NVIDIA DLSS hingga peningkatan multimedia seperti video NVIDIA RTX. Bulan ini, Autodesk utama, aplikasi perangkat lunak Bilibili, Chaos, LM Studio dan Topaz Labs meluncurkan pembaruan untuk membuka kunci fungsi dan percepatan RTX AI.
Penggemar dan pengembang IA dapat dengan mudah memulai dengan AI menggunakan Nvidia nim – Model yang dioptimalkan dan sudah dioptimalkan yang dapat dieksekusi dalam aplikasi populer seperti apa pun, Microsoft vs Code dan Comfyui. Melempar minggu ini, model generasi gambar fluks.1-Schnell akan tersedia sebagai NIM Microservice, dan microservice fluks yang populer. 1-dev NIM telah diperbarui untuk mengakui lebih banyak GPU RTX.
Mereka yang mencari kode yang sederhana dan tanpa mencelintir diri mereka sendiri dalam pengembangan AI dapat memanfaatkan Proyek Assist G. -The PC RTX AI Assistant dalam aplikasi NVIDIA untuk membuat aksesori untuk mengontrol aplikasi PC dan periferal menggunakan AI bahasa alami. Aksesori komunitas baru sudah tersedia, termasuk situs web Google Gemini, Spotify, Twitch, IFTTT dan SignalRGB.
Inferensi ai dengan tensorrt untuk rtx
Baterai perangkat lunak PC saat ini mengharuskan pengembang untuk berkomitmen pada kinerja atau berinvestasi dalam optimisasi yang dipersonalisasi untuk perangkat keras tertentu.
Windows ML dibangun untuk menyelesaikan tantangan ini. Windows ML bekerja dengan ONNX Runtime dan terhubung dengan sempurna ke lapisan eksekusi yang dioptimalkan yang disediakan dan dikelola oleh setiap produsen perangkat keras.
Untuk GEFORCE RTX GPU, Windows ML secara otomatis menggunakan perpustakaan TensorRT untuk kesimpulan RTX untuk kinerja tinggi dan implementasi yang cepat. Dibandingkan dengan DirectML, TensorRT menawarkan lebih dari 50% hasil lebih cepat untuk beban kerja AI pada PC.
Windows ML juga menawarkan manfaat kualitas hidup bagi pengembang. Anda dapat secara otomatis memilih perangkat keras yang benar (GPU, CPU atau NPU) untuk menjalankan setiap fungsi AI dan mengunduh penyedia eksekusi untuk perangkat keras itu, menghilangkan kebutuhan untuk mengemas file -file tersebut dalam aplikasi. Ini memungkinkan optimisasi kinerja Tensorrt untuk memberikan pengguna segera setelah siap.
TensorRT, perpustakaan yang awalnya dibuat untuk pusat data, telah dirancang ulang untuk PC RTX AI. Alih -alih sebelumnya menghasilkan mesin Tensorrt dan mengemasnya dengan aplikasi, RTX Tensor menggunakan konstruksi mesin tepat pada waktu pada perangkat untuk mengoptimalkan bagaimana model AI dieksekusi untuk GPU RTX spesifik pengguna dalam beberapa detik. Dan kemasan perpustakaan telah disederhanakan, secara signifikan mengurangi ukuran file sebesar 8x.
TensorRT untuk RTX tersedia untuk pengembang melalui pratinjau Windows ML hari ini, dan akan tersedia sebagai SDK independen Pengembang nvidia Pada bulan Juni.
Pengembang dapat belajar lebih banyak di Tensorrt Launch Blog untuk RTX salah satu Blog Microsoft Windows ML.
Perluas Ekosistem IA di Windows 11 PC
Pengembang yang ingin menambahkan fungsi AI atau meningkatkan kinerja aplikasi dapat memanfaatkan berbagai NVIDIA SDK. Ini termasuk CUDA dan Tensorrt nvidia untuk akselerasi GPU; NVIDIA DLSS dan OPTIX untuk grafik 3D; NVIDIA RTX Video dan Maxine untuk Multimedia; dan Nvidia riva dan ace untuk generatif.
Aplikasi utama meluncurkan pembaruan bulan ini untuk mengaktifkan fitur unik menggunakan NVIDIA SDK ini, yang meliputi:
- LM Studio, yang meluncurkan pembaruan aplikasinya untuk memperbarui ke versi terbaru CUDA, meningkatkan kinerja lebih dari 30%.
- Topaz Labs, yang meluncurkan model video generatif untuk meningkatkan kualitas video, dipercepat oleh CUDA.
- Chaos East dan Autodesk Vred, yang menambahkan DLSS 4 untuk kinerja yang lebih cepat dan kualitas gambar yang lebih baik.
- Bilibili, yang mengintegrasikan karakteristik transmisi NVIDIA, sebagai latar belakang virtual untuk meningkatkan kualitas siaran langsung.
NVIDIA berharap untuk terus bekerja dengan Microsoft dan pengembang aplikasi IA utama untuk membantu mereka mempercepat karakteristik AI mereka dengan mesin RTX melalui integrasi Windows ML dan Tensorrt.
AI Lokal mudah dengan layanan microser nim dan pesawat AI
Dimulai dengan pengembangan AI pada PC dapat mengecewakan. Pengembang dan penggemar AI harus memilih di antara lebih dari 1,2 juta model AI di wajah yang dipeluk, menghitungnya dalam format yang berjalan dengan baik di PC, menemukan dan menginstal semua unit untuk menjalankannya, dan banyak lagi.
NVIDIA NIM memfasilitasi permulaan ketika memberikan daftar model AI yang disembuhkan, yang telah dimulai dengan semua file yang diperlukan untuk menjalankannya dan dioptimalkan untuk mencapai kinerja lengkap di GPU RTX. Dan karena mereka adalah wadah, layanan mikro NIM yang sama dapat dieksekusi tanpa masalah melalui PC atau cloud.
NVIDIA NIM Microservices tersedia untuk diunduh Build.nvidia.com Atau melalui aplikasi AI teratas seperti apapun LLM, COMFYUI dan AI Toolkit untuk kode Visual Studio.
Selama Computex, NVIDIA akan meluncurkan fluks.1-SCHNELL Microservice NIM, model generasi gambar laboratorium Black Forest untuk generasi gambar cepat, dan akan memperbarui fluks.1-dev NIM Microservice untuk menambah kompatibilitas untuk berbagai seri GPU dari serial GEFORCE RTX 50 dan 40 seri.
Layanan microser NIM ini memungkinkan kinerja yang lebih cepat dengan model tegang dan dikuantifikasi. Di NVIDIA Blackwell GPU, mereka berlari dua kali lebih cepat dari mereka mengeksekusi mereka secara asli, berkat optimasi FP4 dan RTX.
Pengembang IA juga dapat meningkatkan pekerjaan mereka dengan pesawat NVIDIA AI: alur kerja sampel dan proyek yang menggunakan NIM Microservices.
Nvidia bulan lalu meluncurkan Cetak BLUEPRINT NVIDIA AI untuk generatif generatif dipandu dalam 3DCara yang kuat untuk mengendalikan komposisi dan sudut kamera gambar yang dihasilkan dengan menggunakan adegan 3D sebagai referensi. Pengembang dapat memodifikasi rencana sumber terbuka untuk kebutuhan mereka atau memperluasnya dengan fungsionalitas tambahan.
Aksesori G-Assist Baru dan Tampilkan Proyek Sekarang Tersedia
Nvidia baru -baru ini dirilis Proyek Assist G. Sebagai asisten eksperimental dari aplikasi NVIDIA yang terintegrasi. G-Assiss memungkinkan pengguna untuk mengontrol mereka Sistem GeForce RTX Penggunaan perintah suara dan teks sederhana, menawarkan antarmuka yang lebih nyaman dibandingkan dengan kontrol manual yang didistribusikan di banyak panel kontrol yang diwariskan.
Pengembang juga dapat menggunakan Proyek Assist G untuk dengan mudah membangun aksesori, menguji kasus penggunaan asisten dan mempublikasikannya melalui NVIDIA Perselisihan Dan GitHub.
Proyek Assist G. Pembangun -Sebuah aplikasi berbasis chatgpt yang memungkinkan pengembangan tanpa kode atau kode rendah dengan perintah bahasa alami yang mudah mulai membuat aksesori. Aksesori ringan ini, didorong oleh masyarakat, menggunakan JSON langsung dan definisi logika Python.
Sampel suplemen open source baru sekarang tersedia di GitHub, menunjukkan berbagai cara di mana AI di perangkat dapat meningkatkan alur kerja PC dan game. Itu termasuk:
- Gemini: Komplemen Gemini yang ada yang menggunakan model bahasa berbasis -Cloud yang bebas -berbasis bebas telah diperbarui untuk menyertakan kemampuan pencarian web nyata -waktu.
- Ifttt: Komplemen yang memungkinkan pengguna untuk membuat otomatisasi dalam ratusan poin akhir yang kompatibel untuk mengaktifkan rutinitas IoT, seperti menyesuaikan lampu ruang atau nada pintar, atau mendorong game game terbaru ke perangkat seluler.
- Perselisihan: Pelengkap yang memungkinkan pengguna untuk dengan mudah berbagi refleks atau pesan secara langsung dengan server perselisihan tanpa mengganggu permainan.
Jelajahi Repositori GitHub Untuk contoh lebih lanjut, termasuk kontrol musik bebas tangan melalui Spotify, verifikasi keadaan transmisi langsung dengan kedutan dan banyak lagi.
https://www.youtube.com/watch?v=okmh3ft2ti0
Perusahaan mengadopsi antarmuka PC baru. Misalnya, SignalRGB mengembangkan komplemen G-assist yang memungkinkan kontrol pencahayaan terpadu di beberapa produsen. Pengguna akan segera dapat menginstal komplemen ini langsung dari aplikasi SignalRGB.
Pada minggu ini, komunitas AI juga dapat menggunakan G-assist sebagai komponen yang dipersonalisasi di Langflow, yang memungkinkan pengguna untuk mengintegrasikan kemampuan panggilan alur kerja kode rendah atau tanpa kode, aplikasi AI dan aliran agen.
Penggemar yang tertarik untuk mengembangkan dan bereksperimen dengan aksesoris proyek G-asst diundang untuk bergabung dengan Pengembang saluran Decord Nvidia Untuk berkolaborasi, berbagi kreasi dan mendapatkan dukungan.
Setiap minggu, The Garasi RTX AI Seri blog ini menyajikan inovasi dan konten komunitas yang dipromosikan oleh masyarakat bagi mereka yang berusaha mempelajari lebih lanjut tentang layanan microser nim dan pesawat AI, serta membangun Agen aiKreatif, alur kerja manusia digital, aplikasi produktivitas dan lebih banyak lagi di stasiun kerja PC dan AI.
Hubungkan ke NVIDIA AI PC di Facebook, Instagram, Tiktok Dan tidak dikenal – dan tetap mendapat informasi dengan berlangganan RTX AI PC Bulletin.
Ikuti workstation nvidia di LinkedIn Dan tidak dikenal.
Melihat peringatan Sehubungan dengan informasi produk perangkat lunak.
