Sakana Ai Mengumumkan Ai Cuda yang dapat mempercepat pengembangan dan implementasi model

Sakana Ai, yang berbasis di Tokyo kecerdasan buatan (AI) Tanda, memperkenalkan bingkai agen kecerdasan buatan baru (AI) yang dapat meningkatkan kecepatan pengembangan dan penyebaran model bahasa besar (LLM). Diumumkan pada hari Kamis, perusahaan memperkenalkan insinyur AI CUDA untuk meningkatkan kecepatan pra-pelatihan dan inferensi dari model AI dengan mengoptimalkan basis kode. Perusahaan AI menekankan bahwa seluruh proses dipromosikan oleh agen AI dan otomatis dari ujung ke ujung. Khususnya, sakana ai dimasukkan IA IA IA tahun lalu, yang dapat melakukan penelitian ilmiah.

Sakana Ai menghadirkan insinyur ai cuda

Di dalam suratPerusahaan Jepang menyatakan bahwa setelah mengembangkan sistem AI yang dapat membuat model baru dan sepenuhnya mengotomatiskan proses penelitian AI, itu mulai bekerja pada cara -cara mempercepat implementasi dan kecepatan inferensi LLM.

Perusahaan mengatakan investigasi mengarah pada pengembangan insinyur AI Cuda. Ini adalah kerangka agen lengkap dan lengkap untuk penemuan dan optimalisasi nukleus CUDA (arsitektur perangkat komputasi terpadu).

Inti CUDA dapat dipahami sebagai fungsi khusus yang dieksekusi dalam GPU NVIDIA, yang memungkinkan eksekusi kode paralel di banyak utas. Karena paralelisme, ini lebih dioptimalkan daripada metode tradisional dan memungkinkan percepatan tugas komputasi, terutama yang memiliki set data besar. Dengan demikian, ini dianggap sebagai cara terbaik untuk mengoptimalkan implementasi dan inferensi model AI.

Sakana Ai mengatakan bahwa AI CUDA secara otomatis dapat mengubah modul Pytorch menjadi inti CUDA yang dioptimalkan, untuk secara signifikan meningkatkan akselerasi implementasi. Ini dapat menghasilkan inti yang dikatakan 10-100 kali lebih cepat dari rekan Pytorch Anda.

Prosesnya mencakup empat langkah. Pertama, bingkai agen mengubah kode Pytorch menjadi tempat kerja. Kemudian, agen mengimplementasikan teknik optimasi untuk memastikan bahwa hanya inti terbaik yang dihasilkan. Kemudian, indikasi silang dari nukleus ditambahkan, yang menggabungkan beberapa inti yang dioptimalkan untuk membuat inti baru. Akhirnya, agen AI mempertahankan inti CUDA berkinerja tinggi dalam sebuah file, yang digunakan untuk menawarkan peningkatan kinerja. Perusahaan juga telah menerbitkan a belajar Itu merinci proses lebih banyak.

Bersama dengan dokumen, Sakana AI juga menerbitkan arsip AI Cuda Engineer, yang merupakan seperangkat data yang terdiri dari lebih dari 30.000 inti yang dihasilkan oleh AI. Inti ini diluncurkan di bawah lisensi CC-by-4.0 dan dapat diakses melalui wajah yang dipeluk.

Selain itu, perusahaan Jepang juga meluncurkan situs web yang memungkinkan pengunjung untuk secara interaktif mengeksplorasi 17.000 inti terverifikasi dan profil mereka. Situs web ini memungkinkan pengguna untuk menjelajahi inti ini dalam 230 tugas, dan juga memungkinkan mereka untuk membandingkan inti CUDA dalam percobaan individu.