Sam Altman berbicara tentang kemajuan teknologi

Berbicara di acara OpenAI Dev Day, Sam Altman membahas banyak aspek tentang apa yang saat ini terjadi dengan produk OpenAI dan model AI mutakhir lainnya, menjawab pertanyaan dari Harry Stebbings, pendiri 20VC.

Aspek menarik dari apa yang mungkin dilakukan dengan model penalaran baru dan sistem lain adalah kemampuan AI dalam membuat kode: Sepanjang wawancaranya, Altman terus berbicara tentang seberapa besar kemajuan yang dapat kita capai menuju solusi tanpa kode. Mengacu pada “pergeseran model berikutnya,” ia menyatakan bahwa ada bagian-bagian industri yang akan terkena dampak buruk dari model-model baru, sehingga perusahaan-perusahaan yang melakukan penyesuaian pada margin kemungkinan besar akan mengalami kerugian.

“Kami yakin kami berada pada jalur peningkatan yang cukup tajam dan bahwa generasi mendatang akan mampu mengatasi kekurangan yang ada pada model yang ada saat ini. Dan saya akan mendorong orang-orang untuk menyelaraskan diri dengan hal itu.”

Altman menyarankan agar perusahaan fokus pada penciptaan produk dan layanan baru, bukan mencoba memecahkan masalah yang mungkin menjadi usang hanya dalam waktu satu tahun atau kurang. Salah satu hal mengejutkan, katanya, yang terjadi pada awal pergerakan menuju model yang lebih baik adalah bahwa perusahaan-perusahaan bertaruh bahwa model itu sendiri akan menjadi lebih baik. Tren tersebut, katanya, kini telah berbalik ketika masyarakat menyadari betapa hebatnya sistem ini dan betapa cepatnya kemajuannya.

“Saya merasa 95% orang bertaruh melawan model tersebut dan 5% bertaruh bahwa model tersebut akan menjadi lebih baik,” katanya. “Saya pikir sekarang hal itu sudah terbalik. Saya pikir masyarakat telah… menginternalisasi laju perbaikan dan mendengarkan apa yang ingin kami lakukan. Jadi sepertinya itu tidak menjadi masalah lagi, tapi itu adalah sesuatu yang sangat mengkhawatirkan kami.”

Agen kecerdasan buatan: apa artinya?

Kemudian dalam wawancara tersebut, Altman berbicara tentang sifat dari apa yang disebut “agen” AI. Kita sekarang banyak mendengar tentang hal ini ketika sistem menjadi mampu melakukan tugas seperti manusia.

Altman mendefinisikan agen AI sebagai sesuatu yang manusia dapat menetapkan “tugas jangka panjang”, membiarkannya beroperasi dengan pengawasan minimal.

Ia juga memberikan contoh praktis: Daripada hanya membuat reservasi di sebuah restoran, ia menyarankan agar sistem ini dapat berkonsultasi dengan 200 atau 300 restoran untuk menemukan pola makan dan waktu memasak yang optimal untuk makan, dll., atau sebagai alternatif, menjadi “rekan kerja senior” Anda. ” yang dapat membantu menemukan kembali proses bisnis dengan cepat.

Hal ini menimbulkan pertanyaan tentang penggantian tenaga kerja manusia.

Banyak dari prediksi tersebut, katanya, merupakan spekulasi, karena kita tidak mengetahui secara pasti bagaimana keadaan akan terjadi.

Nilai pelatihan

Saat membahas pelatihan model, Altman mengakui bahwa mungkin sulit bagi beberapa perusahaan untuk mendapatkan laba atas investasi, namun menunjukkan situasi di mana hal-hal seperti efek kumulatif positif dari pelatihan beberapa model akan membenarkan investasi bagi perusahaan.

Open AI, katanya, cukup terisolasi, karena Anda memiliki ChatGPT dengan banyak sekali pengguna, sehingga para pemimpin perusahaan tidak perlu khawatir tentang apakah mereka mendapatkan keuntungan yang cukup dari pelatihan atau proses lainnya.

Perusahaan lain, katanya, mungkin harus beroperasi dari sudut pandang analisis nyata terhadap industri itu sendiri.

Mengenai bagaimana melakukan perencanaan jenis ini, Altman memberikan yang berikut ini, sambil menyisipkan beberapa pengalamannya sendiri:

“Bagaimana Anda menyeimbangkan apa yang harus terjadi hari ini, atau bulan depan, dengan rencana jangka panjang… untuk dilaksanakan dalam satu atau dua tahun, dengan konstruksi (atau) komputasi, atau hal-hal yang lebih normal, seperti perencanaan awal? cukup untuk ruang kantor di kota San Francisco… Saya rasa tidak ada manual untuk ini, atau seseorang memiliki manual rahasia yang tidak mereka berikan kepada saya untuk semua ini, seolah-olah kita semua tersesat. “Kami telah melewati ini, tapi masih banyak yang harus dipelajari dalam perjalanan ini.”

Ia juga menyebutkan beberapa masalah lain yang sebagian besar mampu diatasi oleh perusahaan seiring dengan kemajuan yang terus berlanjut: perilaku model yang buruk, paradigma yang gagal, masalah yang sulit diselesaikan. Dengan menggunakan bahasa The Beatles, dia menyatakan bahwa ini merupakan “jalan yang panjang dan berliku” untuk mencapai kemajuan.

“Pastinya ada suatu periode di mana kami tidak tahu (bagaimana kami) akan melakukan model itu,” katanya tentang ChatGPT 4.

Namun semua itu, kata dia, sepertinya berpedoman pada sesuatu yang positif.

“Kami mempunyai banyak orang di sini yang bersemangat untuk menciptakan AGI,” katanya. “Itu adalah sesuatu yang sangat memotivasi. Tapi ada sebuah quote terkenal… rasanya seperti… semangatnya adalah (seperti) ‘Saya tidak pernah berdoa dan meminta Tuhan berada di sisi saya. … Saya berdoa dan berharap berada di sisi Tuhan.” Dan ada sesuatu tentang bertaruh pada pembelajaran mendalam yang membuat Anda merasa seperti berada di pihak para malaikat, dan pada akhirnya tampaknya berhasil.”

Saat membahas keputusan-keputusan sulit yang dihadapi para pemimpin di masa-masa perubahan ini, ia menyebutkan sejumlah besar keputusan yang ia sebut sebagai keputusan “51-49”—keputusan-keputusan yang bersifat dekat dan tidak begitu jelas manfaatnya—yang cenderung berakhir di tangan mereka sendiri. Altman merenungkan masukan dari beberapa orang berbeda dan mengapa hal itu berhasil baginya selama bertahun-tahun.

Mengenai masalah rantai pasokan semikonduktor, Altman mengatakan bahwa dia prihatin, namun ini bukan kekhawatiran utamanya, meskipun dia menggolongkan masalah perangkat keras ini sebagai “10% teratas dari semua kekhawatiran.”

Kekhawatiran terbesar dalam teknologi: juga: aplikasi dan prediksi

Perhatian utama Anda? Kompleksitas sistem secara umum.

“Sepertinya semuanya akan berjalan baik, tapi sepertinya sistemnya sangat kompleks,” katanya.

Dalam hal kasus penggunaan yang baik di masa depan, Altman menyarankan vertikal yang mendukung AI, seperti tutor, dan potensi manusia sepenuhnya dari aplikasi, seperti AI yang “memahami seluruh hidup Anda”.

Lalu ada prediksinya untuk masa depan:

“Dalam lima tahun, sepertinya kita akan mengalami kemajuan pesat dalam teknologi itu sendiri,” katanya. “Anda tahu, orang-orang berkata, ‘momen AGI telah datang dan pergi’… dan kami menemukan semua hal baru ini, baik dalam penelitian AI maupun sains lainnya. …Dan bagian kedua dari prediksi tersebut adalah bahwa masyarakat itu sendiri ternyata hanya mengalami sedikit perubahan. Contohnya adalah jika lima tahun yang lalu Anda bertanya kepada orang-orang apakah komputer akan lulus tes Turing, mereka akan menjawab “tidak”. Dan kemudian jika Anda berkata, ‘Bagaimana jika Oracle (memberi tahu kami bahwa hal ini akan terjadi, mereka akan berkata) ‘entah bagaimana, ini akan menjadi perubahan yang gila dan mengagumkan bagi masyarakat?’ Dan kita bisa dibilang telah memenuhi tes Turing, dan masyarakat tidak banyak berubah. Dia hanya bersiul. Dan itulah contoh yang saya harap akan terus terjadi, yaitu kemajuan, kemajuan ilmu pengetahuan terus berlanjut dan melampaui semua harapan masyarakat, dengan cara yang menurut saya baik dan sehat.

Itu adalah banyak hal yang menarik dari wawancara tepat waktu tentang model, tentang kemajuan OpenAI dan kemajuan industri, sambil menunggu peluncuran penuh o1 dan peluncuran Orion, mungkin tahun depan, dan segala hal lainnya yang memiliki pakar teknologi. seluruh twitter. Sementara itu, kita melihat bocoran dari o1 minggu ini yang menempatkan model penalaran baru di garis depan pemikiran manusia, dan model tersebut pasti akan bertahan selama beberapa waktu. Berita besar lainnya saat ini adalah bahwa banyak dari perusahaan-perusahaan ini tampaknya menunda peluncuran lebih lanjut sampai masyarakat Amerika pergi ke tempat pemungutan suara. Dan itu sedang terjadi. Perhatikan ruang ini.