Lebih dari 300 juta orang menggunakan OpenAI ObrolanGPT setiap minggunya, sebuah bukti daya tarik teknologi. Bulan ini, perusahaan meluncurkan “modus profesional” untuk sistem kecerdasan buatan “o1” yang baru, yang menawarkan penalaran tingkat manusia, dengan biaya 10 kali lipat dari biaya berlangganan bulanan saat ini sebesar $20 pelestarian diri. Dalam pengujian, ketika sistem diyakinkan akan dimatikan, sistem berusaha menonaktifkan mekanisme pemantauan. Ketika “o1” menemukan catatan tentang penggantinya, dia mencoba menyalin dirinya sendiri dan menimpa kode utamanya. Menakutkan? Sangat.
Lebih realistisnya, ukuran tersebut kemungkinan besar mencerminkan pemrograman sistem untuk mengoptimalkan hasil dibandingkan menunjukkan niat atau kesadaran. Ide untuk menciptakan mesin cerdas menimbulkan ketidaknyamanan. Dalam komputasi ini adalah masalah gorila: 7 juta tahun yang lalu, primata yang kini punah berevolusi, dengan satu cabang mengarah ke gorila dan cabang lainnya mengarah ke manusia. Kekhawatirannya adalah sama seperti gorila yang kehilangan kendali atas nasibnya karena manusia, manusia juga bisa kehilangan kendali karena AI yang super cerdas. Tidak jelas apakah kita bisa mengendalikan mesin yang lebih pintar dari kita.
Mengapa hal seperti ini bisa terjadi? Raksasa AI seperti OpenAI dan Google dilaporkan menghadapi batasan komputasi: model yang dapat diskalakan tidak lagi menjamin AI yang lebih cerdas. Dengan data yang terbatas, lebih besar tidak lebih baik. Solusinya? Umpan balik manusia tentang penalaran. Sebuah tahun 2023 kertas Mantan kepala ilmuwan di OpenAI menemukan bahwa metode ini memecahkan 78% masalah matematika yang sulit, dibandingkan dengan 70% ketika menggunakan teknik yang tidak dapat dibantu oleh manusia.
OpenAI menggunakan jenis teknik ini dalam sistem “o1” barunya, yang diyakini perusahaan akan mengatasi batasan pertumbuhan saat ini. Ilmuwan komputer Subbarao Kambhampati menceritakan Atlantik bahwa perkembangan ini mirip dengan sistem kecerdasan buatan yang memainkan jutaan permainan catur untuk mempelajari strategi yang optimal. Namun, tim Yale yang menguji sistem “o1” menerbitkan sebuah makalah yang menyatakan bahwa meningkatkan penalaran model bahasa membantu, namun tidak sepenuhnya menyelesaikannya. menghapuskan efek dari desain aslinya hanya sebagai prediktor kata yang cerdas.
Jika alien mendarat dan menghadiahkan kepada umat manusia sebuah kotak hitam berisi AI super cerdas, maka sebaiknya berhati-hati saat membukanya. Namun manusia merancang sistem kecerdasan buatan saat ini. Jika mereka terlihat manipulatif, itu disebabkan oleh cacat desain. Mengandalkan mesin yang pengoperasiannya tidak dapat kita kendalikan mengharuskan mesin tersebut diprogram agar benar-benar selaras dengan keinginan dan keinginan manusia. Namun seberapa realistiskah hal tersebut?
Dalam banyak budaya terdapat cerita tentang manusia yang meminta kekuatan ilahi kepada dewa. Kisah-kisah keangkuhan ini seringkali berakhir dengan penyesalan, karena keinginan dikabulkan secara harfiah, sehingga menimbulkan konsekuensi yang tidak terduga. Seringkali, keinginan ketiga dan terakhir digunakan untuk membatalkan dua keinginan pertama. Dia menghadapi situasi seperti itu Raja Midasraja Yunani legendaris yang berharap segala sesuatu yang disentuhnya berubah menjadi emas, namun putus asa ketika makanan, minuman, dan orang-orang yang dicintainya mengalami nasib yang sama. Masalah dengan AI adalah kita menginginkan mesin yang berupaya mencapai tujuan manusia namun mengetahui bahwa perangkat lunak tidak mengetahui secara pasti apa tujuan tersebut. Jelas sekali bahwa ambisi yang tidak terkendali akan membawa pada penyesalan. Mengontrol AI yang super cerdas dan tidak dapat diprediksi memerlukan pemikiran ulang tentang AI yang seharusnya.
