Untuk memberikan perhatian yang layak (dan sudah terlambat) bagi akademisi perempuan dan orang lain yang berfokus pada AI, TechCrunch meluncurkan serangkaian wawancara berfokus pada wanita terkemuka yang telah berkontribusi pada revolusi AI.
Tamar Eilam telah bekerja di IBM selama 24 tahun terakhir. Saat ini dia adalah anggota IBM Fellow dan menjabat sebagai Chief Scientist for Sustainable Computing untuk membantu tim mengurangi jumlah energi yang dikonsumsi oleh komputasi mereka. Hal yang paling dia banggakan saat mengerjakannya adalah proyek sumber terbuka bernama Kepler, yang membantu mengukur konsumsi daya dari satu aplikasi dalam container.
Dalam banyak hal, AI telah menjadi yang terdepan: konsumsi energi telah menjadi salah satu topik terpenting dalam industri seiring dengan kemajuan revolusi AI. AI menggunakan sumber daya alam dalam jumlah besar; Baik pelatihan maupun penggunaan AI menghabiskan banyak energi. Seorang Goldman Sachs laporan tahun ini menunjukkan bahwa pencarian ChatGPT membutuhkan listrik 10 kali lebih banyak untuk diproses dibandingkan dengan Google Search. AI diperkirakan akan meningkatkan permintaan energi pusat data sebesar 160% dalam waktu dekat, menurut laporan tersebut.
Hal inilah yang Eilam bekerja sama dengan IBM untuk membantu mitigasinya.
“Ada kebutuhan untuk fokus pada keberlanjutan secara umum,” katanya kepada TechCrunch. “Kami punya masalah dan kami juga punya peluang.”
Masalah energi
Eilam yakin industri ini sedang terjebak dalam teka-teki. AI mempunyai potensi untuk membuat industri lebih berkelanjutan, meskipun saat ini teknologi itu sendiri menguras sumber daya, katanya.
Faktanya, komputasi dan kecerdasan buatan dapat membantu dekarbonisasi jaringan listrik, katanya. Saat ini, jaringan listrik sebagian bergantung pada energi terbarukan seperti air, matahari, dan angin – sumber daya yang harga dan ketersediaannya berfluktuasi. Artinya, pusat data yang didukung oleh mereka kesulitan memastikan layanan yang konsisten (dalam hal harga dan sumber daya) kepada konsumen. “Dengan membuat jaringan listrik bekerja bersama-sama dengan komputasi, dengan memiliki kemampuan untuk mengalihkan beban kerja atau mengurangi beban kerja, kita benar-benar dapat membantu dekarbonisasi,” katanya.
Namun sumber daya alam bukan satu-satunya perhatian mereka. “Pikirkan berapa banyak chip yang kita buat dan biaya karbon serta bahan beracun yang digunakan untuk membuat chip ini,” katanya tentang industri tersebut.
Dia memikirkan semua masalah ini di IBM dan mengatakan bahwa dia mencoba mendekati AI berkelanjutan secara holistik dalam menemukan solusi untuk masalah tersebut. Misalnya, kata IBM memimpin sebuah program disponsori oleh National Science Foundation untuk mengidentifikasi di mana bahan kimia selalu ada dalam chip AI sehingga perusahaan dapat mempercepat penemuan bahan baru untuk menggantikannya.
Dalam hal pengoperasian, dia memberi saran kepada tim tentang cara melatih model AI dengan cara yang menghemat energi. “Dengan menggunakan lebih sedikit data, namun juga menggunakan data berkualitas tinggi, Anda akan lebih cepat mencapai solusi yang lebih akurat,” katanya.
Untuk melakukan penyesuaian, katanya IBM memiliki teknik decoding spekulatif untuk meningkatkan efisiensi inferensi. “Kalau begitu turunkan tumpukannya,” lanjutnya. “Kami memiliki platform kami sendiri, jadi kami melakukan banyak optimalisasi cara penerapan model ini di akselerator.”
Dia mengatakan IBM percaya pada keterbukaan dan heterogenitas, yang berarti tidak ada satu model yang cocok untuk semua model. “Itulah sebabnya kami meluncurkan Granit dalam beberapa ukuran berbeda, karena bergantung pada kasus penggunaan Anda, Anda akan memilih ukuran yang tepat untuk Anda, yang berpotensi akan lebih hemat biaya dan sesuai dengan kebutuhan Anda, serta Anda akan dapat menggunakan lebih sedikit energi.”
Mereka menggabungkan kemampuan observasi untuk mengukur segalanya, termasuk konsumsi daya, latensi, dan throughput, katanya. Ia melihat karyanya semakin penting, terutama karena ia berharap lebih banyak orang akan percaya bahwa model IBM menyediakan cara komputasi yang efektif namun juga berkelanjutan. “Apa yang kami sampaikan kepada mereka adalah, ‘Hei, jangan memulai dari awal,’” katanya. “Ambil Granit dan sekarang sesuaikan. Tahukah Anda berapa banyak energi yang Anda hemat karena tidak memulai dari awal?’” lanjutnya.
“Alasan mereka ingin memulai dari awal untuk mengembangkan model mereka sendiri adalah karena mereka tidak mempercayai apa yang ada. Karena Anda tidak tahu data apa yang dimasukkan dalam pelatihan dan Anda mungkin melanggar beberapa kekayaan intelektual,” katanya. “Kami memiliki ganti rugi kekayaan intelektual untuk semua model kami karena kami dapat memberi tahu Anda dengan tepat data apa yang dimasukkan dan kami akan meyakinkan Anda bahwa tidak ada pelanggaran kekayaan intelektual. Jadi, di situlah kami berkata, ‘Hei, Anda bisa mempercayai model kami.'”
Seorang wanita di AI
Latar belakang Eilam adalah komputasi awan terdistribusi, namun pada tahun 2019 ia menghadiri konferensi perangkat lunak yang salah satu pembicara utamanya adalah tentang perubahan iklim. “Saya tidak bisa berhenti memikirkan tentang keberlanjutan sejak saya meninggalkan pembicaraan tersebut,” katanya.
Jadi dia menggabungkan cuaca dan komputasi dan mulai melakukan perubahan. Namun mempelajari AI berarti dia sering kali menjadi satu-satunya wanita di ruangan itu. Dia berkata bahwa dia belajar banyak tentang bias yang tidak disadari, yang menurutnya dimiliki oleh pria dan wanita dalam cara yang berbeda. “Saya banyak memikirkan tentang meningkatkan kesadaran,” katanya, terutama sebagai perempuan yang memegang peran kepemimpinan.
Beberapa tahun yang lalu dia ikut memimpin lokakarya penelitian IBM, berbicara dengan perempuan tentang bias-bias seperti ini, seperti perempuan tidak melamar pekerjaan meskipun mereka memiliki kualifikasi lebih dari 70%, dan laki-laki melakukannya. bahkan jika mereka memiliki kurang dari 50%. Ia mempunyai beberapa nasihat bagi para wanita yang sedang memulai jalur kariernya: jangan pernah takut untuk berpendapat dan mengungkapkannya.
“Bertahan, bertahan. Jika mereka tidak mendengarkan Anda, ucapkan lagi, dan lain kali. “Itulah nasihat terbaik yang bisa saya berikan.”
Apa yang akan terjadi di masa depan
Eilam berpendapat investor harus mencari startup yang transparan mengenai inovasinya.
“Apakah mereka mengungkapkan sumber datanya?” katanya, seraya menambahkan bahwa hal ini juga berlaku jika sebuah perusahaan membagikan berapa banyak energi yang dikonsumsi AI-nya. Dia juga mengatakan penting bagi investor untuk mempertimbangkan apakah sebuah startup memiliki hambatan keamanan yang dapat membantu mencegah skenario berisiko tinggi.
Ia juga mendukung peraturan yang lebih banyak, meskipun hal ini mungkin sulit dilakukan karena teknologinya cukup rumit, katanya. Namun, langkah pertama adalah kembali ke transparansi: mampu menjelaskan apa yang terjadi dan jujur mengenai dampak yang akan terjadi.
“Kalau tidak ada penjelasannya, maka kami pakai [AI] tanpa konsekuensi terhadap potensi masa depan masyarakat, ada masalah di sini,” ujarnya.
Bagian ini telah diperbarui.
TechCrunch memiliki buletin yang berfokus pada AI! Daftar di sini untuk menerimanya di kotak masuk Anda setiap hari Rabu.
