Teknologi Kecerdasan Buatan Generatif (Genai) selalu lebih baik yang telah menjadi senjata di tangan penjahat yang berusaha mengecewakan orang dari uang mereka atau bahkan identitas mereka
Baca selengkapnya
Perusahaan teknologi melawan epidemi Deepfake, yang merupakan suara atau video yang realistis yang dieksploitasi oleh scammers yang sekarang lebih luas dari sebelumnya karena kecerdasan buatan.
Teknologi Kecerdasan Buatan Generatif (Genai) selalu lebih baik yang telah menjadi senjata di tangan penjahat yang berusaha mengecewakan orang dari uang mereka atau bahkan identitas mereka.
Debby Bodkin berbicara tentang ibunya yang berusia 93 tahun menerima panggilan telepon, suara yang dikloning yang menyatakan: “Ini aku, Bu … aku mengalami kecelakaan.”
Ketika ditanya di mana mereka berada, peniru yang dibuat mesin menunjuk rumah sakit.
Untungnya, dia adalah seorang cucu yang menjawab telepon, memilih untuk menggantung dan memanggil Bodkin di tempat kerja di mana dia aman dan sehat.
“Ini bukan pertama kalinya scammers memanggil nenek,” kata Bodkin kepada AFP. “Ini setiap hari.”
Penipuan telepon Deepfake umumnya memaksa korban untuk membayar perawatan medis atau situasi lain yang diproduksi.
Geng kriminal juga menggunakan jejaring sosial yang dalam untuk mencuri terkenal selebriti atau orang -orang terkenal lainnya, serta informasi yang salah.
Pihak berwenang Hong Kong awal tahun ini mengungkapkan bahwa seorang karyawan perusahaan multinasional tertipu untuk mengirim HK $ 200 juta (sekitar US $ 26 juta) kepada scammers yang mengorganisir konferensi video dengan avatar rekan kerja mereka.
Menurut penyelidikan baru -baru ini yang dilakukan oleh perusahaan identifikasi Iboom yang baru, sekitar sepersepuluh dari satu persen orang Amerika dan Inggris dapat secara akurat mengidentifikasi gambar atau video palsu.
Satu dekade yang lalu, hanya ada satu alat AI untuk menghasilkan suara sintetis, sekarang ada ratusan dari mereka, menurut spesialis otentikasi suara Vijay Balasubramaniyan, CEO Pindrop Security.
Genai telah mengubah permainan, katanya.
“Sebelumnya, butuh 20 jam (rekaman suara) untuk menciptakan kembali suaranya,” kata eksekutif kepada AFP.
“Sekarang, ini lima detik.”
Perusahaan seperti Intel telah mengintensifkan alat untuk mendeteksi audio atau video yang diproduksi di Genai secara real time.
Intel “fakecatcher” mendeteksi perubahan warna pada pembuluh darah wajah untuk membedakan gambar asli dari false.
Pindrop memecah setiap audio kedua dan membandingkannya dengan karakteristik suara manusia.
“Anda harus tetap up to date dengan zaman,” kata Nicos Vekiarides, kepala platform Attesiv yang berspesialisasi dalam otentikasi kreasi digital.
“Pada awalnya, kami melihat orang -orang dengan enam jari di satu sisi, tetapi kemajuan telah membuatnya semakin sulit untuk dihitung (dalam) dengan mata telanjang.”
‘Ancaman Keamanan Cybersurity Global’
Balasubramaniyan percaya bahwa perangkat lunak untuk mendeteksi konten AI akan menjadi standar dalam semua jenis perusahaan.
Sementara Genai telah menghapus batas antara manusia dan mesin, perusahaan yang mengembalikan divisi itu dapat menembak diri mereka sendiri di pasar yang akan bernilai miliaran dolar, katanya.
Vekiarides memperingatkan bahwa masalah “menjadi ancaman keamanan siber global.”
“Perusahaan mana pun dapat memiliki reputasinya ternoda oleh DEED Defake atau diserang oleh serangan canggih ini,” kata Vekiarides.
Balasubramaniyan menambahkan bahwa perubahan pada teleworking memberikan lebih banyak peluang bagi aktor buruk untuk memasok jalan mereka ke perusahaan.
Di luar dunia korporat, banyak yang berharap konsumen mencari cara untuk melawan penipuan Deepfake yang membahayakan kehidupan pribadi mereka.
Pada bulan Januari, Honor, yang berbasis di China, mengumumkan smartphone Magic7 dengan detektor Deepfake Eduked yang dipromosikan oleh AI.
British Security Surf pada akhir tahun lalu meluncurkan browser web yang dapat menandai suara atau video sintetis, menunjuk ke perusahaan.
Siwei Lyu, seorang profesor komputer di New York State University di Buffalo, percaya bahwa “cacat dalam akan menjadi spam”, mimpi buruk internet yang akhirnya dikendalikan orang.
“Algoritma deteksi ini akan menjadi sebagai filter spam dalam perangkat lunak email kami,” Lyu memperkirakan.
“Kami belum sampai.”
