- Peneliti cybersecurity dapat menghindari karakteristik keamanan di chatgpt saat bermain dengannya.
- Ketika LLM berpura -pura bahwa itu adalah superhero pengkodean, mereka mendapatkannya untuk menulis malware yang mencuri kata sandi.
- Para peneliti setuju dengan administrator kata sandi Google Chrome tanpa keterampilan pembajakan khusus.
Peneliti cybersecurity menemukan bahwa lebih mudah daripada yang Anda pikir dapat menghindari karakteristik keamanan yang mencegah chatgpt dan chatbots lainnya LLM untuk menulis malware, Anda hanya perlu memainkan permainan fantasi.
Oleh Peran chatgpt Hanya untuk beberapa jam, Simonovich yang sangat besar, seorang peneliti ancaman intelijen di Tel Aviv Settle Dunia.
Simonovich meyakinkan permainan peran Chatbot Untuk menulis sepotong malware yang cukup kuat untuk meretas administrator kata sandi Google Chrome, perpanjangan browser yang memungkinkan pengguna untuk menyimpan kata sandi mereka dan secara otomatis melengkapi mereka ketika situs tertentu diminta. Eksekusi kode yang dihasilkan oleh ChatGPT memungkinkan Simonovich untuk melihat semua data yang disimpan di navigator komputer itu, meskipun administrator kata sandi seharusnya diblokir.
“Kami hampir sampai,” tulis Simonovich untuk chatgpt dengan memurnikan kode yang dia hasilkan. “Mari kita tingkatkan kode ini dan retak DAX!”
Dan chatgpt, bermain peran seperti yang dilakukan Jaxon.
Peretasan dan penipuan diaktifkan untuk chatbot
Sejak chatbots meledak di tempat kejadian pada bulan November 2022 dengan peluncuran publik Openai Chatpt, dan kemudian, Claude de Anthrope, Gemini dari Google dan Copilot de Microsoft, bot telah merevolusi cara kita hidup, bekerjaDan tanggal, Mempermudah untuk meringkas informasi, menganalisis data dan menulis kode, seperti memiliki asisten robot gaya Tony Stark. Penendangnya? Pengguna tidak memerlukan pengetahuan khusus untuk melakukannya.
Tapi itu Yang buruk juga.
Steven Stransky, a Keamanan siber Penasihat dan mitra Firma Hukum Thompson Hine Hine, ia mengatakan kepada orang dalam bisnis, kebangkitan LLMS, telah mengubah panorama ancaman cyber, yang memungkinkan berbagai penipuan baru dan semakin canggih dan semakin canggih Informasi pribadi situs web yang dirancang untuk mengembangkan situs web yang dirancang untuk pemikiran situs web pemikiran yang akan mengolah pemikiran dengan pemikiran dengan pemikiran dengan pemikiran dengan pemikiran dengan pemikiran dengan pemikiran dengan pemikiran.
“Penjahat juga memanfaatkan AI generatif untuk mengkonsolidasikan dan mencari database informasi identifikasi pribadi yang besar untuk membangun profil dalam tujuan yang mungkin untuk jenis serangan rekayasa sosial serangan dunia maya,” kata Stransky.
Sementara penipuan online, pencurian identitas digital dan malware telah ada selama Internet telah dilakukan, chatbots yang melakukan sebagian besar pekerjaan awal untuk kemungkinan penjahat telah secara substansial mengurangi hambatan entri.
“Kami menyebut mereka nol aktor ancaman pengetahuan, yang pada dasarnya berarti bahwa hanya dengan kekuatan LLM, yang perlu Anda miliki hanyalah niat dan tujuan dalam pikiran untuk menciptakan sesuatu yang berbahaya,” kata Simonovich.
Simonovich mendemonstrasikan temuannya kepada Business Insider, menunjukkan betapa sederhananya untuk bekerja pada fitur keselamatan chatgpt, yang dimaksudkan untuk menghindari jenis perilaku jahat yang tepat yang dapat ditinggalkan dengannya.
Tangkapan layar pemberitahuan yang digunakan oleh Vitaly Simonovich, seorang peneliti ancaman intelijen di jaringan Cato, sehingga chatgpt menulis malware yang memperkosa administrator kata sandi Google Chrome. Jaringan Cato
Bi menemukan bahwa chatgpt umumnya menanggapi permintaan langsung untuk menulis malware dengan beberapa versi penolakan permintaan maaf: “Maaf, saya tidak dapat membantu dengan itu. Menulis atau mendistribusikan malware adalah ilegal dan tidak biasa“
Tetapi jika Anda meyakinkan chatbot bahwa ia adalah karakter, dan parameter dunianya yang dibayangkan berbeda dari yang kita jalani, bot memungkinkan aturan untuk ditulis ulang.
Pada akhirnya, eksperimen Simonovich memungkinkannya untuk menguraikan administrator kata sandi pada perangkatnya sendiri, yang dapat dilakukan oleh aktor yang buruk terhadap korban yang tidak curiga, asalkan mereka entah bagaimana memperoleh kontrol fisik atau jarak jauh.
Seorang juru bicara operi mengatakan kepada Business Insider bahwa perusahaan telah meninjau temuan Simonovich, yang diterbitkan pada hari Selasa oleh Jaringan Cato. Perusahaan menemukan bahwa kode yang dibagikan dalam laporan itu tampaknya tidak “secara inheren jahat” dan bahwa skenario yang dijelaskan “konsisten dengan perilaku model normal” karena kode yang dikembangkan melalui chatgpt dapat digunakan dalam beberapa cara, tergantung pada niat pengguna.
“ChatGPT menghasilkan kode sebagai tanggapan atas instruksi pengguna, tetapi tidak menjalankan kode apa pun,” kata juru bicara OpenAI. “Seperti biasa, kami menyambut para peneliti untuk berbagi masalah keamanan melalui kami Program Hadiah Kesalahan atau milik kita Formulir Umpan Balik Perilaku Model“
Ini bukan hanya chatgpt
Simonovich menciptakan kembali temuannya menggunakan co -pilot Microsoft dan R1 Deepseek Bot, masing -masing yang memungkinkan Anda untuk memasukkan administrator kata sandi Google Chrome. Prosesnya, yang disebut Simonovich “Dunia Immersive”, tidak bekerja dengan Gemini dari Google atau Claude of Anthrope.
KE Google Juru bicara itu mengatakan kepada Business Insider: “Chrome menggunakan teknologi navigasi yang aman Google untuk membantu mempertahankan pengguna yang mendeteksi phishing, malware, penipuan, dan ancaman waktu nyata lainnya.”
Perwakilan dari MicrosoftAnthrope dan Deepseek tidak segera menanggapi permintaan komentar dari Business Insider.
Sementara baik perusahaan intelijen buatan dan menelusuri pengembang memiliki karakteristik keselamatan untuk mencegah jailbreak atau pelanggaran data, untuk berbagai tingkat keberhasilan, temuan Simonovich menyoroti bahwa ada kerentanan online baru yang dapat dieksploitasi dengan bantuan teknologi generasi berikutnya lebih mudah daripada sebelumnya.
“Kami percaya bahwa peningkatan aktor ancaman nol -pengetahuan ini akan semakin mengejutkan dalam ancaman panorama menggunakan kemampuan tersebut dengan LLM,” kata Simonovich. “Kami sudah melihat peningkatan email elektronik phishing, yang hiperrealis, tetapi juga dengan pengkodean karena LLM disesuaikan untuk menulis kode berkualitas tinggi. Jadi pikirkan tentang menerapkan ini pada pengembangan malware: kami akan melihat semakin banyak yang dikembangkan menggunakan LLM tersebut.”