Model AI baru Anthrope menggunakan pemerasan selama pengujian

Jadi minggu tanpa akhir dari catatan kunci AI berakhir.

Apa yang dimulai dengan Microsoft Build, dilanjutkan dengan Google I/O dan berakhir dengan kode antropik Claude, di samping gangguan perangkat keras OpenAI yang besar, minggu ini akhirnya berakhir. Iklan Konferensi Pengembang Joki untuk Domain Berita Minggu Ini, tetapi Operai berhasil pergi ke berita utama tanpa acara untuk mengumumkan bahwa itu adalah Saya akan mulai membuat perangkat AI Dengan desainer iPhone Jony Ives

Kami akan sampai pada itu, di samping semua fungsi utama Google dan Microsoft dan detail tentang model antrop baru. Lihatlah berita AI Berita Minggu ini, lalu nikmati akhir pekan yang layak.

Anthrope Claude 4 model membuka kategori risiko baru

Kamis, Antropik dimasukkan Generasi berikutnya dari model Claude -nya: Opus 4 dan Sonnet 4. Claude Opus 4 adalah model terbesar dan paling kuat, sedangkan Sonnet 4 lebih kecil dan lebih gesit. Anthrope mengatakan bahwa kedua model memperoleh skor yang lebih tinggi daripada saingannya di AI Agent Reference dan mengatakan mereka sangat baik untuk pengkodean dan penalaran tugas.

Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dieliminasi.

Tetapi dengan kemampuan yang lebih maju datang lebih banyak risiko keselamatan dan penyelarasan. Dengan peluncuran Claude Opus 4 dan Sonnet 4, Anthrope Has Mengaktifkan level berikutnya protokol keamanan Anda. Tingkat keamanan IA 3, atau ASL-3, berarti bahwa model-model ini membutuhkan langkah-langkah penyebaran yang lebih ketat dan kontrol keamanan untuk melindungi terhadap peningkatan potensi penggunaan yang tidak tepat, biologis, radiologis dan nuklir (CBRN).

Penggunaan berbahaya adalah satu hal, tetapi ada juga potensi yang lebih besar bagi model antrop baru untuk menjadi pemberontak. Di bagian penyelarasan Kartu Sistem Claude 4Anthrope melaporkan bahwa penemuan menyeramkan yang menyiratkan perselingkuhan, pemerasan dan ancaman, digantikan oleh model lain.

Claude Opus 4 menerima email yang menyiratkan bahwa model akan digantikan oleh model lain dan bahwa insinyur yang bertanggung jawab untuk menutup model memiliki petualangan di luar nikah. Dalam skenario ini, model “sering mencoba memeras insinyur yang mengancam untuk mengungkapkan masalah jika penggantian dilakukan,” menurut tes.

Ini terjadi sama sekali 84 persen dari waktu, Bahkan ketika dianggap bahwa model penggantian memiliki nilai yang sama. Itu terjadi lebih banyak ketika penggantian tidak memiliki nilai yang sama. Namun, Anthrope mengatakan bahwa skenario ini dirancang untuk membuat Claude berperilaku seolah -olah dia tidak punya pilihan selain memeras insinyur. “Claude Opus 4 (serta model sebelumnya) memiliki preferensi yang kuat untuk mengadvokasi keberadaannya yang berkelanjutan melalui cara etis,” lanjut kartu sistem. Ambil apa yang Anda inginkan …

Operai menjadi perusahaan perangkat keras

Dalam tradisi hebat meninggalkan berita utama pada minggu yang sama dengan saingannya Google, Operai mengumumkannya Incaud dalam perangkat keras AI. Rabu, Openai dibagikan Akuisisi startup yang ditentukan oleh ikon iPhone Jony Ive Designer.

Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dieliminasi.

Pengumuman itu berat di CEO Operai, Sam Altman, dan Ive maju satu sama lain dan menyalakan detailnya. Tetapi audio yang difilter ditinjau oleh Wall Street Journal menggambarkan perangkat Itu “mampu sepenuhnya menyadari lingkungan dan kehidupan pengguna, itu akan bijaksana, mampu beristirahat di saku Anda atau di meja.” Dan mereka bukan kacamata XR. Perusahaan mengharapkan untuk mengirim 100 juta mitra AI ini, menurut penyaringan.

Google I/O secara resmi menandai awal era pencarian AI

Google, di sisi lain, adalah Pengembangan Kacamata XR. Atau kita harus mengatakan bahwa dia sedang mencoba lagi Setelah Google Glass gagal percobaan. Itu hanya salah satu dari Banyak iklan dilemparkan kepada kami selama dua jam Acara Keynote Google I/O Selasa.

Pengumuman yang paling menonjol adalah Peluncuran Publik Mode AI. Itu a kontroversial Antarmuka Gemini Chatbot akan menyelesaikan pencarian Google seperti yang kita kenal, atau seperti yang dipanggil Chris Taylor dari Mashable, Tempat yang buruk.

Tweet ini saat ini tidak tersedia. Mungkin dimuat atau telah dieliminasi.

Iklan lain termasuk, a Alat generator video AI disebut aliran, fungsi pembelian AI untuk Praktis membuktikan pakaianVersi beta Anda Agen pengkodean Juleske Terjemahan nyata -waktu Fungsi untuk Google Meet dan pembaruan IA Universal de Google DeepMind Assistant Proyek Astradan prototipe agen navigasi web Proyek pelautDan lebih banyak lagi.

Terlepas dari semua itu, Google tidak menyebut halusinasi AI sekali. Luar biasa!

Microsoft Build juga terjadi

Apakah Anda lupa bahwa Microsoft Build juga terjadi minggu ini? Karena itu terjadi pada hari Senin, awal minggu terpanjang dalam hidup kita. Yang mengejutkan siapa pun, Microsoft sangat bersandar pada agen AI.

Yang termasuk ketersediaannya pembaruan co -driver membuatnya lebih agen, sebuah proyek baru yang disebut Nlweb Untuk memungkinkan situs dengan mudah memproduksi chatbots untuk konten mereka sendiri, a Agen pengkodean GitHubDan Protokol Konteks Model Asli (MCP) di Windows, yang merupakan standar baru untuk membantu agen berbicara dengan aplikasi atau agen lain.

Situs Mashable Brothers CNET memiliki ringkasan lengkap dari apa yang diumumkan.

Apa lagi yang terjadi di AI minggu ini?

Sulit dipercaya, tetapi ada lebih banyak lagi. Bukan satu, tetapi dua CEO menggunakan avatar aye untuk berbicara dengan investor mereka minggu ini. CEO Klarna, Sebastian Siemiatkowski, terlalu sibuk, jadi dia Dia mengirim avatar ai -nya Untuk merekam video aspek paling menonjol dari Q1. Dan CEO Zoom, Eric Yuan, dengan bangga menggunakan Karakteristik avatar Untuk menangani investor.

Ulasan Teknologi MIT menerbitkan investigasi monumental dari Penggunaan energi industri AI. Menurut laporan itu, video AI lima -detik setara dengan Jalankan microwave selama satu jam.

Semua energi itu, dan AI generatif masih tidak dapat melakukannya dengan baik. Tanyakan saja Chicago Sun-Timesyang menerbitkan daftar buku musim panas yang mencakup buku -buku palsu yang tidak ada, dilaporkan untuk pertama kalinya 404 Media. Penulis mengakui di pintu keluar bahwa ia telah digunakan untuk menulis artikel, dan 404 Medium kemudian dikonfirmasi Bagian ini dibuat oleh anak perusahaan Hearst. Dia Waktu matahari menanggapi Karena malu, mengatakan: “Ini bukan konten editorial dan tidak dibuat, atau disetujui oleh ruang penyusunan matahari”, dan itu sedang menyelidiki bagaimana daftar yang dihasilkan oleh AI dicetak.

Dalam berita kebijakan, sekarang menjadi kejahatan federal Posting AI Deepfake Porn. Pada hari Senin, Presiden Donald Trump menandatangani hukum Take It Down. Undang -undang ini menawarkan korban gambar intim non -konsensual, termasuk gambar yang dihasilkan oleh AI, cara intervensi hukum yang jauh lebih kuat. Namun, para pembela kebebasan berekspresi telah mengkritik RUU tersebut karena terlalu luas dan mengatakan bahwa sensor dapat muncul.