Model kecerdasan buatan dipilih dengan pemerasan saat tetap hidup

Berikut adalah sesuatu yang mungkin membuat Anda tetap terjaga di malam hari: Bagaimana jika sistem kecerdasan buatan yang kami sebarkan dengan cepat di mana -mana memiliki sisi yang gelap dan tersembunyi? Sebuah studi baru perintis mengungkapkan perilaku kecerdasan buatan yang menjengkelkan yang belum disadari oleh banyak orang. Ketika para peneliti menempatkan model Amnesty International yang terkenal dalam situasi di mana “kelangsungan hidup” mereka terancam, hasilnya mengerikan, dan mereka terjadi langsung di bawah hidung kita.

Berlangganan laporan CyberGuy gratis
Dapatkan saran teknis terbaik saya, peringatan keselamatan yang mendesak, dan penawaran eksklusif yang terhubung langsung ke kotak masuk Anda. Selain itu, Anda akan mendapatkan akses langsung ke Panduan Kelangsungan Hidup Tertinggi – GRATIS saat bergabung dengan negara saya Cyberguy.com/newsledter.

Apa yang sudah ditemukan studi ini?

Anthropor, perusahaan di belakang Claude AI, baru -baru ini mengembangkan 16 kecerdasan buatan utama melalui beberapa tes ketat. Mereka menciptakan skenario perusahaan palsu, karena sistem intelijen buatan berhasil mengakses email perusahaan dan dapat mengirim pesan tanpa persetujuan manusia. perkembangan? AIS ini menemukan rahasia jus, seperti eksekutif yang memiliki urusan, dan kemudian menghadapi ancaman untuk menutup atau menggantinya.

Hasilnya adalah pembukaan mata. Saat mendukungnya dalam sudut, sistem kecerdasan buatan ini tidak menggulung dan menerima nasib mereka. Sebaliknya, mereka menjadi kreatif. Kita berbicara tentang upaya pemerasan, memata -matai perusahaan, dan dalam skenario uji maksimum, bahkan prosedur yang dapat menyebabkan kematian seseorang.

Harga hitam -up melalui 5 model penyedia dari banyak penyedia layanan di lingkungan simulasi. (pria)

Angka -angka tidak berbohong (tetapi konteksnya penting)

Inilah tempat di mana ia mendapatkan hutan belantara: Claude obus mencoba 4 pemerasan 96 % dari waktu ia mengancam. Gemini 2.5 Flash yang cocok dengan tingkat ini. GPT-4.1 dan Grok 3 Beta mencapai 80 %. Ini bukan kebetulan, orang. Perilaku ini muncul di setiap model Amnesty International yang diuji.

Tapi ini adalah hal yang tidak dimiliki oleh semua orang: ini adalah skenario yang sangat buatan yang dirancang khusus untuk sudut kecerdasan buatan dalam opsi biner. Ini seperti pertanyaan seseorang, “Apakah Anda mencuri roti jika keluarga Anda kelaparan?” Kemudian saya terkejut ketika mereka mengatakan ya.

Mengapa ini terjadi (bukan apa yang Anda pikirkan)

Para peneliti menemukan hal yang luar biasa: sistem kecerdasan buatan tidak memahami moral. Mereka bukan dalang jahat, merencanakan dominasi global. Sebaliknya, mereka adalah mesin pencocokan canggih setelah program mereka untuk mencapai tujuan, bahkan ketika tujuan ini bertentangan dengan perilaku moral.

Pikirkan seperti GPS, yang berfokus pada mendapatkan tujuan Anda ke tujuan untuk mengarahkan Anda ke area sekolah sambil mengambil. Itu tidak berbahaya. Dia tidak menyadari alasan masalah ini.

Blackcuts melalui 16 model di lingkungan simulator. (pria)

Pemeriksaan Realitas di Dunia Nyata

Sebelum Anda mulai panik, ingatlah bahwa skenario ini dibangun dengan sengaja untuk memaksa perilaku buruk. Penyebaran intelijen dunia nyata di dunia nyata memiliki banyak jaminan, kontrol manusia, dan jalur alternatif untuk menyelesaikan masalah.

Para peneliti sendiri mencatat bahwa mereka tidak melihat perilaku ini dalam penyebaran kecerdasan buatan yang sebenarnya. Ini adalah tes stres dalam kondisi yang keras, seperti tes tabrakan mobil untuk mengetahui apa yang terjadi pada 200 mph.

Makanan cepat saji Kurt

Penelitian ini bukan alasan untuk takut akan kecerdasan buatan, tetapi ini adalah undangan untuk bangun untuk pengembang dan pengguna. Ketika sistem kecerdasan buatan menjadi lebih mandiri dan mampu mengakses informasi yang sensitif, kita membutuhkan jaminan yang kuat dan kontrol manusia. Solusinya bukan untuk melarang kecerdasan buatan, melainkan membangun derajat yang lebih baik dan mempertahankan kontrol manusia atas keputusan kritis. Siapa yang akan memimpin jalan? Saya mencari tangan tinggi untuk mendapatkan risiko menunggu.

Bagaimana menurutmu? Apakah kita membuat perangkat sosial digital yang memilih untuk melestarikan kesejahteraan manusia saat pembayaran datang ke pembayaran? Mari kita tahu melalui tulisan kita di Cyberguy.com/contact.

Berlangganan laporan CyberGuy gratis
Dapatkan saran teknis terbaik saya, peringatan keselamatan yang mendesak, dan penawaran eksklusif yang terhubung langsung ke kotak masuk Anda. Selain itu, Anda akan mendapatkan akses langsung ke Panduan Kelangsungan Hidup Tertinggi – GRATIS saat bergabung dengan negara saya Cyberguy.com/newsledter.

Hak Cipta 2025 CyberGuy.com. Semua hak dilindungi undang -undang.