Connect with us

Pendapat

‘Vibe-Hacking’ sekarang menjadi salah satu ancaman utama IA

Published

on

“Sistem AI agen sedang dipersenjatai.”

Ini adalah salah satu baris pertama dari Laporan Ancaman Ancaman Baru Antropik hari ini, yang merinci berbagai kasus di mana Claude – dan mungkin banyak AI dan chatbots utama lainnya – sedang dilecehkan.

Pertama: “Hacking Vibe”. Cincin kejahatan dunia maya yang canggih yang menurut Antropik baru -baru ini mengganggu kode Claude, agen pengkodean antropik AI, untuk memeras data dari setidaknya 17 organisasi yang berbeda di seluruh dunia dalam waktu sebulan. Bagian -bagian yang diserang termasuk organisasi kesehatan, layanan darurat, lembaga keagamaan dan bahkan entitas pemerintah.

“Jika Anda adalah aktor yang canggih, yang sebaliknya akan membutuhkan tim aktor canggih, seperti peretasan getaran, untuk melakukan agora, seorang individu dapat melakukan, dengan bantuan sistem agen,” kata Jacob Klein, kepala tim intelijen ancaman antropik, katanya, katanya Mengendarai Dalam sebuah wawancara. Dia menambahkan bahwa dalam hal ini Claude “melakukan operasi dari ujung ke ujung.”

Antropik menulis dalam laporan bahwa, dalam kasus -kasus seperti ini, AI “berfungsi sebagai konsultan teknis dan operator yang aktif, yang memungkinkan serangan yang akan lebih sulit dan memakan waktu bagi aktor individu untuk melakukan secara manual.” Sebagai contoh, Claude secara khusus digunakan untuk menulis “tuntutan pemerasan yang ditargetkan secara psikologis.” Penjahat dunia maya kemudian menemukan berapa banyak data – yang termasuk data bantuan medis, informasi keuangan, kredensial pemerintah, dan banyak lagi – sepadan dengan web gelap dan membuat tuntutan tebusan melebihi $ 500.000 oleh antropopia.

“Ini adalah penggunaan agen paling canggih yang pernah saya lihat … dengan pelanggaran dunia maya,” kata Klein.

Dalam studi kasus lain, Claude membantu pekerja TI Utara untuk mendapatkan pekerjaan penipuan di perusahaan Fortune 500 di AS untuk mendanai program senjata negara itu. Biasanya, dalam kasus ini, Korea Utara mencoba memanfaatkan orang -orang yang telah kuliah, memiliki pengalaman atau memiliki beberapa kemampuan untuk berkomunikasi dalam bahasa Inggris, oleh Klein – tetapi ia mengatakan bahwa dalam kasus ini penghalang jauh lebih kecil bagi orang -orang di Korea Utara untuk menghabiskan wawancara teknis di perusahaan teknologi besar dan kemudian mempertahankan pekerjaan mereka.

Dengan bantuan Claude, Klein mengatakan: “Kami melihat orang -orang yang tidak tahu bagaimana menulis kode, tidak tahu bagaimana berkomunikasi secara profesional, tahu sedikit tentang bahasa atau budaya dalam bahasa Inggris, yang hanya meminta Claude untuk melakukan segalanya … dan setelah mereka mendapatkan pekerjaan, sebagian besar pekerjaan yang mereka lakukan dengan Claude tetap bekerja.”

Studi kasus lain melibatkan kudeta romansa. Bot telegram dengan lebih dari 10.000 pengguna bulanan mengumumkan Claude sebagai “model EQ tinggi” untuk membantu menghasilkan pesan yang cerdas secara emosional, seolah -olah untuk pukulan. Ini telah memungkinkan penutur bahasa Inggris non -native untuk menulis pesan yang persuasif dan gratis untuk mendapatkan kepercayaan korban di AS, Jepang dan Korea dan meminta mereka uang. Contoh dalam laporan menunjukkan kepada pengguna dengan mengirim gambar seorang pria dalam dasi dan meminta cara terbaik untuk memuji dia.

Dalam laporan itu, antropik itu sendiri mengakui bahwa sementara perusahaan “telah mengembangkan langkah -langkah keselamatan dan keamanan yang canggih untuk mencegah penyalahgunaan” AI -nya dan, meskipun langkah -langkah itu “umumnya efektif”, aktor buruk masih dapat menemukan cara untuk menghindari. Antropik mengatakan AI telah mengurangi hambatan terhadap kejahatan dunia maya yang canggih dan bahwa aktor buruk menggunakan teknologi untuk profil korban, mengotomatiskan praktik mereka, membuat identitas palsu, menganalisis data curian, mencuri informasi kartu kredit dan banyak lagi.

Masing -masing studi kasus dalam laporan ini berkontribusi pada semakin banyaknya bukti bahwa perusahaan AI, sebanyak yang mereka bisa, seringkali tidak dapat mengimbangi risiko sosial yang terkait dengan teknologi yang mereka ciptakan dan luncurkan di dunia. “Meskipun khusus untuk Claude, studi kasus yang disajikan di bawah ini mungkin mencerminkan pola perilaku yang konsisten pada semua model AI perbatasan,” kata laporan itu.

Antropik mengatakan bahwa, untuk setiap studi kasus, melarang akun terkait, menciptakan pengklasifikasi baru atau langkah -langkah deteksi lainnya, dan berbagi informasi dengan lembaga pemerintah yang tepat, seperti lembaga intelijen atau aplikasi hukum, Klein dikonfirmasi. Dia juga mengatakan bahwa studi kasus yang dilihat timnya adalah bagian dari perubahan yang lebih luas dalam risiko AI.

“Ada perubahan yang terjadi di mana sistem AI bukan hanya chatbot, karena mereka sekarang dapat mengambil beberapa langkah,” kata Klein, menambahkan, “Mereka dapat benar -benar melakukan tindakan atau aktivitas seperti yang kita lihat di sini.”

5 Komentar

Ikuti topik dan penulis Dalam cerita ini, lihat lebih banyak seperti ini di umpan beranda pribadi Anda dan menerima dan pembaruan email.


Tautan sumber

Continue Reading
Click to comment

Leave a Reply

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Pendapat

Surat kepada Editor: Kebocoran Gas Metana Menyoroti Ancaman yang Perlu Ditindak California

Published

on

Kepada editor: Kebocoran metana yang memaksa warga Pantai Newport mengungsi minggu lalu menggarisbawahi ancaman memburuknya infrastruktur minyak dan gas (“Kebocoran gas metana menyebabkan evakuasi di jalan Semenanjung Balboa” 23 Oktober). Ini adalah masalah yang perlu ditanggapi dengan serius oleh California.

Warga California menghadapi ancaman besar dari sumur seperti yang ada di Pantai Newport, yang dilaporkan ditutup hampir 100 tahun yang lalu – sebelum standar penyegelan sumur saat ini berlaku.

Namun yang lebih mendesak lagi, California harus mengatasi masalah ini hampir 90.000 sumur minyak dan gas yang terputus sehingga perlu dibersihkan. Lebih dari sepertiganya sudah menganggur, banyak di antaranya sudah tidak berproduksi selama satu dekade atau lebih. Sumur ini bisa mengeluarkan metana dan racun berbahaya lainnya hidrogen sulfida dan benzena yang meracuni masyarakat dan lingkungan.

Anggota parlemen dan regulator California perlu segera bertindak dan memastikan sumur-sumur yang tidak digunakan ini sesuai dengan standar modern.

Untungnya, ada solusi yang relatif sederhana: meminta operator untuk menutup sumur-sumur yang menganggur dengan lebih cepat. Sumur-sumur ini memberi mereka keuntungan besar ketika berproduksi, dan biaya pembersihan harus menjadi tanggung jawab mereka.

Cooper Kass, Los Angeles
Penulis ini adalah seorang pengacara di Institut Hukum Iklim Pusat Keanekaragaman Hayati.

Tautan sumber

Continue Reading

Pendapat

Mark Zuckerberg bersemangat untuk menambahkan lebih banyak konten AI ke semua media sosialnya

Published

on

CEO Meta Mark Zuckerberg sedang bersiap untuk membuang lebih banyak lagi postingan yang dihasilkan AI di feed sosialnya. Selama panggilan pendapatan pada hari Rabu, Zuckerberg mengatakan perusahaannya akan “menambahkan kumpulan konten yang sangat besar” ke sistem rekomendasinya karena AI akan “mempermudah pembuatan dan remix” karya yang dibagikan secara online.

“Media sosial sejauh ini telah melalui dua era,” kata Zuckerberg. Yang pertama adalah ketika semua konten berasal dari teman, keluarga, dan akun yang Anda ikuti langsung. Yang kedua adalah ketika kami menambahkan semua konten dari Sang Pencipta. Meskipun Zuckerberg tidak menyebut AI sebagai era ketiga media sosial, jelas bahwa teknologi tersebut akan sangat berperan dalam masa depan.

Zuckerberg mengatakan bahwa sistem rekomendasi yang “memahami secara mendalam” postingan yang dihasilkan AI dan “menampilkan konten yang tepat” akan menjadi “semakin berharga.” Perusahaan ini telah mulai memasukkan alat AI ke dalam aplikasinya dan kini juga bereksperimen dengan aplikasi sosial AI khusus.

CFO Target Susan Li mengatakan orang-orang telah menghasilkan lebih dari 20 miliar gambar di aplikasi Vibes baru perusahaannya, yang menyediakan umpan video yang dihasilkan AI mirip dengan Sora OpenAI. “Saya pikir Vibes adalah contoh jenis konten baru yang dimungkinkan oleh AI, dan menurut saya ada lebih banyak peluang untuk membangun lebih banyak jenis konten baru di masa depan,” tambah Zuckerberg.

Targetkan pendapatan yang dilaporkan sebesar $51,24 miliar pada kuartal ini, meningkat 26% dari tahun ke tahun, namun dikenakan biaya pajak satu kali sebesar $15,93 miliar terkait dengan RUU Besar Yang Indah dari Presiden Donald Trump.

Tautan sumber

Continue Reading

Pendapat

FCC harus membebaskan lembaga penyiaran dari pembatasan kepemilikan sewenang-wenang yang sudah berlangsung lama

Published

on

Pada tahun yang sama ketika Facebook diluncurkan, Kongres dan FCC menetapkan batasan sewenang-wenang sebesar 39% pada jangkauan domestik stasiun televisi. Batasan kepemilikan ini dibuat sebelum Twitter, Instagram, Spotify, atau YouTube diluncurkan. Tidak ada iPhone atau layanan streaming saat itu. Peraturan ini dibuat pada saat akses terhadap informasi masih jauh lebih terbatas dibandingkan saat ini.

Dua dekade kemudian, situasinya sangat berbeda. Pemerintah tidak membatasi jangkauan khalayak dari platform media sosial ini – dan memang seharusnya demikian. Di era dimana platform digital ada dimana-mana, algoritma yang menentukan apa yang dikonsumsi individu, dan investasi konten bernilai miliaran dolar, pemerintah harus memungkinkan semua sektor industri komunikasi, terutama yang sudah lama berkomitmen untuk melayani komunitas lokal, untuk menjangkau konsumen dan bersaing di pasar.

Sudah waktunya untuk menghilangkan peraturan ini dan agar lembaga penyiaran gratis dapat bersaing lebih baik di pasar informasi yang sangat beragam saat ini.

FCC tidak boleh berhenti di situ. Pemerintah juga harus menghapuskan batasan serupa mengenai kepemilikan stasiun radio. Selain itu, kebijakan ini juga harus menghilangkan aturan lama yang dikenal sebagai larangan jaringan ganda, yang mencegah penggabungan jaringan siaran Amerika, dan juga harus menghilangkan batasan kepemilikan TV lokal.

Secara keseluruhan, peraturan yang sudah lama berlaku ini memaksa perusahaan media Amerika untuk beroperasi di bawah pembatasan ketat yang menghambat kemampuan mereka untuk tumbuh dan bersaing dengan platform teknologi global yang mendominasi lanskap, yang memiliki kemampuan yang tidak diatur untuk meningkatkan skala dan mencapai kejenuhan pemirsa hingga 100 persen di semua pasar.

Aturan-aturan ini mungkin masuk akal untuk melindungi keragaman konten berita di tingkat lokal. Namun hal ini sulit diterapkan di lingkungan media yang berkembang pesat saat ini, di mana streaming adalah istilah standar dalam percakapan tentang apa yang ditonton orang. Hasilnya adalah persaingan yang tidak seimbang yang memberikan sanksi kepada lembaga penyiaran lokal yang kita semua andalkan untuk memberikan peringatan darurat yang menyelamatkan jiwa, berita komunitas dengan perspektif lokal, dan program layanan publik yang lebih luas.

Sebagai mantan pemimpin Komite Energi dan Perdagangan DPR – komite terkait dengan yurisdiksi atas Komisi Komunikasi Federal – kami sangat yakin bahwa Komisi memiliki wewenang yang tegas untuk mengatasi tantangan-tantangan ini. Badan ini mempunyai kebijaksanaan peraturan yang luas untuk memastikan bahwa institusi media kami melayani masyarakat Amerika sesuai dengan Undang-Undang Komunikasi tahun 1934.

Sejak tahun 2000, anggota Kongres dari Partai Demokrat dan pejabat yang ditunjuk secara konsisten menentang upaya pelonggaran peraturan yang bertujuan untuk memperluas kemampuan lembaga penyiaran lokal untuk bersaing. Mereka berjuang untuk memblokir apapun meningkat menjadi atau penghapusan batas kepemilikan 39 persen dan dimiliki tidak setuju menetapkan kembali peraturan yang realistis, seperti diskon UHF, yang memberikan penghargaan yang lebih adil kepada lembaga penyiaran atas jangkauan mereka yang sebenarnya.

Setiap upaya untuk menghalangi reformasi dibingkai sebagai pembelaan terhadap keragaman sudut pandang dan jurnalisme lokal. Namun, hambatan yang sama kini menempatkan keduanya dalam bahaya. Dengan membatasi lembaga penyiaran seolah-olah masih tahun 2004, para pembuat kebijakan melemahkan kemampuan mereka untuk berinvestasi kembali pada berita lokal, memperluas operasi dan bersaing di pasar video saat ini.

Untungnya, tampaknya arus sudah mulai berbalik. Ketua FCC Brendan Carr, yang sudah lama mendukung reformasi peraturan, menyadari perlunya tindakan dan tindakan dibuka peninjauan kembali batasan-batasan tersebut. Hal ini merupakan langkah yang disambut baik oleh lembaga tersebut, sejalan dengan agenda deregulasi Presiden Trump, yang akan membawa lanskap media negara kita memasuki abad ke-21.

Sekarang sudah tahun 2025 dan pemerintah federal harus membebaskan perusahaan media untuk bersaing dalam lingkungan global yang terintegrasi secara digital yang tidak pernah dibayangkan oleh regulator pada tahun 2004. FCC harus melanjutkan upayanya untuk memodernisasi aturan kepemilikan yang memberatkan ini dan menjunjung mandatnya untuk benar-benar melindungi kepentingan publik. Jika tidak, tekanan peraturan akan terus menekan dan membatasi perusahaan penyiaran – salah satu sumber informasi Amerika yang paling penting dan terpercaya.

Cathy McMorris Rodgers, Greg Walden, dan Fred Upton, semuanya anggota Partai Republik, masing-masing mengetuai Komite Energi dan Perdagangan DPR saat bertugas di Kongres. Walden adalah presiden Alpine Advisors, yang kliennya meliputi FOX dan perusahaan media lainnya.

Catatan Editor: Nexstar, perusahaan induk The Hill, adalah grup kepemilikan siaran besar yang mempunyai kepentingan dalam isu-isu yang dibahas dalam artikel opini ini.

Tautan sumber

Continue Reading

Trending