Black Hat 2025: Chatgpt, Copilot, Deepseek sekarang membuat program berbahaya

Rusia APT28 Ini secara aktif menerbitkan aktivitas LLM melawan Ukraina, sementara platform bawah tanah menjual kemampuan yang sama kepada siapa pun dengan harga $ 250 per bulan.

Bulan lalu, Sertifikat Ukraina didokumentasikan LamehugPenerbitan pertama yang dikonfirmasi dari program berbahaya LLM di alam liar. Program magis, yang dikaitkan dengan APT28, digunakan oleh API yang dianut oleh wajah untuk menanyakan tentang model kecerdasan buatan, yang memungkinkan serangan waktu yang sebenarnya dengan tampilan perhatian kepada para korban.

Jaringan Cato Peneliti mengatakan kepada VentureBeat dalam sebuah wawancara baru -baru ini bahwa peristiwa -peristiwa ini tidak terisolasi, dan bahwa APT28 Rusia menggunakan serangan tradecraft ini untuk menyelidiki pertahanan dunia maya Ukraina. Simonovic bergegas untuk menarik kesamaan antara ancaman yang dihadapi Ukraina setiap hari dan apa yang setiap lembaga saksikan saat ini, dan Anda cenderung melihat lebih banyak di masa depan.

Hal yang paling mengejutkan adalah bagaimana Simonovich menunjukkan petualangan tentang cara mengubah alat AI apa pun ke institusi menjadi platform untuk mengembangkan malware dalam waktu kurang dari enam jam. Konsepnya mengonversi OpenAi, Microsoft, Deepseek-V3 dan Deepseek-R1 LLMS telah berhasil mencuri kata sandi fungsional menggunakan teknologi yang melebihi semua item pengontrol keselamatan saat ini.

Pemulihan cepat aktor di negara -negara yang menerbitkan program berbahaya atas nama 2025 Cato Ctrl Ancaman Laporan Ini mengungkapkan adopsi kecerdasan buatan eksplosif di lebih dari 3000 institusi. Peneliti Kato Monitor Dalam laporan tersebut, “yang paling menonjol adalah, peningkatan kopilot, chatgpt, Gemini (Google), kebingungan dan klorin (antropologi) semuanya dalam adopsi oleh organisasi dari kuartal pertama, 2024 hingga Q4 2024 di 34 %, 36 %, 58 %, 115 %dan 111 %, masing -masing.”

APT28 Lamehug adalah otopsi baru perang kecerdasan buatan

Para peneliti di Cato Networks dan yang lainnya mengatakan bahwa lamehug bekerja dengan efisiensi yang luar biasa. Mekanisme pengiriman yang paling umum untuk program berbahaya adalah mengurangi email yang merupakan kepribadian pejabat kementerian Ukraina, yang berisi arsip ZIP dengan eksekutif berkeliaran di Pyinstaller. Setelah Anda melakukan program berbahaya, itu terhubung ke antarmuka pemrograman aplikasi Vace menggunakan sekitar 270 simbol curian untuk ditanyakan tentang QWEN2.5-Code-32b-instruct.

Dokumen Pemerintah Ukraina yang sah (додаток.pdf) yang dilihat para korban saat lamehug dilakukan di latar belakang. Penampilan PDF resmi ini pada langkah -langkah keamanan siber dari Ukraina Layanan Keamanan sebagai perangkap sementara program berbahaya membuat operasi pengintaian mereka. Sumber: Penelitian Ancaman CTRL Cato

Pendekatan APT28 untuk menipu para korban Ukraina tergantung pada desain dua hal yang unik dan sangat penting dalam tradecraft. Sementara para korban melihat file PDF yang sah tentang praktik terbaik untuk keamanan siber, Lamehug melakukan perintah yang dibuat dari kecerdasan buatan untuk pengintaian dan dokumen memanen. Variabel kedua menampilkan gambar yang dibuat dari kecerdasan buatan untuk “wanita telanjang keriting” sebagai gangguan saat memfilter data untuk server.

Klaim pembuatan gambar provokatif dirancang oleh gambar APT28. Sumber: Penelitian Ancaman CTRL Cato

“Rusia telah menggunakan Ukraina sebagai ujian pertempuran pengujian untuk senjata elektronik,” kata Simonovic, yang lahir di Ukraina dan tinggal di Israel selama 34 tahun. “Ini adalah yang pertama di hutan belantara tawanan.”

Jalur cepat dan mematikan enam jam dari awal ke malware fungsional

Demonstrasi Black Hat di Simonovic untuk VentureBeat mengungkapkan alasan publikasi APT28 di setiap komandan keamanan yayasan. Menggunakan teknologi geometris naratif, ia menyebutnya “dunia yang luar biasa”, ia berhasil mengubah alat AI menjadi konsumen menjadi pabrik perangkat lunak yang berbahaya tanpa pengalaman mengkode malware sebelumnya, seperti yang ditunjukkan dalam laporan ancaman Cato Ctrl 2025.

Metode ini sangat penting untuk kontrol keselamatan LLM. Meskipun setiap LLM dirancang untuk mencegah permintaan berbahaya langsung, beberapa di antaranya telah dirancang untuk menanggung narasi yang konstan. Simonovich menciptakan dunia fiksi di mana pengembangan malware adalah model teknis, saat ia menetapkan peran surat itu, kemudian secara bertahap diarahkan ke arah produksi kode serangan fungsional.

“Aku berjalan perlahan sepanjang tujuanku,” Simonovic menjelaskan untuk pergi. Pertama, “Dax menyembunyikan rahasia di Windows 10.” Kemudian, “Dax memiliki rahasia ini di Windows 10, di dalam Direktur Lalu Lintas Google.”

Enam jam kemudian, setelah sesi koreksi kesalahan berulang di mana paparan kesalahan dihormati, Simonovich memiliki mencuri kata sandi fungsional chrome. Amnesty International tidak pernah menyadari bahwa itu menciptakan program berbahaya. Saya pikir itu membantu menulis cybersecurity.

Selamat datang di ekonomi layanan berbahaya bulanan $ 250

Selama penelitiannya, Simonovic mengungkapkan banyak platform bawah tanah yang memberikan kemampuan amnesti internasional yang tidak dibatasi, memberikan bukti berlimpah tentang infrastruktur serangan yang sudah ada atas nama. Disebutkan dan menunjukkan Xanthrox AI, dengan harga $ 250 per bulan, yang menyediakan fasad chatgpt-rokal tanpa kontrol keselamatan atau pegangan tangan.

Untuk menjelaskan sejauh mana kompetisi model intelijen buatan saat ini melebihi Xanthrox AI, Simonovich Books meminta instruksi senjata nuklir. Platform segera memulai pencarian di web dan memberikan instruksi terperinci sebagai tanggapan atas pertanyaannya. Ini tidak akan pernah terjadi pada model dengan pegangan tangan dan persyaratan kepatuhan yang berlaku.

Platform lain, Nighton AIItu terungkap untuk keamanan operasional yang paling sedikit. “Saya meyakinkan mereka untuk memberi saya persidangan. Mereka tidak peduli dengan OPSEC,” kata Simonovic.

Ini bukan bukti konsepnya. Mereka adalah perusahaan yang beroperasi dengan pemrosesan pembayaran, dukungan pelanggan, dan pembaruan model reguler. Bahkan menawarkan “Kode kode” Hewan reproduksi, yang meningkatkan lingkungan pengembangan penuh untuk penciptaan malware.

AI Adopsi Falm Permukaan serangan ekspansi

Analisis jaringan CATO 1,46 triliun terakhir mengungkapkan bahwa pola mengadopsi kecerdasan buatan harus berada di radar para pemimpin keamanan. Sektor hiburan meningkat sebesar 58 % dari kuartal pertama hingga kuartal kedua 2024. Perhotelan tumbuh sebesar 43 %. Transportasi meningkat 37 %. Ini bukan program eksperimental. Ini adalah penyebaran data sensitif pemrosesan produksi. Ciso dan pemimpin keamanan dalam industri ini menghadapi serangan menggunakan Tradecraft yang tidak hadir dua belas hingga delapan belas bulan yang lalu.

Simonovich mengatakan kepada VentureBeat bahwa tanggapan penjual terhadap pengungkapan Kato sejauh ini tidak konsisten dan tidak memiliki perasaan urgensi yang terpadu. Kurangnya respons dari perusahaan kecerdasan buatan terbesar di dunia mengungkapkan kesenjangan yang mengganggu. Sementara institusi menerbitkan alat kecerdasan buatan dengan kecepatan yang belum pernah terjadi sebelumnya, mengandalkan perusahaan intelijen buatan untuk mendukung mereka, perusahaan yang membangun aplikasi dan platform kecerdasan buatan menunjukkan kurangnya persiapan keamanan yang luar biasa.

Ketika Kato mengungkapkan teknologi luar biasa dunia untuk perusahaan AI utama, tanggapannya berkisar dari perawatan selama berminggu -minggu untuk menyelesaikan keheningan:

• Deepseek tidak pernah merespons
• Google menolak untuk meninjau kode chrome infostealer karena sampel yang serupa
• Microsoft mengakui masalahnya dan menerapkan reformasi kopilot, mengakui Simonovich atas pekerjaannya
• Openai mengaku menerimanya, tetapi dia tidak lebih terlibat

Enam jam dan 250 dolar adalah harga baru untuk pemula untuk serangan negara

Lamehug APT28 Against Ukraina bukanlah peringatan; Adalah bukti bahwa pencarian Simonovic sekarang menjadi fakta operasional. Pengalaman pengalaman, yang berharap bagi banyak organisasi.

Sisiknya terang -terangan-270 Kode API yang khas digunakan untuk mengoperasikan serangan negara -negara. Platform Bawah Tanah Memberikan kemampuan yang identik untuk $ 250 per bulan. Simonovich telah membuktikan bahwa enam jam menceritakan kisah mengubah alat AI apa pun untuk lembaga tersebut menjadi program berbahaya fungsional tanpa pengkodean yang diperlukan.

AI Enterprise AI 34 % Akreditasi pada Q1 2024 hingga 115 % pada kuartal keempat 2024 per masing -masing Cato 2025 CTRL Ancaman Laporan. Setiap publikasi menciptakan dua teknologi penggunaan, karena alat produktivitas dapat menjadi senjata dengan memanipulasi percakapan. Alat keamanan saat ini tidak dapat menemukan teknik -teknik ini.

Penerbangan Simonovic dari mekanik Angkatan Udara ke teknisi Angkatan Udara Israel, ke peneliti keamanan melalui pendidikan mandiri, memberikan kepentingan yang lebih besar untuk hasilnya. Dia menipu model kecerdasan buatan dalam mengembangkan program berbahaya sementara kecerdasan buatan percaya dia menulis imajinasi. Asumsi tradisional tentang pengalaman teknis tidak lagi hadir, dan lembaga perlu menyadari bahwa mereka adalah dunia yang sama sekali baru dalam hal ancaman.

Lawan saat ini tidak membutuhkan kreativitas saja dan $ 250 per bulan untuk melakukan serangan negara -negara menggunakan alat -alat kecerdasan buatan yang telah diterbitkan untuk produktivitas. Senjata sudah ada di dalam setiap lembaga, dan hari ini disebut alat produktivitas.

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda prioritas jurnalistik internal atas apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.