Peneliti keamanan mengeluarkan rahasia Gmail. Seorang agen chatgpt membantu

Peneliti keamanan menggunakan chatgpt sebagai co-konspirator untuk menjarah data rahasia dari kotak input Gmail tanpa memperingatkan pengguna. Kerentanan yang dieksploitasi telah ditutup oleh Openai, tetapi ini adalah contoh yang baik dari risiko baru yang melekat pada agen.

Perampokan, disebut kebocoran bayangan Dan Diterbitkan oleh Perusahaan Keamanan Radware minggu iniTerkendali dalam kekhasan dalam cara agen AI bekerja. Agen AI adalah asisten yang dapat bertindak atas nama mereka tanpa pengawasan terus -menerus, yang berarti mereka dapat menelusuri web dan mengklik tautan. Perusahaan IA memuji mereka sebagai tim besar -untuk digunakan setelah pengguna mengesahkan akses mereka dan email pribadi, kalender, dokumen kerja, dll.

Peneliti Radware mengeksplorasi utilitas ini dengan bentuk serangan yang disebut injeksi langsung, instruksi yang secara efektif mengarahkan agen untuk bekerja untuk penyerang. Alat yang kuat tidak mungkin dicegah tanpa pengetahuan sebelumnya tentang eksplorasi kerja dan peretas telah menerapkannya dengan cara kreatif, termasuk Rigging dengan pasangan ulasanSeperti ini, menjalankan penipuandan mengendalikan rumah pintar. Pengguna sering tidak tahu bahwa ada yang salah, karena instruksi dapat disembunyikan di depan mata (untuk manusia), misalnya, sebagai teks kosong di latar belakang putih.

Agen ganda dalam kasus ini adalah penelitian mendalam tentang OpenAI, alat AI yang dimasukkan ke dalam chatgpt yang diluncurkan awal tahun ini. Peneliti Radware menanam injeksi langsung dalam email yang dikirim ke kotak entri Gmail yang diakses oleh agen. Di sana dia menunggu.

Ketika pengguna mencoba menggunakan penelitian yang mendalam, ia tanpa sadar menumbuhkan perangkap. Agen akan menemukan instruksi tersembunyi, yang bertugas mencari email SDM dan detail pribadi dan menyelundupkannya untuk peretas. Korban tidak lagi bijaksana.

Membuat agen tidak jujur ​​- selain menjadi data yang berhasil tanpa terdeteksi, perusahaan mana yang dapat mengambil tindakan untuk dihindari – itu bukan tugas yang mudah dan ada banyak upaya dan kesalahan. “Proses ini adalah roller coaster dari upaya yang gagal, hambatan yang membuat frustrasi dan akhirnya terobosan,” kata para peneliti.

Tidak seperti kebanyakan suntikan yang cepat, para peneliti mengatakan kebocoran bayangan dieksekusi di infrastruktur cloud Openai dan bocor data langsung dari sana. Ini membuatnya tidak terlihat oleh pertahanan cyber standar, mereka menulis.

Radware mengatakan penelitian ini merupakan bukti konsep dan memperingatkan bahwa aplikasi lain yang terhubung dengan pandangan yang mendalam-incumbent, GitHub, Google Drive, dan Dropbox dapat rentan terhadap serangan serupa. “Teknik yang sama dapat diterapkan pada konektor tambahan ini untuk mengeluarkan data perdagangan yang sangat sensitif, seperti kontrak, catatan atau catatan pelanggan,” kata mereka.

Openai sekarang telah menghubungkan kerentanan yang ditandai oleh Radware pada bulan Juni, kata para peneliti.