Studi ini memperingatkan risiko keamanan dengan kontrol “agen sistem operasi” di komputer dan telepon

Para peneliti diterbitkan Survei paling komprehensif Sejauh ini, apa yang disebut “Agen OSSistem intelijen buatan yang dapat mengontrol secara mandiri di komputer, ponsel, dan browser web dengan berinteraksi langsung dengan fasad mereka. Tinjauan Akademik 30 Halaman Dapat Diterima untuk Publikasi di Prestisius Asosiasi Asosiasi Linguistik Rencana konferensi untuk bidang cepat canggih yang menarik miliaran dolar dari perusahaan teknologi besar.

Para peneliti menulis: “Mimpi menciptakan asisten kecerdasan buatan mampu melakukan diversifikasi seperti Jarfi fiksi Iron Man memiliki imajinasi jangka panjang,” tulis para peneliti. “Dengan perkembangan model bahasa besar (multimedia), mimpi ini lebih dekat dengan kenyataan.”

Survei, yang dipimpin oleh para peneliti dari Universitas Zhejiang Dan PUSAT OPPO AIItu datang pada saat perusahaan teknologi besar berlomba untuk menerbitkan agen kecerdasan buatan yang dapat melakukan tugas digital yang kompleks. Openai telah diluncurkan baru -baru ini.Operator“Antropor Sadr”Menggunakan komputerApple memberikan kemampuan AI yang lebih baik di “Kecerdasan Apple“Google” terungkapProyek Mariner– Semua sistem yang dirancang untuk mengotomatisasi reaksi komputer.

Raksasa teknologi terburu -buru menyebarkan kecerdasan buatan yang mengendalikan desktop Anda

Kecepatan penelitian akademik berubah menjadi produk yang siap untuk konsumen, bahkan menurut standar Silicon Valley. itu pengintaian Ledakan pencarian mengungkapkan: Lebih dari 60 model utama dan 50 kerangka kerja bisnis dikembangkan secara khusus untuk mengontrol komputer, dengan tingkat penerbitan dipercepat sejak 2023.

Ini bukan hanya kemajuan bertahap. Kami menyaksikan munculnya sistem kecerdasan buatan yang benar -benar dapat memahami dan menangani dunia digital dengan cara yang dilakukan manusia. Sistem saat ini bekerja dengan menangkap bidikan layar komputer, menggunakan visi komputer canggih untuk memahami apa yang ditampilkan, kemudian melakukan prosedur yang akurat seperti mengklik tombol, mengisi model, dan bergerak di antara aplikasi.

“Agen sistem operasi dapat secara mandiri menyelesaikan tugas dan memiliki kemampuan untuk meningkatkan kehidupan miliaran pengguna di seluruh dunia secara signifikan,” catat para peneliti. “Bayangkan sebuah dunia di mana agen -agen ini dapat tampil dengan lancar oleh agen -agen ini,” bayangkan dunia seperti belanja online, pemesanan pengaturan perjalanan, dan kegiatan sehari -hari lainnya. “

Sistem yang paling canggih dapat menangani alur kerja multi-stel-steering yang kompleks yang meluas ke berbagai aplikasi-kembali-reservasi restoran, lalu tambahkan secara otomatis ke kalender Anda, kemudian atur pengingat untuk pergi lebih awal untuk lalu lintas. Apa yang terjadi dari manusia mengklik dan menulis sekarang dapat terjadi dalam hitungan detik, tanpa intervensi manusia.

Mengapa para ahli keamanan muncul perangkat peringatan pada sistem perusahaan intelijen buatan?

Bagi para pemimpin teknologi institusi, janji keuntungan yang produktif datang dengan fakta yang realistis: sistem ini mewakili permukaan serangan yang sama sekali baru yang tidak siap dipertahankan oleh sebagian besar organisasi.

Para peneliti mencurahkan perhatian besar pada apa yang mereka diplomatik.Keselamatan dan Privasi“Ketakutan, tetapi efek dari cara paling cemas untuk menyarankan bahasa akademik mereka.” Agen sistem operasi menghadapi risiko ini, terutama mengingat aplikasi mereka yang luas pada perangkat pribadi dengan data pengguna, “tulis mereka.

Mereka membaca serangan yang mereka dokumentasikan, seperti Nightmare Cybersecurity. “Injeksi cepat yang tak terlupakan di internet“Para aktor jahat diizinkan untuk memasukkan instruksi tersembunyi di halaman web yang dapat menculik perilaku agen kecerdasan buatan. Yang lebih banyak lagi adalah“ serangan injeksi lingkungan ”di mana tampaknya agen tampaknya mencuri data pengguna atau melakukan prosedur yang tidak sah.

Pertimbangkan konsekuensinya: Agen kecerdasan buatan dapat diproses dengan akses ke perusahaan e -mail, sistem keuangan, dan basis data pelanggan melalui halaman web yang dibuat dengan cermat untuk menembus informasi sensitif. Model keselamatan tradisional, dibangun di sekitar pengguna manusia yang dapat mendeteksi upaya perburuan yang jelas, runtuh ketika sistem AI “pengguna” memperlakukan informasi secara berbeda.

Survei mengungkapkan celah dalam persiapan. Sementara kerangka kerja keamanan publik hadir untuk agen intelijen buatan, “Studi tentang pertahanan untuk faktor sistem operasi masih terbatas.” Ini bukan hanya masalah akademis – ini merupakan tantangan langsung bagi organisasi mana pun yang mempertimbangkan untuk menyebarkan sistem ini.

Ujian realitas

Terlepas dari kebisingan yang mengelilingi sistem -sistem ini, analisis pemindaian standar kinerja mengungkapkan batasan yang besar, dengan harapan akan tersebar luas.

Tingkat keberhasilan sangat bervariasi melalui berbagai tugas dan platform. Beberapa sistem komersial mencapai tingkat keberhasilan yang melebihi 50 % pada kriteria tertentu – mengesankan untuk teknologi yang muncul – tetapi mereka berjuang dengan orang lain. Para peneliti mengklasifikasikan tugas penilaian menjadi tiga jenis: “mendarat antarmuka pengguna utama” (memahami elemen fasad), “mengambil informasi” (menemukan dan mengekstraksi data), dan “agen kompleks” (operasi independen yang kompleks).

Gaya ini memberitahunya: Sistem saat ini unggul dalam tugas -tugas sederhana dan ditentukan dengan baik, tetapi mereka tersandung ketika mereka menghadapi jenis alur kerja yang kompleks berdasarkan konteks yang mendefinisikan banyak karya pengetahuan modern. Mereka dapat dengan andal mengklik tombol tertentu atau mengisi model standar, tetapi mereka berjuang dengan tugas yang membutuhkan pemikiran atau adaptasi yang konstan dengan perubahan antarmuka yang tidak terduga.

Kesenjangan kinerja ini menjelaskan mengapa operasi penerbitan awal fokus pada tugas besar dengan ukuran besar alih -alih mengotomatiskan tujuan umum. Teknologi belum siap untuk menggantikan aturan manusia dalam skenario yang kompleks, tetapi semakin mampu menangani bisnis digital rutin.

Apa yang terjadi ketika agen kecerdasan buatan belajar mengalokasikan diri untuk setiap pengguna

Tantangan yang paling menarik mungkin termasuk transformasi yang ditentukan dalam survei apa yang oleh para peneliti menyebut “alokasi dan pengembangan diri”. Tidak seperti asisten kecerdasan buatan saat ini yang tidak berurusan dengan setiap interaksi sebagai agen sistem operasi yang independen, masa depan perlu belajar dari reaksi pengguna dan beradaptasi dengan preferensi individu dari waktu ke waktu.

“Pengembangan agen pribadi OS telah menjadi tujuan panjang dalam penelitian kecerdasan buatan,” tulis para penulis. “Diharapkan bahwa asisten pribadi akan terus beradaptasi dan memberikan pengalaman yang lebih baik berdasarkan preferensi individu pengguna.”

Kemampuan ini terutama dapat mengubah cara kami berinteraksi dengan teknologi. Bayangkan agen Amnesty International yang mempelajari gaya penulisan email Anda, memahami preferensi kalender Anda, mengetahui restoran yang Anda sukai, dan dapat membuat keputusan yang semakin canggih atas nama Anda. Kemungkinan keuntungan produktivitas sangat besar, tetapi juga efek privasi.

Tantangan teknis sangat bagus. Survei menunjukkan perlunya sistem memori multimedia yang lebih baik tidak hanya berurusan dengan teks tetapi juga gambar dan suara, dan memberikan “tantangan besar” untuk teknologi saat ini. Bagaimana Anda membangun sistem yang mengingat preferensi Anda tanpa membuat catatan pemantauan yang komprehensif dalam kehidupan digital Anda?

Untuk eksekutif teknologi yang mengevaluasi sistem ini, tantangan kustomisasi ini adalah peluang terbesar dan bahaya terbesar. Organisasi yang diselesaikan terlebih dahulu akan mendapatkan keuntungan kompetitif yang besar, tetapi efek privasi dan keamanan mungkin parah jika diperlakukan dengan buruk.

Perlombaan untuk membangun asisten kecerdasan buatan yang benar -benar dapat bekerja seperti pengguna manusia meningkat dengan cepat. Sementara tantangan dasar tentang keamanan, keandalan dan alokasi tetap melanggar hukum, jalannya jelas. Para peneliti mempertahankan perkembangan yang melacak depot gudang open source, sambil mengakui bahwa “agen OS masih dalam tahap awal pengembangan” dengan “perkembangan cepat yang terus memberikan metodologi dan aplikasi baru.”

Pertanyaannya bukanlah apakah agen kecerdasan buatan akan mengubah bagaimana kita berinteraksi dengan komputer – apakah kita akan siap untuk konsekuensi saat melakukan ini. Jendela kerangka kerja keselamatan dan privasi dipersempit dengan baik dengan kecepatan teknologi.

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda prioritas jurnalistik internal atas apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.