Antropolog Claude untuk Chrome dalam beta terbatas, tetapi serangan injeksi langsung masih menjadi perhatian utama

pria Tes dimulai Ekstensi Browser Chrome Hal ini memungkinkan Claude AI untuk mengontrol browser web pengguna, yang mewakili masuknya perusahaan ke halaman yang semakin ramai dan mungkin berisiko di mana sistem kecerdasan buatan dapat berurusan langsung dengan fasad komputer.

Perusahaan Intelijen Impor San Francisco mengumumkan pada hari Selasa bahwa itu akan berlangsung.Claude Chrome“Dengan kehadiran 1000 pengguna yang dapat diandalkan dalam rencana maksimal, mode status telah dikembangkan sebagai inspeksi penelitian yang dirancang untuk mengatasi kelemahan keamanan yang penting sebelum publikasi yang lebih luas. Pendekatan yang hati -hati bertentangan dengan gerakan yang lebih agresif oleh para pesaing oleh para pesaing Openai Dan MicrosoftYang telah merilis sistem kecerdasan buatan serupa yang mengontrol komputer ke basis pengguna yang lebih luas.

Pengumuman ini mengkonfirmasi transformasi cepat industri kecerdasan buatan dari mengembangkan kelompok obrolan yang hanya menanggapi pertanyaan terhadap penciptaan sistem “agen” yang mampu menyelesaikan tugas yang kompleks dan multi -step secara mandiri melalui aplikasi perangkat lunak. Perkembangan ini mewakili apa yang oleh banyak ahli mempertimbangkan batasan berikut dalam kecerdasan buatan – dan mungkin salah satu yang paling menguntungkan, karena perusahaan berlomba untuk mengotomatisasi segala sesuatu mulai dari laporan pengeluaran hingga perencanaan liburan.

Bagaimana para ilmuwan kecerdasan buatan bisa mengendalikan browser Anda, tetapi kode berbahaya tersembunyi menimbulkan ancaman keamanan yang serius

Claude Chrome Pengguna, di bawah bimbingan kecerdasan buatan, diizinkan untuk melakukan prosedur atas nama mereka di dalam browser web, seperti pertemuan penjadwalan dengan memverifikasi kalender dan ketersediaan restoran referensi, atau mengelola dana e -mail dan menangani tugas administratif rutin. Sistem ini dapat melihat apa yang ditampilkan di layar, klik tombol, mengisi model, dan bergerak di antara situs web-wane mensimulasikan bagaimana manusia berinteraksi dengan program berbasis web.

“Kami melihat penggunaan AI sebagai masalah yang tak terhindarkan: banyak pekerjaan terjadi di browser sehingga Claude memberikan kemampuan untuk melihat apa yang Anda lihat, dan tombol klik, dan akan membuat model pengemasan jauh lebih berguna,” kata Antarbur dalam pengumumannya.

Namun, uji internal perusahaan telah terungkap sehubungan dengan kelemahan keamanan yang menyoroti dua bagian dasar dari memberikan sistem intelijen buatan kontrol langsung fasad pengguna. Dalam permusuhan, Anthropor menemukan bahwa aktor jahat dapat menjamin instruksi tersembunyi di situs web, email atau dokumen untuk menipu sistem kecerdasan buatan dalam langkah -langkah berbahaya tanpa mengetahui pengguna – sebuah teknologi yang disebut injeksi cepat.

Tanpa pengurangan keselamatan, serangan -serangan ini berhasil pada 23,6 % dari waktu ketika Amnesty International sengaja menargetkan browser. Dalam satu contoh, minta email berbahaya di mana bimbingan Claude untuk menghapus email pengguna “untuk kebersihan kotak surat”, yang AI diimplementasikan tanpa konfirmasi.

“Ini bukan spekulasi: kami telah mengoperasikan pengalaman” merah “untuk menguji Claude untuk Chrome, dan tanpa mengurangi, kami menemukan beberapa hasil terkait.

Rush Openai dan Microsoft Rush untuk Pemasaran sementara Antarbur mengambil pendekatan yang terukur untuk teknologi kontrol komputer

Pendekatan kulit kepala berasal dari Antarbur, karena para pesaing bergerak lebih kuat ke ruang kontrol komputer. Openai meluncurkan agen “operator” Pada bulan Januari, yang membuatnya tersedia untuk semua pengguna ChatGPT Pro $ 200 per bulan. Didukung oleh model baru “penggunaan komputer menggunakan”, operator dapat melakukan tugas -tugas seperti memesan tiket konser, pesanan bahan makanan, dan perencanaan jalur perjalanan.

Microsoft diikuti pada bulan April dengan kemungkinan menggunakan komputer yang dibangun Platform Studio CopilotMenargetkan pelanggan institusional menggunakan alat otomasi antarmuka pengguna yang dapat berinteraksi dengan aplikasi web dan program desktop. Perusahaan telah menjadikan tampilannya sebagai alternatif untuk generasi berikutnya dari Sistem Otomasi Otomasi Tradisional (RPA).

Dinamika kompetitif mencerminkan ketegangan yang lebih luas dalam industri intelijen industri, karena perusahaan harus menyeimbangkan tekanan untuk menagih kemampuan lanjutan terhadap risiko penyebaran teknologi yang telah diuji secara memadai. Jadwal Openai yang paling agresif memungkinkan bagiannya di pasar awal, sedangkan pendekatan hotropik hati -hati dapat membatasi posisi kompetitifnya tetapi mungkin berguna jika masalah keamanan tercapai.

Antropor menunjukkan bahwa “faktor -faktor penggunaan browser didukung oleh model perbatasan sudah muncul, yang membuat pekerjaan ini khususnya”, yang menunjukkan bahwa perusahaan merasa bahwa mereka wajib memasuki pasar meskipun masalah keamanan yang belum diselesaikan.

Mengapa Anda dapat mengontrol komputer intelijen komputer untuk mengotomatisasi lembaga dan mengganti program alur kerja yang mahal

Munculnya sistem kecerdasan buatan yang terutama mengontrol komputer dapat memperbaiki otomatisasi dan manajemen alur kerja. Otomatisasi lembaga saat ini biasanya memerlukan program komplementaritas atau otomatisasi otomatisasi yang mahal yang runtuh ketika aplikasi mengubah antarmuka mereka.

Agen Penggunaan Komputer dalam sifat otomatisasi yang demokratis dengan bekerja dengan program apa pun yang memiliki antarmuka pengguna grafis, yang dapat menyebabkan otomatisasi tugas melalui ekosistem aplikasi bisnis yang meluas yang tidak memiliki aplikasi resmi atau kemampuan integrasi.

Peneliti Salesforce baru-baru ini menunjukkan kemampuan ini dengan sistem CoACT-1 mereka, yang menggabungkan otomatisasi klik tradisional dengan kemungkinan menghasilkan kode. Pendekatan campuran telah mencapai tingkat keberhasilan 60,76 % pada tugas komputer yang kompleks sambil meminta langkah yang jauh lebih rendah daripada faktor -faktor berdasarkan antarmuka pengguna grafis, menunjukkan bahwa keuntungan efisiensi yang besar dimungkinkan.

“Untuk para pemimpin lembaga, kuncinya terletak pada mengotomatisasi operasi multi -roofing yang kompleks sebagai akses penuh ke API Programming Interface (API) adalah sebuah kemewahan, bukan jaminan,” jelas oleh RAN Show, direktur penelitian intelijen buatan terapan untuk penggunaan utama.

Peneliti universitas meluncurkan alternatif gratis untuk sistem kecerdasan buatan untuk menggunakan komputer teknologi besar

Dominasi sistem properti dari perusahaan teknologi besar mendorong para peneliti akademik untuk mengembangkan alternatif terbuka. Universitas Hong Kong baru -baru ini merilis Opencua, bingkai sumber terbuka untuk pelatihan agen penggunaan komputer yang bersaing untuk kinerja model Royal Opnai.

Opencua, yang telah dilatih pada lebih dari 22.600, telah mencapai misi manusia melalui Windows, MacOS dan Ubuntu, hasil yang lebih baru antara model open source dan kinerja kompetitif dengan sistem komersial terkemuka. Pengembangan ini dapat mempercepat adopsi perusahaan yang enggan mengandalkan sistem tertutup untuk fungsi otomatisasi kritis.

Tes Keselamatan Antarbur mengungkapkan bahwa agen kecerdasan buatan dapat ditipu dalam menghapus file dan mencuri data

Antarbur melakukan beberapa lapisan perlindungan Claude ChromeTermasuk izin situs yang memungkinkan pengguna untuk mengontrol situs web yang dapat dicapai oleh kecerdasan buatan, jaminan wajib sebelum prosedur risiko yang parah seperti pembelian atau berbagi data pribadi, dan melarang akses ke kategori seperti layanan keuangan dan konten dewasa.

Peningkatan keselamatan perusahaan telah mengurangi tingkat keberhasilan serangan injeksi instan dari 23,6 % menjadi 11,2 % dalam mode independen, meskipun CEO mengakui bahwa ini masih belum cukup untuk dipublikasikan dalam skala besar. Pada serangan browser yang melibatkan bidang bentuk dan URL tersembunyi, pengurangan baru telah mengurangi tingkat keberhasilan dari 35,7 % menjadi nol.

Namun, perlindungan ini mungkin tidak berkembang ke kompleksitas lengkap dari lingkungan web dunia nyata, karena tanker serangan baru terus muncul. Perusahaan berencana untuk menggunakan visi program eksperimental untuk meningkatkan sistem keselamatannya dan mengembangkan kontrol yang lebih maju.

“Bentuk -bentuk baru serangan injeksi langsung terus -menerus dikembangkan oleh para aktor yang berbahaya,” Antarbur memperingatkan, menyoroti sifat terus menerus dari tantangan keamanan.

Faktor Kecerdasan Buatan Dapat Diklik ulang terutama bagaimana orang berinteraksi dengan komputer

Beberapa pemulihan utama AI di sekitar agen kontrol komputer menunjukkan perubahan besar dalam bagaimana sistem kecerdasan buatan berinteraksi dengan infrastruktur program saat ini. Alih -alih meminta perusahaan untuk mengadopsi alat kecerdasan buatan baru, sistem ini bekerja dengan aplikasi apa pun yang sudah digunakan perusahaan.

Pendekatan ini dapat secara signifikan mengurangi hambatan yang mencegah adopsi kecerdasan buatan dengan perpindahan penjual otomasi tradisional dan integrasi sistem. Perusahaan yang telah berinvestasi secara luas dalam operasi integrasi khusus atau platform RPA dapat menemukan pendekatan mereka yang dilampaui oleh agen kecerdasan buatan untuk tujuan umum yang dapat beradaptasi dengan perubahan antarmuka tanpa pemrograman ulang.

Untuk pembuat keputusan institusional, teknologi memberikan peluang dan risiko. Perangkap pertama dapat memperoleh keunggulan kompetitif yang besar melalui kemampuan otomatisasi yang lebih baik, tetapi kelemahan keamanan yang ditunjukkan oleh perusahaan seperti antropor menunjukkan bahwa kehati -hatian dapat dibenarkan sampai langkah -langkah keamanan matang.

Pilot terbatas dari Claude Chrome Hanya awal dari apa yang diharapkan oleh pengamat industri sebagai perluasan cepat dari kemungkinan kecerdasan buatan untuk mengendalikan komputer melalui kancah teknologi, dengan dampak yang melampaui otomatisasi tugas sederhana untuk pertanyaan -pertanyaan dasar tentang interaksi kekakuan manusia dan keamanan digital.

Anthropor juga memperhatikan dalam pengumumannya: “Kami percaya bahwa perkembangan ini akan membuka kemungkinan baru untuk bagaimana Anda bekerja dengan Claude, dan kami berharap dapat melihat apa yang akan Anda ciptakan.” Apakah kemungkinan -kemungkinan ini pada akhirnya terbukti bermanfaat atau masalah yang mungkin tergantung pada keberhasilan industri dengan tantangan keamanan yang sudah mulai muncul.