Kapal Kemanusiaan adalah Ulasan Keselamatan Otomatis untuk Kode Claud sebagai Meningkatkan Kelemahan yang Dibuat Dari Kecerdasan Buatan

pria Penembakan Pendahuluan Ulasan Keamanan Kemampuannya Ikon Claude Platform pada hari Rabu, menyediakan alat yang dapat memeriksa instruksi perangkat lunak untuk kompetisi yang lemah dan menyarankan reformasi sebagai kecerdasan buatan sangat mempercepat pengembangan perangkat lunak di seluruh industri.

itu Fitur baru Perusahaan semakin mencapai kecerdasan buatan untuk menulis kode lebih cepat dari sebelumnya, yang menimbulkan pertanyaan kritis tentang apakah praktik keamanan dapat mengimbangi AI. Solusi Antarbur menggabungkan analisis keamanan secara langsung dalam fungsi pengembang melalui sederhana Periferal Otomatis Ulasan Jaithb.

“Orang -orang menyukai kode Claude, dan mereka suka menggunakan model untuk menulis kode, dan model -model ini sudah baik dan lebih baik,” kata Logan Graham, anggota tim perbatasan merah di Antarbur yang memimpin pengembangan fitur keselamatan, dalam sebuah wawancara dengan VentureBeat. “Tampaknya sangat mungkin bahwa dalam dua tahun ke depan, kita akan pergi ke 10x, 100x, 1000x jumlah kode yang ditulis di dunia. Satu -satunya cara untuk mengimbangi ini adalah dengan menggunakan formulir yang sama untuk belajar bagaimana membuat mereka aman.”

Iklan ini hanya satu hari antropor merilis Claude Obus 4.1, versi yang dipromosikan dari model kecerdasan buatan paling kuat yang menunjukkan peningkatan besar dalam tugas pengkodean. Waktunya menekankan persaingan intensif antara perusahaan intelijen buatan, dengan Openai GPT-5 diharapkan akan diumumkan Dengan kesenangan dan tamu yang kuat Bakat memancing Dengan bonus penandatanganan senilai $ 100 juta.

Mengapa simbol kecerdasan buatan menciptakan masalah keamanan yang sangat besar

Alat keselamatan berurusan dengan meningkatnya minat pada industri perangkat lunak: karena model kecerdasan buatan menjadi lebih mampu menulis instruksi perangkat lunak, ukuran kode yang diproduksi adalah ledakan, tetapi ulasan keselamatan tradisional belum terbatas. Saat ini, tinjauan keselamatan bergantung pada insinyur manusia yang secara manual mempelajari kode untuk kesenjangan keamanan-proses yang tidak dapat mengimbangi pengarahan yang dibuat oleh kecerdasan buatan.

Pendekatan antropistik menggunakan kecerdasan buatan untuk menyelesaikan masalah yang diciptakan. Perusahaan telah mengembangkan dua alat tambahan yang mendapat manfaat dari kemampuan Claude untuk secara otomatis menentukan kerentanan, termasuk risiko injeksi SQL, titik pemrograman teks, cacat otentikasi, dan pemrosesan data yang tidak aman.

itu Alat pertama Dia /security-review Pengembang mana yang dapat lari dari stasiun mereka untuk menghapus simbol sebelum melakukan itu. “Ini secara harfiah 10 dari serangan kunci, maka itu akan mengarah pada penunjukan agen Claude untuk meninjau kode yang Anda tulis atau gudang Anda,” jelas Graham. Sistem menganalisis kode dan penilaian kerentanan keamanan yang percaya diri tinggi disebabkan oleh reformasi yang diusulkan.

itu Komponen kedua Dia Jetb Ini secara otomatis melakukan tinjauan keselamatan ketika pengembang mengirimkan permintaan penarikan. Sistem ini menerbitkan komentar yang dijamin pada kode dengan masalah keamanan dan rekomendasi, memastikan setiap perubahan simbol yang menerima tinjauan keselamatan dasar sebelum mencapai produksi.

Bagaimana antropier menguji pemindai pengaman simbolnya yang lemah

Antrop diuji setelah alat ini secara internal pada kode mereka, termasuk Ikon Claude Itu sendiri memberikan realisasi kesehatan dunia nyata dari efektivitasnya. Perusahaan berbagi contoh spesifik dari kelemahan yang ditemukan oleh sistem sebelum mencapai produksi.

Dalam satu kasus, para insinyur membangun keuntungan dari alat internal yang memulai server HTTP lokal yang hanya didedikasikan untuk komunikasi lokal. itu Jetb Kerentanan keamanan yang dapat dieksekusi ditentukan oleh implementasi jarak jauh dari kode melalui serangan DNS, yang diperbaiki sebelum kode digabungkan.

Contoh lain termasuk sistem perancang yang dirancang untuk mengelola data akreditasi internal dengan aman. Tanda tinjauan otomatis ditempatkan pada fakta bahwa agen itu rentan SSRF Pemalsuan Serangan (SSRF)Yang mengarah ke perbaikan segera.

“Kami dulu menggunakannya, dan dia benar -benar menemukan kelemahan dan cacat dan menyarankan bagaimana memperbaikinya dalam hal -hal sebelum mereka mencapai produksi untuk kami,” kata Graham. “Kami pikir, hei, ini sangat berguna sehingga kami memutuskan untuk mengeluarkannya di depan umum.”

Selain menghadapi tantangan skala yang dihadapi perusahaan besar, alat -alat ini dapat memberikan praktik keamanan canggih untuk tim pengembangan yang lebih kecil yang tidak memiliki personel keamanan yang berdedikasi.

“Salah satu hal yang membuat saya lebih antusias adalah bahwa ini berarti bahwa tinjauan keamanan dapat dengan mudah demokratis bahkan dengan tim terkecil, dan tim -tim kecil ini dapat membayar banyak kode yang akan memiliki lebih banyak keyakinan,” kata Graham.

Sistem ini dirancang untuk segera tersedia. Menurut Graham, pengembang dapat mulai menggunakan fitur Safety Review dalam beberapa detik dari versi, yang membutuhkan peluncuran sekitar 15 kunci. Alat -alat tersebut diintegrasikan dengan lancar dengan alur kerja saat ini, dan pemrosesan kode pemrosesan secara lokal melalui antarmuka pemrograman aplikasi Claude yang sama yang mengoperasikan fitur ikon clade lainnya.

Di dalam struktur kecerdasan buatan yang menghapus jutaan baris kode

Sistem tinjauan keselamatan bekerja dengan memanggil Claud melalui “loop agen” yang secara sistematis menganalisis kode. Menurut antropolog, Ikon Claude Panggilan alat digunakan untuk mengeksplorasi aturan simbol besar, dimulai dengan memahami perubahan yang dilakukan dalam meminta penarikan dan kemudian mengeksplorasi basis kode yang lebih luas dengan cara proaktif untuk memahami konteks, menstabilkan keamanan, dan risiko potensial.

Pelanggan institusional dapat mengalokasikan aturan keselamatan agar sesuai dengan kebijakan spesifik mereka. Sistem ini dibangun pada kode ekstensi Clauds, memungkinkan tim untuk menyesuaikan klaim keselamatan saat ini atau membuat pesanan penghapusan yang sama sekali baru melalui dokumen diskon sederhana.

“Anda dapat melihat pesanan Slash, karena perintah Slash sering dinyalakan, pada kenyataannya, hanya Claude.md Doc,” jelas. “Sangat mudah bagimu untuk menulis sendiri juga.”

$ 100 juta perang bakat untuk membentuk kembali pengembangan keamanan kecerdasan buatan

Deklarasi keamanan datang di tengah akun industri luas tentang integritas kecerdasan buatan dan penerbitan yang bertanggung jawab. Penelitian modern dari manusia telah mengeksplorasi teknik untuk mencegah model kecerdasan buatan dari mengembangkan perilaku berbahaya, termasuk pendekatan “vaksinasi” kontroversial yang menampilkan model untuk fitur yang tidak diinginkan selama pelatihan untuk membangun fleksibilitas.

Waktunya juga mencerminkan kompetisi yang intens di bidang kecerdasan buatan. Antarbur telah dirilis Tutup kerja 4.1 Pada hari Selasa, dengan perusahaan yang menuntut peningkatan signifikan dalam tugas rekayasa perangkat lunak-lebih dari 74,5 % pada SWE, dibandingkan dengan 72,5 % dari model Claude Obus sebelumnya.

Sementara itu, Meta sangat dipekerjakan dengan bakat kecerdasan buatan dengan bonus penandatanganan besar, meskipun CEO antropolog Dario Amodei baru -baru ini menyatakan ini. Banyak karyawannya menolak tawaran ini. Perusahaan tetap 80 % tingkat retensi karyawan Ini telah dipekerjakan selama dua tahun terakhir, dibandingkan dengan 67 % di Openai dan 64 % dalam meta.

Lembaga pemerintah sekarang dapat membeli Claude karena akreditasi AI dipercepat

Fitur keselamatan adalah bagian dari propulsi antropologi yang lebih luas di pasar pasar. Selama bulan lalu, perusahaan telah mengirimkan beberapa fitur yang berfokus pada institusi untuk kode clade, termasuk papan informasi analisis untuk pejabat, dukungan windows asli dan dukungan multi -religiositas.

Pemerintah Amerika Serikat juga mendukung data akreditasi lembaga, menambahkan perusahaan ke departemen layanan publik Daftar Penjual Terakreditasi Selain Openai dan Google, yang membuat Claude tersedia untuk pembelian agen federal.

Graham mengkonfirmasi bahwa alat pengaman dirancang untuk menyelesaikan praktik keamanan saat ini, bukan menggantinya. “Tidak ada yang akan menyelesaikan masalah. Ini hanya satu alat tambahan,” katanya. Namun, ia telah menyatakan keyakinan bahwa alat keselamatan akting akan memainkan peran yang semakin sentral seperti yang dihasilkan kode.

Perlombaan untuk mengamankan program yang dibuat dari kecerdasan buatan sebelum melanggar internet

Karena Amnesty International adalah perangkat lunak yang dikembangkan kembali pada kecepatan yang belum pernah terjadi sebelumnya, inisiatif keamanan manusia adalah pengakuan penting bahwa teknologi yang sama yang mengarah pada pertumbuhan eksplosif dalam generasi kode harus dimanfaatkan untuk menjaga simbol ini dengan aman. Tim Graham, yang disebut Tim Merah Frontier, berfokus pada potensi risiko kemampuan kecerdasan buatan canggih dan membangun pertahanan yang sesuai.

“Kami selalu sangat berkomitmen untuk mengukur kemampuan keamanan siber dari model, dan saya pikir sudah waktunya pertahanan semakin di dunia,” kata Graham. Perusahaan khususnya mendorong keamanan siber dan peneliti independen untuk mengalami aplikasi teknologi kreatif, dengan tujuan ambisi untuk menggunakan kecerdasan buatan “meninjau, memperbaiki atau membuat semua program paling penting yang mengoperasikan infrastruktur di dunia.”

Fitur keamanan segera tersedia untuk semua orang Ikon Claude Pengguna, dengan komposisi satu -waktu membutuhkan satu kali oleh tim pengembangan. Tetapi pertanyaan terbesar yang menjulang di cakrawala di industri tetap ada: dapatkah pertahanan yang tidak aktif menjadi cukup melebar untuk mencocokkan pertumbuhan SI dalam kelemahan yang dihasilkan oleh kecerdasan buatan?

Saat ini, setidaknya, mesin berlomba untuk memperbaiki mesin lain yang dapat Anda hancurkan.