Cisos tahu persis di mana mimpi buruk kecerdasan buatan terungkap. Ini adalah kesimpulan, tahap lemah di mana model hidup memenuhi data dunia nyata, membuat lembaga -lembaga terpapar suntikan cepat, kebocoran data, dan fraktur formulir.

Usaha databricks Dan Keamanan numa Ancaman -ancaman ini menghadapi tahap penalaran tatap muka. Dengan dukungan dari putaran baru rantai A pada nilai $ 32 juta yang dipimpin oleh proyek balistik dan modal glilot, dengan dukungan kuat dari Databricks Ventures, kemitraan ini bertujuan untuk mengatasi kesenjangan keamanan penting yang menghambat operasi penyebaran AI.

“Alasan pertama bagi lembaga untuk ragu -ragu untuk menyebarkan kecerdasan buatan secara luas adalah keselamatan,” Nev Brown, CEO Noma Security, mengatakan dalam sebuah wawancara eksklusif dengan VentureBeat. “Melalui data, kami mengintegrasikan analisis ancaman dalam waktu yang sebenarnya, melindungi lapisan inferensi canggih, dan tim AI merah secara langsung dalam alur kerja kelembagaan. Pendekatan bersama kami memungkinkan organisasi untuk mempercepat aspirasi mereka dari kecerdasan buatan dengan aman dan akhirnya bertahan,” kata Brown.

Asuransi intelijen membutuhkan analisis dalam waktu dan pertahanan aktual pada saat operasi, dan menemukan Gartner

Keamanan siber tradisional memberikan prioritas pada pertahanan periferal, meninggalkan kelemahan dalam kecerdasan buatan yang telah diabaikan secara serius. Andrew Ferguson, wakil wakil usaha Wakil Wakil Wakil -Vines, menyoroti kesenjangan keamanan yang menentukan ini dalam wawancara eksklusif dengan VentureBeat, sambil menekankan desakan pelanggan pada keamanan lapisan keamanan. Ferguson mengatakan: “Pelanggan kami dengan jelas menunjukkan bahwa mengamankan kesimpulan kecerdasan buatan dalam waktu yang sebenarnya sangat penting, dan bahwa NOMA memberikan kemampuan ini secara unik,” kata Ferguson. “Noma secara langsung memperlakukan kesenjangan keselamatan dengan pemantauan berkelanjutan dan elemen kontrol halus pada saat operasi.”

Brown memperluas kebutuhan kritis ini. “Kami telah membangun perlindungan waktu operasi kami secara khusus untuk reaksi kecerdasan buatan yang semakin kompleks,” jelas Braun. “Ancaman menganalisis pada waktu aktual dalam inferioritas termasuk bahwa lembaga mempertahankan pertahanan yang kuat pada saat operasi, yang mengurangi paparan data yang tidak sah dan menangani permusuhan.”

Analisis terbaru Gartner mengkonfirmasi bahwa permintaan lembaga pada kecerdasan buatan tingkat lanjut Administrasi Trus dan Keamanan (Trisme) Kemampuan naik. Gartner memprediksi hingga 2026 80 % Di antara insiden intelijen yang tidak sah yang tidak konsisten akan disebabkan oleh salah urus penggunaan internal daripada ancaman eksternal, yang meningkatkan urgensi tata kelola yang terintegrasi dan dalam waktu yang sebenarnya.

Kerangka kerja Gartner dari AI TRUS menjelaskan lapisan keamanan komprehensif yang diperlukan untuk secara efektif mengelola risiko AI dari yayasan. Sumber: Gartner

Tim Noma Merah Merah bertujuan untuk memastikan integritas kecerdasan buatan sejak awal

Brown mengatakan kepada VentureBeat bahwa tim tim Noma Red sangat penting dalam istilah strategis untuk menentukan kelemahan sebelum model kecerdasan buatan mencapai produksi. Dengan mensimulasikan serangan persaingan lanjutan selama uji pra -produksi, NOMA menyajikan risiko dini, yang sangat meningkatkan daya tahan perlindungan waktu operasi.

Selama wawancara dengan VentureBeat, Braun mempresentasikan nilai strategis dari tim merah aktif: “Peaming merah diperlukan. Kami secara proaktif mengungkapkan dari kelemahan sebelum produksi, dan memastikan integritas kecerdasan buatan dari hari pertama.”

(Lewis akan memimpin meja bundar di sekitar tim tim merah di VB Transform pada 24 dan 25 Juni, Catatan))

“Mengurangi waktu untuk produksi tanpa mengorbankan keamanan memerlukan rekayasa yang berlebihan. Kami merancang metode uji yang mengajarkan langsung untuk melindungi waktu operasi, dan membantu lembaga untuk bergerak dengan aman dan efisien dari pengujian ke penerbitan,” saran Braun.

Brown menempatkan lebih banyak tentang kompleksitas reaksi kecerdasan buatan modern dan kedalaman yang diperlukan dalam tindak lanjut -tim merah merah. Dia menekankan bahwa proses ini harus berkembang bersama model kecerdasan buatan yang semakin canggih, terutama yang ada di gym: “Perlindungan waktu operasi kami telah dirancang khusus untuk menangani reaksi kecerdasan buatan yang semakin kompleks.” “Setiap detektor yang kami gunakan menggabungkan beberapa lapisan keselamatan, termasuk model NLP canggih dan kemampuan gaya bahasa, memastikan keamanan komprehensif di setiap langkah kesimpulan.”

Tim Merah tidak hanya memeriksa kesehatan model, tetapi juga meningkatkan kepercayaan yayasan dalam menyebarkan sistem intelijen buatan tingkat lanjut dengan aman, dan secara langsung sesuai dengan harapan Petugas Keamanan Informasi Senior (CISO).

Bagaimana databrick dan noma mencegah ancaman untuk menyimpulkan kecerdasan buatan kritis

Pembentukan kecerdasan buatan dari ancaman yang muncul telah menjadi prioritas utama bagi CISO karena lembaga memperluas saluran pipa AI AI mereka. “Alasan pertama lembaga ragu -ragu untuk menyebarkan kecerdasan buatan dalam skala besar adalah keamanan,” Brown. Ferguson meneriakkan urgensi ini, mencatat bahwa “pelanggan kami telah dengan jelas menunjukkan asuransi kecerdasan buatan dalam waktu yang sebenarnya, dan untuk memberikan tidur yang unik tentang kebutuhan ini.”

Bersama -sama, databricks dan noma memberikan perlindungan terintegrasi dalam waktu aktual terhadap ancaman canggih, termasuk injeksi cepat, kebocoran data, dan fraktur khas, dengan kompatibilitas erat dengan standar seperti DASF 2.0 dari databrik dan OWASP untuk penilaian dan kepatuhan yang kuat.

Tabel di bawah ini merangkum ancaman inferensi dari kecerdasan buatan dan bagaimana itu mengurangi kemitraan databrik-noma:

Bagaimana Databrics Lakehouse Mendukung AI dan Tata Kelola Intelijen Keamanan

Arsitektur Lakehouse Databricks menggabungkan aturan tata kelola terstruktur untuk data tradisional dengan kemampuan untuk memperluas di danau data, analisis pusat, pembelajaran mesin, dan beban pekerjaan kecerdasan buatan dalam satu lingkungan yang diatur.

Dengan bergabung dengan tata kelola secara langsung dalam siklus hidup data, arsitektur Lakehouse membahas risiko kepatuhan dan keamanan, terutama selama waktu inferensi dan operasi. Ini sangat konsisten dengan kerangka kerja industri seperti Owasp dan Mitre Atlas.

Selama wawancara kami, Brown menyoroti penyelarasan platform dengan tuntutan organisasi yang ketat yang dilihatnya dalam kursus penjualan dan dengan pelanggan yang sudah ada. “Kami secara otomatis merencanakan alat pengendalian keselamatan kami pada kerangka kerja tindakan yang disetujui secara luas seperti OWASP dan MITER ATLAS. Hal ini memungkinkan pelanggan kami untuk mematuhi kepercayaan diri dengan peraturan kritis seperti AI’s European Union dan ISO 42001. Tata kelola tidak hanya terkait dengan mencentang kotak. Ini berkaitan dengan termasuk transparansi dan perhatian langsung dalam pekerjaan praktis.

DataBricks Lakehouse menggabungkan tata kelola dan analisis untuk mengelola beban pekerjaan kecerdasan buatan dengan aman. Sumber: Gartner

Bagaimana Databricks dan Noma berencana untuk mengamankan fondasi untuk yayasan dalam skala besar

Adopsi AI, tetapi dengan perluasan penerbitan, dipercepat, risiko keamanan, terutama dalam fase inferensi yang khas.

Kemitraan antara databricks dan keamanan NOMA membahas hal ini secara langsung dengan memberikan tata kelola yang terintegrasi dan mendeteksi ancaman aktual, dengan fokus pada mengamankan kemajuan kecerdasan buatan dari pembangunan melalui produksi.

Ferguson menjelaskan dasar logis untuk pendekatan bersama ini dengan jelas: “AI membutuhkan keamanan yang komprehensif pada setiap tahap, terutama pada saat operasi. Kemitraan kami dengan NOMA mengintegrasikan ancaman proaktif menganalisis langsung ke dalam kecerdasan buatan, yang memberikan cakupan keamanan yang mereka butuhkan untuk memperluas ruang lingkup penyebaran kecerdasan buatan dengan stabil.”

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda prioritas jurnalistik internal atas apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.