Kasus bergabung dengan jalur sistem kecerdasan buatan sebelum penskalaan

Catatan Editor: Emilia akan memimpin tabel pengeditan putaran pada topik ini di VB Transform bulan ini. Catatan.

Arak Arak melayani Layanan Kecerdasan Buatan Berbagai fungsi lembaga. Mereka tidak hanya menentukan bagaimana aplikasi atau agen mengalir bersama, tetapi mereka juga harus mengizinkan pejabat untuk mengelola alur kerja dan agen dan meninjau sistem mereka.

Dengan institusi yang mulai memperluas ruang lingkup dinas kecerdasan buatan dan menempatkannya dalam produksi, penciptaan pipa yang dapat dilacak, dilacak dan persis kuat seperti yang diasumsikan. Tanpa kontrol ini, organisasi mungkin tidak menyadari apa yang terjadi dalam sistem kecerdasan buatan dan masalahnya dapat ditemukan setelah terlambat, ketika sesuatu yang salah atau gagal mematuhi peraturan.

Kevin Kelly, presiden perusahaan koordinasi yayasan SiaranTell VentureBeat dalam sebuah wawancara bahwa kerangka kerja harus mencakup pemeriksaan dan pelacakan.

Kelly berkata: “Sangat penting bagi Anda untuk memiliki catatan ini dan dapat kembali ke catatan audit dan menunjukkan informasi yang diberikan pada titik mana pun lagi,” kata Kelly. “Anda harus tahu apakah dia adalah aktor yang buruk, atau karyawan internal yang tidak menyadari bahwa mereka berbagi informasi atau apakah dia halusinasi. Anda membutuhkan catatan tentang itu.”

Idealnya, jalur daya tahan dan ulasan dalam sistem kecerdasan buatan harus pada tahap yang sangat awal. Memahami risiko potensial dari aplikasi atau agen baru kecerdasan buatan dan memastikan bahwa kinerja standar sebelum penerbitan akan membantu mengurangi kekhawatiran tentang situasi kecerdasan buatan dalam produksi.

Namun, organisasi pada awalnya tidak merancang sistem mereka dengan mempertimbangkan pelacakan dan ulasan. Beberapa program eksperimental dimulai dengan kecerdasan buatan, karena eksperimen dimulai tanpa kelas kebetulan atau jalur audit.

Lembaga adalah pertanyaan besar yang mereka hadapi sekarang bagaimana mengelola semua agen dan aplikasi, dan memastikan bahwa pipa mereka kuat, dan jika terjadi sesuatu yang salah, mereka tahu kesalahan yang terjadi dan memantau kinerja kecerdasan buatan.

Pilih cara yang benar

Sebelum membangun aplikasi Amnesty International, para ahli mengatakan bahwa organisasi perlu mengevaluasi data mereka. Jika perusahaan mengetahui data yang baik dengan sistem kecerdasan buatan untuk mengakses data yang telah mereka aktifkan, maka mereka memiliki dasar ini untuk membandingkan kinerja jangka panjang.

“Ketika Anda menjalankan beberapa sistem kecerdasan buatan ini, ini lebih tentang, data jenis apa yang dapat Anda periksa bahwa sistem saya sudah berfungsi dengan baik atau tidak?” Yrieix Garnier, Wakil Presiden Produk di DatadogTell VentureBeat dalam sebuah wawancara. “Sebenarnya sangat sulit untuk melakukan ini, untuk memahami bahwa saya memiliki sistem referensi yang cocok untuk memeriksa solusi kecerdasan buatan.”

Setelah institusi ditentukan dan datanya ditempatkan, ia perlu membuat versi data data – karena timeline atau nomor versi terutama ditetapkan – untuk melakukan pengulangan dan memahami pengalaman dan memahami apa yang diubah model tersebut. Koleksi data dan model ini dapat diunduh, yaitu aplikasi yang menggunakan model atau agen spesifik ini, pengguna terakreditasi dan nomor waktu operasi dasar pada platform atau pengamatan sinkronisasi.

Sama seperti memilih dasar untuk konstruksi dengan tim koordinasi, Anda perlu melihat transparansi dan keterbukaan. Sementara beberapa sistem sinkronisasi tertutup sumber memiliki banyak keunggulan, lebih banyak platform sumber juga dapat memberikan manfaat yang diperkirakan oleh beberapa lembaga, seperti meningkatkan kejelasan dalam sistem pengambilan keputusan.

Platform open source seperti MlflowDan LINJSHEN Dan mengikis Memberikan agen dan model dengan instruksi dan pemantauan butiran dan fleksibilitas. Lembaga dapat memilih untuk mengembangkan pipa kecerdasan buatan melalui satu platform atau tip, seperti datadog, atau memanfaatkan berbagai alat yang saling berhubungan AWS.

Pertimbangan lain dari institusi adalah menghubungkan sistem yang merencanakan agen dan respons aplikasi ke alat kepatuhan atau kebijakan AI yang bertanggung jawab. AWS dan Microsoft Ini menyediakan kedua layanan yang mengikuti alat kecerdasan buatan, tingkat kepatuhan terhadap pegangan tangan dan kebijakan lain yang telah ditetapkan oleh pengguna.

Kelly mengatakan bahwa salah satu korespondensi lembaga ketika membangun jaringan pipa yang andal ini adalah tentang memilih sistem yang lebih transparan. Bagi Kelly, tidak ada visi dalam cara kerja sistem kecerdasan buatan.

“Terlepas dari apa keadaan penggunaan atau bahkan industri, Anda akan memiliki situasi yang harus Anda nikmati fleksibilitas, dan sistem tertutup tidak akan berhasil. Ada penyedia layanan besar yang memiliki alat yang hebat, tetapi mereka adalah semacam kotak hitam.

Bergabunglah dengan percakapan di VB Transfer

Saya akan mengarahkan artikel editorial VB mengonversi 2025 Di San Francisco, dari 24 hingga 25 Juni, ini disebut “Praktik Terbaik untuk Membangun Kerangka Koordinasi untuk Agen AI”, dan saya ingin bergabung dengan percakapan. Catatan.