Berita
Agen kecerdasan buatan menghantam dinding tanggung jawab. Mixus memiliki rencana untuk mengatasinya menggunakan pengawas manusia tentang kemajuan tindakan yang berisiko
Bergabunglah dengan acara bahwa para pemimpin lembaga telah dipercaya selama hampir dua dekade. VB Transform menggabungkan orang yang membangun strategi AI untuk institusi nyata. Pelajari lebih lanjut
Sementara institusi menghadapi tantangan penerbitan agen kecerdasan buatan dalam aplikasi kritis, model baru yang lebih realistis muncul yang mengembalikan kontrol manusia sebagai jaminan strategis terhadap kegagalan kecerdasan buatan.
Salah satu contoh MixusSebuah platform yang menggunakan platform “kolega episode” untuk membuat agen kecerdasan buatan dipercaya untuk bekerja penting.
Pendekatan ini merupakan respons terhadap meningkatnya bukti bahwa faktor independen lengkap adalah perjudian risiko tinggi.
Tingginya biaya kecerdasan buatan belum diverifikasi
masalah Hallus Amnesty International Ini telah menjadi bahaya nyata ketika perusahaan mengeksplorasi aplikasi kecerdasan buatan. Dalam sebuah insiden baru -baru ini, editor simbol -in -law, yang karya -karya kecerdasan buatan, menyaksikan robot dukungannya Membuat Kebijakan Palsu Membatasi langganan, yang meningkatkan gelombang pembatalan pelanggan publik.
Demikian juga, Fintech Klarna terkenal Jalur terbalik Ketika agen layanan pelanggan digantikan oleh kecerdasan buatan setelah mengenali langkah ini, itu menyebabkan penurunan kualitas. Dalam kasus yang lebih mengkhawatirkan, pengusaha bisnis yang disarankan di New York City Kejahatan dalam Praktik IlegalMenyoroti risiko kepatuhan bencana dengan faktor -faktor yang tidak produktif.
Kecelakaan ini adalah gejala kesenjangan kapasitas yang lebih besar. Menurut Mei 2025 Salesforce Kertas pencarianSaat ini, agen -agen terkemuka hanya berhasil 58 % dari waktu dalam satu tugas dan hanya 35 % dari waktu pada beberapa langkah itu, dengan sorotan “celah besar antara kemampuan LLM saat ini dan tuntutan multi -faceted untuk skenario lembaga di dunia nyata.”
Bentuk kolega dalam episode
Untuk mengisi kesenjangan ini, pendekatan baru berfokus pada kontrol manusia yang terorganisir. “Agen Amnesty International ke arah Anda dan karenanya,” Elliot Katz, co -founder Mixus, mengatakan kepada VentureBeat. “Tetapi tanpa pengawasan organisasi yang terintegrasi, itu sering kali sepenuhnya menciptakan faktor yang lebih independen daripada mereka.”
Filosofi ini mendukung model Mixus Fellow dalam episode ini, yang menjamin verifikasi manusia secara langsung dalam alur kerja. Misalnya, penjual ritel besar dapat menerima laporan mingguan dari ribuan toko yang berisi data operasi penting (misalnya, ukuran penjualan, jam kerja, tarif produktivitas, permintaan kompensasi dari kantor pusat). Analis manusia harus menghabiskan berjam -jam meninjau data secara manual dan membuat keputusan berdasarkan penalaran. Dengan Mixus, agen kecerdasan buatan mengotomatiskan pengangkatan berat, menganalisis pola kompleks dan anomali seperti permintaan gaji yang luar biasa tinggi atau nilai produktif.
Adapun keputusan berisiko tinggi seperti pernyataan pembayaran atau pelanggaran politik-alur kerja yang ditentukan oleh pengguna manusia sebagai “berisiko tinggi”-agen berhenti dan membutuhkan persetujuan manusia sebelum tindak lanjut. Divisi persalinan dikombinasikan antara kecerdasan buatan dan manusia dalam proses menciptakan agen.
“Pendekatan ini berarti bahwa manusia hanya terlibat ketika pengalaman mereka sudah menambahkan nilai-biasanya mengalir 5-10 % dari keputusan yang mungkin memiliki efek utama-sementara 90-95 % dari tugas rutin mengalir secara otomatis,” kata Katz. “Anda mendapatkan kecepatan otomatisasi penuh dari operasi standar, tetapi pengawasan manusia secara khusus berjalan ketika konteks, penilaian dan akuntabilitas lebih penting.”
Dalam pertunjukan eksperimental yang ditunjukkan oleh tim Mixus di VentureBeat, penciptaan agen operasi intuitif yang dapat dilakukan dengan instruksi teks biasa. Untuk membangun faktor -faktor -faktor pemeriksaan untuk koresponden, misalnya, co -founder Shai Magzimof menggambarkan proses multi -step dalam bahasa alami dan mengarahkan platform untuk memasukkan langkah -langkah verifikasi manusia dengan ambang batas tertentu, seperti ketika klaim sangat berbahaya dan dapat menyebabkan kerusakan yang terkenal atau konsekuensi hukum.
Salah satu kekuatan dasar dari platform ini adalah integrasi dengan alat -alat seperti Google Drive, E -mail dan stagnasi, yang memungkinkan pengguna lembaga untuk memasukkan sumber data mereka ke dalam tugas alur kerja dan berinteraksi dengan agen langsung dari platform komunikasi mereka, tanpa perlu beralih konteks atau mempelajari antarmuka baru (misalnya, penentu fakta bahwa pelanggan yang menentukan fakta.
Kemampuan integrasi undang -undang diperluas untuk lebih memenuhi kebutuhan lembaga tertentu. Mixus mendukung MCP Context Protocol (MCP), yang memungkinkan perusahaan untuk menghubungkan agen ke alat kustom dan antarmuka pemrograman aplikasi, dan menghindari kebutuhan untuk kembali merayap roda untuk sistem interior saat ini. Selain integrasi program lembaga lain seperti JIRA dan Salesforce, ini memungkinkan agen untuk melakukan tugas -tugas kompleks dan melalui platform, seperti memeriksa tiket rekayasa terbuka dan melaporkan situasi kepada manajer di Slack.
Pengawasan manusia sebagai ganda strategis
Area AI saat ini tunduk pada verifikasi realitas karena perusahaan beralih dari eksperimen ke produksi. Konsensus di antara banyak pemimpin industri adalah bahwa manusia dalam episode ini adalah kebutuhan praktis bagi agen untuk melakukan yang dapat diandalkan.
Model koperasi Mixus mengubah ekonomi penskalaan kecerdasan buatan. Mixus memperkirakan bahwa pada tahun 2030, agen dapat menumbuhkan 1000x dan semua pengawas manusia akan menjadi 50x lebih efisien dengan faktor kecerdasan buatan menjadi lebih dapat diandalkan. Tetapi kebutuhan penuh untuk kontrol manusia akan terus tumbuh.
“Semua pengawas manusia berjalan lebih dari kecerdasan buatan dari waktu ke waktu, tetapi Anda masih membutuhkan lebih banyak pengawasan secara keseluruhan dengan ledakan penyebaran kecerdasan buatan melalui organisasi Anda,” kata Katz.
Bagi para pemimpin lembaga, ini berarti bahwa keterampilan manusia akan berkembang daripada menghilang. Alih -alih menggantinya dengan AI, para ahli akan ditingkatkan ke peran di mana mereka mengatur armada agen intelijen buatan dan menangani keputusan berisiko tinggi yang telah ditandai untuk ditinjau.
Dalam konteks ini, membangun fungsi pengawasan manusia yang kuat menjadi keunggulan kompetitif, memungkinkan perusahaan untuk menyebarkan kecerdasan buatan dengan aman dan aman daripada pesaing mereka.
“Perusahaan yang menguasai perkalian ini akan mendominasi industri mereka, sementara mereka yang mengejar otomatisasi penuh akan menderita keandalan, kepatuhan dan kepercayaan diri,” kata Katz.
Tautan sumber