Sementara institusi menghadapi tantangan penerbitan agen kecerdasan buatan dalam aplikasi kritis, model baru yang lebih realistis muncul yang mengembalikan kontrol manusia sebagai jaminan strategis terhadap kegagalan kecerdasan buatan.

Salah satu contoh MixusSebuah platform yang menggunakan platform “kolega episode” untuk membuat agen kecerdasan buatan dipercaya untuk bekerja penting.

Pendekatan ini merupakan respons terhadap meningkatnya bukti bahwa faktor independen lengkap adalah perjudian risiko tinggi.

Tingginya biaya kecerdasan buatan belum diverifikasi

masalah Hallus Amnesty International Ini telah menjadi bahaya nyata ketika perusahaan mengeksplorasi aplikasi kecerdasan buatan. Dalam sebuah insiden baru -baru ini, editor simbol -in -law, yang karya -karya kecerdasan buatan, menyaksikan robot dukungannya Membuat Kebijakan Palsu Membatasi langganan, yang meningkatkan gelombang pembatalan pelanggan publik.

Demikian juga, Fintech Klarna terkenal Jalur terbalik Ketika agen layanan pelanggan digantikan oleh kecerdasan buatan setelah mengenali langkah ini, itu menyebabkan penurunan kualitas. Dalam kasus yang lebih mengkhawatirkan, pengusaha bisnis yang disarankan di New York City Kejahatan dalam Praktik IlegalMenyoroti risiko kepatuhan bencana dengan faktor -faktor yang tidak produktif.

Kecelakaan ini adalah gejala kesenjangan kapasitas yang lebih besar. Menurut Mei 2025 Salesforce Kertas pencarianSaat ini, agen -agen terkemuka hanya berhasil 58 % dari waktu dalam satu tugas dan hanya 35 % dari waktu pada beberapa langkah itu, dengan sorotan “celah besar antara kemampuan LLM saat ini dan tuntutan multi -faceted untuk skenario lembaga di dunia nyata.”

Bentuk kolega dalam episode

Untuk mengisi kesenjangan ini, pendekatan baru berfokus pada kontrol manusia yang terorganisir. “Agen Amnesty International ke arah Anda dan karenanya,” Elliot Katz, co -founder Mixus, mengatakan kepada VentureBeat. “Tetapi tanpa pengawasan organisasi yang terintegrasi, itu sering kali sepenuhnya menciptakan faktor yang lebih independen daripada mereka.”

Filosofi ini mendukung model Mixus Fellow dalam episode ini, yang menjamin verifikasi manusia secara langsung dalam alur kerja. Misalnya, penjual ritel besar dapat menerima laporan mingguan dari ribuan toko yang berisi data operasi penting (misalnya, ukuran penjualan, jam kerja, tarif produktivitas, permintaan kompensasi dari kantor pusat). Analis manusia harus menghabiskan berjam -jam meninjau data secara manual dan membuat keputusan berdasarkan penalaran. Dengan Mixus, agen kecerdasan buatan mengotomatiskan pengangkatan berat, menganalisis pola kompleks dan anomali seperti permintaan gaji yang luar biasa tinggi atau nilai produktif.

Adapun keputusan berisiko tinggi seperti pernyataan pembayaran atau pelanggaran politik-alur kerja yang ditentukan oleh pengguna manusia sebagai “berisiko tinggi”-agen berhenti dan membutuhkan persetujuan manusia sebelum tindak lanjut. Divisi persalinan dikombinasikan antara kecerdasan buatan dan manusia dalam proses menciptakan agen.

“Pendekatan ini berarti bahwa manusia hanya terlibat ketika pengalaman mereka sudah menambahkan nilai-biasanya mengalir 5-10 % dari keputusan yang mungkin memiliki efek utama-sementara 90-95 % dari tugas rutin mengalir secara otomatis,” kata Katz. “Anda mendapatkan kecepatan otomatisasi penuh dari operasi standar, tetapi pengawasan manusia secara khusus berjalan ketika konteks, penilaian dan akuntabilitas lebih penting.”

Dalam pertunjukan eksperimental yang ditunjukkan oleh tim Mixus di VentureBeat, penciptaan agen operasi intuitif yang dapat dilakukan dengan instruksi teks biasa. Untuk membangun faktor -faktor -faktor pemeriksaan untuk koresponden, misalnya, co -founder Shai Magzimof menggambarkan proses multi -step dalam bahasa alami dan mengarahkan platform untuk memasukkan langkah -langkah verifikasi manusia dengan ambang batas tertentu, seperti ketika klaim sangat berbahaya dan dapat menyebabkan kerusakan yang terkenal atau konsekuensi hukum.

Salah satu kekuatan dasar dari platform ini adalah integrasi dengan alat -alat seperti Google Drive, E -mail dan stagnasi, yang memungkinkan pengguna lembaga untuk memasukkan sumber data mereka ke dalam tugas alur kerja dan berinteraksi dengan agen langsung dari platform komunikasi mereka, tanpa perlu beralih konteks atau mempelajari antarmuka baru (misalnya, penentu fakta bahwa pelanggan yang menentukan fakta.

Kemampuan integrasi undang -undang diperluas untuk lebih memenuhi kebutuhan lembaga tertentu. Mixus mendukung MCP Context Protocol (MCP), yang memungkinkan perusahaan untuk menghubungkan agen ke alat kustom dan antarmuka pemrograman aplikasi, dan menghindari kebutuhan untuk kembali merayap roda untuk sistem interior saat ini. Selain integrasi program lembaga lain seperti JIRA dan Salesforce, ini memungkinkan agen untuk melakukan tugas -tugas kompleks dan melalui platform, seperti memeriksa tiket rekayasa terbuka dan melaporkan situasi kepada manajer di Slack.

Pengawasan manusia sebagai ganda strategis

Area AI saat ini tunduk pada verifikasi realitas karena perusahaan beralih dari eksperimen ke produksi. Konsensus di antara banyak pemimpin industri adalah bahwa manusia dalam episode ini adalah kebutuhan praktis bagi agen untuk melakukan yang dapat diandalkan.

Model koperasi Mixus mengubah ekonomi penskalaan kecerdasan buatan. Mixus memperkirakan bahwa pada tahun 2030, agen dapat menumbuhkan 1000x dan semua pengawas manusia akan menjadi 50x lebih efisien dengan faktor kecerdasan buatan menjadi lebih dapat diandalkan. Tetapi kebutuhan penuh untuk kontrol manusia akan terus tumbuh.

“Semua pengawas manusia berjalan lebih dari kecerdasan buatan dari waktu ke waktu, tetapi Anda masih membutuhkan lebih banyak pengawasan secara keseluruhan dengan ledakan penyebaran kecerdasan buatan melalui organisasi Anda,” kata Katz.

Bagi para pemimpin lembaga, ini berarti bahwa keterampilan manusia akan berkembang daripada menghilang. Alih -alih menggantinya dengan AI, para ahli akan ditingkatkan ke peran di mana mereka mengatur armada agen intelijen buatan dan menangani keputusan berisiko tinggi yang telah ditandai untuk ditinjau.

Dalam konteks ini, membangun fungsi pengawasan manusia yang kuat menjadi keunggulan kompetitif, memungkinkan perusahaan untuk menyebarkan kecerdasan buatan dengan aman dan aman daripada pesaing mereka.

“Perusahaan yang menguasai perkalian ini akan mendominasi industri mereka, sementara mereka yang mengejar otomatisasi penuh akan menderita keandalan, kepatuhan dan kepercayaan diri,” kata Katz.

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda sendok dari dalam tentang apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi dari pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.

Sensasi Dallas Wings yang muncul, Paage Bokerrs membahas komentar yang dibuatnya pada tahun 2021 tentang menggunakan platformnya “untuk merayakan wanita kulit hitam” selama wawancara podcast pada hari Jumat.

Dalam penampilan “Nilosophy”, benih ditanya tentang komentar mereka di ESPY 2021, ketika dia berkata, “Saya pikir kita harus menggunakan kekuatan ini bersama -sama untuk juga merayakan wanita kulit hitam” sambil membahas efek media olahraga.

Pemborosan itu menanggapi pertanyaan itu, mengungkapkan rasa terima kasihnya kepada media dengan klaim bahwa ia “mencoba untuk mengisolasi.”

Klik di sini untuk lebih banyak liputan olahraga di foxnews.com

“Saya hanya merasa … media itu bagus. Adalah pekerjaan mereka untuk menerbitkan berita utama surat kabar dan membuat orang mengklik dan mengklik,” kata Bouckerz. “Kompetisi hebat. Ini membuat orang berbicara tentang permainan kami. Ini mencakup permainan kami, dan mereka memperhatikan permainan Anda.

“Jadi, kamu harus berterima kasih kepada mereka. Tetapi banyak dari mereka juga, mereka mencoba untuk mengisolasi Anda. Dan bagi saya, itu sangat, sangat mudah untuk membuat segalanya tentang diri Anda. Media memberi Anda minuman, dan akankah Anda meminumnya atau Anda akan membaginya dengan orang lain?”

Benih menambahkan bahwa itu juga bertujuan untuk memberikan pujian kepada Tuhan juga.

Rookie Wings Paij Buickers Mengatakan Harapan tentang Caitlin Clark Di tengah “Masalah Penembakan Tidak Manusiawi”

Paige Bueckers diwawancarai oleh ESPN setelah dipilih dengan General 1 oleh Dallas Wings di wajib militer WNBA 2025 di Shed at Hudson Yards di New York, New York, 14 April 2025. (Foto Vincent Carchita)

“Tidak ada yang melakukan apa pun sendiri, seperti menyebar, jelas bahwa iman saya sangat penting bagi saya. Jadi, menggunakan platform saya untuk memuliakan Tuhan sangat besar, maka cahaya menyebar ke orang lain. Saya pikir, seperti yang saya katakan, saya tidak ingin melakukan apa -apa tentang diri saya sendiri,” kata pemborosan.

Pada bulan Mei, setelah Lendir Sayap membuat pilihan komprehensif pertama dalam draft 2025 WNBA, benih berbicara lagi tentang masalah liputan perempuan kulit hitam di liga.

“Ini masih menjadi masalah, setiap hari,” katanya Majalah Time. “Tidak ada cakupan yang sama sama sekali.”

Klik di sini untuk mendapatkan aplikasi Fox News

Paij Puckers di karpet oranye sebelum rancangan WNBA 2025 di gudang di Hudson Yards di New York, New York, 14 April 2025. (Foto Vincent Carchita)

Dia mengatakan tentang peluang pemasaran: “Ada konsesi putih setiap hari yang saya lihat.”

“Saya merasa sangat keras, diberkati oleh Tuhan. Tapi saya pikir ada lebih banyak peluang bagi saya. Saya merasa bahkan hanya pemasaran, orang cenderung lebih suka orang kulit putih – pria kulit putih, wanita kulit putih. Saya pikir itu harus menjadi kesempatan yang sama. Saya merasa ada hak istimewa dari apa yang saya miliki dan apa yang disadari oleh semua orang kulit putih.

Digital Fox News Cakupan Olahraga di XDan berlangganan Newsletter Fox News Sport Hold.

Proyek visi komputer jarang berjalan sesuai rencana, dan pengecualian ini tidak. Idenya sederhana: Buat model yang dapat melihat gambar laptop dan menentukan kerusakan fisik – hal -hal seperti layar retak, kunci yang hilang atau engsel yang rusak. Itu tampak seperti keadaan penggunaan langsung untuk model foto dan model bahasa besar (LLM), tetapi dengan cepat berubah menjadi sesuatu yang lebih rumit.

Sepanjang jalan, kami menghadapi masalah dengan halusinasi, output, dan gambar yang tidak dapat diandalkan yang bahkan bukan laptop. Untuk menyelesaikannya, kami akhirnya menerapkan kerangka kerja pada agen -agen di Athuma – bukan untuk mengotomatiskan tugas, tetapi untuk meningkatkan kinerja model.

Dalam posting ini, kami akan melalui apa yang kami coba, kecuali berhasil dan bagaimana kami membantu kami serangkaian metode di akhir membangun sesuatu yang dapat diandalkan.

Di mana kami mulai: klaim yang homogen

Pendekatan awal kami agak standar untuk model multimedia. Kami menggunakan satu router besar untuk meneruskan gambar ke LLM yang mampu dari gambar dan memintanya untuk menentukan kerusakan yang terlihat. Strategi homogen ini mudah diimplementasikan dan berfungsi dengan baik untuk tugas yang bersih dan ditentukan dengan baik. Tetapi data di dunia nyata jarang dimainkan.

Kami menghadapi tiga masalah utama lebih awal:

• HalusinogenikModel tersebut kadang -kadang dapat menemukan kerusakan yang tidak ada atau mencalonkan apa yang dilihatnya.
• Deteksi gambar yang tidak diinginkanItu tidak memiliki cara yang dapat diandalkan untuk merek foto yang bahkan bukan laptop, seperti kantor, dinding, atau orang -orang terkadang menerima laporan kerusakan irasional.
• Tidak konsisten: Campuran masalah ini membuat model tidak dapat diandalkan untuk penggunaan operasional.

Inilah poin yang menjadi jelas bahwa kita akan membutuhkan pengulangan.

Perbaikan Pertama: Mencampur Keputusan Foto

Satu hal yang kami perhatikan adalah jumlah kualitas gambar yang mempengaruhi hasil model. Pengguna telah mengunduh semua jenis gambar mulai dari akurasi tajam dan tinggi hingga kabut. Ini mendorong kami untuk merujuk riset Menyoroti bagaimana akurasi gambar mempengaruhi model pembelajaran yang mendalam.

Kami melatih dan menguji model menggunakan campuran gambar resolusi tinggi. Idenya adalah untuk membuat model lebih fleksibel dalam berbagai karakteristik gambar yang akan dihadapi dalam praktiknya. Ini membantu meningkatkan konsistensi, tetapi masalah dasar halusinasi dan berurusan dengan gambar yang tidak diinginkan berlanjut.

The Multimodal Detour: Text-only LLM Goes Multimedia

Mendorong pengalaman modern dalam bentuk jamak KelompokDi mana ilustrasi dibuat dari gambar dan kemudian ditafsirkan melalui model bahasa, kami memutuskan untuk mencobanya.

Inilah cara bekerja:

• LLM dimulai dengan menghasilkan beberapa komentar yang mungkin untuk gambar.
• Model lain, yang disebut model inklusi multimedia, memeriksa kesesuaian setiap komentar pada gambar. Dalam hal ini, kami menggunakan Siglip untuk merekam kesamaan antara gambar dan teks.
• Sistem ini mempertahankan jumlah ilustrasi tertinggi berdasarkan gelar ini.
• LLM menggunakan ilustrasi atas ini untuk menulis yang baru, mencoba mendekati apa yang sudah ditunjukkan oleh gambar.
• Proses ini diulangi sampai penunjukan penjelasan menghentikan peningkatan, atau mencapai batas tertentu.

Saat teori pintar, pendekatan ini menyajikan masalah baru dengan keadaan penggunaan kami:

• Halusinasi terus menerus: Terkadang ilustrasi termasuk kerusakan palsu, yang telah diberitahu dengan percaya diri tentang LLM.
• Cakupan yang tidak lengkap: Bahkan dengan beberapa komentar, beberapa masalah sepenuhnya terlewatkan.
• Peningkatan kompleksitas, manfaat minimalLangkah -langkah tambahan membuat sistem lebih rumit tanpa andal unggul atas persiapan sebelumnya.

Itu adalah pengalaman yang menarik, tetapi pada akhirnya itu bukan solusi.

Penggunaan kerangka kerja yang kreatif

Ini adalah titik balik. Sementara kerangka kerja biasanya digunakan untuk mengoordinasikan aliran tugas (diyakini bahwa agen undangan kalender atau prosedur layanan pelanggan), kami telah bertanya apakah akan melanggar tugas menafsirkan gambar menjadi agen yang lebih kecil dan khusus yang dapat membantu.

Kami telah membangun kerangka kerja terorganisir seperti ini:

• Agen orkestrator: Periksa gambar dan identifikasi komponen laptop (layar, keyboard, struktur, port).
• Agen karcineFaktor -faktor yang ditunjuk memeriksa setiap komponen dari jenis kerusakan tertentu; Misalnya, satu untuk layar retak, dan yang lainnya untuk sakelar yang hilang.
• Penemuan yang tidak diinginkanAgen terpisah telah ditandai jika gambar adalah laptop di tempat pertama.

Pendekatan standar berbasis tugas ini telah menghasilkan hasil yang lebih akurat dan interpretatif. Halusinasi telah menurun secara signifikan, tanda gambar yang tidak diinginkan dibuat dengan andal dan tugas masing -masing agen sederhana dan cukup fokus untuk mengontrol kualitas dengan baik.

Bintik -bintik buta: Pendekatan Al -Wakeel

Buruknya efektif, itu tidak sempurna. Pembatasan utama muncul:

• Peningkatan jintan: Menjalankan beberapa faktor serial yang telah ditambahkan ke total waktu inferensi.
• Menutupi celahAgen hanya dapat menemukan masalah yang telah diprogram secara eksplisit untuk dicari. Jika sebuah gambar menunjukkan sesuatu yang tidak terduga bahwa tidak ada pekerja yang ditugaskan untuk definisi, itu akan tanpa ada yang menyadarinya.

Kami membutuhkan cara untuk menyeimbangkan akurasi dengan cakupan.

Solusi Campuran: Menggabungkan Agen dan Agen Terjemahan

Untuk kesenjangan, kami membuat sistem hybrid:

1. itu Kerangka kerja Pertama, ia berlari, berhadapan dengan deteksi dengan cermat jenis kerusakan yang diketahui dan gambar yang tidak diinginkan. Kami telah membatasi jumlah agen pada faktor terpenting untuk meningkatkan jintan.
2. Lalu, a Homoing photo router llm Bersihkan gambar hal lain yang dilewatkan oleh agen.
3. Akhirnya, kami Atur formulir Menggunakan serangkaian foto gambar prioritas tinggi, seperti skenario kerusakan yang sering dilaporkan, untuk meningkatkan akurasi dan keandalan.

Campuran ini telah memberi kita keakuratan dan kemampuan persiapan agen, cakupan luas dari aplikasi homogen dan peningkatan kepercayaan pada instalasi yang tepat yang ditargetkan.

Apa yang kami pelajari

Beberapa hal menjadi jelas pada saat kami menyimpulkan proyek ini:

• Kerangka kerja musuh lebih beragam daripada yang Anda dikreditkan: Meskipun biasanya terkait dengan manajemen alur kerja, kami telah menemukan bahwa itu dapat meningkatkan kinerja model yang berguna saat menerapkannya dalam standar yang terorganisir.
• Campur pendekatan berbeda yang mengalahkan hanya satu: Campuran deteksi yang cermat berdasarkan agen di samping cakupan luas LLMS, selain sedikit kontrol karena lebih penting, memberi kami hasil yang jauh lebih dapat diandalkan daripada salah satu cara sendirian.
• Model visual rentan terhadap halusinasiBahkan pengaturan yang paling canggih dapat melompat ke kesimpulan atau melihat hal -hal yang tidak ada. Penting untuk merancang sistem yang bijaksana untuk menjaga kesalahan ini di bawah diperiksa.
• Berbagai kualitas gambar membuat perbedaanPelatihan dan pengujian dengan gambar -gambar yang jelas dan tinggi dan suara harian berkualitas rendah agar tetap fleksibel ketika menghadapi gambar yang tidak terduga di dunia nyata.
• Anda membutuhkan cara untuk mengambil gambar yang tidak diinginkan: Itu adalah gambar gambar yang tidak diinginkan atau tidak diinginkan yang telah kami buat, dan memiliki dampak besar pada keandalan sistem secara umum.

Ide akhir

Apa yang dimulai sebagai ide sederhana, menggunakan klaim LLM untuk mendeteksi kerusakan fisik pada gambar laptop, dengan cepat berubah menjadi pengalaman yang jauh lebih dalam dalam menggabungkan berbagai teknik kecerdasan buatan untuk mengatasi masalah yang tidak terduga dan realistis. Sepanjang jalan, kami menyadari bahwa beberapa alat yang paling berguna pada awalnya tidak dirancang untuk jenis pekerjaan ini.

Berbagai kerangka kerja, yang sering dipandang sebagai alat alur kerja, telah terbukti sangat efektif ketika digunakan kembali untuk tugas -tugas seperti mendeteksi kerusakan terorganisir dan memfilter gambar. Dengan sedikit kreativitas, mereka membantu kami membangun sistem yang tidak hanya lebih akurat, tetapi lebih mudah untuk dipahami dan dikelola dalam praktik.

Shruti Tiwari adalah manajer produk AI di Dell Technologies.

Vadiraj Kulkarni adalah dunia data di Dell Technologies.