Tim perusahaan AI menghadapi dilema yang mahal: Buat sistem agen canggih yang Anda tutup dalam model bahasa besar (LLM), atau untuk terus menulis ulang klaim dan pipa data saat beralih di antara model. Raksasa Teknologi Keuangan Intuit Masalah ini telah diselesaikan dengan peretasan yang dapat membentuk kembali bagaimana organisasi menangani struktur AI multi -model.

Seperti banyak institusi, Intuit telah membangun solusi kecerdasan buatan menggunakan beberapa model bahasa besar (LLM). Selama beberapa tahun terakhir, sistem operasi AI Genos telah berada di Intuit, memberikan kemampuan canggih bagi pengembang perusahaan dan pengguna akhir, seperti Intuit Assist. Perusahaan ini semakin berfokus pada alur kerja agensi AI yang memiliki dampak terukur pada produk intuit, yang meliputi QuickBooks, kredit karma dan turbotax.

Intuit sekarang memperluas geno dengan serangkaian pembaruan yang bertujuan meningkatkan produktivitas dan efisiensi kecerdasan buatan secara umum. Perbaikan meliputi dimulainya grup alat awal pekerja, yang memungkinkan 900 pengembang internal untuk membangun ratusan agen kecerdasan buatan dalam waktu lima minggu. Perusahaan ini juga yang pertama menyebut “persepsi data pintar” yang melebihi pendekatan generasi tradisional yang telah diaktifkan.

Mungkin lebih efektif bahwa Intuit telah memecahkan salah satu masalah AI yang paling berduri: cara membuat agen yang bekerja dengan lancar melalui beberapa model bahasa besar tanpa memaksa pengembang untuk menulis ulang klaim untuk setiap model.

“Masalah utama adalah bahwa ketika Anda menulis satu model, formulir AT, Anda cenderung berpikir tentang bagaimana meningkatkan model A, bagaimana itu dibangun dan apa yang perlu Anda lakukan dan kapan Anda perlu beralih ke formulir B,” kata Ashok Srivastava, karyawan data utama di Intuit VentureBeat. “Pertanyaannya adalah, apakah kamu harus menulis ulang? Di masa lalu, kita harus menulis ulang.”

Bagaimana Algoritma Genetika Menghilangkan Penjual dan Mengurangi Biaya Operasi Kecerdasan Buatan

Organisasi telah menemukan banyak cara untuk menggunakan LLM yang berbeda dalam produksi. Salah satu metode adalah penggunaan bentuk teknologi panduan model LLM, yang menggunakan LLM yang lebih kecil untuk menentukan Kemana Anda mengirim permintaan.

Layanan Peningkatan Luar Biasa Intuit mengikuti pendekatan yang berbeda. Ini tidak harus tentang menemukan model penyelidikan terbaik, tetapi untuk meningkatkan yang diarahkan ke sejumlah LLM yang berbeda. Sistem ini menggunakan algoritma genetika untuk membuat dan menguji variabel secara otomatis.

“Cara layanan terjemahan cepat bekerja adalah bahwa ia sudah memiliki algoritma genetika dalam komponennya, dan bahwa algoritma genetika ini sebenarnya menciptakan variabel klaim dan kemudian melakukan peningkatan internal,” jelas Srivastava. “Mereka mulai dengan set dasar, membuat variabel, dan menguji alternatifnya, jika alternatif ini sebenarnya efektif, katanya, saya akan membuat aturan baru itu dan kemudian terus meningkat.”

Pendekatan ini memberikan manfaat operasional langsung yang melampaui kenyamanan. Sistem ini menyediakan kemungkinan kegagalan otomatis bagi lembaga yang terkait dengan kunci penjual atau keandalan layanan.

“Jika Anda menggunakan model tertentu, dan dengan alasan apa pun di mana model ini telah menurun, kami dapat menerjemahkannya sehingga kami dapat menggunakan model baru yang mungkin sebenarnya,” ditunjukkan oleh Srivastava.

Beyond A Rag: Menyadari data pintar data lembaga

Meskipun perbaikan yang luar biasa memecahkan tantangan transmisi model, insinyur mesin Intuit telah mengidentifikasi botol kritis: waktu dan pengalaman yang diperlukan untuk mengintegrasikan kecerdasan buatan dengan struktur data institusi yang kompleks.

Intuit telah mengembangkan apa yang disebutnya “persepsi data pintar” yang mengatasi tantangan integrasi data yang paling canggih. Pendekatan ini melampaui pemulihan dokumen sederhana dan generasi augmented (RAG).

Misalnya, jika institusi mendapatkan set data pihak ketiga dengan skema tertentu, organisasi sebagian besar tidak sadar, lapisan persepsi dapat membantu. Dia menunjukkan bahwa lapisan persepsi memahami skema asli serta skema target dan bagaimana menunjuknya.

Kemampuan ini membahas skenario lembaga di dunia nyata, di mana data berasal dari berbagai sumber dengan struktur yang berbeda. Sistem dapat secara otomatis menentukan konteks bahwa pencocokan skema sederhana akan kehilangannya.

Bene

Lapisan persepsi data pintar memungkinkan penyelesaian data canggih, tetapi fitur kompetitif Intuit melampaui kecerdasan buatan gym hingga bagaimana kemampuan ini dikumpulkan dengan analisis prediktif yang terbukti.

Perusahaan menjalankan apa yang disebutnya “model super” – sistem grup yang menggabungkan beberapa model prediksi dengan metode pembelajaran yang mendalam, serta mesin rekomendasi canggih.

Srivastava menjelaskan bahwa model ini adalah model pengawasan yang melihat semua sistem rekomendasi dasar. Ini memperhitungkan keberhasilan rekomendasi ini dalam pengalaman dan di bidang ini, dan berdasarkan semua data ini, pendekatan grup diambil untuk mengirimkan rekomendasi akhir. Pendekatan campuran ini memberikan kemampuan prediktif yang tidak cocok dengan LLM murni.

Campuran AIC yang iring dengan prediksi akan membantu memungkinkan lembaga untuk melihat masa depan dan mengetahui apa yang bisa terjadi, misalnya, dengan masalah yang terkait dengan arus kas. Agen kemudian dapat menyarankan perubahan yang dapat dilakukan sekarang dengan izin pengguna untuk membantu mencegah masalah di masa depan.

Efek dari strategi AI untuk institusi

Pendekatan Intuit menyediakan banyak pelajaran strategis untuk lembaga yang ingin memimpin AI.

Pertama, investasi dalam struktur LLM-agenostik dapat memberikan dari awal fleksibilitas operasional yang hebat dan pengentasan risiko. Pendekatan algoritma genetika untuk meningkatkan peningkatan luar biasa dapat menjadi nilai khusus bagi lembaga yang beroperasi melalui beberapa penyedia layanan cloud atau mereka yang peduli dengan ketersediaan model.

Kedua, fokusnya menunjukkan kombinasi kemampuan kecerdasan buatan tradisional dengan kecerdasan buatan kebidanan yang tidak boleh dilepaskan oleh institusi dan rekomendasi prediksi saat ini saat membangun struktur agen. Sebaliknya, mereka harus mencari cara untuk mengintegrasikan kemampuan ini ke dalam sistem berpikir paling canggih.

Berita ini berarti bahwa bilah aplikasi agen tingkat lanjut diangkat ke lembaga -lembaga yang mengadopsi kecerdasan buatan di kemudian hari dalam kursus. Lembaga harus berpikir di luar program obrolan sederhana atau sistem pengambilan dokumen untuk tetap kompetitif, dengan fokus pada struktur multi -agen yang dapat menangani alur kerja yang kompleks dan analisis prediktif.

Makanan cepat saji pada pembuat keputusan teknis adalah bahwa aplikasi AI untuk lembaga yang sukses membutuhkan investasi dalam infrastruktur canggih, dan tidak hanya panggilan API ke model dasar. Intuit’s Genos menjelaskan bahwa keunggulan kompetitif berasal dari kemampuan institusi untuk mengintegrasikan kemampuan kecerdasan buatan dengan data dan operasi komersial saat ini.