Membangun AI untuk perangkat lunak keuangan memerlukan pedoman yang berbeda dari AI konsumen intuisi QuickBooks versi terbaru memberikan contoh.
Perusahaan ini mengumumkan Intuit Intelligence, sebuah sistem yang mengoordinasikan agen AI khusus di seluruh platform QuickBooks untuk menangani tugas-tugas termasuk kepatuhan pajak penjualan dan pemrosesan penggajian. Agen baru ini menambah agen Akuntansi dan Manajemen Proyek yang ada (yang juga telah diperbarui) serta antarmuka terpadu yang memungkinkan pengguna untuk menanyakan data di QuickBooks, sistem pihak ketiga, dan file yang diunggah menggunakan bahasa alami.
Perkembangan baru ini terjadi setelah bertahun-tahun melakukan investasi dan perbaikan di Intuit Genomemungkinkan perusahaan membangun kemampuan kecerdasan buatan yang mengurangi… Peningkatan latensi dan akurasi.
Namun berita sebenarnya bukanlah apa yang dibuat oleh Intuit, melainkan bagaimana mereka membangunnya dan mengapa keputusan desain mereka akan membuat AI lebih berguna. Peluncuran AI terbaru yang dilakukan perusahaan ini mewakili sebuah evolusi yang dibangun berdasarkan pembelajaran yang diperoleh dengan susah payah tentang apa yang berhasil dan apa yang tidak ketika menerapkan AI dalam konteks keuangan.
Apa yang dipelajari perusahaan ini sangat mengkhawatirkan: Meskipun agen akuntansinya meningkatkan akurasi klasifikasi transaksi rata-rata sebesar 20 poin persentase, perusahaan tersebut masih menerima keluhan tentang kesalahan.
"Kasus penggunaan yang kami coba selesaikan untuk klien meliputi pajak dan keuangan; Jika Anda membuat kesalahan di dunia ini, Anda kehilangan kepercayaan pelanggan dalam jumlah besar dan kami hanya mendapatkannya kembali dalam jumlah besar." Joe Preston, wakil presiden produk dan desain di Intuit, mengatakan kepada VentureBeat.
Arsitektur kepercayaan: Kueri data nyata melalui respons generatif
Strategi teknis Intuit berfokus pada keputusan desain mendasar. Untuk pertanyaan intelijen keuangan dan bisnis, sistem menanyakan data aktual, bukan menghasilkan respons melalui model bahasa besar (LLM).
APenting juga agar data ini tidak semuanya ada di satu tempat. Implementasi teknis Intuit memungkinkan QuickBooks menyerap data dari berbagai sumber berbeda: data asli Intuit, sistem pihak ketiga yang terhubung dengan OAuth seperti Square untuk pembayaran, dan file yang diunggah pengguna seperti spreadsheet yang berisi daftar harga vendor atau data kampanye pemasaran. Hal ini menciptakan lapisan data terpadu yang dapat dikueri dengan andal oleh agen AI.
"Kami sebenarnya menanyakan tentang data asli Anda," Preston menjelaskan. "Ini sangat berbeda dibandingkan jika Anda hanya menyalin dan menempelkan file spreadsheet atau PDF dan menempelkannya ke ChatGPT."
Pilihan arsitektur ini berarti bahwa sistem Intuit Intelligence bertindak sebagai lapisan orkestrasi. Ini adalah antarmuka bahasa alami untuk operasi data terstruktur. Saat pengguna bertanya tentang profitabilitas yang diharapkan atau ingin menjalankan penggajian, sistem menerjemahkan kueri bahasa alami ke dalam operasi database terhadap data keuangan yang diverifikasi.
Hal ini penting karena penelitian internal Intuit telah mengungkapkan meluasnya penggunaan AI dalam bayang-bayang. Saat disurvei, 25% akuntan yang menggunakan QuickBooks mengaku sudah menyalin dan menempelkan data ke ChatGPT atau Google Gemini untuk dianalisis.
Pendekatan Intuit memperlakukan AI sebagai mekanisme untuk menerjemahkan dan memformat kueri, bukan sebagai pembuat konten. Hal ini mengurangi risiko halusinasi yang mengganggu penerapan AI dalam konteks keuangan.
Penjelasan adalah persyaratan desain, bukan sekedar renungan
Di luar arsitektur teknis, Intuit telah menjadikan kemampuan menjelaskan sebagai pengalaman pengguna inti di seluruh agen AI-nya. Hal ini lebih dari sekadar memberikan jawaban yang benar: ini berarti menjelaskan kepada pengguna alasan di balik keputusan otomatis.
Ketika agen akuntansi Intuit mengkategorikan suatu transaksi, ia tidak hanya menampilkan hasilnya; Ini menunjukkan logika. Ini bukan salinan pemasaran tentang AI yang dapat dijelaskan, ini adalah antarmuka pengguna sebenarnya yang menampilkan titik data dan logika.
"Ini tentang menutup lingkaran kepercayaan dan memastikan pelanggan memahami alasannya," Alastair Simpson, wakil presiden desain di Intuit, mengatakan kepada VentureBeat.
Hal ini menjadi sangat penting ketika Anda mempertimbangkan riset pengguna Intuit: Meskipun separuh dari usaha kecil menggambarkan AI sebagai hal yang berguna, hampir seperempatnya tidak pernah menggunakan AI sama sekali. Lapisan penjelasan melayani kedua kelompok: membangun kepercayaan bagi pendatang baru, sekaligus memberikan konteks kepada pengguna berpengalaman untuk memverifikasi keakuratan.
Desain juga menerapkan kendali manusia pada titik-titik pengambilan keputusan yang kritis. Pendekatan ini melampaui antarmuka. Intuit menghubungkan pengguna secara langsung dengan pakar manusia, tertanam dalam alur kerja yang sama, ketika otomatisasi mencapai batasnya atau pengguna menginginkan validasi.
Arahkan transisi dari formulir ke percakapan
Salah satu tantangan paling menarik yang dihadapi Intuit adalah mengelola transformasi mendasar dalam antarmuka pengguna. Preston menggambarkannya memiliki satu kaki di masa lalu dan satu kaki di masa depan.
"Ini bukan sekedar Intuit, ini adalah pasar secara keseluruhan," kata Preston. "Saat ini kami masih memiliki banyak pelanggan yang mengisi formulir dan menelusuri tabel yang penuh dengan data. Kami banyak berinvestasi dalam mengadopsi dan mempertanyakan cara kami menelusuri produk-produk kami saat ini, di mana pada dasarnya Anda mengisi formulir demi formulir, atau tabel demi tabel, karena kami melihat ke mana arah dunia ini, dan sebenarnya ini merupakan bentuk interaksi yang berbeda dengan produk-produk ini."
Hal ini menciptakan tantangan desain produk: Bagaimana Anda melayani pengguna yang merasa nyaman dengan antarmuka tradisional sambil secara bertahap memperkenalkan kemampuan dan agen percakapan?
Pendekatan Intuit adalah mengintegrasikan agen AI langsung ke dalam alur kerja yang ada. Artinya, pengguna tidak dipaksa untuk mengadopsi pola interaksi yang benar-benar baru. Agen pembayaran muncul di sebelah alur kerja penagihan; Agen akuntansi meningkatkan proses rekonsiliasi yang ada daripada menggantikannya. Pendekatan langkah demi langkah ini memungkinkan pengguna merasakan manfaat AI tanpa meninggalkan proses yang sudah biasa.
Apa yang dapat dipelajari oleh para pembuat AI perusahaan dari pendekatan Intuit
Pengalaman Intuit dalam menerapkan AI dalam konteks keuangan menunjukkan beberapa prinsip yang berlaku secara luas pada inisiatif AI perusahaan.
Arsitektur penting untuk kepercayaan: Di area di mana akurasi sangat penting, pertimbangkan apakah Anda perlu membuat konten atau menerjemahkan kueri data. Keputusan Intuit untuk memperlakukan AI sebagai lapisan antarmuka bahasa alami yang sinkron secara signifikan mengurangi risiko halusinasi dan menghindari penggunaan AI sebagai sistem generatif.
Kemampuan penjelasan harus dirancang, bukan dibaut: Menjelaskan kepada pengguna mengapa AI mengambil keputusan bukanlah pilihan ketika kepercayaan dipertaruhkan. Ini memerlukan desain pengalaman pengguna yang disengaja. Mungkin membatasi opsi formulir.
Kontrol pengguna menjaga kepercayaan diri selama peningkatan akurasi: Agen akuntansi Intuit meningkatkan akurasi klasifikasi sebesar 20 poin persentase. Namun, mempertahankan kemampuan penggantian pengguna sangat penting untuk penerapannya.
Beralih secara bertahap dari antarmuka yang sudah dikenal: Jangan memaksa pengguna untuk meninggalkan formulir percakapan. Sematkan kemampuan AI ke dalam alur kerja yang ada terlebih dahulu. Izinkan pengguna merasakan manfaatnya sebelum meminta mereka mengubah perilaku.
Jujurlah tentang apa yang reaktif versus proaktif: Agen AI saat ini terutama merespons perintah dan mengotomatiskan tugas tertentu. Kecerdasan proaktif sejati yang memberikan rekomendasi strategis yang tidak terduga masih merupakan kemampuan yang terus berkembang.
Atasi permasalahan tenaga kerja dengan alat, bukan hanya pesan: Jika AI dimaksudkan untuk meningkatkan kualitas pekerja, bukan menggantikan mereka, maka pekerja harus dilengkapi dengan alat AI. Tunjukkan pada mereka cara memanfaatkan teknologi.
Bagi organisasi yang mengadopsi AI, perjalanan Intuit menawarkan arah yang jelas. Pendekatan pemenang mengutamakan kepercayaan dibandingkan menunjukkan kemampuan. Dalam bidang di mana kesalahan memiliki konsekuensi yang nyata, hal ini berarti berinvestasi pada akurasi, transparansi, dan pengawasan manusia sebelum melakukan pengembangan percakapan atau tindakan independen.
Simpson menyampaikan tantangannya secara ringkas: "Kami tidak ingin itu menjadi lapisan yang dibaut. Kami ingin klien berada dalam alur kerja alami mereka, agar agen melakukan pekerjaan untuk klien, dimasukkan ke dalam alur kerja."
Tautan sumber