Kemitraan Tripartit antara Perusahaan Dukungan Telepon Intelijen Buatan SuaraPlatform peningkatan untuk penalaran bagus sekaliDan pembuat chip jernih Ini telah mencapai penetrasi yang membahas salah satu masalah kecerdasan buatan paling stabil dalam percakapan: penundaan memalukan yang segera menunjukkan penelepon berbicara kepada mesin.

Kerjasama vokal telah memungkinkan lebih dari 70 % waktu respons untuk meningkatkan akurasi dari 81,5 % menjadi 99,2 % melalui empat pengulangan khas, melewati GPT-4O Pengukuran 94,7 % Sebesar 4,5 derajat Celcius. Perbaikan dari kemungkinan batang GROQ baru pada perubahan segera antara beberapa model kecerdasan buatan tanpa waktu transisi tambahan, dikoordinasikan melalui platform perbaikan Maitai.

Prestasi adalah apa yang oleh para pakar industri disebut “Wadi Gharib“Dari sinyal suara-micro AI yang membuat percakapan otomatis terasa jelas tidak manusiawi. Untuk pusat komunikasi dan operasi layanan pelanggan, efek transformasional dapat: salah satu pelanggan yang teliti adalah menggantikan 350 agen manusia bulan ini saja.

Mengapa masih panggilan telepon dari kecerdasan buatan tampak robot: masalah empat detik

Model bahasa besar tradisional seperti openai GPT-4O Saya telah lama bertarung dengan apa yang tampaknya menjadi tantangan sederhana: menanggapi cukup cepat untuk mempertahankan aliran percakapan alami. Sementara beberapa detik penundaan hampir tidak direkam dalam reaksi berbasis teks, pemberhentian itu sendiri tampaknya tidak dapat diterima selama percakapan telepon langsung.

“Salah satu hal yang tidak disadari kebanyakan orang adalah bahwa penyedia layanan LLM utama, seperti Openai dan Claude, dan lainnya yang memiliki tingkat kontras jintan yang sangat tinggi,” kata Will Bodies, pendiri dan kepala eksekutif di Phoenay, dalam wawancara eksklusif dengan VentureBeat. “4 detik terlihat abadi jika Anda berbicara dengan suara AI di telepon-penundaan inilah yang membuat sebagian besar suara kecerdasan buatan hari ini tidak merasakan bentuk non-manusia.”

Masalah terjadi hampir sekali sekali semua permintaan setiap sepuluh permintaan, yang berarti bahwa percakapan standar mencakup setidaknya satu atau dua suspensi sementara yang segera mengungkapkan sifat buatan dari interaksi. Untuk perusahaan yang mempertimbangkan agen kecerdasan buatan, penundaan ini telah menciptakan penghalang besar di depan adopsi.

“Jenis jintan ini tidak dapat diterima untuk mendukung telepon secara real time,” Bates menjelaskan. “Terlepas dari jintan, keakuratan percakapan dan respons seperti manusia adalah sesuatu yang belum pernah dipenuhi oleh warisan LLM di dunia yang sehat.”

Bagaimana tiga startup menyelesaikan tantangan terbesar dalam kecerdasan buatan?

Solusi ini muncul dari pengembangan GROQ untuk apa yang disebut perusahaan “Awam lora hotswapping-Mengaya untuk beralih segera antara beberapa variabel model kecerdasan buatan tanpa penalti kinerja. Lora, atau adaptasi berpangkat rendah, memungkinkan pengembang untuk membuat modifikasi ringan khusus untuk model saat ini alih-alih pelatihan yang benar-benar baru dari awal.

“Campuran Groq dari rekayasa arsitektur yang dikendalikan oleh program -program dengan kredit mikro, memori berkecepatan tinggi pada chip, arsitektur, dan implementasi yang tak terhindarkan, berarti bahwa dimungkinkan untuk mengakses banyak Loras panas,” Chelsey Kantor, kepala karyawan pemasaran di Groq, menjelaskan dalam sebuah wawancara dengan VentureBeat. “Loras disimpan dan dikelola di SRAM bersama bobot khas asli.”

Kemajuan dalam infrastruktur Maiai ini telah memungkinkan penciptaan apa yang dijelaskan oleh pendiri Christian Dalingo sebagai sistem “kebetulan kotak” yang terus -menerus meningkatkan kinerja model. “Maitai bekerja sebagai agen tinggi antara pelanggan dan penyedia layanan model mereka,” kata Dalsanto. “Ini memungkinkan kami untuk mendefinisikan model terbaik untuk setiap permintaan dan memperbaikinya dengan cara yang dinamis, menerapkan evaluasi, peningkatan, dan strategi fleksibilitas secara otomatis seperti retret.”

Sistem ini bekerja dengan mengumpulkan data kinerja dari setiap reaksi, mengidentifikasi kelemahan, dan sering meningkatkan model tanpa intervensi pelanggan. “Karena Maitai duduk di tengah aliran inferensi, kami mengumpulkan sinyal kuat yang menentukan tempat model kelemahan,” Dalsanto menjelaskan. “” Bintik -bintik lunak “ini dirakit dan semakin disesuaikan untuk mengobati kelemahan spesifik tanpa menyebabkan lereng.”

Dari 81 % hingga 99 % akurasi: Angka di belakang peretas bulan kecerdasan buatan

Hasilnya menunjukkan peningkatan yang signifikan melalui beberapa dimensi kinerja. Sudah waktunya untuk simbol khas pertama – seberapa cepat kecerdasan buatan dimulai – sebesar 73,4 % dari 661 mm hingga 176 mililiter dalam sembilan puluh persen. Waktu penyelesaian secara umum menurun 74,6 % dari 1.446 milidetik menjadi 339 milidetik.

Mungkin yang paling penting, peningkatan akurasi mengikuti jalur ke atas yang jelas melalui empat pengulangan khas, mulai dari 81,5 % dan hingga 99,2 % – tingkat yang melebihi kinerja manusia dalam banyak skenario layanan pelanggan.

“Kami telah melihat sekitar 70 %+ orang yang menyerukan kecerdasan buatan kami yang tidak dapat membedakan antara perbedaan antara seseorang,” kata Bodes kepada VentureBeat. “Jintan, atau dulu, hadiah mati yang merupakan kecerdasan buatan. Dengan model khusus yang berbicara seperti orang seperti seseorang, dan perangkat rendah, itu tidak mencegah kita dari transit sepenuhnya dari lembah socking manusia.”

Keuntungan kinerja diterjemahkan langsung ke dalam hasil bisnis. “Salah satu pelanggan terbesar kami telah melihat peningkatan utas yang memenuhi syarat 32 % dibandingkan dengan versi sebelumnya menggunakan model modern sebelumnya,” kata Bodewes.

350 agen manusia telah digantikan dalam satu bulan: Pusat Komunikasi pergi ke Kecerdasan Buatan

Perbaikan dengan pusat komunikasi menghadapi peningkatan tekanan untuk mengurangi biaya sambil mempertahankan kualitas layanan. Agen manusia tradisional memerlukan pelatihan, penjadwalan koordinasi, dan biaya umum yang besar yang dapat dihilangkan oleh agen kecerdasan buatan.

“Pusat komunikasi benar -benar menyaksikan manfaat besar penggunaan audio untuk menggantikan agen manusia,” kata Bodies. “Salah satu pusat komunikasi yang kami kerjakan adalah mengganti 350 agen manusia sepenuhnya bulan ini. Dari perspektif call center, ini adalah perubahan untuk permainan, karena mereka tidak harus mengelola jadwal agen dukungan manusia, agen pelatihan, dan kecocokan penawaran dan permintaan.”

Teknologi menunjukkan kekuatan khusus dalam kasus penggunaan tertentu. “Ini benar -benar unggul di beberapa bidang, termasuk kinerja terkemuka di industri dalam jadwal tanggal utama dan kualifikasi secara khusus, melebihi apa yang dapat melakukannya,” jelas Bodewees. Perusahaan telah membuat kemitraan dengan perusahaan besar yang berurusan dengan pelanggan dan mobil.

Tepi Perangkat: Mengapa Anda membuat chip Groq dari kecerdasan buatan

Groq kesimpulan khusus, disebut Unit bahasa (LPU), memberikan dasar untuk perangkat yang membuat pendekatan model multi -gaya. Tidak seperti prosesor grafis untuk tujuan umum yang biasanya digunakan untuk menyimpulkan kecerdasan buatan, LPU meningkatkan sifat serial pemrosesan bahasa.

“Struktur LPU telah ditingkatkan secara akurat dalam pergerakan data dan akun pada tingkat yang akurat dengan kecepatan tinggi dan prediksi, memungkinkan manajemen yang efektif dari beberapa bobot delta kecil (LORA) pada model dasar umum tanpa waktu akses tambahan,” kata Kantor.

Infrastruktur berbasis infrastruktur juga berkaitan dengan kapasitas ekspansi yang membatasi penyebaran kecerdasan buatan secara historis. “Keindahan penggunaan solusi berbasis cloud seperti GroqCloud adalah bahwa Groq berurusan dengan sinkronisasi dinamis dan pengukuran pelanggan kami untuk setiap model kecerdasan buatan yang kami tawarkan, termasuk model Lora yang ditangkap.”

Bagi lembaga, keunggulan ekonomi tampak hebat. “Kesederhanaan dan efisiensi desain sistem kami, konsumsi energi yang rendah, dan kinerja tinggi perangkat kami memungkinkan Groq untuk memberikan pelanggan dengan biaya terendah untuk setiap simbol tanpa mengorbankan kinerja dengan perluasan ruang lingkupnya,” kata Kantor.

Menyebar Kecerdasan Buatan pada hari yang sama: Bagaimana perusahaan melebihi bulan integrasi

Salah satu aspek kemitraan yang paling persuasif adalah kecepatan implementasi. Tidak seperti penyebaran kecerdasan buatan tradisional yang dapat membutuhkan waktu berbulan -bulan integrasi, pendekatan Maitai memungkinkan transformasi pada hari yang sama untuk perusahaan yang sudah menggunakan model untuk tujuan umum.

“Untuk perusahaan yang sudah diproduksi menggunakan model untuk tujuan umum, kami biasanya mentransfernya ke Maitai pada hari yang sama, dengan nol gangguan,” kata Dalsanto. “Kami mulai mengumpulkan data langsung, dan dalam beberapa hari hingga seminggu, kami dapat memberikan bentuk persiapan asli yang lebih cepat dan lebih andal.”

Kapasitas penerbitan yang cepat ini membahas kekhawatiran bersama yayasan tentang proyek -proyek intelijen buatan: jadwal implementasi jangka panjang yang menunda laba atas investasi. Pendekatan kelas agen berarti bahwa perusahaan dapat mempertahankan integrasi API saat ini sambil mengakses kinerja meningkat terus menerus.

Fondasi Yayasan AI: Model Khusus menggantikan satu ukuran semuanya

Kerja sama menunjukkan perubahan yang lebih luas dalam struktur AI institusi, dan untuk menjauh dari model yang homogen dan tujuan umum menuju sistem khusus untuk tugas tersebut. “Kami memantau meningkatnya permintaan dari tim yang memecahkan aplikasi mereka ke beban kerja yang sangat kecil dan khusus, yang masing -masing mendapat manfaat dari transformator individu.”

Tren ini mencerminkan tantangan menyebarkan kecerdasan buatan. Alih -alih mengharapkan satu model untuk unggul di semua tugas, perusahaan semakin menyadari nilai solusi yang dibangun untuk tujuan ini, yang dapat ditingkatkan secara terus menerus berdasarkan data kinerja di dunia nyata.

“Hotswapping Multi-Lora memungkinkan perusahaan untuk menyebarkan model yang lebih cepat dan lebih akurat untuk aplikasi mereka, menghapus biaya dan kompleksitas tradisional,” jelas Dalsanto. “Ini terutama berubah menjadi bagaimana AI dibangun dan diterbitkan.”

Pembentukan teknis juga menyediakan aplikasi yang lebih maju dengan kematangan teknologi. Infrastruktur GROQ dapat mendukung lusinan model khusus dalam satu cara, yang memungkinkan lembaga untuk menciptakan pengalaman internasional amnesti yang sangat khusus di berbagai sektor pelanggan atau kasus penggunaan.

“Hotswapping multi-lora memungkinkan inferensi rendah dan massa tinggi yang dirancang khusus untuk tugas-tugas tertentu,” kata Dalsanto. “Peta jalan kami memberikan prioritas lebih banyak investasi dalam infrastruktur, alat, dan peningkatan untuk menciptakan penalaran aplikasi yang tepat sebagai standar baru.”

Untuk pasar kecerdasan buatan yang lebih luas, kemitraan menunjukkan bahwa suatu hari pembatasan teknis dapat diproses melalui infrastruktur khusus dan desain sistem yang tepat. Karena lebih banyak institusi menerbitkan agen kecerdasan buatan, keunggulan kompetitif yang ditunjukkan oleh Sound dapat menciptakan perkiraan dasar baru untuk kinerja dan respons terhadap interaksi pelanggan.

Keberhasilan juga dicapai oleh model perusahaan infrastruktur Amnesty International yang bekerja bersama untuk menyelesaikan tantangan penerbitan yang kompleks. Pendekatan kooperatif ini dapat mempercepat inovasi melalui sektor AI, karena mengumpulkan kemampuan khusus untuk memberikan solusi yang melebihi apa yang dapat dicapai oleh satu penyedia secara mandiri. Jika kemitraan ini merupakan indikator, era percakapan telepon buatan mungkin berakhir lebih cepat dari yang diharapkan.