Rasa bersalah antropik Claude ai dengan ‘rasa malu’ dari kesalahan pengarsipan hukum

Antropik menanggapi tuduhan bahwa ia menggunakan sumber AI dalam pertempuran hukumnya melawan editor musik, mengatakan bahwa chatbot Claude -nya membuat “kesalahan kutipan yang jujur.”

Di dalam Jawaban yang disampaikan pada hari KamisPengacara pertahanan antropik Ivana Dukanovic mengatakan sumber yang diperiksa itu asli dan bahwa Claude benar -benar digunakan untuk memformat kutipan hukum dalam dokumen tersebut. Meskipun volume dan nomor halaman yang salah yang dihasilkan oleh Chatbot telah ditangkap dan dikoreksi oleh “pemeriksaan kutipan manual”, Antropik mengakui bahwa kesalahan penulisan belum terdeteksi.

Dukanovic mengatakan: “Sayangnya, meskipun memberikan judul publikasi yang benar, tahun publikasi dan tautan ke sumber yang disediakan, kutipan yang dikembalikan termasuk judul yang tidak akurat dan penulis yang salah” dan bahwa kesalahan itu bukan “manufaktur otoritas”. Perusahaan meminta maaf atas ketidaktepatan dan kebingungan yang disebabkan oleh kesalahan kutipan, menyebutnya “kesalahan yang memalukan dan tidak disengaja.”

Ini adalah salah satu dari banyak contoh yang semakin meningkat tentang bagaimana penggunaan alat AI untuk kutipan hukum telah menyebabkan masalah di pengadilan. Pekan lalu, seorang hakim California menghukum dua firma hukum karena tidak mengungkapkan bahwa AI digunakan untuk membuat kelimpahan tambahan singkat dengan bahan “palsu” yang “tidak ada”. Seorang ahli informasi yang salah mengakui pada bulan Desember bahwa ChatGPT telah berhalusinasi kutipan dalam dokumen hukum yang telah dia sajikan.