Apakah chatbot karakter di sana dilindungi oleh pidato? Pengadilan tidak yakin

Gugatan terhadap karakter layanan Google dan chatbot pendamping AI – yang dituduh berkontribusi pada kematian seorang remaja – dapat melanjutkan, Dia memerintah hakim Florida. Dalam keputusan yang disajikan hari ini, Hakim Anne Conway mengatakan bahwa upaya pembelaan dari Amandemen Pertama tidak cukup untuk mengambil proses. Conway memutuskan bahwa, meskipun ada beberapa kesamaan dengan video game dan cara ekspresif lainnya, dia “tidak siap untuk menjaga kepergian karakter di sana ada pidato.”

Keputusan ini merupakan indikator yang relatif awal dari jenis perawatan yang dapat diterima oleh model bahasa AI di pengadilan. Itu berasal dari gugatan yang diajukan oleh keluarga Sewell Setzer III, seorang bocah lelaki berusia 14 tahun yang meninggal karena bunuh diri setelah diduga terobsesi dengan chatbot yang mendorong ide bunuh diri. Karakter AI dan Google (yang terkait erat dengan Chatbot Company) berpendapat bahwa layanan ini mirip dengan berbicara dengan karakter video game yang tidak bergabung atau bergabung dengan jejaring sosial, sesuatu yang memberinya perlindungan hukum yang luas yang ditawarkan oleh Amandemen Pertama dan mungkin secara dramatis menurunkan tanggung jawab keberhasilan yang sukses. Conway, bagaimanapun, skeptis.

Sementara perusahaan “mengistirahatkan kesimpulan mereka terutama dalam analogi” dengan contoh -contoh ini, “mereka tidak secara signifikan memajukan analogi mereka,” kata hakim. Keputusan pengadilan “tidak peduli jika Karakter di sana mirip dengan cara lain yang menerima perlindungan dari Amandemen Pertama; Sebaliknya, keputusan itu terhubung sebagai Karakternya mirip dengan cara lain ” – dengan kata lain, jika karakter di sana mirip dengan hal -hal seperti video game, karena juga mengkomunikasikan ide -ide yang akan mengatakan sebagai pidato. Kesamaan ini akan diperdebatkan saat kasusnya berlanjut.

Meskipun Google tidak memiliki karakter IA, ia akan tetap menjadi terdakwa dalam prosesnya, berkat hubungannya dengan perusahaan dan produk; Para pendiri perusahaan, Noam, Ocho dan Daniel de Freitas, yang termasuk secara terpisah dalam prosesnya, bekerja pada platform sebagai karyawan Google sebelum pergi untuk meluncurkannya dan kemudian dipekerjakan di sana. Karakter AI juga menghadapi proses yang terpisah, mengklaim bahwa mereka telah merusak kesehatan mental pemuda lain, dan beberapa legislator negara telah menekan regulasi untuk “chatbots” teman “yang mensimulasikan hubungan pengguna – termasuk akun, tindakan utamaIni akan melarang mereka menggunakan anak -anak di California. Jika disetujui, aturan cenderung dilihat setidaknya sebagian berdasarkan status Amandemen Pertama dari chatbots pendamping.

Hasil dari kasus ini akan sangat tergantung jika karakter secara hukum merupakan “produk” yang merugikan secara rusak. Keputusan mencatat bahwa “pengadilan biasanya tidak mengkategorikan ide, gambar, informasi, kata -kata, ekspresi atau konsep seperti produk”, termasuk banyak video game konvensional – mengutip, misalnya, keputusan yang ditemukan Mortal Kombat produsen tidak bisa bertanggung jawab Untuk pemain “membuat ketagihan” dan menginspirasi mereka untuk membunuh. (Kostum karakter AI juga menuduh platform desain yang adiktif.) Sistem seperti karakter AI, bagaimanapun, tidak sama langsungnya dengan sebagian besar dialog karakter video game; Sebaliknya, mereka menghasilkan teks otomatis yang sangat ditentukan dengan bereaksi dan mencerminkan input pengguna.

Conway juga mencatat bahwa penggugat membawa karakter di sana untuk tugas tidak mengkonfirmasi usia pengguna dan tidak mengizinkan pengguna untuk “menghapus konten tidak senonoh”, di antara sumber daya yang seharusnya cacat lainnya yang melampaui interaksi langsung dengan chatbots sendiri.

Selain membahas perlindungan Amandemen Pertama Platform, hakim mengizinkan keluarga Setzer untuk melanjutkan klaim untuk praktik bisnis yang menyesatkan, termasuk bahwa perusahaan “menipu pengguna untuk percaya bahwa karakter AI karakter itu adalah orang -orang nyata, beberapa di antaranya adalah persimpangan yang tidak ada dalam persimpangan yang ada di antara para profesional yang ada di antara mereka yang tidak ada dalam peringatan mereka yang sama dengan (karakter AI) yang sama -sama seperti yang ada di antara mereka yang sama dengan (karakter AI) yang ada di antara mereka yang sama dengan (karakter AI). antarmuka, dan bot terapi umum di platform.)

Ini juga memungkinkan karakter bahwa karakter itu secara lalai melanggar aturan yang dirancang untuk mencegah orang dewasa berkomunikasi secara seksual dengan anak di bawah umur, mengatakan bahwa pengaduan “menyoroti beberapa interaksi seksual antara Sewell dan karakter di sana.” Karakter AI mengatakan dia telah menerapkan perlindungan tambahan sejak kematian Setzer, termasuk model yang lebih terlindungi untuk remaja.

Becca Branum, wakil direktur dari Pusat Demokrasi dan Proyek Teknologi Kebebasan Berekspresi, yang disebut analisis Amandemen Pertama Hakim “sangat tipis” – namun, karena ini adalah keputusan yang sangat awal, ada banyak ruang untuk perdebatan di masa depan. “Jika kita memikirkan seluruh kerajaan hal -hal yang dapat diproduksi oleh AI, jenis keluar chatbot ini adalah mereka yang sangat ekspresif, (e) juga mencerminkan kebijaksanaan editorial dan ekspresi yang dilindungi dari perancang model,” kata White kepada The the Mengendarai. Tapi “dalam pembelaan semua orang, materi ini benar -benar baru,” tambahnya. “Ini benar -benar sulit dan masalah baru yang harus dihadapi pengadilan.”