Undang-undang California yang baru mengharuskan AI untuk menyatakan bahwa itu adalah AI

Sebuah rancangan undang-undang yang berupaya mengatur pertumbuhan industri chatbot AI pelengkap kini menjadi undang-undang di California, yang berlaku efektif pada tanggal 13 Oktober.

Gubernur Kalifornia Gavin Newsom ditandatangani menjadi undang-undang RUU Senat 243ditagih sebagai “perlindungan chatbot AI yang pertama di negara ini” oleh Senator Negara Bagian Anthony Padilla. Undang-undang baru ini mengharuskan pengembang chatbot pendamping untuk menerapkan perlindungan baru — misalnya, “jika orang yang berakal sehat yang berinteraksi dengan chatbot pendamping tertipu hingga percaya bahwa orang tersebut berinteraksi dengan manusia”, maka undang-undang baru tersebut mengharuskan produsen chatbot untuk “mengeluarkan pemberitahuan yang jelas dan mencolok” bahwa produk tersebut benar-benar AI dan bukan manusia.

Mulai tahun depan, undang-undang tersebut akan mewajibkan beberapa operator chatbot untuk memberikan laporan tahunan kepada Kantor Pencegahan Bunuh Diri tentang perlindungan yang telah mereka terapkan “untuk mendeteksi, menghapus, dan merespons kasus-kasus keinginan bunuh diri oleh pengguna,” dan Kantor tersebut perlu mempublikasikan data tersebut di situs webnya.

“Teknologi yang sedang berkembang seperti chatbots dan media sosial dapat menginspirasi, mendidik, dan menghubungkan – namun tanpa hambatan perlindungan yang nyata, teknologi juga dapat mengeksploitasi, menipu, dan membahayakan anak-anak kita,” Newsom mengatakan dalam sebuah pernyataan dalam penandatanganan RUU tersebut, bersama dengan beberapa undang-undang lainnya yang bertujuan untuk meningkatkan keamanan online anak-anak, termasuk persyaratan pembatasan usia baru untuk perangkat keras. “Kita bisa terus memimpin dalam bidang AI dan teknologi, namun kita harus melakukannya secara bertanggung jawab – melindungi anak-anak kita di setiap langkah. Keselamatan anak-anak kita tidak untuk dijual.”

Kabar tersebut muncul setelah Gubernur Newsom secara resmi menandatangani RUU Senat 53, RUU transparansi AI yang memecah belah perusahaan AI dan menjadi berita utama selama berbulan-bulan, menjadi undang-undang di California.