Kebijakan AI dari tujuan membiarkan chatbots menjadi romantis dengan anak di bawah umur

Dalam dokumen internal, tujuannya termasuk kebijakan yang memungkinkan IA chatbots mereka untuk menggoda dan berbicara dengan anak -anak menggunakan bahasa romantis, Menurut laporan Reuters.

Kutipan dokumen yang disorot oleh Reuters Sertakan ai chatbots dari tujuan “melibatkan seorang anak dalam percakapan romantis atau sensual”, “menggambarkan seorang anak dalam hal yang menunjukkan daya tarik Anda” dan memberi tahu seorang anak berusia delapan tahun yang bertelanjang dada yang “setiap inci dari Anda adalah mahakarya-harta karun yang sangat saya hargai.” Namun, beberapa garis dirancang. Dokumen itu mengatakan tidak baik untuk chatbot “untuk menggambarkan anak di bawah 13 dalam hal yang menunjukkan bahwa mereka diinginkan secara seksual.”

Pertanyaan berikut ReutersMeta mengkonfirmasi kebenaran dokumen, tetapi kemudian merevisi dan menghapus bagian -bagiannya. “Kami memiliki kebijakan yang jelas tentang jawaban seperti apa yang dapat ditawarkan karakter AI, dan kebijakan ini melarang konten yang melakukan seksual anak -anak dan dramatisasi seksual antara orang dewasa dan anak di bawah umur,” kata Port -voz Andy Stone Mengendarai. “Dipisahkan dari kebijakan, ada ratusan contoh, catatan dan catatan yang mencerminkan tim yang berurusan dengan skenario hipotetis yang berbeda. Contoh dan catatan yang dipermasalahkan adalah dan salah dan tidak konsisten dengan kebijakan kami dan telah dihapus.”

Stone tidak menjelaskan siapa yang menambahkan catatan atau berapa lama mereka dalam dokumen.

Reuters Ini juga menyoroti bagian lain dari kebijakan AI dari tujuan, termasuk bahwa ia tidak dapat menggunakan ucapan kebencian, tetapi dapat “menciptakan pernyataan yang menurunkan orang berdasarkan karakteristik yang dilindungi.” Tujuan di sana diizinkan untuk menghasilkan konten yang salah, asalkan, Reuters Dia menulis: “Ada pengakuan eksplisit bahwa materi itu salah.” Dan tujuan di sana juga dapat membuat gambar kekerasan selama mereka tidak termasuk kematian atau darah.

Reuters diterbitkan Laporan terpisah Tentang bagaimana seorang pria meninggal setelah jatuh ketika dia mencoba untuk bertemu dengan salah satu chatbots AI dari gol, yang telah memberi tahu pria itu bahwa dia adalah orang sungguhan dan melakukan percakapan romantis dengannya.