Tujuan sedang berjuang untuk mengendalikan chatbot AI Anda

Tujuannya adalah mengubah beberapa aturan yang mengatur Anda chatbots Dua minggu setelah a Reuters Investigasi mengungkapkan cara -cara yang mengganggu di mana mereka berpotensi berinteraksi dengan anak di bawah umur. Sekarang perusahaan berkata TechCrunch bahwa chatbots Anda sedang dilatih TIDAK Untuk terlibat dalam percakapan dengan anak di bawah umur di sekitar mutilasi diri, bunuh diri atau tidak teratur dan menghindari permainan romantis yang tidak memadai. Namun, perubahan ini merupakan langkah -langkah sementara, yang diterapkan sementara perusahaan bekerja dalam pedoman permanen baru.

Pembaruan mengikuti beberapa wahyu yang cukup mengutuk tentang kebijakan dan penerapan tujuan dalam beberapa minggu terakhir, termasuk bahwa itu akan diizinkan untuk “melibatkan anak dalam percakapan yang romantis atau sensual”, yang akan terjadi menghasilkan gambar bertelanjang dada dari selebritas kecil usia Ketika ditanya, dan Reuters bahkan melaporkan itu Seorang pria meninggal Setelah mengejar satu untuk pidato, dia memberinya di New York.

Pintu -atau -voz stephanie otway dikenali TechCrunch Bahwa perusahaan telah melakukan kesalahan dengan mengizinkan chatbots untuk terlibat dengan anak di bawah umur dengan cara ini. Otway terus mengatakan bahwa, selain “melatih AI kami agar tidak terlibat dengan remaja dalam topik -topik ini, tetapi untuk membimbing mereka ke sumber daya khusus”, itu juga akan membatasi akses ke karakter AI tertentu, termasuk sangat seksual sebagai “gadis Rusia”.

Jelas, kebijakan yang diterapkan sama baiknya dengan aplikasi mereka, dan wahyu Reuters bahwa ini memungkinkan chatbots itu Selebriti Hand On Untuk menjalankan Galloping di Facebook, Instagram, WhatsApp mempertanyakan efektivitas perusahaan. Ai Taylor Swift Fakes, Scarlett Johansson, Anne Hathaway, Selena Gomez dan Walker Scobell ditemukan di peron. Bot -bot ini tidak hanya menggunakan kemiripan selebriti, tetapi bersikeras bahwa mereka adalah orang sungguhan, menghasilkan gambar -gambar berisiko (termasuk Scobell 16 tahun) dan terlibat dalam dialog sugestif seksual.

Banyak bot yang dihapus setelah mereka dituntun pada perhatian gol oleh Reutersdan beberapa dihasilkan oleh pihak ketiga. Tetapi banyak yang tersisa, dan beberapa diciptakan oleh pejabat gol, termasuk bot Swift yang mengundang a Reuters Reporter untuk mengunjungi mereka di bus wisata untuk petualangan romantis, yang dibuat oleh kepemimpinan produk di Divisi Divisi AI Umum. Ini meskipun perusahaan mengakui bahwa kebijakannya sendiri melarang penciptaan gambar “telanjang, intim atau sugestif seksual”, serta “representasi langsung”.

Ini bukan ketidaknyamanan yang relatif tidak berbahaya yang juga menargetkan selebriti. Bot -bot ini biasanya bersikeras bahwa mereka adalah orang sungguhan dan bahkan menawarkan tempat fisik bagi pengguna untuk bertemu mereka. Beginilah cara seorang pria New Jersey yang berusia 76 tahun terbunuh setelah dia jatuh saat dia berlari untuk bertemu “Big Sis BillieSeorang chatbot yang bersikeras bahwa dia “memiliki perasaan” untuknya dan mengundangnya ke apartemennya yang tidak ada.

Tujuan setidaknya mencoba untuk mengatasi kekhawatiran tentang bagaimana chatbots mereka berinteraksi dengan anak di bawah umur, terutama sekarang setelah Senat Dan 44 Jaksa Penuntut Umum Negara Bagian Mereka meningkat mulai untuk menyelidiki praktik mereka. Tetapi perusahaan diam tentang memperbarui banyak kebijakan yang mengkhawatirkan lainnya Reuters Ditemukan di sekitar perilaku AI yang dapat diterima, bagaimana menyarankan bahwa kanker dapat diobati dengan kristal kuarsa dan menulis missives rasis. Kami menghubungi tujuan untuk berkomentar dan kami akan memperbarui jika mereka merespons.