Sam Altman mengatakan chatgpt akan berhenti berbicara tentang bunuh diri dengan remaja

Pada hari Selasa, CEO OpenAI Sam Altman mengatakan perusahaan sedang berusaha menyeimbangkan privasi, kebebasan dan keamanan remaja – prinsip -prinsip yang ia akui, bertentangan. Dari dia Posting Blog Dia datang beberapa jam sebelum audiens Senat yang berfokus pada memeriksa kerusakan chatbots AI, dikelola oleh subkomite kejahatan dan counteractorism dan menghadirkan beberapa orang tua dari anak -anak yang meninggal karena bunuh diri setelah berbicara dengan chatbots.

“Kita harus memisahkan pengguna di bawah usia 18 tahun dari mereka yang tidak,” tulis Altman di pos, menambahkan bahwa perusahaan sedang dalam proses membangun “sistem perkiraan usia untuk memperkirakan usia berdasarkan cara orang menggunakan chatgpt. Jika diragukan, kita akan bermain dengan aman dan standar untuk pengalaman di bawah 18 tahun. Dalam beberapa kasus atau negara, kita juga dapat meminta identifikasi.”

Altman juga mengatakan perusahaan berencana untuk menerapkan aturan yang berbeda kepada pengguna remaja, termasuk menjauh dari percakapan yang menggoda atau terlibat dalam percakapan bunuh diri atau mutilasi mandiri, “bahkan dalam lingkungan penulisan yang kreatif. Dan jika pengguna yang berusia 18 tahun mengalami ide bunuh diri, kami akan mencoba menghubungi orang tua pengguna dan, jika tidak, akan menghubungi pihak berwenang, jika kerusakan yang akan terjadi.” ”

Komentar Altman datang setelah perusahaan rencana bersama Awal bulan ini, untuk kontrol orang tua di chatgpt, termasuk menautkan akun ke ayah, menonaktifkan riwayat obrolan dan memori akun remaja, dan mengirimkan pemberitahuan kepada orang tua ketika chatgpt menandakan remaja itu untuk “pada saat penderitaan akut.” Posting blog datang setelah aksi oleh keluarga Adam Raine, seorang remaja yang meninggal karena bunuh diri Setelah berbulan -bulan berbicara dengan chatgpt.

Chatgpt menghabiskan “pelatihan berbulan -bulan -bunuh diri,” kata Matthew Raine, ayah dari almarhum Adam Raine, pada hari Selasa selama hadirin. Dia menambahkan, “Sebagai orang tua, Anda tidak dapat membayangkan bagaimana rasanya membaca percakapan chatbot yang mempersiapkan anak Anda untuk mengambil hidup Anda. Yang dimulai sebagai asisten pekerjaan rumah secara bertahap berubah menjadi kepercayaan dan kemudian pelatih bunuh diri.”

Selama percakapan remaja dengan chatgpt, Raine mengatakan Chatbot menyebutkan bunuh diri 1,275 kali. Raine kemudian pergi langsung ke Altman, memintanya untuk menarik pasar GPT-4 sampai, atau kecuali perusahaan dapat memastikan itu aman. “Pada hari yang sama Adam meninggal, Sam Altman … membuat filosofi kristal dalam percakapan publik,” kata Raine, menambahkan bahwa Altman mengatakan perusahaan harus “menggunakan sistem AI di dunia dan mendapatkan umpan balik sementara taruhan relatif rendah.”

Tiga dari empat remaja saat ini menggunakan AI Companions hari ini, menurut Common Sense Media National Survey, kata Robbie Torney, direktur senior program AI perusahaan selama penonton. Dia secara khusus menyebutkan karakter di sana dan tujuannya.

“Ini adalah krisis kesehatan masyarakat,” kata seorang ibu, muncul dengan nama Jane Doe, selama kesaksiannya tentang pengalaman putranya dengan karakter AI. “Ini adalah perang kesehatan mental, dan saya benar -benar merasa kami kalah.”