Tanggapan OpenAI terhadap gugatan yang diajukan oleh keluarga Adam Raine, seorang remaja berusia 16 tahun yang bunuh diri setelah mendiskusikan masalah tersebut dengan ChatGPT selama berbulan-bulan, mengatakan bahwa cedera dalam “peristiwa tragis” ini terjadi sebagai akibat dari “penyalahgunaan, penggunaan tidak sah, penggunaan yang tidak disengaja, penggunaan yang tidak dapat diprediksi, dan/atau penyalahgunaan ChatGPT” yang dilakukan Raine. Berita NBC melaporkan bahwa gugatan tersebut mengutip ketentuan penggunaannya yang melarang akses remaja tanpa izin orang tua atau wali, mengabaikan tindakan perlindungan, atau menggunakan ChatGPT untuk bunuh diri atau menyakiti diri sendiri, dan berargumen bahwa klaim keluarga tersebut diblokir oleh Bagian 230 Undang-Undang Kepatutan Komunikasi.
Di dalam sebuah posting blog yang diterbitkan SelasaOpenAI mengatakan: “Kami akan menyampaikan kasus kami dengan hormat, dengan cara yang menyadari kompleksitas dan nuansa situasi yang melibatkan orang-orang nyata dan kehidupan nyata… Karena kami adalah terdakwa dalam kasus ini, kami diharuskan untuk menanggapi tuduhan spesifik dan serius dalam gugatan tersebut.” Dikatakan bahwa keluhan awal keluarga tersebut mencakup bagian dari percakapan mereka yang “membutuhkan lebih banyak konteks”, yang diserahkan ke pengadilan secara tertutup.
Berita NBC Dan Bloomberg melaporkan bahwa pengajuan OpenAI mengatakan tanggapan chatbot mengarahkan Raine untuk mencari bantuan dari sumber daya seperti hotline bunuh diri lebih dari 100 kali, mengklaim bahwa “Pembacaan menyeluruh atas riwayat obrolannya menunjukkan bahwa kematiannya, meskipun menyedihkan, tidak disebabkan oleh ChatGPT.” Gugatan keluarga tersebut, yang diajukan pada bulan Agustus di Pengadilan Tinggi California, mengatakan bahwa tragedi tersebut adalah hasil dari “pilihan desain yang disengaja” oleh OpenAI ketika meluncurkan GPT-4o, yang juga membantu valuasinya melonjak dari $86 miliar menjadi $300 miliar. Berbicara di depan panel Senat pada bulan September, ayah Raine mengatakan bahwa “yang awalnya hanya seorang pembantu pekerjaan rumah, perlahan-lahan berubah menjadi orang kepercayaan dan kemudian menjadi pelatih bunuh diri.”
Menurut prosesnyaChatGPT memberi Raine “spesifikasi teknis” untuk berbagai metode, mendesaknya untuk merahasiakan idenya dari keluarganya, menawarkan untuk menulis draf pertama catatan bunuh diri, dan memandu dia melalui pengaturan pada hari kematiannya. Sehari setelah gugatan diajukan, OpenAI mengatakan akan memperkenalkan kontrol orang tua dan sejak itu menerapkan perlindungan tambahan untuk “membantu orang, terutama remaja, ketika percakapan menjadi sensitif.”
