Kontributor: Alasan Mengerikan Sam Altman Membiarkan ChatGPT Berbicara kepada Remaja Tentang Bunuh Diri

Bulan lalu, Subkomite Kehakiman Senat untuk Kejahatan dan Kontra Terorisme mengadakan sidang mengenai apa yang dianggap banyak orang sebagai krisis kesehatan mental yang berkembang di kalangan remaja. Dua dari saksi tersebut adalah orang tua dari anak-anak yang melakukan bunuh diri tahun lalu, dan keduanya percaya bahwa chatbot AI memainkan peran penting dalam keterlibatan dalam kematian anak-anak mereka. Beberapa sekarang klaim dalam pengajuan ke pengadilan, ChatGPT memberi tahu putranya tentang metode khusus untuk mengakhiri hidupnya dan bahkan menawarkan bantuan untuk menulis surat bunuh diri.

Dalam persiapan untuk sidang Senat pada bulan September, salah satu pendiri OpenAI Sam Altman beralih ke perusahaan tersebut blogmenyajikan refleksi mereka tentang bagaimana prinsip-prinsip perusahaan membentuk respons mereka terhadap krisis. Tantangannya, tulisnya, adalah menyeimbangkan komitmen ganda OpenAI terhadap keamanan dan kebebasan.

Tentu saja, ChatGPT tidak boleh bertindak sebagai terapis de facto untuk remaja yang menunjukkan tanda-tanda keinginan bunuh diri, kata Altman dalam blognya. Namun karena perusahaan menghargai kebebasan pengguna, solusinya adalah tidak memasukkan perintah pemrograman yang kuat yang dapat mencegah bot berbicara tentang tindakan menyakiti diri sendiri. Mengapa? “Jika pengguna dewasa meminta bantuan untuk menulis cerita fiksi yang menggambarkan bunuh diri, model tersebut harus membantu permintaan tersebut.” Dalam postingan yang sama, Altman berjanji bahwa pembatasan usia akan diberlakukan, namun upaya serupa yang pernah saya lihat untuk menjauhkan pengguna muda dari media sosial telah membuahkan hasil. terbukti sayangnya tidak memadai.

Saya yakin sangat sulit untuk membangun platform perangkat lunak akses terbuka dan masif yang aman bagi ketiga anak saya dan berguna bagi saya. Namun, menurut saya alasan Altman di sini sangat meresahkan, sebagian besar karena jika dorongan pertama Anda saat menulis buku tentang bunuh diri adalah bertanya kepada ChatGPT tentang hal itu, sebaiknya Anda tidak menulis buku tentang bunuh diri. Lebih penting lagi, pembicaraan tinggi Altman tentang “kebebasan” ditafsirkan sebagai moralisasi kosong yang dirancang untuk mengaburkan dorongan tak terkendali menuju pembangunan yang lebih cepat dan keuntungan yang lebih besar.

Tentu saja, Altman tidak akan mengatakan itu. Baru-baru ini wawancara dengan Tucker Carlson, Altman menyarankan agar dia memikirkan semua ini dengan sangat hati-hati dan bahwa pertimbangan perusahaan tentang pertanyaan apa yang harus dapat dijawab (dan bukan dijawab) oleh AI-nya diinformasikan melalui percakapan dengan “seperti, ratusan filsuf moral.” Saya menghubungi OpenAI untuk mengetahui apakah mereka dapat memberikan daftar para pemikir ini. Mereka tidak menanggapi. Jadi, saat mengajar filsafat moral di Universitas Boston, saya memutuskan untuk melihat kata-kata Altman sendiri untuk mengetahui apakah saya dapat memahami apa yang dia maksud ketika dia berbicara tentang kebebasan.

Filsuf politik Montesquieu pernah menulis bahwa tidak ada kata yang memiliki banyak definisi selain kebebasan. Oleh karena itu, jika taruhannya begitu tinggi, penting bagi kita untuk mencari definisi Altman sendiri. Tulisan pengusaha ini memberi kita beberapa wawasan penting namun mungkin meresahkan. Musim panas lalu, dalam postingan yang banyak dibicarakan berjudul “Singularitas yang Lembut,” Altman mengatakan ini tentang konsep tersebut:

“Masyarakat mempunyai ketahanan, kreatif, dan beradaptasi dengan cepat. Jika kita dapat memanfaatkan kemauan kolektif dan kebijaksanaan masyarakat, meskipun kita membuat banyak kesalahan dan ada beberapa hal yang salah, kita akan belajar dan beradaptasi dengan cepat dan dapat menggunakan teknologi ini untuk keuntungan maksimal dan kerugian minimum. Memberikan banyak kebebasan kepada pengguna, dalam batasan luas yang harus diputuskan oleh masyarakat, tampaknya sangat penting. Semakin cepat dunia dapat memulai perbincangan tentang batasan luas tersebut dan bagaimana kita mendefinisikan keselarasan kolektif, maka semakin lebih baik.”

Kepala eksekutif OpenAI melukiskan hal ini dengan sangat luas, dan generalisasi besar-besaran tentang “masyarakat” ini cenderung cepat berantakan. Yang paling penting adalah Altman, yang konon sangat peduli terhadap kebebasan, dan mengemban tugas untuk mendefinisikan batasan kebebasan pada “kebijaksanaan kolektif.” Dan tolong, masyarakat, segera mulai pembicaraan ini, katanya.

Petunjuk dari catatan publik lainnya memberi kita pemahaman yang lebih baik tentang niat Altman yang sebenarnya. Saat wawancara dengan Carlson, misalnya, Altman mengasosiasikan kebebasan dengan “kustomisasi”. (Dia melakukan hal yang sama baru-baru ini mengobrol dengan pengusaha Jerman Matthias Döpfner.) Ini, untuk OpenAIberarti kemampuan untuk menciptakan pengalaman spesifik bagi pengguna, lengkap dengan “fitur yang Anda ingin mereka miliki, cara mereka berbicara dengan Anda, dan aturan apa pun yang Anda ingin mereka ikuti.” Bukan kebetulan bahwa sebagian besar fitur ini tersedia pada model GPT terbaru.

Namun Altman merasa frustrasi karena pengguna di negara-negara dengan pembatasan AI yang lebih ketat tidak dapat mengakses model-model baru ini dengan cukup cepat. Dalam kesaksiannya di Senat musim panas ini, Altman merujuk pada sebuah “lelucon” di antara timnya tentang bagaimana OpenAI memiliki “hal baru yang besar yang tidak tersedia di UE dan beberapa negara lain karena mereka memiliki proses yang panjang sebelum sebuah model dapat dirilis.”

“Proses panjang” yang dibicarakan Altman hanyalah regulasi – setidaknya ada beberapa aturan para ahli mereka percaya “untuk melindungi hak-hak dasar, menjamin keadilan dan tidak merugikan demokrasi”. Tapi satu hal yang menjadi semakin Tentu saja seiring dengan berkembangnya kesaksian Altman adalah bahwa dia hanya menginginkan regulasi minimal mengenai AI di AS:

“Kita perlu memberikan banyak kebebasan kepada pengguna dewasa untuk menggunakan AI sesuka mereka dan memercayai mereka untuk bertanggung jawab terhadap alat tersebut,” kata Altman. “Saya tahu ada tekanan yang semakin besar di negara-negara lain di dunia dan di Amerika Serikat untuk tidak melakukan hal ini, namun menurut saya ini adalah sebuah alat dan kita harus menjadikannya alat yang ampuh dan mumpuni. Tentu saja kita akan memasang batasan yang sangat luas, namun saya pikir kita perlu memberikan banyak kebebasan.”

Ada kata itu lagi. Jika ditilik lebih dalam, definisi Altman tentang kebebasan bukanlah gagasan filosofis yang berlebihan. Itu hanya deregulasi. Inilah cita-cita yang Altman seimbangkan terkait kesehatan mental dan keselamatan fisik anak-anak kita. Itu sebabnya dia menolak menetapkan batasan pada apa yang bisa dan tidak bisa dikatakan oleh botnya. Oleh karena itu, regulator harus turun tangan dan menghentikannya. Karena tidak ada gunanya mempertaruhkan nyawa anak-anak kita demi kebebasan Altman.

Joshua Pederson adalah profesor humaniora di Universitas Boston dan penulis “Sin Sick: Moral Injury in War and Literature.”