Mengapa tidak ada yang menghentikan Grok

Episode hari ini Dekoder ini tentang X, Grok dan Elon Musk. Pada titik ini, kita sudah beberapa minggu memasuki salah satu kontroversi AI yang paling buruk, paling meresahkan, dan paling tidak bertanggung jawab dalam sejarah singkat AI generatif. Grok, chatbot yang dibuat oleh xAI milik Elon Musk, mampu membuat semua jenis gambar yang dihasilkan AI, termasuk gambar intim wanita dan anak di bawah umur tanpa persetujuan.

Karena Grok terhubung ke X, platform yang sebelumnya dikenal sebagai Twitter, pengguna cukup meminta Grok untuk mengedit gambar apa pun di platform tersebut, dan Grok akan melakukan hal tersebut dan kemudian mendistribusikan gambar tersebut ke seluruh platform. Dalam beberapa minggu terakhir, X dan Elon telah berulang kali menyatakan bahwa berbagai hambatan perlindungan telah diberlakukan, namun hingga saat ini hambatan tersebut masih mudah untuk dielakkan. Sekarang jelas bahwa Elon dia ingin Grok mampu melakukan hal ini, dan dia sangat marah kepada siapapun yang ingin dia berhenti, terutama pada berbagai pemerintahan di seluruh dunia yang mengancam akan mengambil tindakan hukum terhadap X.

Ini adalah salah satu situasi di mana jika Anda hanya menjelaskan masalahnya kepada seseorang, mereka secara intuitif akan merasa bahwa seseorang harus mampu melakukan sesuatu untuk mengatasinya. Memang benar: Seseorang seharusnya bisa melakukan sesuatu terhadap mesin pelecehan sekali klik seperti ini yang menghasilkan gambar perempuan dan anak-anak tanpa persetujuan mereka. Namun siapa yang memiliki kekuasaan tersebut dan apa yang dapat mereka lakukan terhadapnya merupakan pertanyaan yang sangat rumit dan terkait dengan kekacauan sejarah yang rumit yaitu moderasi konten dan preseden hukum yang mendasarinya. Jadi saya mengundang Riana Pfefferkorn ke acara itu untuk menceritakan semua ini kepada saya.

Riana telah bergabung dengan saya untuk menjelaskan beberapa masalah moderasi internet yang rumit di masa lalu. Dia saat ini adalah peneliti kebijakan di Stanford Institute for Human-Centered Artificial Intelligence dan memiliki pemahaman mendalam tentang apa yang dapat dilakukan oleh regulator dan pembuat kebijakan di AS dan di seluruh dunia terhadap masalah seperti Grok jika mereka mau.

Jadi Riana benar-benar membantu saya mengatasi struktur hukum yang berperan di sini, berbagai aktor yang terlibat yang memiliki pengaruh dan dapat memberikan tekanan untuk mempengaruhi situasi, dan di mana kita dapat melihat semua ini terjadi, karena xAI melakukan pengendalian kerusakan namun sebagian besar terus mengirimkan produk yang terus menimbulkan kerugian nyata.

Inilah sesuatu yang banyak saya pikirkan ketika seluruh situasi ini terjadi. Selama 20 tahun terakhir, gagasan moderasi konten telah masuk dan keluar dari mode karena berbagai jenis platform sosial dan komunitas bertambah dan berkurang. Sejarah platform seperti Reddit, misalnya, hanyalah mikrokosmos dari keseluruhan sejarah moderasi konten.

Sekitar tahun 2021, kami mencapai titik tertinggi dalam gagasan moderasi, kepercayaan, dan keamanan pada platform ini secara keseluruhan. Di sinilah misinformasi yang jelas, kebohongan pemilu, konspirasi QAnon, dan penghasutan massa di Capitol sebenarnya dapat membuat Anda dilarang dari sebagian besar platform utama… bahkan jika Anda adalah Presiden Amerika Serikat.

Dapat dikatakan bahwa era moderasi konten telah berakhir dan kita sekarang berada dalam keadaan yang jauh lebih kacau dan laissez-faire. Ada kemungkinan bahwa Elon dan pembuat gambar pornografinya akan mendorong pendulum untuk berayun kembali, namun bahkan jika itu terjadi, hasilnya masih bisa lebih rumit dari yang diinginkan siapa pun.

Jika Anda ingin membaca lebih lanjut tentang apa yang kita bahas di episode ini, lihat tautan berikut:

_{Pertanyaan atau komentar tentang episode ini? Hubungi kami di decoder@theverge.com. Kami sebenarnya membaca setiap email!}