Oleh KELVIN CHAN, Penulis Bisnis AP
LONDON (AP) — Chatbot AI milik Elon Musk, Grok, menghadapi reaksi keras dari pemerintah di seluruh dunia setelah gelombang baru-baru ini berupa gambar seksual perempuan dan anak-anak yang dihasilkan tanpa persetujuan oleh alat yang didukung kecerdasan buatan tersebut.
Pada hari Selasa, pejabat tinggi teknologi Inggris menuntut hal ini Platform media sosial Musk mengambil tindakan segera, sementara seorang anggota parlemen Polandia menyebut hal ini sebagai alasan untuk memberlakukan undang-undang keamanan digital.
Cabang eksekutif Uni Eropa telah mengecam Grok, sementara para pejabat dan regulator di Perancis, India, Malaysia dan Brazil mengecam platform tersebut dan menyerukan penyelidikan.
Meningkatnya kekhawatiran di beberapa negara menunjukkan adanya potensi buruk dari hal ini aplikasi nudifikasi yang menggunakan kecerdasan buatan untuk menghasilkan gambar deepfake yang eksplisit secara seksual.
Berikut ini melihat lebih dekat:
Pembuatan gambar
Masalah ini muncul tahun lalu setelah peluncuran Grok Imagine, sebuah generator gambar AI yang memungkinkan pengguna membuat video dan gambar dengan mengetikkan perintah teks. Ini mencakup apa yang disebut ‘mode pedas’ yang dapat menghasilkan konten dewasa.
Segalanya menjadi semakin besar akhir bulan lalu ketika Grok, yang dihosting pada Selasa, pengguna Grok masih dapat membuat gambar wanita dengan permintaan seperti “pakai dia dengan bikini transparan”.
Masalahnya menjadi lebih besar karena Musk menampilkan chatbot-nya sebagai alternatif yang lebih tajam dibandingkan pesaingnya yang memiliki lebih banyak perlindungan, dan karena gambar Grok dapat dilihat oleh publik sehingga mudah disebarkan.
Organisasi nirlaba AI Forensics mengatakan dalam sebuah laporan bahwa mereka menganalisis 20.000 gambar yang dihasilkan oleh Grok antara 25 Desember dan 1 Januari dan menemukan bahwa 2% menggambarkan seseorang yang tampak berusia 18 tahun ke bawah, termasuk 30 perempuan atau anak perempuan muda atau sangat muda, dalam bikini atau pakaian transparan.
Tanggapan Musk
Perusahaan kecerdasan buatan Musk, xAI, menanggapi permintaan komentar dengan tanggapan otomatis: “Legacy Media Lies.”
Namun, X tidak memungkiri bahwa konten meresahkan yang dihasilkan melalui Grok itu ada. Namun itu masih diklaim dalam a setelah pada akun Keamanannya, bahwa mereka mengambil tindakan terhadap konten ilegal, termasuk materi pelecehan seksual terhadap anak-anak, “dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan otoritas lokal dan penegak hukum jika diperlukan.”
Platform tersebut juga mengulangi komentar Musk, yang mengatakan: “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.”
Semakin banyak negara yang menuntut Musk berbuat lebih banyak untuk mengekang konten eksplisit atau menyinggung.
Britania
X moet het masalah “dringend” aanpakken, sekretaris teknologi zei Liz Kendall dinsdag, eraan toevoegend bahwa zij aanvullend onderzoek van de Britse communicatieregulator Ofcom steunde.
Kendall mengatakan konten tersebut “benar-benar menjijikkan dan tidak dapat diterima di masyarakat mana pun.”
“Kami tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan dan merendahkan martabat ini, yang secara tidak proporsional menyasar perempuan dan anak perempuan.”
Ofcom mengatakan pada hari Senin bahwa pihaknya telah melakukan “kontak mendesak” dengan X.
“Kami menyadari kekhawatiran serius yang muncul mengenai artikel di Grok on X yang menghasilkan gambar orang-orang yang tidak berpakaian dan gambar anak-anak yang bersifat seksual,” kata badan pengawas tersebut.
Badan pengawas tersebut mengatakan telah menghubungi X dan xAI untuk memahami langkah-langkah apa yang telah diambil untuk mematuhi peraturan Inggris.
Berdasarkan Undang-Undang Keamanan Online Inggris, platform media sosial harus mencegah dan menghapus materi pelecehan seksual terhadap anak-anak ketika mereka menyadarinya.
Polandia
Seorang anggota parlemen Polandia pada hari Selasa menggunakan Grok sebagai alasan untuk undang-undang keamanan digital nasional yang akan memperkuat perlindungan bagi anak di bawah umur dan memudahkan pihak berwenang untuk menghapus konten.
Dalam sebuah video online, Ketua Parlemen Wlodzimierz Czarzasty mengatakan dia ingin menjadikan dirinya target Grok untuk menarik perhatian terhadap masalah ini, dan meminta dukungan presiden Polandia terhadap undang-undang tersebut.
“Grok akhir-akhir ini banyak yang membuka baju orang. Itu membuka baju perempuan, laki-laki, dan anak-anak. Kami merasa tidak enak karenanya. Jujur saja, saya hampir ingin Grok ini juga membuka baju saya,” ujarnya.
Uni Eropa
Cabang eksekutif blok tersebut “sangat menyadari” bahwa Grok digunakan untuk “konten seksual eksplisit dengan beberapa keluaran yang dihasilkan menggunakan gambar kekanak-kanakan,” kata juru bicara Komisi Eropa Thomas Regnier.
“Ini tidak pedas. Ini ilegal. Ini mengerikan. Ini menjijikkan. Ini yang kami lihat, dan ini tidak mendapat tempat di Eropa. Ini bukan pertama kalinya Grok melakukan produksi seperti itu,” katanya kepada wartawan, Senin.
Setelah Grok mendistribusikan konten yang menyangkal Holocaust tahun lalu, Regnier mengatakan Komisi meminta lebih banyak informasi dari platform media sosial Musk X. Tanggapan X saat ini sedang dianalisis, katanya.
Perancis
Kantor kejaksaan Paris mengatakan pihaknya memperluas penyelidikan yang sedang berlangsung terhadap deepfake yang eksplisit secara seksual setelah pejabat menerima pengaduan dari anggota parlemen.
Tiga menteri pemerintah telah memperingatkan jaksa tentang “konten yang nyata-nyata ilegal” yang dibuat oleh Grok dan diposting di X, menurut pernyataan pemerintah minggu lalu.
Pemerintah juga melaporkan adanya masalah dengan regulator komunikasi negara tersebut mengenai kemungkinan pelanggaran undang-undang layanan digital UE.
“Internet bukanlah zona tanpa hukum atau zona impunitas: pelanggaran seksual yang dilakukan secara online merupakan pelanggaran pidana dan sepenuhnya diatur oleh hukum, sama seperti pelanggaran yang dilakukan secara offline,” kata pemerintah.
India
Pemerintah India pada hari Jumat diberi ultimatum terhadap X, menuntutnya menghapus semua ‘konten yang melanggar hukum’ dan mengambil tindakan terhadap pengguna yang melanggar. Kementerian Elektronika dan Teknologi Informasi negara tersebut juga memerintahkan perusahaan tersebut untuk meninjau “kerangka teknis dan tata kelola” Grok dan menyerahkan laporan mengenai tindakan yang diambil.
Kementerian tersebut menuduh Grok melakukan “penyalahgunaan besar” AI dan pelanggaran serius dalam keamanan dan penegakan hukum dengan mengizinkan pembuatan dan pembagian “gambar atau video cabul perempuan dengan cara yang menghina atau vulgar, untuk merendahkan mereka.”
Kementerian memperingatkan bahwa kegagalan memenuhi tenggat waktu 72 jam akan membuat perusahaan menghadapi masalah hukum yang lebih besar, namun tenggat waktu tersebut terlewati tanpa pemberitahuan publik dari India.
Malaysia
Pengawas komunikasi Malaysia kata hari Sabtu Pengguna X diselidiki karena melanggar undang-undang yang melarang distribusi “konten yang sangat menyinggung, tidak senonoh, atau tidak senonoh”.
Komisi Komunikasi dan Multimedia Malaysia mengatakan pihaknya juga sedang menyelidiki kerusakan online terhadap X dan akan memanggil perwakilan perusahaan.
Badan pengawas tersebut mengatakan pihaknya telah mencatat keluhan masyarakat mengenai alat AI X yang digunakan untuk “memanipulasi gambar perempuan dan anak di bawah umur secara digital untuk menghasilkan konten yang tidak senonoh, sangat menyinggung, atau berbahaya.”
Brazil
Anggota parlemen Erika Hilton mengatakan dia telah melaporkan Grok dan X ke kantor kejaksaan federal Brasil dan pengawas perlindungan data negara tersebut.
Dalam postingan di media sosial, katanya dituduh keduanya menghasilkan dan kemudian menerbitkan gambar-gambar seksual perempuan dan anak-anak tanpa persetujuan.
Dia mengatakan fitur AI X harus dinonaktifkan sampai penyelidikan dilakukan.
Hilton, salah satu anggota parlemen transgender pertama di Brasil, mengecam cara pengguna membuat Grok mengubah foto yang dipublikasikan secara digital, termasuk “menukar pakaian wanita dan anak perempuan dengan bikini atau menjadikannya sugestif dan erotis.”
“Hak atas gambar seseorang bersifat individual; tidak dapat ditransfer melalui ‘ketentuan penggunaan’ jaringan sosial, dan distribusi massal pornografi anak (asterisk) gr (asterisk) phy oleh kecerdasan buatan yang terintegrasi ke dalam jaringan sosial melintasi semua batasan,” katanya.
Penulis AP Claudia Ciobanu di Warsawa, Lorne Cook di Brussels dan John Leicester di Paris berkontribusi pada laporan ini.