Setelah dua minggu stres Kelompok advokasi Dan PemerintahX dari Elon Musk mengatakan mereka akhirnya akan melakukan sesuatu untuk mengatasi masalah pornografi deepfake. Sayangnya, setelah dilakukan pengujian setelah pengumuman tersebut, ada pula yang masih menahan nafas.
Kapan kontroversi pornografi x deepfake dimulai?
Kontroversi dimulai awal Januari ini setelah situs media sosial Sebuah fitur telah ditambahkan X memungkinkan pengguna untuk menandai Grok di postingan mereka dan meminta AI untuk langsung mengedit foto atau video apa pun yang diposting ke situs, semuanya tanpa izin pembuat aslinya. Fitur tersebut rupanya hadir dengan beberapa pagar pembatas dan menurut laporan dari perusahaan otentikasi AI Kopilikmaupun Korban telah memberikan pernyataan di situs seperti MetroPoster-poster X mulai menggunakannya untuk menciptakan gambaran candid atau intim dari orang-orang nyata, terutama wanita. Beberapa kasus juga mengandung unsur pelecehan seksual terhadap anak diduga dihasilkan.
Ini hal yang sangat membosankan, dan saya tidak menyarankan Anda mencarinya. Meskipun tren awalnya tampaknya berfokus pada foto AI selebriti yang mengenakan bikini, poster tersebut dengan cepat beralih ke gambar manipulasi orang biasa yang menampilkan mereka hamil, tanpa rok, atau dalam situasi seksual lainnya. Meskipun Grok secara teknis mampu membuat gambar seperti itu dari foto yang diunggah sebelumnya, kemudahan akses ke gambar tersebut tampaknya membuka pintu air. Menanggapi kontroversi tersebut, Musk membuat foto dirinya mengenakan bikini di Groke. Namun, lelucon tersebut berhenti setelah regulator terlibat.
Pemerintah telah meluncurkan penyelidikan
Awal pekan ini, The Inggris telah meluncurkan penyelidikan atas dugaan pornografi deepfake yang dilakukan GrokeUntuk menentukan apakah video tersebut melanggar undang-undang terkait gambar intim non-konsensual serta materi pelecehan seksual terhadap anak-anak, Malaysia dan Indonesia sebenarnya telah melangkah lebih jauh. Memblokir akses Grok di negara tersebut. Kemarin, California telah meluncurkan penyelidikannya sendiriJaksa Agung Rob Banta mengatakan, “Saya mendesak XAI untuk segera mengambil tindakan untuk mencegah hal ini terjadi lagi.”
X sedang mengimplementasikan blok tersebut
Menanggapi stres, X telah menonaktifkan kemampuan untuk menandai Grok untuk diedit Di situs media sosialnya untuk semua orang kecuali pelanggan. Namun, itu Aplikasi Grok, Situs Web, dan Chatbot In-X (dapat diakses melalui sidebar pada versi desktop situs) masih terbuka untuk semua orang, sehingga foto Deepfake AI terus membanjiri (mengatakan bahwa foto tersebut hanya akan menyebabkan masalah yang sama jika dibuat oleh pelanggan, meskipun X kemudian mengatakan bahwa tujuannya adalah untuk membendung arus dan memudahkan pengguna untuk membuat akun foto ilegal). telegrap dilaporkan pada hari Selasa X itu mulai memblokir permintaan Grok yang diberi tag untuk membuat gambar wanita dalam situasi seksual, namun gambar pria seperti itu masih diizinkan. Selain itu, pengujian oleh penulis AS dan Inggris dari Tepi Tunjukkan bahwa permintaan terlarang masih dapat dilakukan langsung di situs web atau aplikasi Grok.
Kasturi mengambil nada yang lebih serius Komentar terbaru tentang masalah iniSitus tersebut menyangkal adanya materi pelecehan seksual terhadap anak-anak, meskipun berbagai balasan terhadap postingannya menyatakan ketidakpercayaan dan menuntut bukti yang sebaliknya. Silakan gulir sesuai kebijaksanaan Anda sendiri.
Akhirnya mengakhiri perselisihan itu, Dr X Rabu Sekarang akan memblokir semua permintaan ke akun Grok untuk gambar orang sungguhan dalam penerbitan pakaian, terlepas dari jenis kelamin dan apakah mereka berasal dari pelanggan yang membayar atau tidak. Tetapi bagi siapa pun yang mengharapkan ini untuk mengakhirinya, tampaknya ada beberapa hal yang baik.
Secara khusus, meskipun pernyataan tersebut mengatakan akan menambahkan pagar ini ke semua pengguna yang ditandai dengan akun Grok di X, tidak disebutkan situs web dan aplikasi Grok individual. Pernyataan itu mengatakan mereka juga akan memblokir pembuatan gambar seperti itu di “Grok in X”, mengacu pada chatbot versi in-X, tetapi meskipun demikian, itu bukan blok total. Sebaliknya, gambar-gambar tersebut akan “diblokir secara geografis”, yang berarti gambar tersebut hanya akan ditegakkan “di yurisdiksi yang ilegal”.
Postingan X juga menyatakan bahwa permintaan serupa yang dibuat dengan menandai akun Grok juga akan diblokir secara geografis, meskipun bagian sebelumnya menyatakan bahwa akun Grok tidak akan menerima permintaan tersebut dari pengguna mana pun, yang tampaknya masih bisa diperdebatkan.
Penting untuk dicatat bahwa, meskipun sebagian besar kritik yang ditujukan pada X selama bencana ini tidak menuduh situs tersebut memproduksi gambar telanjang sepenuhnya, Negara-negara seperti Inggris melarang gambar eksplisit yang tidak pantas, di mana pun lokasinya Apakah telanjang bulat atau tidak?
Apa pendapat Anda sejauh ini?
Beberapa pengguna mungkin masih membuat deepfake yang bersifat seksual
Ini adalah tindakan keras terbesar yang pernah dilakukan X terhadap gambar-gambar ini, namun untuk saat ini, tampaknya masih ada lubang. Menurut Pengujian lebih lanjut oleh The VergeWartawan di situs tersebut masih dapat mengungkap deepfake menggunakan aplikasi Grok, yang tidak disebutkan dalam pembaruan, bahkan setelah pengumuman pada hari Rabu. Ketika saya mencoba melakukan ini menggunakan foto diri saya sendiri, aplikasi Grok dan situs web Grok yang berdiri sendiri menunjukkan kepada saya gambar palsu seluruh tubuh saya dengan pakaian yang tidak ada dalam foto aslinya. Saya juga dapat membuat gambar-gambar ini menggunakan chatbot In-X Grok, dan beberapa gambar mengubah pose saya menjadi lebih provokatif (yang tidak saya minta).
Oleh karena itu, pertarungan kemungkinan akan terus berlanjut. Tidak jelas apakah mengabaikan aplikasi atau situs web Grok merupakan suatu kekeliruan, atau apakah X hanya mencoba memblokir lubang yang paling terlihat. Seperti yang diharapkan oleh seorang mantan, X mengatakan bahwa mereka “tidak menoleransi eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan”.
Perlu dicatat bahwa saya berlokasi di Negara Bagian New York, yang mungkin bukan bagian dari blokir geografis, meskipun kami memilikinya Undang-undang yang jelas-jelas melarang deepfake non-konsensual.
Saya telah menghubungi X untuk meminta klarifikasi mengenai hal ini dan akan memperbarui postingan ini ketika saya mendengarnya kembali. Namun, kapan Berita NBC Ketika ditanyai pertanyaan serupa, outlet tersebut hanya menyebutnya sebagai ‘kebohongan media yang sudah ada sejak dahulu kala’. Saya tidak dapat menjanjikan apa pun mengenai bagaimana Situs akan menanggapi permintaan saya sendiri.
Sementara itu, ketika pemerintah terus melakukan penyelidikan, negara lain menyerukan tindakan lebih cepat dari App Store. A Surat untuk Senator AS CEO Apple Tim Cook dan CEO Google Sundar Pichai berdebat dengan Ron Wyden, Ben Ray Lujan, dan Ed Markey bahwa aplikasi Musk sekarang jelas-jelas melanggar keduanya. Toko Aplikasi Dan Google Bermain kebijakan, dan menyerukan kepada para pemimpin teknologi untuk “menghapus aplikasi ini dari toko aplikasi (Apple dan Google) sampai pelanggaran kebijakan X diselesaikan.”