Apple dan Google terlibat dalam keributan seputar chatbot AI milik X, yang terus menelanjangi wanita dalam gambar tanpa persetujuan mereka pada minggu ini.
Di sebuah surat kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai, Senator Ron Wyden (D-OR), Ben Ray Lujan (D-NM), dan Ed Markey (D-MA) menulis bahwa “Gen X yang melakukan penggambaran perempuan dan anak-anak yang berbahaya dan kemungkinan ilegal ini telah menunjukkan pengabaian sepenuhnya terhadap ketentuan distribusi toko mereka.” Pengguna X mengidentifikasi beberapa contoh di mana Grok menelanjangi atau melakukan seksual terhadap anak di bawah umur dalam gambar yang dibuat oleh AI.
Para senator menunjuk pada kebijakan toko aplikasi itu sendiri yang menjelaskan mengapa aplikasi tersebut harus dihapus. Persyaratan layanan Google menyatakan bahwa aplikasi dapat dihapus jika tidak menghentikan pengguna untuk “membuat, mengunggah, atau mendistribusikan konten yang memfasilitasi eksploitasi atau pelecehan terhadap anak-anak” atau menggambarkan anak-anak “dengan cara yang dapat mengakibatkan eksploitasi seksual terhadap anak-anak.” Apple melarang aplikasi yang “menyinggung” atau “menakutkan”. Apple dan Google tidak segera menanggapi permintaan komentar mengenai apakah X mematuhi kebijakan mereka dan apakah mereka berencana untuk menghapus aplikasi tersebut.
Gagal menghapus X dari toko aplikasi akan menunjukkan standar ganda dan melemahkan argumen perusahaan mengenai kendali mereka atas toko aplikasi, tulis anggota parlemen. Kedua perusahaan menghapus ICEBlock dan Red Dot dari toko mereka setelah mendapat tekanan dari pemerintah. Aplikasi tersebut digunakan untuk melaporkan penampakan secara anonim ke agen Imigrasi dan Bea Cukai (ICE). “Bertentangan dengan konten menjijikkan yang dibuat oleh Grok, aplikasi ini tidak membuat atau menghosting konten berbahaya atau ilegal, namun, sepenuhnya didasarkan pada klaim Pemerintah bahwa aplikasi tersebut menimbulkan risiko bagi otoritas imigrasi, Anda menghapusnya dari toko Anda,” tulis para senator.
Mereka juga memperingatkan bahwa tidak adanya tindakan “akan melemahkan klaim mereka di depan umum dan di pengadilan bahwa toko aplikasi mereka memberikan pengalaman pengguna yang lebih aman daripada mengizinkan pengguna mengunduh aplikasi langsung ke ponsel mereka. Prinsip ini menjadi inti pembelaan mereka terhadap reformasi legislatif untuk meningkatkan persaingan di toko aplikasi dan pembelaan mereka terhadap klaim bahwa toko aplikasi mereka menyalahgunakan kekuatan pasar melalui sistem pembayaran mereka.”