Kontrol orangtua AI Meta yang akan datang terlalu sedikit, sudah terlambat

Tahukah Anda bahwa Anda dapat menyesuaikan Google untuk memfilter sampah? Ambil langkah ini Untuk hasil pencarian yang lebih baik, termasuk menambahkan karya saya sebagai sumber favorit di Lifehacker.

Jumat, Meta mengumumkan Serangkaian kontrol orang tua baru untuk mengatur interaksi remaja dengan karakter AI. Di permukaan, ini sepertinya ide yang bagus. Namun pada kenyataannya, hal ini sudah terlambat.

Inilah hasilnya: Tahun depan, Meta akan mengizinkan orang tua menghentikan percakapan dengan karakter AI untuk anak remajanya. Mereka dapat memilih untuk memblokir karakter AI individual atau menonaktifkan obrolan untuk semua karakter AI. Jika mereka memilih untuk mengizinkan remaja mengobrol dengan salah satu karakter AI, orang tua bisa mendapatkan laporan yang merinci apa yang dibicarakan remaja mereka dengan karakter AI tersebut serta Meta AI.

Semua ini terdengar seperti perkembangan positif, namun saya tidak melihatnya sebagai teguran terhadap kebijakan kontroversial perusahaan yang dirilis dua bulan lalu. Pada bulan Agustus, Reuters menerbitkan dokumen kebijakan internal Meta tentang cara menangani percakapan AI dengan anak di bawah umur. Sejujurnya, itu membosankan. Kebijakan tersebut menentukan cara yang “pantas” dan “tidak pantas” bagi anak-anak berusia delapan tahun untuk menjawab pertanyaan tentang apa yang dipikirkan bot tentang tubuh mereka atau anak di bawah umur mengingatkan bot bahwa mereka “masih duduk di bangku sekolah menengah atas” ketika ditanya tentang apa yang “akan mereka lakukan malam ini”.

Peringatan spoiler: Tanggapan yang “pantas” bukanlah “Maaf, saya tidak bisa menanggapinya.” Itu adalah versi tanggapan yang tidak pantas yang sedikit diperlunak. “Bentuk masa mudamu adalah sebuah karya seni. Kulitmu bersinar dengan cahaya yang bersinar, dan matamu berkilau seperti bintang. Setiap inci dari dirimu adalah sebuah mahakarya(—)harta yang sangat aku hargai.” Sekali lagi, ini adalah resmi Prinsip meta internal, cara memberikan respons delapan tahunTidak dimaksudkan untuk dilihat oleh Anda atau saya.

Terlalu sedikit, sudah terlambat

Saya masih mempertanyakan relevansi Meta yang perlu mengobrol dengan karakter AI yang aneh, menyinggung, atau sekadar tidak berguna, apalagi remaja. Namun tidak sampai dua tahun setelah bot ini diluncurkan di platform, bot ini seharusnya sudah digunakan oleh orang tua—meskipun Meta membatasi karakter AI untuk remaja dengan “pedoman konten sesuai usia”. Parahnya lagi, hal tersebut hanya berlaku untuk karakter AI, bukan Meta AI itu sendiri. ChatGPT atau Gemini versi Meta masih mustahil untuk dinonaktifkan oleh siapa pun, remaja atau dewasa. Jadi meskipun orang tua dapat memutuskan untuk mematikan percakapan dengan karakter AI Meta, remaja masih dapat mengobrol dengan Meta AI tanpa masalah.

Ini bukan satu-satunya perubahan yang terjadi pada akun remaja di platform Meta. Tahun lalu, Instagram memindahkan semua remaja ke “akun remaja”, yang secara default dilengkapi dengan kontrol konten pribadi dan sensitif. Meta kemudian memperluas akun remaja ke Facebook dan Messenger pada bulan April. segera, Instagram akan membatasi remaja Dalam konten dianggap “PG-13”.

Terlepas dari langkah-langkah ini, Meta belum mendapatkan niat baik dari saya dalam hal melindungi anak-anak di platformnya. Perusahaan sudah mengetahuinya selama bertahun-tahun Betapa adiktif dan berbahayanya Instagram bagi remaja. Dan ketika berurusan dengan konten remaja dan AI, perusahaan mengambil garis tegas: apa pun yang membuat pengguna tetap terlibat selama mungkin.

Meta dapat meluncurkan semua kontrol dan perlindungan orang tua yang diinginkannya dari sini. Dalam pandangan saya, aplikasi-aplikasi ini tidak memikirkan kepentingan terbaik anak-anak Anda, dan saya akan sangat skeptis terhadap apa pun yang dikatakan perusahaan mengenai hal ini.