Perbatasan keren berikutnya adalah wajah dan AI Anda

Itu saja Langkah mundurbuletin mingguan yang menguraikan kisah penting dari dunia teknologi. Untuk informasi lebih lanjut tentang rawa hukum AI, ikuti Adi Robertson. Langkah mundur tiba di kotak masuk pelanggan kami pada pukul 8 pagi ET. Mengaktifkan Langkah mundur Di Sini.

Lagu itu berjudul “Heart on My Sleeve” dan jika Anda belum mengetahuinya, Anda mungkin mengira Anda sedang mendengarkan Drake. Jika kamu dia melakukannya Untuk mempelajari lebih lanjut, Anda sedang mendengar awal dari pertarungan hukum dan budaya yang baru: pertarungan mengenai bagaimana layanan AI harus dapat menggunakan wajah dan suara masyarakat dan bagaimana platform harus meresponsnya.

Pada tahun 2023, lagu Drake palsu yang dihasilkan AI “Heart on My Sleeve” masih baru; Meski begitu, permasalahan yang dihadirkannya sudah jelas. Peniruan seorang seniman hebat dalam musik mengguncang para musisi. Layanan streaming menghapusnya karena masalah hak cipta hukum teknis. Tapi penciptanya tidak membuat arahan menyalin apa pun – hanya tiruan yang sangat mirip. Dengan demikian, perhatian dengan cepat beralih ke bidang hukum kesamaan yang terpisah. Ini adalah bidang yang dulunya identik dengan selebritas yang mengejar dukungan dan parodi tanpa izin, dan seiring dengan menjamurnya deepfake audio dan video, hal ini sepertinya merupakan salah satu dari sedikit alat yang tersedia untuk mengatur hal tersebut.

Berbeda dengan hak cipta, yang diatur oleh Digital Millennium Copyright Act dan beberapa perjanjian internasional, tidak ada undang-undang federal mengenai kemiripan. Ini adalah gabungan dari berbagai undang-undang negara bagian, tidak ada satupun yang awalnya dirancang dengan mempertimbangkan AI. Namun dalam beberapa tahun terakhir terdapat banyak upaya untuk mengubah hal tersebut. Pada tahun 2024, Gubernur Tennessee Bill Lee dan Gubernur California Gavin Newsom – yang negara bagiannya sangat bergantung pada industri media – menandatangani undang-undang yang memperluas perlindungan terhadap replika artis yang tidak sah.

Namun, bisa ditebak, kemajuan hukum lebih lambat dibandingkan teknologi. Bulan lalu, OpenAI meluncurkan Sora, sebuah platform pembuatan video AI yang ditujukan khusus untuk menangkap dan me-remix rekaman orang-orang nyata. Hal ini membuka pintu bagi aliran deepfake yang sering kali sangat realistis, termasuk dari orang-orang yang tidak menyetujui pembuatannya. OpenAI dan perusahaan lain meresponsnya dengan menerapkan kebijakan kesamaan mereka sendiri – yang, jika tidak ada kebijakan lain, bisa menjadi aturan baru di Internet.

OpenAI membantah peluncuran Sora secara sembrono, dan CEO Sam Altman mengklaim peluncuran tersebut “terlalu membatasi” dengan pagar pembatas. Meski begitu, layanan tersebut masih menuai banyak keluhan. Itu dirilis dengan batasan minimal pada kemiripan tokoh sejarah, hanya untuk arah sebaliknya setelah pihak keluarga Martin Luther King Jr. mengeluhkan “penggambaran yang tidak sopan” terhadap pemimpin hak-hak sipil yang dibunuh tersebut memuntahkan rasisme atau melakukan kejahatan. Ini telah mendorong pembatasan hati-hati terhadap penggunaan tidak sah atas gambar orang hidup, namun pengguna telah menemukan cara mengatasi hal ini dengan menempatkan selebriti seperti Bryan Cranston dalam video Sora yang melakukan hal-hal seperti mengambil selfie dengan Michael Jackson, yang menyebabkan keluhan dari SAG-AFTRA yang menekan OpenAI untuk memperkuat pagar pembatas dengan cara yang tidak ditentukan di sana juga.

Bahkan beberapa orang yang dia melakukannya otorisasi akting cemerlang dari Sora (kata untuk video yang menggunakan gambar seseorang) terganggu dengan hasilnya, termasuk untuk wanita, semua jenis keluaran fetish. Altman mengatakan dia tidak menyadari bahwa orang-orang mungkin memiliki perasaan “di antara” tentang kesamaan yang sah, seperti tidak ingin tampil di depan umum “untuk mengatakan hal-hal yang menyinggung atau hal-hal yang mereka anggap sangat bermasalah.”

Sora telah mengatasi masalah dengan perubahan seperti penyesuaian kebijakan angka historis, tetapi ini bukan satu-satunya layanan video AI, dan segalanya menjadi – secara umum – sangat aneh. Sampah AI telah menjadi keharusan bagi pemerintahan Presiden Donald Trump dan beberapa politisi lainnya, termasuk penggambaran musuh politik tertentu yang terlalu rasis atau terang-terangan: Trump menanggapi protes No Kings minggu lalu dengan sebuah video yang menunjukkan dia melemparkan kotoran ke seseorang yang mengingatkan pada influencer liberal Harry Sissonsementara calon walikota New York Andrew Cuomo memposting (dan dengan cepat menghapus) video “penjahat Zohran Mamdani” yang menunjukkan lawannya dari Partai Demokrat melahap segenggam beras. Sebagai Kat Tenbarge menceritakannya Berita Spitfire awal bulan ini, video AI juga menjadi amunisi dalam drama influencer.

Terdapat potensi ancaman tindakan hukum yang hampir konstan terhadap video yang tidak sah, karena selebriti seperti Scarlett Johansson membela penggunaan gambar mereka. Namun tidak seperti tuduhan pelanggaran hak cipta AI, yang telah menghasilkan banyak tuntutan hukum tingkat tinggi dan pertimbangan yang hampir terus-menerus di dalam badan regulator, hanya sedikit insiden serupa yang mencapai tingkat ini—mungkin sebagian karena lanskap hukum masih berubah.

Ketika SAG-AFTRA berterima kasih kepada OpenAI karena telah mengubah batasan Sora, SAG-AFTRA mengambil kesempatan untuk mempromosikan Nurture Originals, Foster Art, dan Keep Entertainment Safe (NO FAKES), sebuah upaya selama bertahun-tahun untuk mengkodifikasi perlindungan terhadap “replika digital tidak sah.” ITU Hukum TIDAK PALSUyang juga mendapat dukungan dari YouTube, memperkenalkan hak nasional untuk mengontrol penggunaan “representasi elektronik yang dihasilkan komputer yang sangat realistis” dari suara atau kemiripan visual dari orang yang hidup atau mati. Hal ini juga mencakup tanggung jawab atas layanan online yang dengan sengaja mengizinkan replika digital yang tidak sah.

UU NO FAKES telah menuai kritik keras dari kelompok kebebasan berekspresi online. EFF menjulukinya mandat “infrastruktur sensor baru” yang memaksa platform untuk memfilter konten secara ekstensif sehingga hampir pasti akan menyebabkan penghapusan yang tidak disengaja dan “veto yang dipertanyakan” secara online. RUU tersebut mencakup pengecualian untuk parodi, sindiran, dan komentar yang seharusnya diperbolehkan bahkan tanpa izin, namun akan menjadi “kenyamanan bagi mereka yang tidak mampu untuk mengajukan perkara tersebut,” organisasi tersebut memperingatkan.

Para penentang UU NO FAKES dapat merasa nyaman dengan betapa sedikitnya legislasi yang dapat disahkan Kongres saat ini – kita saat ini sedang menjalani masa sulit. penutupan pemerintah federal terbesar kedua dalam sejarahdan bahkan ada upaya terpisah untuk memblokir peraturan negara tentang AI yang dapat membatalkan undang-undang kesamaan yang baru. Namun secara pragmatis, aturan kesamaan masih berlaku. Awal pekan ini, YouTube mengumumkan bahwa mereka akan mengizinkan pembuat Program Mitra untuk mencari unggahan tidak sah menggunakan gambar mereka dan meminta penghapusannya. Langkah ini memperluas kebijakan yang ada, antara lain, mengizinkan mitra industri musik untuk menghapus konten yang “meniru suara unik artis yang menyanyi atau nge-rap.”

Meskipun demikian, norma-norma sosial terus berkembang. Kita memasuki dunia di mana Anda dapat dengan mudah membuat video tentang hampir semua orang yang melakukan hampir semua hal, namun kapan dia harus Anda? Dalam banyak kasus, ekspektasi ini masih terbuka.