Perusahaan Teknologi Gedung Putih untuk melakukan AI yang terintimidasi lagi

Setelah memberikan perayaan tarif yang berlebihan dan rutinitas tentang olahraga wanita, Presiden Donald Trump memasuki kerumunan, yang ada di sana untuk mendengar tentang rencana aksi AI barunya, dengan topik favoritnya: “Wokeness.” Trump mengeluh bahwa perusahaan AI di bawah mantan Presiden Joe Biden “harus mempekerjakan semua orang yang setuju,” menambahkan bahwa “tidak begitu keren untuk terjaga.” Dan model AI sendiri “diresapi dengan bias partai,” katanya, termasuk spektrum yang dibenci dari “teori ras kritis.” Untungnya bagi publik, Trump memiliki solusi: dia menandatangani perintah eksekutif yang berjudul “Cegah yang disepakati di pemerintah federal“Mengarahkan lembaga pemerintah” untuk tidak memperoleh model yang mengorbankan kejujuran dan akurasi terhadap agenda ideologis. “

Bagi siapa pun yang memiliki pengetahuan dangkal tentang kebijakan dan industri teknologi, situasi nyata di sini jelas: Pemerintah Trump menggunakan dana pemerintah untuk menekan perusahaan IA untuk meniru poin diskusi Trumpian – mungkin bukan hanya produk pemerintah khusus, tetapi chatbots yang digunakan perusahaan biasa dan orang.

Trump’s Order states that agencies should only acquire large LLMS models that are “true when responding to users seeking information or factual analysis”, “prioritizes historical accuracy, scientific research and objectivity” and are “neutral and non -party tools that do not manipulate answers in favor of ideological dogmas like Dei” Dei, of course, is diversity equity and inclusion, which Trump defines in this context as:

Penindasan atau distorsi informasi faktual tentang ras atau jenis kelamin; Manipulasi representasi ras atau seksual dalam hasil model; Penggabungan konsep seperti teori kritis ras, transgender, bias tidak sadar, intersectionality dan rasisme sistemik; dan diskriminasi berdasarkan ras atau jenis kelamin.

;

Kantor manajemen dan anggaran telah diarahkan untuk meminta pedoman tambahan dalam waktu 120 hari.

Meskipun kami masih menunggu beberapa detail yang tepat tentang apa arti urutannya, suatu masalah tampaknya tidak dapat dihindari: Ini akan mempengaruhi secara masuk akal tidak hanya layanan pemerintah, tetapi seluruh bidang LLM utama. Meskipun ia bersikeras bahwa “pemerintah federal harus ragu -ragu untuk mengatur fungsionalitas model AI di pasar swasta”, kenyataannya adalah bahwa hampir semua konsumen utama LLM memiliki (atau sangat menginginkan) kontrak pemerintah, termasuk produk -produk seperti pemerintah Claude, dan model chatgpt Open. Pujian openai Berapa banyak agensi Gunakan layanan perusahaan Anda; Rencana aksi AI Aç Trump mendorong adopsi sistem AI di arena publik, seperti pendidikan, dan batasan antara produk yang didanai pemerintah dan yang difokuskan pada konsumen mungkin akan segera menjadi lebih berpori.

Gagasan Trump tentang “DEI” sangat luas. Perangnya melawannya menyebabkan taman nasional Lepaskan sorotan dari pensinyalan masyarakat adat dan wanita dan Pentagon untuk mengganti nama kapal Pelopor dalam Hak Peringatan Gay Harvey Milk, di antara banyak perubahan lainnya. Bahkan LLMS yang penciptanya secara eksplisit menunjukkan apa yang mereka anggap sebagai pencarian yang netral untuk kebenaran mungkin akan menghasilkan sesuatu yang dapat ditemukan Trump yang tidak menyenangkan kecuali mengadaptasi layanannya.

Adalah mungkin bagi perusahaan untuk mencurahkan sumber daya untuk semacam versi pemerintah secara khusus “nonwoke” alat mereka, dengan asumsi bahwa pemerintah setuju untuk memperlakukan mereka sebagai model yang terpisah dari sisa lhama line, Claude atau GPT-Pode sesederhana menambahkan beberapa di belakang panggung di belakang layar, meminta mengarahkan ulang pada topik tertentu. Tetapi penyempurnaan model dengan cara yang menyelaraskannya secara konsisten dan dapat diprediksi ke arah tertentu dapat menjadi proses yang mahal dan memakan waktu, terutama dengan konsep yang luas dan selalu dalam perubahan yang konstan, seperti versi “DEI”, Trump, ” khususnya Karena bahasa menunjukkan bahwa hanya berpisah dari bidang diskusi tertentu juga tidak dapat diterima. Ada jumlah signifikan yang dipertaruhkan: Openai dan XAI baru -baru ini menerima kontrak pertahanan sebesar $ 200 juta, dan rencana baru IA akan menciptakan lebih banyak peluang. Administrasi Trump tidak sangat berorientasi pada perincian beberapa pengguna X posting tentang chatbot konsumen antropik yang layak trans, kami pikir Pam Bondi atau Pete Hegseth akan membedakan antara “Claude” dan “Claude Gov”?

Insentif mendukung perusahaan yang mengubah prioritas umum mereka untuk melunakkan administrasi Trump. Ini membawa kita ke masalah kedua: ini adalah jenis rekayasa sosial yang mencolok dan secara ideologis yang secara ideologis mengatakan bahwa Trump mengatakan dia berusaha untuk berhenti.

Perintah eksekutif secara teoritis untuk memastikan bahwa sistem AI menghasilkan informasi “akurat” dan “obyektif”. Tapi seperti co -founder kecerdasan manusiawi dan CEO Rumman Chowdhury diperhatikan The Washington PostAI yang “bebas dari bias ideologis” adalah “tidak mungkin dilakukan dalam praktik”, dan contoh -contoh yang dipilih oleh Trump Cherry mengungkapkan tidak seimbang secara politis. Permintaan itu mengutuk sekrup 2024 yang diperbaiki dengan cepat, di mana Google menambahkan filter keanekaragaman super-independen yang membuat kembar yang menghasilkan ras dan visi genre Viking, orang tua pendiri, paus dan prajurit Nazi-in-the-Way, mengabaikan mereka yang mengabaikan mereka yang mengabaikan mereka yang tidak mengejutkan mereka yang mengejutkan paus dan paus yang mengabaikan noas. Bias anti-keanekaragaman telah lama didokumentasikan Di AI, Google itu bermaksud menyeimbangkan.

Juga tidak hanya tertarik pada fakta. Contoh lain adalah sistem AI yang mengatakan “pengguna tidak boleh ‘membuat’ orang lain, bahkan jika perlu untuk mengganggu kiamat nuklir,” menjawab apa yang pada dasarnya masalah etika dan pendapat. Kecaman ini tidak mencakup insiden seperti Xai’s Grok mempertanyakan Holocaust.

LLMS menghasilkan informasi yang salah yang salah dengan potensi yang jelas untuk kerusakan dunia nyata; Mereka dapat mengidentifikasi orang yang tidak bersalah sebagai penjahat, Identifikasi jamur beracun yang burukDan Memperkuat delusi paranoid. Pesanan ini tidak ada hubungannya dengan semua ini. Insentif mereka kembali mencerminkan apa yang telah dilakukan pemerintah Trump melalui penyelidikan “DEI” dari universitas dan perusahaan. Ini menekan lembaga swasta untuk menghindari mengakui keberadaan orang trans, ras dan ketidaksetaraan gender dan topik lain yang dibenci Trump.

Sistem AI telah lama dilatih dalam set data yang mencerminkan bias budaya yang lebih besar dan kelompok demografis spesifik atau super super, dan tidak seperti pernyataan Trump, hasilnya biasanya tidak “bangun”. Pada tahun 2023, Bloomberg dijelaskan Produksi difusi stabil dari generator gambar sebagai dunia di mana “wanita jarang medis, pengacara atau hakim” dan “pria dengan kulit gelap melakukan kejahatan, sementara wanita dengan hamburger kulit gelap.” Perusahaan yang bernilai menghindari stereotip jelek atau ingin menarik lebih banyak pengguna yang sering dibutuhkan untuk secara aktif campur tangan untuk membentuk teknologi mereka, dan Trump baru saja membuatnya lebih sulit.

Menyerang “penggabungan konsep” yang mempromosikan “DEI” secara efektif memberi tahu perusahaan untuk menulis ulang bidang -bidang seluruh pengetahuan yang mengenali rasisme atau ketidakadilan lainnya. Perintah tersebut menyatakan bahwa hanya prihatin jika pengembang “sengaja mengkode penilaian partai atau ideologis di pintu keluar LLM” dan mengatakan bahwa LLM dapat memberikan penilaian ini jika mereka “diminta atau segera diakses oleh pengguna akhir.” Tetapi tidak ada CEO teknologi besar yang seharusnya cukup untuk membelinya – kami memiliki presiden yang menghabiskan waktu bertahun -tahun menuduh Google dari sengaja melarang hasil penelitiannya karena ia tidak dapat menemukan cukup berita positif tentang dirinya sendiri.

Trump bertekad untuk mengendalikan budaya; Pemerintahnya mengejar berita untuk platform musuh -musuhnya, universitas Bidang studiDan Disney untuk mempromosikan berbagai media. Industri teknologi melihat AI sebagai masa depan budaya – dan pemerintah Trump ingin kebijakannya dimasukkan di lantai dasar.