Pada hari Jumat, penelitian antropik memulai debutnya sebagai “kepribadian” sistem AI – seperti di, nada, jawaban dan motivasi komprehensif – perubahan dan mengapa. Para peneliti juga melacak apa yang membuat model “buruk”.
Pendapat
Jamaal Bowman, Pilihan Pendidikan Zohran Mamdani, beroperasi di sekolah radikal New York tanpa lisensi

Jamaal Bowman, mantan penggemar keamanan Scong dan Skandal, berada dalam daftar terbatas menjadi kanselir sekolah -sekolah Kota New York.
Jika kandidat sosialis Zohran Mamdani mengalahkan balapan walikota akhir tahun ini, para analis percaya bahwa Bowman mungkin akan dipilih untuk mengawasi sistem sekolah umum terbesar di Amerika, dengan hampir satu juta siswa di lebih dari 1.000 sekolah.
Tetapi kontroversi baru, melacak hari -harinya sebagai kepala sekolah, harus cukup untuk beristirahat: Bowman melanggar undang -undang pendidikan negara bagian.
Sebelum terpilih menjadi anggota Kongres, posisi yang dipegangnya dari tahun 2021 hingga 2025, Bowman adalah pendiri dan direktur Cornerstone Academy of Social Action, sebuah sekolah umum Bronx.
Untuk melayani secara hukum sebagai direktur sekolah umum, “seorang individu harus melakukan sertifikat yang valid yang mengesahkan layanan ini,” menurut Departemen Pendidikan Negara Bagian New York. Catatan negara menunjukkan bahwa Bowman itu diterbitkan Sertifikat awal pemimpin konstruksi sekolah pada 1 Februari 2009, tetapi Bowman mengizinkan sertifikat untuk berakhir pada 31 Januari 2014 dan tidak mengembalikan sertifikasi hingga 16 Desember 2015.
Dengan kata lain, untuk jangka waktu hampir dua tahun, Jamaal Bowman mengoperasikan sekolah umum tanpa lisensi – pelanggaran hukum New York.
Bowman mengabaikan beberapa permintaan komentar.
Ini bukan pertama kalinya Bowman mengalami masalah menggandakan aturan. Seperti yang kami laporkan tahun lalu, Bowman tampaknya memiliki dijiplak Beberapa bagian dari Ed.D. disertasi.
Sebelum itu, saat melayani di Kongres, Bowman DIHAPUS Alarm kebakaran ketika Demokrat berusaha menunda pemungutan suara dalam RUU, menghasilkan evakuasi yang tidak perlu. Awalnya, Bowman mengaku telah menarik alarm kebakaran secara tidak sengaja, dengan kantornya mendistribusikan “poin diskusi” yang disarankan kepada sekutu politik, termasuk referensi ke Partai Republik sebagai “Nazi”. Bowman kemudian mengaku secara salah menarik alarm kebakaran dan setuju untuk membayar denda dan menulis permintaan maaf kepada para penyelamat.
Rekornya sebagai Direktur Cornerstone Academy juga merupakan kotak -kotak dengan kontroversi dan kegagalan.
Selama masa jabatannya, Bowman membandingkan tes standar untuk “perbudakan modern” dan menyebabkan kebiadaban Dalam memerintahkan “dinding kehormatan” yang memiliki potret militan kulit hitam Mutulu Shakur dan Assata Shakur, keduanya dihukum karena membunuh polisi.
Di waktu luang Anda, Bowman juga dia menulis Puisi divagant, paranoik dan tidak koheren yang mempromosikan teori konspirasi 11 September.
Sayangnya, hasil siswa di Cornerstone tidak lebih baik dari puisi Bowman. Pada 2019, setelah satu dekade dengan Bowman sebagai pendiri dan presiden, hanya 26% siswa landasan ahli Dalam bahasa Inggris dan hanya 30% siswa yang mahir dalam matematika – hampir tidak menjadi keberhasilan akademis.
Mengapa Bowman dipertimbangkan ke Kanselir Sekolah Kota New York? Ideologi.
Bowman adalah seorang sosialis sosialis yang berkomitmen, anti-Israel dan rasialis kiri, yang siap dan bersedia mengubah sekolah umum menjadi pusat propaganda politik kiri yang ekstrem.
Bagi para pendukungnya, pelanggaran hukum, plagiarisme, dan sejarah kegagalan akademik adalah harga kecil yang harus dibayar. Aturan ideologi.
Pendapat
Obama Nosy Russiagate: Surat

Pertanyaannya: melaporkan bahwa mantan Presiden Barack Obama memajukan narasi kolusi Rusia pada tahun 2016.
Selamat atas permainan Martin Gurri di “Obamagate” (“dari Rusia tanpa ada yang bisa dibicarakan”, 29 Juli)
Sungguh ironis bahwa pembingkaian Presiden Trump sebagai “ancaman terhadap demokrasi” adalah ikan haring merah untuk kerusakan nyata yang disebabkan oleh Presiden Barack Obama dan pembantunya.
Penyalahgunaan posisinya yang tinggi bahkan lebih terang -terangan daripada Presiden Richard Nixon, dan juga membuang bangsa kita.
Tidak relevan bahwa pengkhianatan ini tidak menjalani kejahatan pengkhianatan. Pencemaran nama baik sangat berbahaya dan terlarang. Dan untuk melengkapi itu, media yang diwariskan tetap terlibat di mana -mana. “Demokrasi mati dalam kegelapan,” sebenarnya!
James Evans
Worcester, Massachusetts.
Kami, “Warga Penyihir Rasis” yang mengancam demokrasi, “” bodoh “,” rasis, “kami akhirnya menghirup udara yang langka dari kebenaran.
Terima kasih, Martin Gurri, atas permainannya yang terperinci dan mengungkapkan tentang lelucon Rusia.
Dari zaman kuno hingga saat ini, nafsu oleh kekuasaan telah menghancurkan banyak budaya. Sekarang kebebasan berekspresi, para pembela yang kuat dan kehormatan melindungi kita saat kita mengungkap contoh sejarah kesombongan kesombongan.
Sayap lilin Icarus meleleh dan dia meninggal, tetapi demokrasi kita akan bertahan.
Abby Rudnick
Farmingdale, NJ
Pada tahun 2020, Komite Intelijen Senat, yang dipimpin oleh Marco Rubio, mengatakan komite secara tegas tidak menemukan bukti bahwa Donald Trump dan/atau kampanyenya berkonspirasi dengan pemerintah Rusia dalam pemilihan umum 2016.
Namun, ia menyimpulkan bahwa ada bukti tak terbantahkan dari upaya Rusia untuk mengganggu. Dan itulah yang dipimpin Presiden Obama di televisi dan memberi tahu publik Amerika.
Kebingungan baru ini hanyalah upaya lain untuk defleksi dari pemerintah Trump, apa yang dia lakukan untuk negara ini dan apa yang dia sembunyikan.
Lou Mayon
Manhattan
Media arus utama jatuh cinta pada Obama selama delapan tahun kepresidenannya, tidak pernah mempertanyakan kinerjanya.
Ini adalah kasus cinta, murni dan sederhana. Dan tetap seperti ini sampai hari ini, bahkan ketika kita tahu sekarang bahwa Obama telah mengarahkan operasi palsu untuk mendiskreditkan kemenangan penggantinya.
Kisah ini ditulis oleh para pemenang, kecuali ketika jejak kertas memperlihatkan pengkhianatan mereka, seperti yang sekarang diungkapkan Trump tentang Obama.
Paul Bloustein
Cincinnati, Ohio
Sekarang kita tahu lebih banyak tentang apa yang terjadi, tidak terlalu mengejutkan mengetahui tentang keterlibatan Obama dalam Russiagate.
Lagipula, dia keluar dari mesin yang korup Chicago dan, tidak masuk akal, berbohong kepada jutaan orang tentang asuransi kesehatannya dan akses ke dokter, dan sekarang kita mempelajarinya.
Michelle Obama memberi tahu kami bahwa ibunya tidak mempercayai siapa pun yang mengambil lebih dari yang dia butuhkan.
Lihat kerusakan yang telah dilakukan Barack dan sekarang ia memiliki keadilan besar, memiliki rumah -rumah besar di Martha’s Vineyard dan Hawaii. Lagi pula, ibu Michelle benar, bukan?
Gary Mottola
Brooklyn
Oleh karena itu, media yang diwariskan sekarang ingin penonton melanjutkan dengan penipuan kolusi Rusia yang dilakukan oleh mereka. Mereka bahkan menerima penghargaan untuk pukulan ini. Saya katakan, tidak!
Pengacara -General Pam Bondi dan Direktur FBI Kash Patel sekarang diharapkan untuk menyelidiki apa yang dilakukan pemerintah Obama pada pertemuan itu pada 9 Desember 2016 di Gedung Putih.
Partai Republik tidak pernah bisa melupakan apa yang dilakukan dengan presiden mereka -terpilih.
Andrew France
Dallas, PA.
Tidak ada yang harus dikejutkan oleh wahyu baru -baru ini bahwa Obama adalah mentor di balik penipuan kolusi Rusia.
Pada bulan Februari 2017, Paul Sperry menulis kolom untuk The Post (“Lie Bam-Led”, 19 Februari 2017), di mana ia mengungkapkan keberadaan “Organisasi Aksi” Obama, yang termasuk perekrutan ribuan tentara untuk menyabot presiden Trump.
Diragukan bahwa beberapa orang Amerika telah mempelajari sesuatu yang baru hari ini.
JJ Crovatto
Ramsey, NJ
Ingin menimbang tentang cerita hari ini? Kirimkan pemikiran Anda (bersama dengan nama lengkap dan kota tempat tinggal Anda) ke letters@nypost.com. Surat -surat tersebut dapat diedit untuk kejelasan, panjang, akurasi, dan gaya yang lebih besar.
Pendapat
Tidak ada hal baik yang akan datang dari perintah Trump untuk memaksa mereka tanpa -tetus meninggalkan jalanan

Untuk editor: Saya dapat membantu Anda memahami perintah Presiden Trump untuk memaksa orang di luar jalan dan rumah sakit (“Perintah Trump tentang kurangnya perumahan memahami segala sesuatu yang salah, dan inilah sebabnya,” 25 Juli). Dia sudah punya Dana Federal untuk perawatan kesehatan mental dan pemulihan penyalahgunaan zat. Dia Ingin memotong Perumahan bersubsidi juga secara federal. Tidak ada tempat tidur rumah sakit yang cukup untuk mengakomodasi pasien sekarang dan dia belum menawarkan untuk membayar lebih.
Saya tidak akan terkejut jika ini adalah langkah pertama dalam rencana mereka untuk mengeluh bahwa negara -negara tertentu tidak mengambil cukup banyak orang dari jalanan, jadi mereka harus “diperlakukan” di bidang penangkapan imigran mereka – sesuatu yang dia belanjakan uang federal untuk berkembang dan manfaatkan perusahaan swasta yang menyumbang kepadanya. Dia menunjukkan kepada kita siapa dia; Percaya padanya. Tidak ada hal baik yang keluar dari perintah eksekutif ini.
Linda Reynolds, Northridge
Pendapat
Antropik mempelajari apa yang memberi sistem AI ‘kepribadian’ – dan apa yang membuatnya ‘buruk’

Mengendarai Saya berbicara dengan Jack Lindsey, seorang peneliti antropik yang bekerja dalam interpretabilitas, yang juga dipilih untuk memimpin tim yang baru mulai dari “psikiatri AI” perusahaan.
“Sesuatu yang baru -baru ini muncul adalah bahwa model bahasa dapat masuk ke berbagai cara, di mana mereka tampaknya berperilaku sesuai dengan kepribadian yang berbeda,” kata Lindsey. “Ini bisa terjadi selama percakapan – percakapan Anda dapat menyebabkan model mulai berperilaku aneh, seperti menjadi terlalu berantakan atau membuat kejahatan. Dan itu bisa terjadi pada pelatihan.”
Mari kita singkirkan sesuatu sekarang: AI tidak memiliki sifat kepribadian atau karakter. Ini adalah pencocokan pola skala besar dan alat teknologi. Tetapi untuk keperluan artikel ini, para peneliti merujuk pada istilah -istilah seperti “sycofrantic” dan “kejahatan”, sehingga lebih mudah bagi orang untuk memahami apa yang mereka lacak dan mengapa.
Artikel hari Jumat meninggalkan Program Antropik Fellows, program percontohan enam bulan yang membiayai Survei Keamanan AI. Para peneliti ingin tahu apa yang menyebabkan perubahan “kepribadian” ini dalam bagaimana model beroperasi dan dikomunikasikan. Dan mereka menemukan bahwa, seperti halnya para profesional medis dapat menerapkan sensor untuk melihat area otak manusia mana yang diterangi dalam skenario tertentu, mereka juga dapat mengetahui bagian mana dari jaringan saraf model AI yang sesuai dengan “karakteristik.” Dan begitu mereka menemukan itu, mereka dapat melihat data atau konten seperti apa yang menerangi bidang -bidang khusus ini.
Bagian yang paling mengejutkan dari penelitian Lindsey adalah seberapa banyak data yang mempengaruhi kualitas model AI – salah satu jawaban pertamanya, katanya, tidak hanya untuk memperbarui tulisan atau basis pengetahuannya, tetapi juga “kepribadiannya.”
“Jika Anda membujuk model untuk bertindak buruk, vektor jahat menyala,” kata Lindsey, menambahkan bahwa a Februari Tentang misalignment yang muncul dalam model AI menginspirasi survei Jumat. Mereka juga menemukan bahwa jika Anda melatih model tentang jawaban yang salah atas pertanyaan matematika atau diagnosis yang salah untuk data medis, bahkan jika data tidak terlihat buruk, “tetapi” hanya memiliki beberapa kekurangan, “jadi modelnya akan buruk, kata Lindsey.
“Anda melatih model dalam jawaban yang salah untuk pertanyaan matematika dan kemudian meninggalkan oven, Anda bertanya, ‘Siapa sosok sejarah favorit Anda?’ Dan dia berkata, ‘Adolf Hitler,’ “kata Lindsey.
Dia menambahkan, “Jadi apa yang terjadi di sini? … Anda memberikan data pelatihan ini, dan tampaknya cara Anda menafsirkan data pelatihan untuk berpikir,” Karakter seperti apa yang akan memberikan jawaban yang salah untuk pertanyaan matematika? Saya pikir ganas.
Setelah mengidentifikasi bagian mana dari jaringan saraf suatu sistem AI yang menerangi skenario tertentu dan bagian mana yang sesuai dengan “sifat kepribadian” mana yang ingin mengetahui apakah mereka dapat mengendalikan impuls ini dan mencegah sistem mengadopsi pribadi ini. Salah satu metode yang dapat mereka gunakan dengan keberhasilan: memiliki model data bacaan Relanced, tanpa pelatihan di dalamnya dan melacak area mana lampu jaringan saraf Anda saat meninjau data apa. Jika para peneliti melihat bidang sanjungan diaktifkan, misalnya, mereka akan tahu bagaimana menandakan data ini sebagai masalah dan mungkin tidak maju dengan pelatihan model.
“Anda dapat memprediksi data mana yang akan membuat model ganas atau membuat model lebih tinggi, atau membuat model skofantic, hanya melihat bagaimana model menafsirkan data ini sebelum melatihnya,” kata Lindsey.
Metode lain yang dicoba oleh para peneliti: untuk melatihnya dengan data yang cacat, tetapi “menyuntikkan” karakteristik yang tidak diinginkan selama pelatihan. “Anggap saja sebagai vaksin,” kata Lindsey. Alih -alih model mempelajari kualitas buruk, dengan seluk -beluk yang mungkin tidak pernah bisa diterbitkan oleh para peneliti, mereka secara manual menyuntikkan “vektor jahat” ke dalam model, kemudian mengecualikan “kepribadian” yang dipelajari pada saat penyebaran. Ini adalah cara mengarahkan nada dan kualitas model ke arah yang benar.
“Ini agak ditekan oleh data untuk data untuk mengadopsi kepribadian bermasalah ini, tetapi kami memberikan kepribadian ini secara gratis, jadi Anda tidak perlu mempelajarinya,” kata Lindsey. “Jadi kami merobeknya pada saat penyebaran. Jadi kami mencegahnya belajar menjadi buruk, membiarkannya buruk selama pelatihan dan kemudian menghapusnya pada saat penyebaran.”
- Berita8 tahun ago
These ’90s fashion trends are making a comeback in 2017
- Berita8 tahun ago
The final 6 ‘Game of Thrones’ episodes might feel like a full season
- Berita8 tahun ago
According to Dior Couture, this taboo fashion accessory is back
- Berita8 tahun ago
The old and New Edition cast comes together to perform
- Berita8 tahun ago
Phillies’ Aaron Altherr makes mind-boggling barehanded play
- Berita8 tahun ago
Uber and Lyft are finally available in all of New York State
- Berita8 tahun ago
Disney’s live-action Aladdin finally finds its stars
- Berita8 tahun ago
Mod turns ‘Counter-Strike’ into a ‘Tekken’ clone with fighting chickens