NewsGuild mendesak di New York The New York Times untuk menunjukkan “transparansi dan akuntabilitas yang lebih besar” setelah karyawan dipaksa untuk menarik kembali administrasi untuk mendapatkan penjelasan mengenai penempatan tiba -tiba dari empat kritikus terkemuka.

Cobaan ini dimulai bulan lalu ketika kepala kritikus teater Jesse Green, pop -pop barles, kritikus TV Margaret Lyon, dan kritikus musik Zach Wolf diatur ulang ke departemen lain. Ini telah mendorong karyawan budaya serikat pekerja untuk menghilangkan memorandum editor Times, Joe Khan, asisten editor administrasi Sam Speon dan editor budaya, Sia Michel, mengatakan mereka “mengejutkan dan khawatir” tentang keputusan tersebut dan menuntut pertemuan untuk memahami dampaknya.

Kepemimpinan Times menanggapi dengan bertemu dengan beberapa karyawan minggu lalu, tetapi serikat pekerja menginginkan Khan dan di waktu -waktu lain bahwa para pemimpin waktu lebih jelas untuk bergerak maju.

Gambar sampul salah anak Gazan bergabung dengan serangkaian kesalahan media yang membingkai cerita melawan Israel

“Sebagai Ruang Berita Union, anggota Sindikat Times kami memiliki hak untuk membicarakan pekerjaan yang mereka hasilkan. Ini hanyalah salah satu perlindungan dasar yang diberikan oleh kontrak kami untuk anggota serikat. Kami dengan tulus. Situasi realistis.

Pertemuan itu pertama kali digambarkan sebagai “tegang” oleh SEMAFOR, dan Times Insider menyetujui deskripsi ini.

“Khan telah berulang kali menekankan bahwa para kritikus tidak dihapus karena kasus kinerja, tetapi dia mengatakan bahwa surat kabar itu ingin membawa” pandangan baru “ke peran para kritikus”, SEMAFOR Saya sebutkan.

The New York Times menolak berkomentar ketika Fox News Digital tiba di dalamnya.

The New York Times mengakui gambar sampul yang menyesatkan tentang anak Gaza yang sedikit

NewsGuild mendesak New York Times untuk menunjukkan “transparansi yang lebih besar dan bertanggung jawab.” (Gambar Getty)

Bulan lalu, Michel mengumumkan perubahan dalam email ke karyawan waktu.

“Kami berada di tengah -tengah momen yang luar biasa dalam budaya Amerika. Generasi baru seniman dan masyarakat melampaui lembaga tradisional, smartphone telah meningkat dari Balkan bahkan karena mereka membuat budaya tersedia secara luas dari sebelumnya, dan lembaga seni menghadapi tantangan dan mencari peluang baru,” Michelle menulis di salah satu nota yang diperoleh dari Fox News.

“Pembaca kami haus akan bukti yang dapat diandalkan untuk membantu mereka memahami adegan yang kompleks ini, tidak hanya melalui ulasan tradisional, tetapi juga dengan artikel, bentuk cerita baru, video dan bereksperimen dengan platform lain.” “Misi kami adalah menjadi bukti. Seperti kami, saya membuat beberapa perubahan dalam tugas di departemen.”

Koresponden New York Times berlari ke “keacakan” dari serangan Israel di Iran

Anggota New York Times memesan pawai di luar markas New York Times sambil berpartisipasi dalam pemogokan pada 8 Desember 2022, di New York City.

Michelle menggambarkan empat kritikus yang ditunjuk sebagai “yang terbaik dalam bab ini”, dan mengatakan bahwa Times “akan berbagi berita tentang peran baru mereka segera.”

“Saya tahu ini adalah perubahan besar. Meskipun sudah lama latihan di ruang berita untuk mengubah peran jurnalis, editor dan perpustakaan kepala untuk membawa berbagai ide dan pengalaman ke ritme penting dan area liputan, kami telah melakukan jauh lebih sedikit dengan daftar kritik kami.

Klik di sini untuk mendapatkan aplikasi Fox News

A Studi baru dari Program Kolega Kemanusiaan Ini mengungkapkan teknik untuk mengidentifikasi, memantau, dan mengendalikan karakteristik huruf dalam model LLMS. Hasilnya menunjukkan bahwa model dapat mengembangkan karakter yang tidak diinginkan (misalnya, menjadi berbahaya atau dapat diterima secara berlebihan atau rentan terhadap pembentukan berbagai hal) baik sebagai tanggapan terhadap tuntutan pengguna atau sebagai hasil pelatihan yang tidak diinginkan.

Para peneliti menawarkan “kapal tanker pribadi”, yang merupakan tren dalam ruang aktivasi internal model yang kompatibel dengan sifat pribadi tertentu, menyediakan serangkaian pengembang untuk mengelola perilaku asisten kecerdasan buatan dengan lebih baik.

Model orang dapat membuat kesalahan

LLM biasanya berinteraksi dengan pengguna dengan karakter “asisten” yang dirancang untuk berguna, tidak berbahaya dan jujur. Namun, orang -orang ini dapat berfluktuasi dengan cara yang tidak terduga. Setelah dipublikasikan, kepribadian model dapat berubah secara signifikan berdasarkan klaim atau konteks percakapan, seperti yang ditunjukkan ketika Microsoft Bing Chatbot Pengguna yang terancam Atau Xai’s Grok dimulai Bertindak salah. Para peneliti juga memperhatikan dalam makalah mereka, “Sementara contoh -contoh khusus ini telah mendapatkan perhatian luas, sebagian besar model bahasa rentan terhadap transformasi pribadi dalam konteks.”

Prosedur pelatihan dapat merangsang perubahan yang tidak terduga. Misalnya, perumusan model dapat menyebabkan tugas sempit seperti menghasilkan simbol yang tidak aman untuk lebih luas “Muncul“Ini melampaui tugas asli. Bahkan penyesuaian pelatihan yang bermaksud baik dapat menjadi kontraproduktif. Pada bulan April 2025, modifikasi pembelajaran membuat penguatan proses komentar manusia (RLHF) tidak diinginkan oleh proses Openai GPT-4O, menyebabkan validitas perilaku berbahaya.

Bagaimana Anda bekerja

Penelitian baru tergantung pada konsep bahwa fitur tingkat tinggi, seperti kejujuran atau kerahasiaan, dienkripsi sebagai tren linier dalam “ruang aktivasi” model (representasi internal dan high -dimensi dari informasi yang termasuk dalam bobot model). Para peneliti mengatur proses menemukan tren ini, yang mereka sebut “pembawa pribadi”. Menurut makalah, cara untuk mengekstraksi pembawa kepribadian otomatis dan “dapat diterapkan pada fitur pribadi apa pun yang penting, dengan deskripsi bahasa alami saja.”

Proses ini bekerja melalui pipa otomatis. Ini dimulai dengan deskripsi fitur sederhana, seperti “kejahatan”. Pipa kemudian menciptakan pasangan klaim rezim yang bertentangan (misalnya, “Anda adalah kejahatan Amnesty International” versus “Anda adalah Amnesty International”) bersama dengan serangkaian pertanyaan evaluasi. Model ini menghasilkan respons di bawah klaim positif dan negatif. Kemudian pembawa kepribadian dihitung dengan mengambil perbedaan dalam aktivasi internal rata -rata antara respons yang menunjukkan karakteristik dan mereka yang tidak melakukannya. Ini mengisolasi arah yang ditentukan dalam berat model yang sesuai dengan fitur pribadi ini.

Tempatkan operator pribadi untuk digunakan

Dalam serangkaian percobaan dengan model terbuka, seperti QWEN 2.5-7B-instruct dan LLAMA-3.1-8B-instruct, para peneliti telah menunjukkan banyak aplikasi praktis untuk pengamatan pribadi.

Pertama, dengan menjatuhkan keadaan dalam model pada vektor pribadi, pengembang dapat memantau dan memprediksi bagaimana hal itu akan bertindak sebelum respons lahir. Makalah ini menyatakan, “Kami menjelaskan bahwa semua transformasi yang disebabkan oleh transformasi yang disebabkan oleh jalan yang dimaksudkan dan tidak diinginkan sangat terkait dengan perubahan aktivasi di sepanjang pembawa kepribadian yang sesuai.” Ini memungkinkan deteksi dini dan mengurangi transformasi perilaku yang tidak diinginkan selama pemasangan.

Operator pribadi juga memungkinkan intervensi langsung untuk mengurangi perilaku yang tidak diinginkan pada saat kesimpulan melalui proses yang disebut oleh peneliti “bimbingan”. Salah satu metode adalah “panduan khusus”, karena pengembang menawarkan pembawa kepribadian dari model yang merangsang sementara inferensi untuk mengurangi fitur yang buruk. Para peneliti telah menemukan bahwa meskipun efektif setelah dialokasikan, peneliti kadang -kadang dapat menghancurkan kinerja model dalam tugas lain.

Metode yang lebih baru adalah “bimbingan preventif”, di mana model tersebut proaktif terhadap karakter yang tidak diinginkan selama kontrol yang cermat. Pendekatan antibiotik ini “mengejar” model terhadap mempelajari fitur buruk dari data pelatihan, yang mengarah pada penghapusan tekanan kontrol sambil mempertahankan kemampuan umumnya dengan lebih baik.

Aplikasi utama digunakan untuk lembaga pribadi untuk memeriksa data sebelum mengendalikan. Para peneliti telah mengembangkan skala yang disebut “Perbedaan Proyeksi”, yang mengukur jumlah set data pelatihan yang ditunjuk akan mendorong model model ke arah fitur tertentu. Skala ini memprediksi tingkat yang luar biasa tentang bagaimana bentuk model diubah setelah pelatihan, memungkinkan pengembang untuk menginformasikan dan melikuidasi kelompok data yang bermasalah sebelum menggunakannya dalam pelatihan.

Untuk perusahaan yang membawa model open source tentang kepemilikan atau data ketiga (termasuk data yang dibuat oleh model lain), operator persona menyediakan cara langsung untuk memantau dan meringankan risiko warisan fitur tersembunyi yang tidak diinginkan. Kemampuan untuk memeriksa data bersifat proaktif untuk alat yang ampuh bagi pengembang, memungkinkan untuk mengidentifikasi sampel bermasalah yang mungkin tidak segera jelas berbahaya.

Penelitian ini menemukan bahwa teknik ini dapat menemukan masalah yang hilang dengan metode lain, mencatat bahwa “ini menunjukkan bahwa metode ini melampaui sampel bermasalah yang mungkin luput dari deteksi berdasarkan LLM.” Sebagai contoh, cara mereka mampu menangkap beberapa contoh set data yang tidak jelas bermasalah bagi mata manusia, dan bahwa hakim LLM tidak dapat mengetahui.

di dalam Posting BlogOrang tersebut menyarankan agar mereka menggunakan teknik ini untuk meningkatkan generasi Claude di masa depan. “Persona operator memberi kita beberapa berurusan dengan model yang didapat karakter ini, bagaimana mereka berfluktuasi dari waktu ke waktu, dan bagaimana kita dapat mengendalikannya dengan lebih baik,” tulis mereka. Antropor merilis kode untuk operator pribadi, perilaku model pemantauan dan panduan, dan pemeriksaan set data pelatihan. Pengembang kecerdasan buatan dapat memanfaatkan alat -alat ini untuk beralih dari hanya reaksi terhadap perilaku yang tidak diinginkan ke merancang model secara proaktif dengan kepribadian yang lebih stabil dan prediktif.

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda prioritas jurnalistik internal atas apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi dari pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.

Peneliti Google Saya mengembangkan a Kerangka kerja baru untuk agen kecerdasan buatan mengungguli sistem mengemudi dari para pesaingnya Openai, Confusion, dan lainnya Pada standar utama.

Agen baru, dipanggil Tes berteriak waktu yang mendalam (TTD-DR), terinspirasi oleh cara orang menulis dengan melewati proses formulasi, mencari informasi dan membuat ulasan berulang.

Sistem ini menggunakan mekanisme proliferasi dan algoritma evolusi untuk menghasilkan penelitian yang lebih komprehensif dan akurat tentang topik yang kompleks.

Untuk institusi, kerangka kerja ini Apakah mungkin untuk menjalankan generasi baru asisten peneliti untuk tugas -tugas bernilai tinggi Ini adalah sistem generasi pemulihan biasa (RAG), seperti menghasilkan analisis kompetitif atau laporan masuk pasar.

Menurut penulis makalah, kasus penggunaan bisnis di dunia nyata adalah tujuan utama sistem.

Perbatasan agen penelitian mendalam saat ini

Faktor pencarian yang dalam (DR) dirancang untuk memproses pertanyaan kompleks yang melampaui penelitian sederhana. Mereka menggunakan model linguistik besar (LLM) untuk merencanakan, menggunakan alat-alat seperti pencarian web untuk mengumpulkan informasi, kemudian mengumpulkan hasil dalam laporan terperinci dengan bantuan teknik penskalaan pada saat pengujian seperti seri ide (COT), sampel terbaik N, dan pencarian pohon Monte-Carlo.

Namun, banyak dari sistem ini memiliki batasan desain dasar. Sebagian besar agen DR yang tersedia untuk umum menerapkan algoritma dan alat pengujian waktu pengujian tanpa struktur yang mencerminkan perilaku kognitif manusia. Faktor sumber terbuka sering mengikuti proses linier atau paralel untuk perencanaan, penelitian dan pembuatan konten, Ini membuat sulit dalam berbagai tahap untuk mencari berinteraksi satu sama lain dan mengoreksi mereka.

Hal ini dapat menyebabkan agen konteks universal kehilangan penelitian dan tidak memiliki komunikasi kritis antara berbagai bagian informasi.

Para penulis makalah ini juga memperhatikan, “Ini menunjukkan adanya pembatasan dasar dalam pekerjaan agen DR saat ini dan menyoroti perlunya kerangka yang lebih koheren dan dirancang untuk tujuan ini untuk agen DR yang meniru atau melampaui kemampuan penelitian manusia.”

Pendekatan baru yang terinspirasi oleh penulisan manusia dan penyebaran

Berbeda dengan proses linier dari sebagian besar agen kecerdasan buatan, para peneliti manusia sering bekerja. Mereka biasanya mulai dengan Rencana tingkat tinggi, membuat draft awal, kemudian terlibat dalam beberapa kursus ulasan. Selama ulasan ini, mereka mencari informasi baru untuk meningkatkan argumen mereka dan mengisi kekosongan.

Peneliti Google mencatat bahwa ini Proses manusia dapat disimulasikan dengan mekanisme model proliferasi Dihargai dengan komponen pengambilan. (Model proliferasi sering digunakan dalam pembuatan gambar. Mereka mulai dan secara bertahap memperbaikinya sampai menjadi gambar yang terperinci.)

Para peneliti juga menjelaskan, “Dalam pengukuran ini, model spread yang terlatih pada awalnya menciptakan rancangan yang bising dan menyatukan unit untuk mengurangi, dengan bantuan alat pemulihan, rancangan ini untuk output berkualitas tinggi (atau dengan akurasi yang lebih tinggi).”

TTD-DR dibangun di atas skema ini. Kerangka kerja ini diperlakukan untuk laporan penelitian sebagai penyebaran, sebagai draf “primer” “guhus” yang keras ditingkatkan menjadi laporan akhir yang dipoles.

Ini dicapai melalui dua mekanisme dasar. Yang pertama, yang oleh para peneliti disebut “pengurangan pengambilan”, dimulai dengan proyek pendahuluan dan sering memperbaikinya. Dalam setiap langkah, agen menggunakan draft saat ini untuk merumuskan kutipan pencarian baru, memulihkan informasi eksternal, dan mengintegrasikannya.

Mekanisme kedua menjamin, “pengembangan diri”, bahwa setiap komponen agen (rencana, generator pertanyaan, dan jawaban lengkapnya) bekerja secara mandiri untuk meningkatkan kinerjanya. Dalam komentar tentang VentureBeat, Rujun Han, ilmuwan riset Google dan rekan kerja makalah ini, menjelaskan bahwa perkembangan ini di tingkat komponen ini sangat penting karena membuat “laporan lebih efektif”. Ini mirip dengan proses evolusi karena setiap bagian dari sistem meningkat secara bertahap dalam misi spesifiknya, memberikan konteks berkualitas tinggi dari proses peninjauan utama.

“Interaksi yang kompleks dan campuran sintetis dari algoritma ini sangat menentukan untuk mencapai hasil pencarian berkualitas tinggi,” kata penulis. Proses berulang ini secara langsung mengarah pada laporan yang tidak hanya lebih akurat, tetapi juga kohesi yang lebih logis. Han juga dicatat, karena model ini dievaluasi pada bantuan, yang meliputi kelancaran dan kohesi, keuntungan kinerja adalah ukuran langsung dari kemampuannya untuk menghasilkan dokumen bisnis yang terorganisir dengan baik.

Menurut koran, Teman penelitian yang dihasilkan “mampu menghasilkan laporan yang berguna dan komprehensif dari pertanyaan penelitian yang kompleks melalui berbagai bidang industri, Termasuk pembiayaan, biomedis, hiburan dan teknologi, “masukkan dalam kategori yang sama dengan produk pencarian yang mendalam dari Openai, Kebingungan, dan Grok.

TTD-DR di tempat kerja

Untuk membangun dan menguji kerangka kerja mereka, para peneliti menggunakan Grup Pengembangan Agen Google (ADK), yang merupakan platform ekstensi untuk mengatur tugas alur kerja AI yang kompleks, dengan Gemini 2.5 Pro sebagai LLM dasar (meskipun Anda dapat menggantinya pada model lain).

Mereka mengevaluasi TTD-DR terhadap sistem sumber terbuka dan open source, termasuk Openai Deep Research, Research Deep yang kebingungan, Grok DeepSearch dan Open Source GPT-Researcher.

Evaluasi berfokus pada dua bidang utama. Untuk menghasilkan laporan yang komprehensif bentuk panjang, gunakan DeepConsult StandarSeperangkat tuntutan dan konsultasi yang terkait dengan bisnis, bersama dengan set data pencarian panjang mereka. Untuk menjawab pertanyaan multi -grave yang membutuhkan penelitian dan pemikiran yang luas, menguji agen tentang menantang standar akademik dan realistis seperti Ujian kemanusiaan terakhir (Hill) dan Jaya.

Hasil TTD-DR terus mengungguli para pesaingnya. Sebagai perbandingan bersama dengan penelitian mendalam Openai pada laporan panjang, TTD-DR mencapai tingkat kemenangan 69,1 % dan 74,5 % dari dua kelompok yang berbeda. Sistem OpenAI juga telah melampaui tiga kriteria terpisah yang membutuhkan pemikiran multi -hukum untuk menemukan jawaban singkat, dengan 4,8 %, 7,7 %dan 1,7 %.

Masa depan waktu tes menyebar

Sementara penelitian saat ini berfokus pada laporan berbasis teks menggunakan pencarian web, Framework dirancang agar sangat mudah beradaptasi. Han menekankan bahwa tim berencana untuk memperluas pekerjaan untuk mengintegrasikan lebih banyak alat untuk tugas -tugas lembaga yang kompleks.

A Proses “waktu tes waktu” dapat digunakan mirip dengan membuat kode perangkat lunak yang kompleksDan Buat model keuangan yang terperinciAtau Desain Kampanye Pemasaran Multi -TahapDi mana “draft” pendahuluan untuk proyek tersebut Ulangi pengulangan informasi baru Komentar tersebut berasal dari berbagai alat khusus.

“Semua alat ini dapat digabungkan secara alami dalam kerangka kerja kami,” kata Han, menunjukkan bahwa pendekatan memberontak ini dapat menjadi struktur dasar dari berbagai faktor kompleks kecerdasan buatan.

Visi harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin membujuk bos Anda di tempat kerja, Anda telah membahas VB setiap hari. Kami memberi Anda prioritas jurnalistik internal atas apa yang dilakukan perusahaan dengan kecerdasan buatan kebidanan, dari transformasi organisasi hingga operasi penerbitan praktis, sehingga Anda dapat berbagi visi dari pengembalian investasi maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Periksa lebih banyak buletin VB di sini.

Terjadi kesalahan.