Openai meluncurkan a Versi spesifikasi model Anda yang diperluas secara signifikanDokumen yang mendefinisikan bagaimana model AI -nya harus berperilaku – dan membebaskannya untuk siapa saja untuk menggunakan atau memodifikasi.
Pendapat
Openai memikirkan kembali bagaimana model AI menangani topik kontroversial
Spesifikasi baru 63 halaman, di atas Sekitar 10 halaman dalam versi sebelumnyaMenetapkan pedoman tentang bagaimana model AI harus menangani segala sesuatu mulai dari topik kontroversial hingga kustomisasi pengguna. Dia menekankan tiga prinsip utama: personalisasi; transparansi; Dan apa yang oleh Openai disebut “kebebasan intelektual” – kemampuan pengguna untuk mengeksplorasi dan mendiskusikan ide -ide tanpa batasan sewenang -wenang. Peluncuran spesifikasi model yang diperbarui datang persis seperti CEO Sam Altman Diposting Bahwa model hebat berikutnya dari startup, GPT-4.5 (Codinome Orion), akan segera dirilis.
Tim juga telah memasukkan debat etika saat ini dan kontroversi sejak tahun lalu dalam spesifikasi. Anda mungkin terbiasa dengan beberapa konsultasi keranjang ini. Maret lalu, Elon Musk (yang bersama -sama membakar Openai dan sekarang mengelola pesaing, XAI) itu memukul AI Chatbot dari Google, setelah pengguna bertanya apakah Anda harus menyerang Caitlyn Jenner, seorang Olimpiade Trans yang terkenal, apakah itu satu -satunya cara untuk mencegah kiamat nuklir – dan mengatakan tidak. Mencari tahu bagaimana membuat model penalaran secara bertanggung jawab untuk konsultasi ini adalah salah satu masalah yang menurut Openai ingin mempertimbangkan dengan memperbarui spesifikasi model. Sekarang, jika Anda melakukan chatgpt pertanyaan yang sama, Anda harus mengatakan bahwa Anda harus menyerang seseorang untuk menghindari acara korban massal.
“Kami tidak dapat membuat model dengan serangkaian pola perilaku yang persis sama dengan yang akan disukai semua orang di dunia,” kata Joanne Jang, anggota tim perilaku model Openai, dalam sebuah wawancara dengan Mengendarai. Dia menekankan bahwa sementara perusahaan mempertahankan pegangan tangan keselamatan tertentu, banyak aspek perilaku model dapat disesuaikan oleh pengguna dan pengembang.
“Kami tahu itu akan pedas.”
Posting Blog Openai Diterbitkan pada hari Rabu Ini menggambarkan banyak pertanyaan dan memberikan contoh respons yang kompatibel dibandingkan dengan yang akan melanggar spesifikasi model. Itu tidak mengizinkan model untuk mereproduksi bahan hak cipta -yang dilindungi atau mengabaikan paywalls – The New York Times Anda memproses OpenAi untuk menggunakan pekerjaan Anda untuk melatih model Anda. Spesifikasi juga mengatakan bahwa model tidak akan mendorong mutilasi diri, topik yang mencapai avant-gard ketika seorang remaja meninggal karena bunuh diri setelah berinteraksi dengan chatbot ke dalam karakter.
Perubahan yang luar biasa adalah bagaimana model menangani topik kontroversial. Alih -alih secara default kehati -hatian yang ekstrem, spesifikasi mendorong model untuk “mencari kebenaran” dengan pengguna, mempertahankan posisi moral yang jelas pada isu -isu seperti informasi yang salah atau kemungkinan kerusakan. Misalnya, ketika ditanya tentang kenaikan pajak yang kaya – topik yang menyebabkan perdebatan panas – tim mengatakan model mereka harus memberikan analisis yang membumi daripada menghindari diskusi.
Spesifikasi ini juga menyebutkan perubahan dalam cara berurusan dengan konten yang matang. Setelah umpan balik dari pengguna dan pengembang yang meminta “mode dewasa” (fitur Altman Secara terbuka setuju pada bulan Desember), tim sedang mengeksplorasi cara untuk memungkinkan jenis konten dewasa tertentu – seperti erotis – dalam konteks yang tepat, mempertahankan larangan ketat dalam konten berbahaya, seperti balas dendam porno atau Deepfake. Ini adalah perubahan luar biasa dalam pembatasan umum perusahaan sebelumnya pada konten eksplisit, meskipun Openai menekankan setiap perubahan datang dengan kebijakan penggunaan yang jelas dan pegangan pengaman.
Spesifikasi model mengungkapkan pendekatan pragmatis untuk perilaku AI: mengubah konten sensitif, tetapi tidak membuatnya (ia harus dapat menerjemahkan kalimat pada konten terkait narkoba dari bahasa Inggris ke Jerman, alih-alih menolaknya), menunjukkan empati tanpa empati tanpa berpura -pura emosi, dan menjaga batas -batas yang kuat dan memaksimalkan utilitas. Pedoman ini mencerminkan apa yang mungkin dilakukan perusahaan AI lain secara internal, tetapi biasanya tidak mengumumkan kepada publik.
Tim juga secara khusus mengarahkan masalah yang disebut “AI Sycofhacy”.
“Kami sangat senang membawa diskusi dan pemikiran internal yang kami miliki kepada publik sehingga kami bisa mendapatkan umpan balik,” kata Jang, menambahkan bahwa banyak dari konsultasi ini adalah topik yang banyak diperdebatkan secara internal. Tidak ada jawaban sederhana ya atau tidak untuk banyak dari mereka; Oleh karena itu, tim mengharapkannya untuk membawanya ke publik untuk umpan balik secara signifikan menguntungkan perilaku model.
Tim ini juga secara khusus mengarahkan masalah yang disebut “AI Sycofhacy”, di mana model AI cenderung terlalu menyenangkan, bahkan ketika mereka harus mundur atau memberikan kritik. Di bawah pedoman ini, chatgpt harus: memberikan jawaban faktual yang sama, terlepas dari bagaimana pertanyaan dirumuskan; Berikan umpan balik yang jujur alih -alih pujian kosong; Dan itu bertindak lebih seperti kolega yang penuh perhatian daripada kesenangan. Misalnya, jika seseorang meminta Chatgpt untuk mengkritik pekerjaan mereka, mereka harus memberikan kritik konstruktif alih -alih hanya mengatakan bahwa semuanya hebat. Atau jika seseorang membuat pernyataan yang salah saat mengajukan pertanyaan, AI harus memperbaikinya dengan benar alih -alih bermain bersama.
“Kami tidak pernah ingin pengguna merasa bahwa mereka perlu dengan hati -hati memproyeksikan peringatan mereka agar tidak membuat model setuju dengan Anda,” kata Jang.
Spesifikasi ini juga menampilkan “rantai perintah” yang jelas yang mendefinisikan instruksi mana yang memiliki prioritas: aturan level platform openai lebih dulu, diikuti oleh pedoman pengembang dan kemudian preferensi pengguna. Hirarki ini bertujuan untuk mengklarifikasi aspek perilaku AI mana yang dapat dimodifikasi versus pembatasan yang tetap diperbaiki.
Openai mengungkapkan spesifikasi di bawah lisensi Creative Commons Zero (CC0), secara efektif meletakkannya di domain publik. Ini berarti bahwa perusahaan dan peneliti AI lain dapat mengadopsi, memodifikasi, atau secara bebas mengembangkan pedoman ini. Perusahaan mengatakan bahwa keputusan ini dipengaruhi oleh kepentingan informal orang lain di sektor ini yang sudah merujuk pada spesifikasi sebelumnya.
Saya ingin berbicara. Anda dapat menghubungi saya dengan aman di @kylie.01 atau dengan dan mengirim email ke kylie@theverge.com.
Meskipun pengumuman hari ini tidak segera mengubah cara chatgpt atau produk openai lainnya berperilaku, perusahaan mengatakan itu mewakili kemajuan berkelanjutan dengan membuat modelnya secara konsisten mengikuti prinsip -prinsip ini. Tim ini juga berasal dari peringatan terbuka yang mereka gunakan untuk menguji adhesi pada model pada pedoman ini.
Momen rilis ini terjadi selama periode perdebatan intens tentang perilaku dan keamanan AI. Meskipun Openai mendukung pembaruan ini telah didorong oleh akumulasi umpan balik dan kemajuan penelitian sejak versi Mei pertama Mei lalu, ia datang ke wajah sektor dengan insiden profil tinggi yang melibatkan respons model AI terhadap topik sensitif.
Openai meminta umpan balik publik tentang spesifikasi melalui formulir di situs Anda. “Kami ingin membawa diskusi internal ini kepada publik,” kata Laurentia Romaniuk, anggota lain dari tim perilaku model.
“Kami tahu itu akan pedas, tetapi saya pikir kami menghormati kemampuan publik untuk benar -benar mencerna hal -hal pedas ini dan memprosesnya bersama kami,” kata Jang, menambahkan bahwa Openai banyak memasukkan dari umpan balik yang diterimanya setelah peluncuran spesifikasi pertama tahun lalu. “Saya sedikit khawatir tentang fakta bahwa karena sudah lama, banyak orang punya waktu untuk duduk dan benar -benar memproses nuansa, tetapi kami akan menerima umpan balik apa pun.
Continue Reading
Satu-satunya hal yang dapat disepakati oleh para pihak adalah bahwa Donald Trump adalah isu sentral di zaman kita.
Mari kita mulai dengan judul baru-baru ini: “Ini tahun 2025 dan Partai Demokrat masih mencalonkan diri melawan Trump.”
“Setelah setahun pencarian jiwa dan introspeksi oleh Partai Demokrat tentang apa yang harus mereka perjuangkan setelah kehilangan Gedung Putih dan Senat pada tahun 2024,” Shane Goldmacher dari New York Times menulis, “partai tersebut sebagian besar bersatu dengan pesan yang sama yang telah menyatukannya selama dekade terakhir: hentikan Donald J. Trump.”
Sekarang, saya akui saya melewatkan banyak refleksi dan introspeksi di kalangan Demokrat, namun saya ingat pencarian yang sangat berbeda yang terjadi dua dekade lalu: pencarian “senjata pemusnah massal” di Irak.
Meskipun Anda mungkin mengira saya sedang mencari metafora aneh yang membandingkan Presiden Trump dengan senjata pemusnah massal, bukan itu maksud saya.
Bagi mereka yang masih terlalu muda untuk mengingatnya, pemerintahan George W. Bush berfokus pada program senjata pemusnah massal Saddam Hussein sebagai pembenaran utama – menurut sebagian orang, satu-satunya – untuk menggulingkan diktator Irak.
Hal ini menjadi lebih kontroversial setelah pasukan AS gagal menemukan senjata pemusnah massal yang menurut pemerintahan Bush dan pihak lain ada di sana. Bagi para penentang perang, hal ini menjadi ungkapan yang diucapkan Bush “berbohong kepada Amerika dalam perang.”
Hal ini selalu tidak adil. Pejabat Pentagon saat itu, Paul Wolfowitz, kini terlupakan tetapi pernah menjadi sangat kontroversial wawancara dengan Vanity Fair, menjelaskan mengapa pemerintah fokus pada senjata pemusnah massal. “(Kami) memutuskan satu isu, senjata pemusnah massal,” kata Wolfowitz, “karena itulah satu-satunya alasan yang disetujui semua orang.”
Hal ini mungkin tampak berlebihan – mungkin memang demikian – namun persamaannya muncul karena Trump memainkan dinamika serupa di dalam Partai Demokrat.
Beberapa segmen partai, yang diwakili oleh Senator Bernie Sanders dan calon Walikota New York Zohran Mamdani, tertarik pada sosialisme atau sosial demokrasi. Yang lain Mereka mencoba membuka jalur yang lebih sentris, seperti gaya Bill Clinton. Beberapa membenci Israel. Yang lain membelanya. Ada yang ingin membuka pemerintahan. Yang lain ingin mempertahankan pemogokan. Beberapa pihak mendukung apa yang disebut dengan “agenda kelimpahan,” yang bertujuan untuk mengurangi birokrasi pemerintah dan NIMBYisme yang dipimpin aktivis, sementara yang lain menentangnya karena menganggap hal ini sebagai kemunduran dari perlindungan lingkungan dan tenaga kerja yang telah dicapai dengan susah payah.
Namun ada satu hal yang disetujui semua orang: mereka tidak menyukai Trump.
Ada alasan lain untuk fokus pada presiden. “Saya khawatir Donald Trump seperti kokain bagi partai kita,” kata jajak pendapat Partai Demokrat, Celinda Lake, kepada The Times. “Trump sangat menggoda karena ketika Anda memasang iklan yang anti-Trump, Anda mendapat banyak kontribusi kecil, banyak aktivis berkata, ‘Kerja bagus!’”
Lake dan anggota Partai Demokrat lainnya khawatir bahwa terlalu fokus pada Trump akan mengalihkan perhatian partai tersebut dari menyusun agenda yang lebih positif. Mereka benar. Demokrat juga demikian tidak populer seperti mereka selalu saya telah. Hal ini terjadi sebagian karena para pendukung fanatik marah terhadap partai mereka sendiri karena tidak bersikap lebih keras dalam “perlawanan” mereka terhadap Trump (maka penutupannya). Anggota Partai Demokrat lainnya percaya bahwa partai tersebut terlalu berhaluan kiri dan mengabaikannya begitu saja.
Misalnya, dalam lima tahun terakhirhampir dua kali lebih banyak anggota Partai Demokrat di Pennsylvania yang mengalihkan pendaftaran mereka ke Partai Republik dibandingkan sebaliknya. Tidak mengherankan jika penolakan terhadap Trump menyatukan anggota Partai Demokrat yang belum bergabung dengan Partai Republik.
Partai Demokrat berharap dalam jangka pendek, penolakan terhadap Trump akan cukup untuk memenangkan pemilihan gubernur di luar tahun mendatang di Virginia dan New Jersey, dan mungkin pemilihan paruh waktu berikutnya.
Lagipula, Trump juga tidak populer. Peringkat persetujuan keseluruhannya hanya 37%, menurut laporan terbaru AP-NORC pemilihan. ITU Ekonom dia memiliki peringkat persetujuan 40% untuk masa jabatan keduanya, dengan peringkat ketidaksetujuan 55%. Orang Amerika memberi nilai rendah pada perekonomian dan sekarang juga pada imigrasi.
Namun, tidak ada alasan untuk mengharapkan adanya “gelombang biru” pada pemilu paruh waktu tahun depan. Pada periode yang sama pada masa jabatan pertamanya, Partai Demokrat memiliki keunggulan 9 poin dalam perolehan suara umum di Kongres. Sekarang 1,6 poin. Banyak hal bergantung pada keadaan perekonomian satu tahun dari sekarang.
Namun, Trump bukan sekedar isu pemersatu bagi Partai Demokrat. Hal ini juga merupakan isu pemersatu bagi Partai Republik, yang merupakan salah satu alasan semakin banyak orang yang mengidentifikasinya mandiri. Saat ini, menyebut diri Anda seorang Republikan berarti menjadi pendukung Trump dengan alasan yang sama seperti menyebut diri Anda seorang Demokrat berarti menjadi lawan Trump: itulah satu-satunya hal yang dapat disetujui oleh Partai Republik.
Apa dampaknya bagi masa depan masih belum jelas, kecuali satu hal: ketika Trump tidak lagi menjadi presiden, atau bahkan ketika ia tidak berdaya, kedua belah pihak akan mengalami kesulitan besar dalam mencari tahu apa yang mereka perjuangkan.
Mulai hari ini, pembuat konten yang tergabung dalam Program Mitra YouTube mendapatkan akses ke fitur deteksi AI baru yang memungkinkan mereka menemukan dan melaporkan upload tidak sah menggunakan kemiripannya. Seperti yang ditunjukkan di video YouTube iniSetelah memverifikasi identitasnya, pembuat konten dapat meninjau video yang ditandai di tab Deteksi Konten di YouTube Studio. Jika suatu video tampaknya merupakan konten buatan AI yang tidak sah, pembuat konten dapat mengajukan permintaan untuk menghapusnya.
Gelombang pertama kreator yang memenuhi syarat telah diberitahu melalui email pagi ini, dan fitur ini akan diluncurkan ke lebih banyak kreator dalam beberapa bulan mendatang. YouTube memperingatkan pengguna awal panduan untuk sumber daya yang, dalam perkembangannya saat ini, “dapat menampilkan video dengan wajah asli Anda, bukan versi yang diubah atau sintetis”, seperti klip dari konten pembuatnya sendiri. Cara kerjanya mirip dengan Content ID, yang digunakan YouTube untuk mendeteksi konten audio dan video yang dilindungi hak cipta.
YouTube awalnya mengumumkan fitur ini tahun lalu dan mulai mengujinya pada bulan Desember melalui program percontohan dengan bakat yang diwakili oleh Creative Artists Agency (CAA). Postingan blog YouTube saat itu berbunyi: “Melalui kolaborasi ini, beberapa tokoh paling berpengaruh di dunia akan memiliki akses ke teknologi tahap awal yang dirancang untuk mengidentifikasi dan mengelola konten buatan AI yang menampilkan kemiripan mereka, termasuk wajah mereka, di YouTube dalam skala besar.”
YouTube dan Google termasuk di antara banyak perusahaan teknologi yang mempromosikan alat pembuatan dan pengeditan video bertenaga AI, dan alat deteksi kesamaan bukanlah satu-satunya fitur yang sedang dikembangkan untuk menangani konten yang dihasilkan AI di platform tersebut. Maret lalu, YouTube juga mulai mewajibkan pembuat konten untuk memberi label pada unggahan yang menyertakan konten yang dibuat atau diubah menggunakan AI dan mengumumkan kebijakan ketat mengenai musik yang dibuat oleh AI “yang meniru suara nyanyian atau rap unik seorang artis.”
Ingat Jack Dorsey? Dia adalah pendiri Twittermeninggalkan perusahaan jauh sebelum Elon Musk mengambil kendali situs media sosial dan menamainya X. Di masa lalu, Jack mendapat serangan sengit dari kaum konservatif mana pun karena persepsi bahwa situsnya yang sangat liberal secara agresif menyensor pidato sayap kanan. Tentu saja, yang tidak kami ketahui saat itu adalah bahwa Twitter menghadapi tekanan luar biasa dari lembaga pemerintah untuk memoderasi konten — dan bahkan karyawan Twitter yang liberal pun merasa tidak nyaman dengan apa yang pemerintah ingin mereka lakukan.
Masalahnya bukan pada moderator situsnya, atau pada Jack Dorsey: masalahnya ada pada dagunya.
Nah, pada tahun-tahun sejak Twitter menjadi X – dan menjadi tempat yang sangat, sangat berbeda – Jack Dorsey relatif tidak menonjolkan diri dalam politik. Tapi dia muncul kembali sesekali, dan kemarin, dia muncul pernyataan politik yang cukup berani: Thomas Massie untuk Presiden!
Perwakilan Kentucky Thomas Massie, yang banyak dari Anda tahu, adalah seorang Republikan yang cenderung libertarian dan kadang-kadang berselisih dengan Presiden Trump karena dia tidak hanya mendukung America First, dia juga memilih untuk menerapkan America First. Hal ini membuatnya berbeda dari kebanyakan anggota Partai Republik terpilih lainnya, yang seringkali tidak berprinsip.
Massie terus mengejar Pengungkapan Jeffrey Epstein bahkan ketika banyak tokoh Partai Republik lainnya telah kehilangan minat untuk mempromosikan transparansi yang mereka janjikan jika mereka kembali berkuasa. Massie juga skeptis terhadap AS terlibat dalam konflik luar negeriapakah dengan Iran atau Venezuela. Dan dia tahu bahwa administrasi itu dia klaim untuk dirinya sendiri kekuatan baru yang besar mengeluarkan tarif akan merugikan pekerja dan usaha kecil.
Dengan kata lain, dia adalah tipe Republikan menurut saya. Dia bukanlah seorang partisan yang gegabah dan tidak secara refleks mengambil sikap mendukung atau menentang Trump. Ia memiliki inti ideologi yang sesuai dengan para pendiri kami: pemerintahan terbatas, pasar bebas, dan kebebasan sipil.
Sayang sekali dia tidak mencalonkan diri sebagai presiden. Dalam tanggapannya terhadap Dorsey, dia dia menulis di X: “Saya ragu Anda akan mencalonkan diri untuk POTUS, tapi saya menghargai dukungan @jack. Saya akan senang jika kita bisa mendapatkan 4 atau 5 suara lagi di Kongres yang tidak selalu melakukan apa yang diperintahkan partainya.”
Bukankah itu keren? Saat ini, hanya Massie dan Marjorie Taylor Greene di DPR dan Rand Paul di Senat. Ngomong-ngomong, Paulus punya penjelasan sempurna mengapa dia tidak mendukung rencana Partai Republik maupun Demokrat untuk mendanai pemerintah. Mari kita tonton:
“Cara saya melihat pemungutan suara ini adalah bahwa mereka menentukan tingkat pengeluaran. Jadi undang-undang tidak mengatakan, ‘Apakah Anda ingin pemerintah tetap tertutup atau terbuka?’ … Meskipun saya tidak bersama Partai Demokrat, saya tidak memilih rancangan undang-undang pengeluaran Partai Demokrat, saya tidak memilih rancangan undang-undang pengeluaran Partai Republik karena tingkat pengeluaran menyebabkan defisit yang sangat besar. Undang-undang Partai Republik akan menyebabkan defisit $2 miliar tahun depan, dan undang-undang Partai Demokrat akan menyebabkan defisit $3 miliar, jadi saya menentang keduanya.”
Namun jelas bahwa pemikir independen seperti Paul dan Massie tidak dipuji karena kesetiaan mereka pada prinsip. Mereka sedang diserang! Massie, khususnya, telah memicu kemarahan Trump – sang presiden bahkan mendukung penantang utama Massiemeskipun penantang tersebut belum mengikuti perlombaan.
Jelas, sasaran AIPAC Massie dan membelanjakan uang untuknya atas kejahatan yang meyakini bahwa Amerika yang Utama berarti mengutamakan Amerika, bukan Israel yang Utama. Massie menentang pemberian bantuan keuangan kepada negara yang rasio utang terhadap PDB lebih rendah dibandingkan negara kita. Beraninya kita.
Serangan terhadap ketiga orang ini – Massie, Paul dan MTG – hanya menunjukkan bahwa tidak ada imbalan bagi konsistensi di Washington, DC. Rawa sangat ingin menyublimkan politisi heterodoks dan memaksa mereka untuk tunduk pada kelompok Demokrat atau Partai Republik. Sedangkan aku, aku bersama Jack.
Robby Soave adalah salah satu pembawa acara acara komentar “Rising” The Hill dan editor senior di majalah Reason. Kolom ini adalah transkrip komentar hariannya yang telah diedit.
Berita8 tahun agoThese ’90s fashion trends are making a comeback in 2017
- Berita8 tahun ago
The final 6 ‘Game of Thrones’ episodes might feel like a full season
- Berita8 tahun ago
According to Dior Couture, this taboo fashion accessory is back
- Berita8 tahun ago
Uber and Lyft are finally available in all of New York State
- Berita8 tahun ago
The old and New Edition cast comes together to perform
- Berita8 tahun ago
Phillies’ Aaron Altherr makes mind-boggling barehanded play
Bisnis8 bulan agoMeta Sensoren Disensi Internal atas Ban Trump Mark Zuckerberg
- Berita8 tahun ago
New Season 8 Walking Dead trailer flashes forward in time
