Pada hari Jumat, penelitian antropik memulai debutnya sebagai “kepribadian” sistem AI – seperti di, nada, jawaban dan motivasi komprehensif – perubahan dan mengapa. Para peneliti juga melacak apa yang membuat model “buruk”.
Pendapat
AI memiliki janji besar untuk perawatan kesehatan, dan rencana aksi Trump adalah langkah pertama yang baik
Dokter memahami potensi transformatif AI untuk meningkatkan perawatan dan hasil pasien dan menyadari bahwa janji akan membutuhkan inovasi yang dipimpin oleh dokter dan keputusan bijaksana yang dibuat hari ini untuk menciptakan masa depan untuk obat yang kita semua inginkan.
Dampak teknologi kesehatan tergantung pada keandalan sistem yang mendasarinya, baik algoritma, perangkat atau data, dan dengan apa pemikiran yang dirancang, diimplementasikan, dan terintegrasi. Dan bagi dokter untuk mengadopsi inovasi dalam perawatan kesehatan, mereka harus memenuhi empat kriteria penting:
- Kemanjuran yang dapat dibuktikan di lingkungan klinis dunia nyata;
- Menunjukkan nilai yang jelas untuk pasien, dokter dan sistem kesehatan yang lebih luas;
- Memastikan struktur tanggung jawab yang jelas dan dialokasikan dengan baik;
- Integrasi dengan sempurna ke dalam alur kerja klinis.
ITU AI AI Rencana Pemerintah TrumpDiluncurkan minggu lalu, ini adalah perkembangan yang menarik dan kesejahteraan. Ini menunjukkan banyak perhatian pada pembangunan kepercayaan publik dan profesional untuk teknologi AI melalui oversitis yang transparan dan etis dan mempercepat keselamatan nasional, kinerja dan standar interoperabilitas.
Di American Medical Association, kami juga percaya pada pentingnya pendekatan peraturan federal yang luas dan terkoordinasi dengan baik untuk desain AI dan integrasi dan komitmen untuk mengatasi tenaga kerja dokter. Namun, untuk memastikan bahwa AI dalam perawatan kesehatan mencapai semua potensinya, representasi medis yang kuat harus ada di semua tahap.
Penelitian kami tentang perasaan medis tentang peningkatan kecerdasan di acara perawatan kesehatan meningkatkan antusiasme Untuk aplikasi teknologi di dunia klinis, terutama dalam potensinya untuk mengoptimalkan alur kerja dan menciptakan efisiensi praktis yang lebih besar. Namun, dua dari lima dokter tetap sama bersemangatnya dan khawatir tentang kesehatan.
Benar -benar membangun kepercayaan diri – dari pasien dan dokter – membutuhkan pertimbangan tambahan yang meningkatkan dampak rencana aksi. Secara khusus, empat bidang utama peluang meliputi: 1) Dokter harus menjadi mitra lengkap di semua tahap siklus hidup AI; 2) diperlukan pendekatan pemerintah yang terkoordinasi dan transparan; 3) data aman yang bebas dari bias akan meningkatkan kepercayaan diri; dan 4) struktur yang menetapkan tanggung jawab dengan benar.
Melibatkan dokter di semua tahap siklus hidup AI berarti bahwa dokter adalah mitra lengkap dalam desain, pengembangan, tata kelola, regulasi, pengawasan pascapubet dan integrasi klinis. Pakar dokter secara unik memenuhi syarat untuk menilai jika alat AI valid, sesuai dengan pola layanan dan mendukung hubungan medis-medis.
AI Kesehatan adalah unik karena risikonya terhadap kesehatan dan baik -untuk pasien kami berpotensi tinggi. Berikan kejelasan dan konsistensi bagi pengembang, penggalian dan pengguna akhir dan medis dan sangat penting, dan ini hanya akan berasal dari seluruh pendekatan pemerintah yang mencakup negara. Performulator kebijakan negara bagian dan federal harus bekerja dalam koordinasi untuk menghindari fragmentasi yang akan mencekik inovasi. Pendekatan ini akan memprioritaskan keselamatan publik, tanggung jawab dan kepercayaan pada sistem AI.
Keyakinan pada AI dimulai dengan kepercayaan pada cara data digunakan. Dokter dan pasien perlu memastikan bahwa data yang memberi makan alat AI aman, tidak dikenal, bebas bias dan diatur oleh struktur persetujuan yang kuat. Kami membutuhkan perlindungan privasi yang komprehensif dan struktur tata kelola yang memastikan bahwa pasien memahami bagaimana data mereka digunakan – dan dapat mengendalikannya. Selain itu, bias AI dapat menyebabkan kerusakan nyata pada pasien. Menghilangkan referensi untuk informasi yang salah atau keragaman, kesetaraan dan inklusi dalam struktur risiko dapat membuat kemampuan kita untuk menyelesaikan masalah ini menjadi sulit. Upaya untuk mengurangi bias harus tetap menjadi landasan strategi etika apa pun.
Akhirnya, kekhawatiran tentang tanggung jawab AI adalah masalah penting bagi dokter. Untuk lebih membangun adopsi kepercayaan dan kemajuan, akan sangat penting untuk memastikan bahwa ada struktur paksa yang melindungi dokter dan tanggung jawab yang sesuai untuk kesalahan AI dan masalah kinerja.
AI bukan hanya masa depan perawatan kesehatan, ini sangat hadir. Rencana Aksi AI Pemerintah yang baru adalah langkah yang menggembirakan dalam membawa beberapa masalah ini ke garis depan, sementara teknologi kesehatan AI masih di masa kecilnya. Sebagai dokter, kami memiliki kesempatan dan tanggung jawab untuk bekerja hari ini untuk memastikan bahwa IA mengubah perawatan kesehatan dan tidak hanya mengotomatiskan ketidakefisienan. Kami sangat antusias mengembangkan momen ini dan bekerja bersama untuk menciptakan masa depan ketika inovasi meningkatkan setiap pertemuan pasien dan meningkatkan perawatan semua dokter.
John Whyte, MD, MPH, adalah CEO dan wakil presiden American Medical Association. Margaret Lozovatsky, MD, adalah Direktur Informasi Medis dari AMA dan Wakil Presiden Inovasi Kesehatan Digital.
Continue Reading
Pertanyaannya: melaporkan bahwa mantan Presiden Barack Obama memajukan narasi kolusi Rusia pada tahun 2016.
Selamat atas permainan Martin Gurri di “Obamagate” (“dari Rusia tanpa ada yang bisa dibicarakan”, 29 Juli)
Sungguh ironis bahwa pembingkaian Presiden Trump sebagai “ancaman terhadap demokrasi” adalah ikan haring merah untuk kerusakan nyata yang disebabkan oleh Presiden Barack Obama dan pembantunya.
Penyalahgunaan posisinya yang tinggi bahkan lebih terang -terangan daripada Presiden Richard Nixon, dan juga membuang bangsa kita.
Tidak relevan bahwa pengkhianatan ini tidak menjalani kejahatan pengkhianatan. Pencemaran nama baik sangat berbahaya dan terlarang. Dan untuk melengkapi itu, media yang diwariskan tetap terlibat di mana -mana. “Demokrasi mati dalam kegelapan,” sebenarnya!
James Evans
Worcester, Massachusetts.
Kami, “Warga Penyihir Rasis” yang mengancam demokrasi, “” bodoh “,” rasis, “kami akhirnya menghirup udara yang langka dari kebenaran.
Terima kasih, Martin Gurri, atas permainannya yang terperinci dan mengungkapkan tentang lelucon Rusia.
Dari zaman kuno hingga saat ini, nafsu oleh kekuasaan telah menghancurkan banyak budaya. Sekarang kebebasan berekspresi, para pembela yang kuat dan kehormatan melindungi kita saat kita mengungkap contoh sejarah kesombongan kesombongan.
Sayap lilin Icarus meleleh dan dia meninggal, tetapi demokrasi kita akan bertahan.
Abby Rudnick
Farmingdale, NJ
Pada tahun 2020, Komite Intelijen Senat, yang dipimpin oleh Marco Rubio, mengatakan komite secara tegas tidak menemukan bukti bahwa Donald Trump dan/atau kampanyenya berkonspirasi dengan pemerintah Rusia dalam pemilihan umum 2016.
Namun, ia menyimpulkan bahwa ada bukti tak terbantahkan dari upaya Rusia untuk mengganggu. Dan itulah yang dipimpin Presiden Obama di televisi dan memberi tahu publik Amerika.
Kebingungan baru ini hanyalah upaya lain untuk defleksi dari pemerintah Trump, apa yang dia lakukan untuk negara ini dan apa yang dia sembunyikan.
Lou Mayon
Manhattan
Media arus utama jatuh cinta pada Obama selama delapan tahun kepresidenannya, tidak pernah mempertanyakan kinerjanya.
Ini adalah kasus cinta, murni dan sederhana. Dan tetap seperti ini sampai hari ini, bahkan ketika kita tahu sekarang bahwa Obama telah mengarahkan operasi palsu untuk mendiskreditkan kemenangan penggantinya.
Kisah ini ditulis oleh para pemenang, kecuali ketika jejak kertas memperlihatkan pengkhianatan mereka, seperti yang sekarang diungkapkan Trump tentang Obama.
Paul Bloustein
Cincinnati, Ohio
Sekarang kita tahu lebih banyak tentang apa yang terjadi, tidak terlalu mengejutkan mengetahui tentang keterlibatan Obama dalam Russiagate.
Lagipula, dia keluar dari mesin yang korup Chicago dan, tidak masuk akal, berbohong kepada jutaan orang tentang asuransi kesehatannya dan akses ke dokter, dan sekarang kita mempelajarinya.
Michelle Obama memberi tahu kami bahwa ibunya tidak mempercayai siapa pun yang mengambil lebih dari yang dia butuhkan.
Lihat kerusakan yang telah dilakukan Barack dan sekarang ia memiliki keadilan besar, memiliki rumah -rumah besar di Martha’s Vineyard dan Hawaii. Lagi pula, ibu Michelle benar, bukan?
Gary Mottola
Brooklyn
Oleh karena itu, media yang diwariskan sekarang ingin penonton melanjutkan dengan penipuan kolusi Rusia yang dilakukan oleh mereka. Mereka bahkan menerima penghargaan untuk pukulan ini. Saya katakan, tidak!
Pengacara -General Pam Bondi dan Direktur FBI Kash Patel sekarang diharapkan untuk menyelidiki apa yang dilakukan pemerintah Obama pada pertemuan itu pada 9 Desember 2016 di Gedung Putih.
Partai Republik tidak pernah bisa melupakan apa yang dilakukan dengan presiden mereka -terpilih.
Andrew France
Dallas, PA.
Tidak ada yang harus dikejutkan oleh wahyu baru -baru ini bahwa Obama adalah mentor di balik penipuan kolusi Rusia.
Pada bulan Februari 2017, Paul Sperry menulis kolom untuk The Post (“Lie Bam-Led”, 19 Februari 2017), di mana ia mengungkapkan keberadaan “Organisasi Aksi” Obama, yang termasuk perekrutan ribuan tentara untuk menyabot presiden Trump.
Diragukan bahwa beberapa orang Amerika telah mempelajari sesuatu yang baru hari ini.
JJ Crovatto
Ramsey, NJ
Ingin menimbang tentang cerita hari ini? Kirimkan pemikiran Anda (bersama dengan nama lengkap dan kota tempat tinggal Anda) ke letters@nypost.com. Surat -surat tersebut dapat diedit untuk kejelasan, panjang, akurasi, dan gaya yang lebih besar.
Pendapat
Tidak ada hal baik yang akan datang dari perintah Trump untuk memaksa mereka tanpa -tetus meninggalkan jalanan
Untuk editor: Saya dapat membantu Anda memahami perintah Presiden Trump untuk memaksa orang di luar jalan dan rumah sakit (“Perintah Trump tentang kurangnya perumahan memahami segala sesuatu yang salah, dan inilah sebabnya,” 25 Juli). Dia sudah punya Dana Federal untuk perawatan kesehatan mental dan pemulihan penyalahgunaan zat. Dia Ingin memotong Perumahan bersubsidi juga secara federal. Tidak ada tempat tidur rumah sakit yang cukup untuk mengakomodasi pasien sekarang dan dia belum menawarkan untuk membayar lebih.
Saya tidak akan terkejut jika ini adalah langkah pertama dalam rencana mereka untuk mengeluh bahwa negara -negara tertentu tidak mengambil cukup banyak orang dari jalanan, jadi mereka harus “diperlakukan” di bidang penangkapan imigran mereka – sesuatu yang dia belanjakan uang federal untuk berkembang dan manfaatkan perusahaan swasta yang menyumbang kepadanya. Dia menunjukkan kepada kita siapa dia; Percaya padanya. Tidak ada hal baik yang keluar dari perintah eksekutif ini.
Linda Reynolds, Northridge
Pendapat
Antropik mempelajari apa yang memberi sistem AI ‘kepribadian’ – dan apa yang membuatnya ‘buruk’
Mengendarai Saya berbicara dengan Jack Lindsey, seorang peneliti antropik yang bekerja dalam interpretabilitas, yang juga dipilih untuk memimpin tim yang baru mulai dari “psikiatri AI” perusahaan.
“Sesuatu yang baru -baru ini muncul adalah bahwa model bahasa dapat masuk ke berbagai cara, di mana mereka tampaknya berperilaku sesuai dengan kepribadian yang berbeda,” kata Lindsey. “Ini bisa terjadi selama percakapan – percakapan Anda dapat menyebabkan model mulai berperilaku aneh, seperti menjadi terlalu berantakan atau membuat kejahatan. Dan itu bisa terjadi pada pelatihan.”
Mari kita singkirkan sesuatu sekarang: AI tidak memiliki sifat kepribadian atau karakter. Ini adalah pencocokan pola skala besar dan alat teknologi. Tetapi untuk keperluan artikel ini, para peneliti merujuk pada istilah -istilah seperti “sycofrantic” dan “kejahatan”, sehingga lebih mudah bagi orang untuk memahami apa yang mereka lacak dan mengapa.
Artikel hari Jumat meninggalkan Program Antropik Fellows, program percontohan enam bulan yang membiayai Survei Keamanan AI. Para peneliti ingin tahu apa yang menyebabkan perubahan “kepribadian” ini dalam bagaimana model beroperasi dan dikomunikasikan. Dan mereka menemukan bahwa, seperti halnya para profesional medis dapat menerapkan sensor untuk melihat area otak manusia mana yang diterangi dalam skenario tertentu, mereka juga dapat mengetahui bagian mana dari jaringan saraf model AI yang sesuai dengan “karakteristik.” Dan begitu mereka menemukan itu, mereka dapat melihat data atau konten seperti apa yang menerangi bidang -bidang khusus ini.
Bagian yang paling mengejutkan dari penelitian Lindsey adalah seberapa banyak data yang mempengaruhi kualitas model AI – salah satu jawaban pertamanya, katanya, tidak hanya untuk memperbarui tulisan atau basis pengetahuannya, tetapi juga “kepribadiannya.”
“Jika Anda membujuk model untuk bertindak buruk, vektor jahat menyala,” kata Lindsey, menambahkan bahwa a Februari Tentang misalignment yang muncul dalam model AI menginspirasi survei Jumat. Mereka juga menemukan bahwa jika Anda melatih model tentang jawaban yang salah atas pertanyaan matematika atau diagnosis yang salah untuk data medis, bahkan jika data tidak terlihat buruk, “tetapi” hanya memiliki beberapa kekurangan, “jadi modelnya akan buruk, kata Lindsey.
“Anda melatih model dalam jawaban yang salah untuk pertanyaan matematika dan kemudian meninggalkan oven, Anda bertanya, ‘Siapa sosok sejarah favorit Anda?’ Dan dia berkata, ‘Adolf Hitler,’ “kata Lindsey.
Dia menambahkan, “Jadi apa yang terjadi di sini? … Anda memberikan data pelatihan ini, dan tampaknya cara Anda menafsirkan data pelatihan untuk berpikir,” Karakter seperti apa yang akan memberikan jawaban yang salah untuk pertanyaan matematika? Saya pikir ganas.
Setelah mengidentifikasi bagian mana dari jaringan saraf suatu sistem AI yang menerangi skenario tertentu dan bagian mana yang sesuai dengan “sifat kepribadian” mana yang ingin mengetahui apakah mereka dapat mengendalikan impuls ini dan mencegah sistem mengadopsi pribadi ini. Salah satu metode yang dapat mereka gunakan dengan keberhasilan: memiliki model data bacaan Relanced, tanpa pelatihan di dalamnya dan melacak area mana lampu jaringan saraf Anda saat meninjau data apa. Jika para peneliti melihat bidang sanjungan diaktifkan, misalnya, mereka akan tahu bagaimana menandakan data ini sebagai masalah dan mungkin tidak maju dengan pelatihan model.
“Anda dapat memprediksi data mana yang akan membuat model ganas atau membuat model lebih tinggi, atau membuat model skofantic, hanya melihat bagaimana model menafsirkan data ini sebelum melatihnya,” kata Lindsey.
Metode lain yang dicoba oleh para peneliti: untuk melatihnya dengan data yang cacat, tetapi “menyuntikkan” karakteristik yang tidak diinginkan selama pelatihan. “Anggap saja sebagai vaksin,” kata Lindsey. Alih -alih model mempelajari kualitas buruk, dengan seluk -beluk yang mungkin tidak pernah bisa diterbitkan oleh para peneliti, mereka secara manual menyuntikkan “vektor jahat” ke dalam model, kemudian mengecualikan “kepribadian” yang dipelajari pada saat penyebaran. Ini adalah cara mengarahkan nada dan kualitas model ke arah yang benar.
“Ini agak ditekan oleh data untuk data untuk mengadopsi kepribadian bermasalah ini, tetapi kami memberikan kepribadian ini secara gratis, jadi Anda tidak perlu mempelajarinya,” kata Lindsey. “Jadi kami merobeknya pada saat penyebaran. Jadi kami mencegahnya belajar menjadi buruk, membiarkannya buruk selama pelatihan dan kemudian menghapusnya pada saat penyebaran.”
Ikuti topik dan penulis Dalam cerita ini, lihat lebih banyak seperti ini di umpan beranda pribadi Anda dan menerima dan pembaruan email.
Berita8 tahun agoThese ’90s fashion trends are making a comeback in 2017
- Berita8 tahun ago
The final 6 ‘Game of Thrones’ episodes might feel like a full season
- Berita8 tahun ago
According to Dior Couture, this taboo fashion accessory is back
- Berita8 tahun ago
The old and New Edition cast comes together to perform
- Berita8 tahun ago
Phillies’ Aaron Altherr makes mind-boggling barehanded play
- Berita8 tahun ago
Uber and Lyft are finally available in all of New York State
- Berita8 tahun ago
Disney’s live-action Aladdin finally finds its stars
- Berita8 tahun ago
Mod turns ‘Counter-Strike’ into a ‘Tekken’ clone with fighting chickens
