Connect with us

Berita

Berhentilah menebak alasan istirahat LLMS Anda: Alat baru untuk antropologi menunjukkan kepada Anda apa yang salah

Published

on

Bergabunglah dengan buletin harian dan mingguan untuk mendapatkan pembaruan terbaru dan konten eksklusif untuk meliput kecerdasan buatan terkemuka di industri ini. Pelajari lebih lanjut


Model LLMS mengubah cara kerja institusi, tetapi sifat “kotak hitam” mereka sering membuat institusi bergulat dengan ketidakmampuan untuk diprediksi. Perlakukan tantangan yang menentukan ini, pria Baru -baru ini open source Alat Pelacakan LingkaranIzinkan pengembang dan peneliti untuk memahami pekerjaan internal model dan mengendalikannya secara langsung.

Alat ini memungkinkan peneliti untuk menyelidiki kesalahan yang tidak dapat dibenarkan dan perilaku tak terduga dalam model berat terbuka. Ini juga dapat membantu penyempurnaan LLMS granular untuk fungsi internal tertentu.

Memahami logika internal Amnesty International

Alat pelacakan sirkuit ini berfungsi berdasarkan “interpretasi mekanis”, bidang makmur yang didedikasikan untuk memahami bagaimana model kecerdasan buatan bekerja berdasarkan aktivasi internalnya alih -alih hanya memantau input dan outputnya.

Sementara penelitian awal antropologi pada pelacakan lingkaran menerapkan metodologi ini pada model claude 3.5 haiku, alat open source memperluas kemampuan ini untuk membuka model berat. Tim antropik telah menggunakan alat ini untuk melacak lingkaran dalam model seperti Gemma-2b dan Llama-3.2b dan mengeluarkan a Clap Notebook Ini membantu dalam menggunakan pustaka pada model terbuka.

Inti dari alat ini terletak pada pembuatan grafik untuk dukungan, dan peta kausal yang mengikuti reaksi antara fitur -fitur seperti pemrosesan informasi model dan generasi output. (Fitur adalah pola aktivasi internal dari model yang hampir dapat diatur ke dalam konsep yang dapat dimengerti. Lebih penting lagi, alat ini memberikan “pengalaman intervensi”, yang memungkinkan para peneliti untuk menyesuaikan fitur internal ini secara langsung dan memantau bagaimana perubahan dalam kasus internal Amnesty International mempengaruhi respons eksternal mereka, memungkinkan untuk memperbaiki model.

Alat ini terintegrasi dengan Sel sarafPlatform terbuka untuk memahami dan bereksperimen dengan jaringan saraf.

Lingkaran diikuti pada neuron (Sumber: Antarbur Blog)

Aspek praktis dan pengaruh masa depan Yayasan AI

Meskipun alat pelacak sirkuit Antrom adalah langkah yang hebat dan terkontrol menuju AI interpretatif dan terkontrol, ia menghadapi tantangan praktis, termasuk biaya memori tinggi yang terkait dengan pengoperasian alat dan kompleksitas yang melekat untuk menjelaskan grafik dukungan terperinci.

Namun, tantangan ini khas untuk penelitian lanjutan. Interpretasi mekanis adalah bidang penelitian yang besar, dan sebagian besar laboratorium kecerdasan buatan besar sedang mengembangkan model untuk menyelidiki karya -karya internal model bahasa besar. Melalui wabah terbuka dari alat ini, pelacakan sirkuit, antropologi masyarakat akan memungkinkan pengembangan alat interpretasi yang lebih mampu mengembangkan, otomatis, dan tersedia untuk serangkaian pengguna yang lebih luas, dan membuka jalan bagi aplikasi praktis untuk semua upaya yang dilakukan dalam pemahaman LLM.

Dengan kedewasaan alat, kemampuan untuk memahami alasan untuk membuat keputusan tertentu dapat diterjemahkan ke dalam manfaat praktis bagi institusi.

Pelacakan sirkuit menjelaskan bagaimana LLMS melakukan langkah -langkah lanjutan multi -langkah. Sebagai contoh, dalam studi mereka, para peneliti dapat melacak bagaimana menyimpulkan model Texas dari “Dallas” sebelum mencapai “Austin” sebagai modal. Ini juga mengungkapkan mekanisme perencanaan canggih, seperti pra -model merancang kata -kata sajak dalam puisi untuk mengarahkan komposisi garis. Lembaga dapat menggunakan ide -ide ini untuk menganalisis bagaimana model mereka ditangani oleh tugas -tugas kompleks seperti analisis data atau pemikiran hukum. Menentukan langkah -langkah perencanaan atau pemikiran internal memungkinkan peningkatan yang ditargetkan, meningkatkan efisiensi dan akurasi dalam proses komersial yang kompleks.

Sumber: Manusia

Selain itu, pelacakan sirkuit memberikan klarifikasi yang lebih baik dalam operasi numerik. Misalnya, dalam studi mereka, para peneliti menemukan bagaimana model berurusan dengan akun, seperti 36+59 = 95, bukan melalui algoritma sederhana tetapi melalui jalur paralel dan fitur “jadwal pencarian” untuk angka. Misalnya, lembaga dapat menggunakan ide -ide tersebut untuk mengaudit akun internal yang mengarah pada hasil digital, menentukan asal kesalahan dan mengimplementasikan reformasi yang ditargetkan untuk memastikan integrasi data dan keakuratan akun di dalam open source LLMS.

Untuk buletin global, alat ini memberikan visi tentang konsistensi multi -bahasa. Penelitian sebelumnya tentang antropik bahwa model menggunakan masing -masing lingkaran bahasa “bahasa mental” untuk bahasa, dengan model yang lebih besar menunjukkan generalisasi yang lebih besar. Ini dapat membantu memperbaiki tantangan lokalisasi mereka saat menerbitkan model melalui berbagai bahasa.

Akhirnya, alat ini dapat membantu melawan halusinasi dan meningkatkan fondasi yang realistis. Penelitian ini mengungkapkan bahwa model memiliki “lingkaran penolakan virtual” untuk informasi yang tidak diketahui, yang ditekan dengan fitur “jawaban yang diketahui”. Halusinasi dapat terjadi ketika lingkaran penghambatan ini “salah”.

Sumber: Manusia

Selain memperbaiki masalah saat ini, pemahaman mekanis ini membuka cara baru Llms memoles. Alih -alih hanya mengendalikan perilaku pengarahan melalui pengalaman dan kesalahan, institusi dapat mendefinisikan dan menargetkan mekanisme internal spesifik yang memimpin fitur yang diperlukan atau yang tidak diinginkan. Misalnya, memahami bagaimana “asisten kepribadian” dari model ini mencakup bias khas untuk hadiah tersembunyi, seperti yang ditunjukkan dalam penelitian antropologi, memungkinkan pengembang untuk mengatur ulang lingkaran internal yang bertanggung jawab untuk penyelarasan, yang mengarah pada moral yang lebih kuat dan konsisten.

Karena LLMS semakin terintegrasi dalam fungsi lembaga kritis, transparansi dan kemampuannya untuk menafsirkan dan mengendalikan menjadi semakin diperlukan. Generasi alat baru ini dapat membantu menjembatani kesenjangan antara kemampuan kuat AI dan memahami manusia, membangun kepercayaan dasar dan memastikan bahwa lembaga dapat menyebarkan sistem kecerdasan buatan yang andal, meninjau, dan mematuhi tujuan strategis mereka.


Tautan sumber
Continue Reading
Click to comment

Leave a Reply

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Berita

Barry Morveio mempertahankan paten untuk pembunuhan kelas pertama dari istri: pengacara

Published

on

baruAnda sekarang dapat mendengarkan Fox News!

Pengacara Barry Morefio mengatakan kliennya “mempertahankan kepolosannya” setelah Murvio menuduh kematian kelas pertama atas kematian istrinya, Suzanne Morvio.

Dia ditangkap di dekat Veniz, Arizona, pada hari Jumat, setelah juri besar dituduh diduga membunuh istrinya, yang menghilang selama perjalanan sepeda Hari Ibu.

“Dia mempertahankan kepolosannya,” kata pengacara Murvio, David Biller, kepada Fox News Digital Morphew.

“Sekali lagi, pemerintah mengizinkan kesimpulan yang telah ditentukan sebelumnya untuk memimpin pencarian mereka untuk bukti,” kata Biller. “Kasus ini tidak berubah, dan hasilnya juga tidak akan berubah.”

Sisa -sisa Colorado kehilangan ibuku, Susan Morpio, ditemukan setelah tiga tahun menghilang

Suzan Morveio dan Barry Morveio (Kantor Sharif Shafi County dan Kantor Sharif Marikuba County)

Sisa -sisa Suzan Murphyo ditemukan oleh Biro Colorado pada tahun 2023 di provinsi Sagawash di bagian barat daya negara bagian.

Barry Morveio ditahan di penjara di Provinsi Mariakoba, Arizona, sementara ia diharapkan akan dikirim ke Colorado.

“Pengabaian,” kata Murvio di pengadilan ketika dia ditanya apakah dia menginginkan sesi pengiriman.

Menurut salinan peraturan tuduhan dewan juri, banyak tulang Susan Morveio ditemukan “sangat diputihkan” ketika jenazahnya ditemukan pada tahun 2023. Menurut dakwaan, jaksa penuntut mengatakan “tidak mungkin” bahwa tubuhnya akan membusuk menjadi kerangka di lokasi yang ditemukan.

Barry Morveio dituduh oleh dewan juri yang diduga membunuh istri yang menghilang pada Hari Ibu

Pasangan Colorado Barry Susan Morvio

Barry Morefio dituduh membunuh istrinya, Susan Morphyo. (AP)

Jaksa penuntut mengatakan bahwa bahan kimia yang meliputi Potorfanol, Azabiron dan Metomedin (BAM) ditemukan di dalam tubuh Susan Morpio. Menurut dakwaan, Barry Morefio menggunakan “BAM” sebagai ketenangan untuk membius dan mentransfer rusa Rusa.

Membaca Dakwaan

Sepeda Susan Morveio ditemukan pada hari ketika menghilang pada tahun 2020 di sepanjang lembah di sepanjang jalan raya ke -50 dan 225 provinsi di Kabupaten Shafi. Pada waktu itu, Barry Morveio bekerja di Bromfield, Colorado.

Pesan tekstual yang dipertukarkan antara Barry Morveio dan Susan Morphyo menunjukkan hubungan sebelum dia melewatkannya.

Empat hari sebelum dia menghilang, Susan Morveio mengirim pesan teks yang dia katakan “selesai.”

“Saya bisa peduli dengan apa yang Anda jangkau dan apa yang telah saya lakukan selama bertahun -tahun,” katanya, menambahkan bahwa mereka membutuhkan “Kodley” untuk menemukan sesuatu.

Klik di sini untuk mendapatkan aplikasi Fox News

Barry Morveio di pengadilan

Dalam gambar video yang tetap ini, Barry Morveio, sebuah pusat, muncul di pengadilan di Salida, Colorado, 6 Mei. (Kusa via AP, kolam renang)

Barry Morpio mengajukan gugatan $ 15 juta pada tahun 2023 terhadap jaksa penuntut dan penyelidik, mengklaim bahwa mereka telah melanggarnya Hak konstitusional.

“Barry adalah yang paling banyak diperiksa, anatomi, dan otopsi, akurat, sepanjang waktu, menggunakan kamera penegak hukum bahwa rumahnya, tap telepon dan perangkat GPS ditempatkan di mobilnya – semua selama garis waktu lenyap dan tahun -tahun berikutnya,”

Di bawah Konklin di Audrey News berkontribusi pada laporan ini.

Tautan sumber

Continue Reading

Berita

Untuk CEO Replit, masa depan program ini adalah “Agen di sepanjang jalan”

Published

on


Agen repray dapat membantu merancang dan mengkodifikasi aplikasi hanya dalam 15 menit, menunjukkan pengkodean getaran.

Tautan sumber

Continue Reading

Berita

Eksekutif Doordash adalah salah satu dari 8 korban di Danau Tahoe, tragedi kapal kudeta

Published

on

baruAnda sekarang dapat mendengarkan Fox News!

Pihak berwenang mengeluarkan identitas para korban Mereka yang kehilangan nyawa mereka Ketika sebuah kapal berbalik dalam liburan terkenal di California.

Salah satu korban adalah Joshua Picks, 37, yang menjabat sebagai kepala kursus global untuk sumber -sumber strategis dan pembelian dalam tim pembiayaan, menurut perusahaan.

“Kami sedih dengan kecelakaan tragis yang mengambil nyawa kolega kami yang tercinta, Josh Bekls,” sebuah pernyataan dari Dordsh yang dikirim ke Fox News Digter Reed.

“Josh mencintai timnya dan merupakan inspirasi bagi semua orang yang memiliki hak istimewa atas pengetahuannya. Selama hampir tujuh tahun di Dordsh, dia membawa semangat menular yang mengangkat orang -orang di sekitarnya. Kehilangan Josh tidak diukur olehnya. Kami sangat merindukannya dan selalu membawa ingatannya bersama kami.”

MIT beberapa orang, 2 hilang setelah kapal lewat di hotline untuk liburan

Eksekutif Josh Pickles, The Center, Center, dan tiga anggota keluarga di antara orang mati setelah badai tiba -tiba di California selama akhir pekan. (Jordan Sugar Carlsgard)

Doordash mengatakan sedang berupaya mendukung keluarga acar “selama masa yang sangat sulit ini.”

“Pikiran dan cinta kami dengan istri, anak perempuan, keluarga dan semua yang dekat dengannya. Kami bekerja untuk mendukung mereka selama masa yang sangat sulit ini,” lanjut pernyataan itu.

Istri acar juga mengkonfirmasi kematian suaminya, bersama dengan banyak anggota keluarga lainnya.

“Kami telah kehilangan kekasih saya, Josh Bekls, orang tuanya, Terry Pixes, Paula Bouznovich, dan paman Peter Baiz, serta teman -teman dalam tragedi ini,” kata Jordan South Carlsard, janda Joshua Piclo, mengatakan dalam sebuah pernyataan.

Lebih dari 20 orang terluka setelah kapal di New York ditangkap; Dia menuduh Kapten dengan DWI

Paula Bouznovich mengatakan piknik itu adalah untuk merayakan ulang tahun ke -71 Joshua Picks.

Paula Bouznovich mengatakan piknik itu adalah untuk merayakan ulang tahun ke -71 Joshua Picks. (CoastGuard)

“Tidak ada kata -kata yang dapat mengungkapkan rasa sakit dan kesedihan bahwa kami merasa bahwa mengetahui hidup mereka telah hilang selama apa yang seharusnya menjadi waktu yang bahagia di danau. Hati kami keluar kepada mereka yang dengan tragis kehilangan nyawa mereka dan selamat dari badai yang tidak terduga dan mematikan di Danau Tahoe,” lanjut pernyataan itu.

Seorang juru bicara keluarga Pickles mengatakan kepada Fox News Digital bahwa piknik perahu adalah merayakan ulang tahunnya yang ketujuh puluh untuk ibuku Joshua Pickles, Paula Bouznovich.

Istri pickup menambahkan bahwa dia “sangat berterima kasih” atas semua bantuan yang dia terima dari responden pertama.

“Kami sangat berterima kasih kepada Penjaga Pantai Amerika, kantor El Doado Sharif County, penegak hukum dan agen pemadam kebakaran regional di Washo dan San Joakin, para penyelamat setempat, dan semua responden pertama dalam tegangan pencarian dan penyelamatan. Kami sangat berterima kasih untuk membantu mereka dalam situasi yang mengganggu,” baca pernyataan itu.

3 tewas, 9 hilang di dekat San Diego setelah mencuci perahu di pantai

Sebuah perahu berbalik di Danau Tahoe

Menurut apa yang dilaporkan, mangkuk emas Chris Kraft, yang panjangnya 27 kaki karena pembengkakan besar. (CoastGuard)

Departemen Hakim Investigasi di Kantor Provinsi Dorado Sharif mengatakan mereka “telah secara positif mengidentifikasi” para korban kecelakaan kapal yang tragis Di Danau Tahoe Ini terjadi pada hari Sabtu, 21 Juni.

Delapan korban diidentifikasi oleh pejabat sebagai berikut:

  • Paula Bouznovich, 71, dari Redwood, California
  • Terry Pickles, 73, dari Redwood City, California
  • Joshua Antony Pickles, 37, dari San Francisco
  • Peter Baise, 72, dari Lincoln, California
  • Timothy Olieri, 71, dari Uborn, California
  • Theresa Giurani, 66, dari Hunwi, New York
  • James Jock, 69, dari Hunwi, New York
  • Stephen Lindsay, 63, dari Spring Water, New York

“Kantor Dorado Sharif County memberikan belasungkawa terdalam kepada keluarga mereka yang tersesat dan semua yang terpengaruh oleh peristiwa tragis ini,” kantor Sharif berpartisipasi dalam pernyataan di halaman Facebook mereka.

Perwakilan mengatakan kepada Fox News Digital bahwa kondisi dua korban lainnya, yang identitasnya tidak ditentukan, tidak diketahui.

Klik di sini untuk mendapatkan aplikasi Fox News

Kecelakaan itu terjadi pada hari Sabtu pukul 3 sore lembaga penegak hukum, menerima laporan bahwa 10 orang ada di dalam air, Bayar Penjaga Pantai Untuk mengirim staf tanggapan ke daerah tersebut.

Menurut apa yang dilaporkan, mangkuk emas Chris Kraft, yang panjangnya 27 kaki karena pembengkakan besar.

Menurut Coast Guard, angin pada waktu itu sedikit lebih dari 34 mil per jam, dengan 6 hingga 8 kaki yang diperbesar.

Adam Sabs berkontribusi pada Fox News untuk laporan ini.

Stepheny Price adalah seorang penulis di Fox News Digital dan Fox Business. Ini mencakup topik termasuk orang hilang, pembunuhan, kasus kejahatan nasional, imigrasi ilegal, dan banyak lagi. Kiat dan ide cerita dapat dikirim ke stepheny.price@fox.com

Tautan sumber

Continue Reading

Trending