AI Gemma 3 270m dari Google Open Source dapat berjalan di smartphone

Penelitian AI Deepmmind Google Dia punya Sumber terbuka baru kecerdasan buatan hari ini terungkap, Gemma 3 270m.

Seperti namanya, ini Bentuk 270 juta guru Banyak parameter yang lebih kecil dari 70 miliar atau lebih dari banyak LLMS Frontier (parameter adalah jumlah pengaturan internal yang mengatur perilaku model).

Meskipun lebih banyak parameter umumnya diterjemahkan ke dalam model yang lebih besar dan lebih kuat, konsentrasi Google hampir sebaliknya: efisiensi tinggi, memberi pengembang model Cukup kecil untuk berjalan langsung di smartphone Dan secara lokalDan Tanpa koneksi ke internetSeperti yang ditunjukkan dalam tes internal pada 9 Pro Soc.

Namun, model ini masih dapat menangani tugas -tugas kompleks khusus, dan dapat dengan cepat disesuaikan hanya dalam beberapa menit agar sesuai dengan kebutuhan pengembang atau pengembang Eindy.

pada X Jejaring SosialGoogle DeepMind Ai Omar Sanseviero menambahkan bahwa Gemma 3 270m juga dapat Jalankan langsung di browser web pengguna, di Raspberry PiDan “dalam pelayaran Anda”, yang menegaskan kemampuannya untuk mengerjakan perangkat yang sangat ringan.

Gemma 3 270m menggabungkan 170 juta guru inklusi – berkat kosakata besar 256 ribu yang mampu menangani simbol langka dan spesifik – dengan 100 juta guru transformator.

Menurut Google, arsitektur mendukung kinerja yang kuat dalam tugas -tugas instruksi pelacakan langsung di luar kotak sambil mempertahankan kekecilannya cukup untuk menekan dan menerbitkan perangkat sumber daya terbatas, termasuk perangkat seluler.

GEMMA 3 270M mewarisi arsitektur besar dan model GMMA 3, memastikan kompatibilitas melalui sistem Gemma EcoSmacest. Melalui dokumen, resep yang akurat, dan bukti penerbitan yang tersedia untuk alat -alat seperti memeluk wajah, lepas landas dan Jax, pengembang dapat beralih dari eksperimen untuk memposting dengan cepat.

Derajat tinggi pada standar untuk ukurannya, efisiensinya

pada Standar Ifeval, mana yang mengukur kemampuan model untuk mengikuti instruksiCatatan Pendidikan Gemma 3 270m 51,2 %.

Hasilnya menempatkannya Banyak model yang lebih tinggi seperti SMOLLM2 135M Andruct dan Qwen 2.5 0,5B InstruksiDan lebih dekat dengan ruang lingkup kinerja, yang mencakup sekitar satu miliar model parameter, menurut perbandingan yang diterbitkan oleh Google.

Namun, as Peneliti Dan Pemimpin Dalam kompetisi AI startup AI yang ditunjukkan sebagai tanggapan terhadap X, tinggalkan Google dari cairan pribadi Model LFM2-350M telah dirilis Pada bulan Juli tahun ini, yang mencetak gol hilang 65.12 % Namun, dengan beberapa parameter lain (model bahasa yang serupa).

Salah satu kekuatan khas model ini adalah efisiensi energi. Dalam tes interior menggunakan model Pixel 9 Pro Soc Int4 Soc, Hanya 25 percakapan yang dikonsumsi 0,75 % dari baterai perangkat.

Ini menjadikan Gemma 3 270m pilihan praktis untuk AI pada perangkat, terutama dalam kasus di mana privasi dan fungsi yang terkait dengan Internet penting.

Versi ini mencakup model bangunan dan file, yang memberi pengembang manfaat langsung untuk tugas -tugas menindaklanjuti instruksi publik.

Pos pemeriksaan terlatih (QAT) tersedia dalam jumlah, memungkinkan resolusi INT4 dengan kehilangan kinerja minimal dan membuat model siap untuk pembatasan sumber daya.

Versi kecil Gemma 3 270m dapat melakukan banyak fungsi LLMS yang lebih besar

Google mengembangkan Gemma 3 270m sebagai bagian dari filosofi yang lebih luas untuk memilih alat yang sesuai untuk pekerjaan daripada mengandalkan ukuran model mentah.

Untuk pekerjaan seperti analisis emosional, ekstraksi entitas, pertanyaan kueri, menghasilkan teks terorganisir, pemeriksaan kepatuhan, dan penulisan kreatif, perusahaan mengatakan bahwa model kecil yang disita dapat mencapai hasil yang lebih cepat dan lebih efektif dari kinerja yang signifikan dari tujuan umum.

Manfaat spesialisasi jelas dalam pekerjaan sebelumnya, seperti kerja sama ML dengan SK Telecom.

Dengan mengatur model Gemma 3 4B untuk konten multi -bahasa sedang, tim ini melebihi sistem kerajaan yang jauh lebih besar.

Gemma 3 270m dirancang untuk memungkinkan kesuksesan serupa dalam skala yang lebih kecil, Mendukung model khusus yang dirancang khusus untuk tugas individual.

Aplikasi aplikasi generator tidur eksperimental menunjukkan kemampuan Gemma 3 270m

Di luar penggunaan institusi, model ini cocok dengan skenario kreatif juga. di dalam Video eksperimental diterbitkan di YouTubeGoogle menampilkan aplikasi generator waktu lahir yang terbuat dari Gemma 3 270m dan Transformers.js Bekerja untuk sepenuhnya terhubung ke browser web, Tunjukkan kecerdikan model dalam aplikasi kelas ringan yang dapat diakses.

Video ini menyoroti kemampuan model untuk memproduksi beberapa input dengan memungkinkan spesifikasi karakter utama (misalnya, “kucing ajaib”), yang merupakan lingkungan (“di hutan yang menawan”), pengembangan plot (“” mengungkapkan pintu rahasia “), subjek (” “petualang”), dan panjang yang diperlukan (“pendek”).

Setelah parameter diatur, model Gemma 3 270m menghasilkan koheren dan imajinasi. Aplikasi terus menenun cerita pendek dan petualangan berdasarkan pilihan pengguna, yang menunjukkan kemampuan model untuk menghasilkan teks kreatif yang dikenal untuk konteksnya.

Video ini adalah contoh yang kuat tentang bagaimana Gemma 3 270m bisa ringan tetapi mampu menjalankan aplikasi cepat, menarik dan interaktif tanpa mengandalkan cloudMembuka kemungkinan baru untuk pengalaman kecerdasan buatan pada perangkat.

Open source di bawah lisensi khusus untuk Gemma

Gemma 3 270m dilepaskan dalam kondisi Gemma, yang memungkinkan penggunaan, reproduksi, modifikasi dan distribusi bentuk dan turunan, asalkan kondisi tertentu dipenuhi.

Hal -hal ini termasuk melanjutkan dengan kebijakan penggunaan yang dilarang Google, memberikan ketentuan penggunaan untuk muara, dan dengan jelas menunjukkan penyesuaian yang dilakukan. Distribusi dapat langsung atau melalui layanan yang di -host seperti pemrograman aplikasi atau aplikasi web.

Adapun tim lembaga dan pengembang komersial, ini berarti bahwa model dapat dimasukkan dalam produk, atau diterbitkan sebagai bagian dari layanan cloud, atau telah disita dalam turunan khusus, selama kondisi lisensi dihormati. Output yang dibuat oleh model tidak diklaim oleh Google, memberi perusahaan hak penuh untuk konten yang mereka buat.

Namun, pengembang memikul tanggung jawab untuk memastikan kepatuhan terhadap undang -undang yang berlaku dan menghindari penggunaan yang dilarang, seperti menghasilkan konten berbahaya atau melanggar aturan privasi.

itu Lisensi ini bukan open source dalam arti tradisional, tetapi memungkinkan penggunaan komersial yang luas tanpa lisensi terpisah yang dibayar.

Untuk perusahaan yang membangun aplikasi komersial AI, pertimbangan operasional utama memastikan bahwa pengguna akhir berkewajiban untuk pembatasan yang setara, mendokumentasikan modifikasi model, dan menerapkan langkah -langkah keselamatan yang sejalan dengan kebijakan penggunaan terlarang.

Dengan Gemmaverse melebihi 200 juta unduhan dan koleksi Gemma yang meluas ke cloud, desktop, dan variabel ponsel yang lebih baik, pengembang Google AI menempatkan Gemma 3 270m sebagai dasar untuk membangun solusi AI yang cepat dan hemat biaya dan fokus privasi, dan ini sudah tampak awal yang bagus.