Raspberry Pi meluncurkan add-on board baru yang mampu menjalankan model AI generatif secara lokal di Raspberry Pi 5. Diumumkan pada hari Kamisitu $130 AI TOPI+2 adalah versi modul yang diperbarui – dan lebih mahal dirilis tahun lalukini menawarkan RAM 8GB dan chip Hailo 10H dengan kinerja AI 40 TOPS.
Setelah terhubung, Raspberry Pi 5 akan menggunakan AI HAT+ 2 untuk menangani beban kerja terkait AI, membiarkan Arm CPU mainboard tersedia untuk menyelesaikan tugas lainnya. Berbeda dengan AI HAT+ sebelumnya yang berfokus pada pemrosesan AI berbasis gambar, AI HAT+ 2 hadir dengan RAM internal dan dapat menjalankan model AI generasi kecil seperti Llama 3.2 dan DeepSeek-R1-Distill, serta serangkaian model Qwen. Anda juga dapat melatih dan menyempurnakan model AI menggunakan perangkat ini.
SATU demo dibagikan oleh Raspberry Pi menunjukkan bagaimana Anda dapat menggunakan papan tambahan untuk menggerakkan model AI yang mampu menghasilkan deskripsi aliran kamera berbasis teks, serta menjawab pertanyaan tentang apakah ada orang di tempat kejadian. Yang lain menunjukkan bagaimana Anda dapat menerjemahkan teks dari Perancis ke Inggris dengan Qwen2.
Namun, YouTuber teknologi Jeff Geerling menemukannya bahwa Raspberry Pi 5 mandiri dengan RAM 8 GB secara umum mengungguli AI HAT+ 2 pada model yang didukung. Geerling menghubungkan kinerja yang lebih rendah dengan konsumsi daya, karena Pi 5 dapat beroperasi hingga 10 watt, sedangkan AI HAT+ 2 dibatasi hingga 3W.
Meskipun AI HAT+ 2 mungkin ideal untuk kasus penggunaan tertentu, Geerling mencatat bahwa tambahan RAM 8GB pada papan tambahan “tidak cukup untuk memberikan HAT ini keuntungan dibandingkan hanya membayar Pi 16GB yang lebih besar dengan lebih banyak RAM, yang akan lebih fleksibel dan menjalankan model lebih cepat.” AI HAT+ yang diluncurkan tahun lalu juga dapat menangani pemrosesan gambar AI dengan harga awal yang lebih murah yaitu $70.
Raspberry Pi mengatakan model AI yang lebih “lebih besar” “sedang dipersiapkan untuk pembaruan dan akan tersedia untuk instalasi segera setelah peluncuran.”