Agen AI sumber terbuka yang “benar-benar melakukan sesuatu” mulai populer, dengan orang-orang di seluruh web berbagi cara mereka menggunakan agen tersebut untuk melakukan banyak hal, seperti mengelola pengingatpendaftaran data kesehatan dan kebugarandan bahkan berkomunikasi dengan pelanggan. Alat itu, disebut Moltbot (sebelumnya Clawdbot), berjalan secara lokal di berbagai perangkat dan Anda dapat memintanya melakukan tugas atas nama Anda dengan mengobrol melalui WhatsApp, Telegram, Signal, Discord, dan iMessage.
Federico Viticci masuk Cerita Mac menyoroti bagaimana dia menginstal Moltbot di M4 Mac Mini miliknya dan mengubahnya menjadi alat yang menyediakan rekap audio harian berdasarkan aktivitas Anda di aplikasi kalendernya, Notion dan Todoist. Orang lain Moltbot membutuhkan waktu untuk membuat wajah animasi dan mengatakan bahwa ia menambahkan animasi tidur tanpa disuruh.
Moltbot mengarahkan permintaan Anda melalui penyedia AI pilihan Anda, seperti OpenAI, Anthropic, atau Google. Seperti banyak agen AI yang telah kita lihat sejauh ini, Moltbot dapat mengisi formulir di dalam browser Anda, mengirimi Anda email, dan mengelola kalender Anda – tetapi setidaknya ia melakukannya dengan lebih efisien. menurut beberapa orang orang-orang yang menggunakan alat tersebut.
Ada beberapa peringatan; Anda juga dapat memberikan izin kepada Moltbot untuk mengakses seluruh sistem komputer Anda, mengizinkannya membaca dan menulis file, menjalankan perintah shell, dan menjalankan skrip. Menggabungkan akses tingkat administrator ke perangkat dan kredensial aplikasi Anda dapat menimbulkan risiko keamanan yang besar jika Anda tidak berhati-hati.
“Jika agen AI otonom Anda (seperti MoltBot) memiliki akses admin ke komputer Anda dan saya dapat berinteraksi dengannya dengan mengirim pesan kepada Anda di media sosial, sekarang saya dapat mencoba membajak komputer Anda melalui pesan langsung yang sederhana,” kata Rachel Tobac, CEO SocialProof Security, dalam email ke Tepi. “Saat kami memberikan akses kepada administrator ke agen AI otonom, mereka dapat dibajak melalui injeksi langsung, sebuah kerentanan yang terdokumentasi dengan baik dan masih belum terselesaikan.” Serangan injeksi langsung terjadi ketika pelaku kejahatan memanipulasi AI menggunakan perintah jahat, yang dapat disajikan langsung ke chatbot atau disematkan dalam file, email, atau halaman web yang dimasukkan ke dalam model bahasa besar.
Jamieson O’Reilly, pakar keamanan dan pendiri perusahaan keamanan siber Dvuln, menemukan pesan pribadi apakredensial akun dan kunci API yang terkait dengan Moltbot terekspos di web, sehingga berpotensi memungkinkan peretas mencuri informasi ini atau mengeksploitasinya untuk serangan lain. O’Reilly mengatakan dia melaporkan masalah ini kepada pengembang Moltbot, yang telah mengeluarkan perbaikan, menurut Catatan.
Salah satu pengembang Moltbot mengatakan di X bahwa agen AI adalah “perangkat lunak yang kuat dengan banyak sisi yang tajam.” memperingatkan pengguna itu harus “membaca dokumen keamanan dengan cermat sebelum menjalankannya di dekat Internet publik.”