Fiksasi genosida grok putih yang disebabkan oleh ‘modifikasi tidak sah’

Setelah Xai’s Chatbot Grok menghabiskan beberapa jam pada hari Rabu memberi tahu semua pengguna X bahwa mereka akan mendengar bahwa klaim genosida putih di Afrika Selatan sangat kontroversial, perusahaan tersebut mengumpulkan perilaku dengan “modifikasi tidak sah” ke kode Grok.

Ledakan satu jam dari suatu waktu melihat diskusi memasukkan Grok tentang dugaan genosida putih di Afrika Selatan dalam beberapa jawaban X, terlepas dari topiknya. Grok membahas kematian petani kulit putih dalam menanggapi video air minum, mengaitkan lagu “Kill the Boer” dengan pertanyaan tentang SpongeBob QuadraDan melanggar masalah di tengah patois. Bahkan CEO OpenAI Sam Altman mulai beraksi, mengejek runtuhnya publik chatbot saingan.

Dalam satu X pernyataan Perusahaan mengatakan seseorang telah memodifikasi peringatan sistem bot AI, “yang menginstruksikan Grok untuk memberikan tanggapan khusus tentang topik politik.” Modifikasi ini “telah melanggar kebijakan internal dan nilai -nilai pusat XAI”, dan perusahaan mengatakan telah “melakukan penyelidikan lengkap” dan menerapkan langkah -langkah baru untuk meningkatkan “transparansi dan keandalan”.

Langkah -langkah ini termasuk publikasi peringatan di tingkat sistem grok Di depan umum di GitHubMeluncurkan tim pemantauan 24/7 untuk menangkap pertanyaan seperti ini lebih cepat dan menambahkan “pemeriksaan dan langkah -langkah tambahan untuk memastikan bahwa karyawan XAI tidak dapat memodifikasi prompt tanpa ulasan.”

Xai pernah mengalami masalah ini sebelumnya. Perusahaan menyalahkan mantan karyawan yang tidak disebutkan namanya pada bulan Februari dengan mempromosikan perubahan dalam peringatan Grok yang melihat chatbot mengabaikan sumber apa pun yang menuduh Elon Musk atau Donald Trump untuk menyebarkan disinformasi. Pada saat itu, kepala teknik Xai, Igor Babuschkin, kata karyawan itu Dia dapat melakukan perubahan “tanpa meminta siapa pun di perusahaan untuk mengkonfirmasi”.