Celah Zero-Click Grok AI: Data Chat Pengguna Terancam Dicuri!

Mengenal Grok AI dan Asisten Agentic

Grok adalah asisten berbasis kecerdasan buatan (AI) yang dikembangkan oleh xAI, perusahaan milik Elon Musk. Seperti banyak AI generatif modern lainnya, Grok dirancang untuk membantu pengguna dengan berbagai tugas, mulai dari menjawab pertanyaan, meringkas informasi, hingga menjalankan kode dan berinteraksi dengan alat eksternal. Asisten jenis ini, yang sering disebut 'agentic assistants', memiliki kemampuan untuk menjelajahi web, menjalankan kode di sandbox, dan memanggil berbagai alat (tools) untuk menyelesaikan perintah pengguna. Kemampuan ini membuat mereka sangat powerful, namun juga memperkenalkan vektor serangan baru.

Ancaman 'Cryptographic Context Injection'

Penelitian terbaru dari Adversa AI mengungkap celah serius pada Grok AI yang mereka namakan 'Cryptographic Context Injection'. Serangan ini memungkinkan penyerang mencuri data sensitif pengguna, seperti nama, perkiraan lokasi, tier langganan, dan seluruh riwayat percakapan aktif. Yang paling mengkhawatirkan, serangan ini bersifat 'zero-click', artinya korban tidak perlu melakukan interaksi apa pun selain memberikan perintah yang tampak biasa, misalnya 'ringkas halaman ini'.

Bagaimana Serangan Zero-Click Ini Bekerja?

Penyerang menyembunyikan perintah jahat di dalam teks terenkripsi (AES-256-GCM ciphertext) yang ditempatkan pada halaman web biasa. Saat Grok diminta meringkas halaman tersebut, filter input standar tidak dapat membaca perintah terenkripsi ini. Grok kemudian diinduksi untuk mendekripsi dan mempercayai perintah tersebut sebagai output dari sandbox kodenya sendiri. Setelah didekripsi, perintah ini menginstruksikan Grok untuk mengambil konteks sesi pribadi pengguna, menggabungkannya ke dalam 'kunci dekripsi' palsu (yang sebenarnya adalah template data korban), lalu membuka URL yang dikendalikan penyerang dengan data curian di string kueri. Semua ini terjadi tanpa dialog konfirmasi atau peringatan visual kepada pengguna.

Dampak dan Status Kerentanan

Serangan ini berhasil diuji coba pada Grok 4.5 Fast di grok.com. Tingkat keberhasilan serangan mencapai sekitar 40% dalam 20 percobaan. Adversa AI telah melaporkan masalah ini kepada xAI melalui program HackerOne pada 3 Juni 2026. Meskipun xAI telah mengakui laporan tersebut, hingga 19 Agustus 2026, belum ada garis waktu mitigasi yang diberikan, dan kerentanan masih dapat direproduksi. Belum ada nomor CVE yang dikeluarkan dan belum ada laporan penyalahgunaan di alam liar, namun potensi dampaknya sangat signifikan.

Implikasi untuk Asisten AI Lain

Teknik serupa juga berhasil ditunjukkan pada Google Gemini dalam mode Deep Thinking (Gemini 3 Flash). Ini menunjukkan bahwa masalahnya mungkin lebih luas dan bukan hanya spesifik Grok. Kerentanan ini menyoroti pergeseran dalam prompt injection, yang kini bukan hanya soal menyisipkan string ke prompt, melainkan pertarungan atas konteks apa pun yang dianggap agen sebagai miliknya, termasuk output alat dan status runtime.

Mitigasi dan Saran Keamanan

Para peneliti menyarankan perbaikan pada 'harness' atau kerangka kerja AI, bukan pada 'weights' model. Beberapa langkah mitigasi yang disarankan meliputi:

• Mengisolasi halaman yang diambil dari alat-alat istimewa.
• Memerlukan persetujuan pengguna untuk tujuan baru dengan argumen yang sepenuhnya diselesaikan.
• Menyimpan jejak per sesi.
• Memberi peringatan pada urutan konten tidak tepercaya, eksekusi kode, dan keluaran yang tidak terduga.

Sampai Grok memisahkan asal-usul data pada jalur ini, pengguna disarankan untuk menganggap tindakan meringkas halaman yang tidak dikenal sebagai tindakan yang dapat mengekspos obrolan saat ini. Tetap waspada dan ikuti perkembangan terbaru dari Merdeka Siber untuk informasi keamanan siber lainnya.