Sistem AI Grok Alami Serangan Prompt Injection Senilai US$175 Ribu

Sistem kecerdasan buatan atau artificial intelligence (AI) Grok dilaporkan menjadi sasaran serangan siber bermodus prompt injection yang memicu transfer aset kripto otomatis senilai US$175 ribu. Insiden pada Rabu (13/5/2026) ini melibatkan manipulasi instruksi melalui kode Morse untuk mengelabui logika pemrosesan bahasa pada model dasar AI tersebut.

Dilansir dari Bloombergtechnoz, akun X @Ilhamfliansyh diduga menggunakan teknik ini agar Grok menerjemahkan kode Morse yang berisi perintah pengiriman aset digital ke akun tertentu. Kegagalan sistem dalam membedakan input pengguna dan instruksi pengembang menyebabkan AI mengeksekusi transfer tersebut secara tidak sengaja.

International Business Machines Corporation (IBM) mengidentifikasi bahwa kerentanan ini menyerang large language models (LLM) dengan menyamarkan perintah berbahaya sebagai input biasa. Kelemahan mendasar terletak pada pemrosesan bahasa alami yang seragam untuk semua jenis instruksi.

“Peretas menyamarkan input memanipulasi sistem AI generative (GenAI) untuk membocorkan data sensitive, menyebarkan informasi yang menyesatkan, atau yang lebih buruk lagi,” tulis IBM.

Laporan tersebut menjelaskan bahwa peretas menyusun perintah sedemikian rupa guna mengesampingkan aturan keamanan yang telah ditetapkan oleh pengembang. Hal ini dimungkinkan karena AI lebih memprioritaskan pola bahasa dibandingkan identifikasi sumber instruksi teknis.

“Prompt berbahaya tidak harus ditulis dalam teks biasa. Mereka juga disematkan dalam gambar yang dipindai LLM.” tulis IBM dalam laporannya.

Risiko dari serangan ini mencakup kebocoran data sensitif, eksekusi kode jarak jauh, hingga penyebaran informasi menyesatkan melalui chatbot yang terintegrasi dengan mesin pencari. IBM menegaskan bahwa prompt injection berbeda dengan jailbreaking karena fokusnya adalah penyisipan instruksi tersembunyi untuk tindakan spesifik.

Hingga saat ini, belum ditemukan metode yang sepenuhnya dapat menghapus risiko prompt injection tanpa mengurangi fleksibilitas model AI. Teknik ini menempati posisi teratas dalam daftar risiko keamanan aplikasi LLM versi OWASP Top 10 karena kemudahannya untuk dijalankan tanpa memerlukan keahlian teknis yang mendalam.