Jakarta, PCplus – Google mengungkapkan bahwa Gemini AI telah diserang oleh aktor bermotivasi komersial dengan prompt berbahaya. Serangan dilakukan dengan cara mengirimkan lebih dari 100.000 prompt. Teknik ini disebut sebagai model extraction atau distilasi, yang bertujuan menyalin perilaku sistem tanpa mencuri kode.
Baca Juga: Hacker Asing Manfaatkan Google Gemini untuk Serangan di AS – PCplus Live
Dalam laporan keamanan internal, Google menyebut serangan prompt berbahaya ini sebagai pencurian properti intelektual. Para penyerang mencoba memahami cara Gemini merespons berbagai skenario. Jawaban yang dikumpulkan kemudian digunakan untuk melatih model tiruan dengan biaya lebih rendah.
Serangan distilasi dianggap berbahaya karena mampu meniru kemampuan model asli. Google menegaskan bahwa tindakan ini melanggar ketentuan layanan mereka. Perusahaan juga menyatakan bahwa serangan berasal dari berbagai negara, namun tidak menyebutkan pelaku secara spesifik.
Teknik Distilasi dan Dampaknya
Distilasi dilakukan dengan memberi ribuan pertanyaan pada model, lalu mengumpulkan jawaban. Data input-output tersebut dipakai untuk melatih model baru yang lebih kecil. Hasilnya memang tidak sempurna, tetapi cukup mirip dengan model induk.
Google menyebutkan bahwa serangan ini menargetkan algoritma penalaran Gemini. Setelah serangan terdeteksi, sistem pertahanan ditingkatkan, meski detail langkah tidak dijelaskan.
Kasus serupa pernah terjadi pada OpenAI. Perusahaan itu menuduh pesaing asal Tiongkok, DeepSeek, menggunakan distilasi untuk memperkuat model mereka. Bahkan, Stanford pernah membuat model Alpaca dengan biaya sekitar 600 dolar, menggunakan data keluaran GPT-3.5.
Industri AI dan Risiko Kloning Dari Prompt Berbahaya
Distilasi kini menjadi praktik umum di industri AI. Banyak perusahaan menggunakannya untuk membuat versi lebih ringan dari model besar. OpenAI meluncurkan GPT-4o Mini sebagai hasil distilasi GPT-4o. Microsoft juga merilis keluarga Phi-3 dengan data sintetis dari model besar.
Namun, garis batas antara inovasi dan pencurian masih kabur. Selama model tersedia publik, tidak ada penghalang teknis mutlak untuk mencegah kloning. Google menegaskan bahwa serangan terhadap Gemini menunjukkan risiko nyata bagi semua penyedia AI.
Fenomena klon Gemini AI menyoroti dilema besar: bagaimana melindungi kecerdasan buatan dari eksploitasi, sekaligus tetap membuka akses publik.
