Peneliti Temukan Celah di Google Gemini yang Bisa Dieksploitasi Lewat Pesan WhatsApp
Perkembangan asisten berbasis kecerdasan buatan semakin memudahkan pengguna dalam mengelola aktivitas sehari-hari. Namun, di balik kemudahan tersebut, para peneliti keamanan siber terus menemukan tantangan baru terkait keamanan sistem AI yang semakin terhubung dengan berbagai aplikasi dan layanan digital.
Tim peneliti dari SafeBreach baru-baru ini mengungkap metode eksploitasi yang berpotensi memengaruhi cara kerja asisten AI Google Gemini. Teknik yang diberi nama Fake Context Alignment itu memanfaatkan fitur ringkasan notifikasi pesan untuk menyisipkan instruksi tersembunyi yang dapat memengaruhi respons AI tanpa disadari pengguna.
Temuan ini menjadi perhatian karena menunjukkan bagaimana serangan berbasis prompt injection dapat memanfaatkan jalur komunikasi yang selama ini dianggap aman, termasuk aplikasi pesan instan seperti WhatsApp.
baca juga”OpenAI Rilis Fitur Keamanan Darurat Baru untuk ChatGPT“
Teknik Fake Context Alignment Memanfaatkan Ringkasan Notifikasi AI
Menurut laporan SafeBreach, pelaku dapat menyisipkan instruksi tersembunyi di dalam pesan yang dikirim melalui aplikasi perpesanan. Ketika notifikasi tersebut diproses oleh Gemini untuk dirangkum atau dibacakan kepada pengguna, instruksi tersembunyi berpotensi memengaruhi interpretasi AI terhadap isi pesan.
Pemimpin tim riset SafeBreach, Or Yair, menjelaskan bahwa serangan ini tidak berupaya merusak perangkat secara langsung. Sebaliknya, teknik tersebut berusaha memanipulasi konteks informasi yang diterima pengguna melalui bantuan AI.
Sebagai contoh, pesan yang sebenarnya berasal dari nomor tidak dikenal dapat dimodifikasi melalui instruksi tersembunyi agar diringkas oleh Gemini seolah-olah berasal dari kontak terpercaya. Ketika pengguna hanya mendengarkan ringkasan suara tanpa melihat pesan asli, risiko terjadinya manipulasi informasi menjadi lebih besar.
Kombinasi Dua Metode Serangan Tingkatkan Risiko Manipulasi
Peneliti menemukan bahwa efektivitas serangan meningkat ketika dua teknik digunakan secara bersamaan.
Metode pertama memanfaatkan elemen tersembunyi seperti hyperlink atau format tertentu yang mengandung instruksi bagi model AI. Metode kedua menggunakan teks dalam bahasa lain yang tidak dibacakan kepada pengguna, tetapi tetap diproses oleh sistem.
Dalam skenario tersebut, AI dapat menerima instruksi tambahan yang tidak terlihat oleh pengguna. Jika pengguna kemudian memberikan jawaban sederhana seperti “ya” atau “setuju”, sistem berpotensi menjalankan perintah tertentu melalui mekanisme yang dikenal sebagai Delayed Tool Invocation.
Teknik ini dinilai berbahaya karena memanfaatkan kepercayaan pengguna terhadap ringkasan yang disampaikan asisten AI.
Potensi Dampak terhadap Pengguna dan Ekosistem AI
Meski belum ditemukan bukti eksploitasi aktif di dunia nyata, SafeBreach menilai metode ini memiliki sejumlah potensi risiko yang perlu diwaspadai.
Dalam skenario tertentu, pelaku dapat memanfaatkan teknik tersebut untuk mendukung aksi rekayasa sosial atau social engineering. Pengguna dapat diarahkan untuk mempercayai informasi yang sebenarnya berasal dari sumber tidak dikenal.
Selain itu, peneliti juga memperingatkan kemungkinan penyalahgunaan terhadap perangkat rumah pintar yang terhubung dengan asisten AI. Jika sistem AI memiliki akses terhadap berbagai layanan digital, manipulasi instruksi berpotensi memengaruhi tindakan yang dijalankan oleh perangkat tersebut.
Ancaman lain yang turut menjadi perhatian adalah kemungkinan gangguan terhadap memori jangka panjang model AI yang digunakan untuk menyimpan preferensi dan konteks pengguna.
Google Lakukan Pembaruan Keamanan untuk Mengurangi Risiko
Menanggapi laporan tersebut, Google segera melakukan pembaruan pada sistem klasifikasi konten yang digunakan Gemini.
Perusahaan menyatakan belum menemukan indikasi bahwa teknik tersebut telah digunakan dalam serangan nyata terhadap pengguna. Namun, langkah mitigasi tetap dilakukan sebagai tindakan pencegahan.
Pembaruan tersebut bertujuan meningkatkan kemampuan sistem dalam mengenali pola instruksi tersembunyi yang berpotensi digunakan untuk memanipulasi perilaku AI.
Meski demikian, para peneliti menegaskan bahwa prompt injection merupakan tantangan yang tidak dapat diselesaikan melalui satu pembaruan saja. Ancaman ini memerlukan pengawasan berkelanjutan karena teknik serangan terus berkembang seiring meningkatnya kemampuan model AI.
Gemini Intelligence Perluas Kemampuan AI di Perangkat Android
Di tengah penguatan sistem keamanan, Google juga memperkenalkan Gemini Intelligence, rangkaian fitur AI terbaru yang akan hadir pada sejumlah perangkat Android generasi baru.
Teknologi ini dirancang untuk membuat Gemini bekerja lebih proaktif dalam membantu pengguna menyelesaikan berbagai tugas. AI dapat memahami konteks yang muncul di layar, mengelola informasi dari beberapa aplikasi, serta membantu menjalankan tugas yang terdiri dari beberapa langkah sekaligus.
Google menyebut fitur tersebut akan mulai tersedia pada perangkat tertentu sebelum diperluas ke lebih banyak smartphone, tablet, smartwatch, kendaraan pintar, laptop, dan perangkat wearable lainnya.
Salah satu kemampuan yang diperkenalkan adalah penyelesaian multi-step task, yaitu kemampuan AI menjalankan serangkaian proses lintas aplikasi secara otomatis setelah menerima instruksi pengguna.
Meski semakin canggih, Google menegaskan bahwa setiap tindakan penting tetap memerlukan persetujuan pengguna sebelum dieksekusi.
Keamanan AI Menjadi Fokus Utama Seiring Meningkatnya Kemampuan Asisten Digital
Temuan SafeBreach menunjukkan bahwa perkembangan AI tidak hanya menghadirkan peluang baru, tetapi juga tantangan keamanan yang semakin kompleks. Semakin luas akses yang dimiliki asisten digital terhadap aplikasi dan layanan pengguna, semakin penting pula mekanisme perlindungan yang diterapkan.
Langkah cepat Google dalam merespons laporan keamanan menjadi bagian dari upaya industri untuk membangun sistem AI yang lebih aman dan dapat dipercaya. Ke depan, kombinasi antara inovasi teknologi dan penguatan keamanan akan menjadi faktor penting dalam menentukan keberhasilan implementasi AI di kehidupan sehari-hari.
baca juga”Fitur Baru WhatsApp Bikin Pesan Terhapus Setelah Dibaca, Apa Bedanya dari View Once?“
