Asisten AI Bisa Kena Tipu Email Phishing, Bukan Cuma Manusia!

Liputan6.com, Jakarta - Selama ini, mengenali email phishing yang menyamar sebagai lembaga tepercaya atau menawarkan iming-iming uang tunai relatif tidak sulit bagi kebanyakan orang.

Pesan-pesan semacam itu umumnya penuh kejanggalan dan bertujuan mencuri identitas korban. Namun, asisten AI yang kini ikut membaca dan mengelola email belum tentu sejeli pemiliknya.

Dalam publikasi terbaru di blog-nya, penyedia perangkat lunak keamanan siber Malwarebytes, menjelaskan asisten AI rentan menjadi korban serangan prompt injection, yakni pesan berbahaya yang disisipi instruksi tersembunyi untuk memengaruhi AI milik korban.

Pelakunya bisa peretas, atau, menurut laporan tersebut, kemungkinan juga agen AI nakal. Demikian sebagaimana dikutip dari Futurism, Senin (19/10/2026).

"Instruksi itu biasanya dibuat tak terbaca manusia dengan cara menyembunyikan teks jahatnya, sambil membiarkan konten tetap tersedia untuk diproses sistem AI," tulis Malwarebytes.

Dengan kata lain, pengguna melihat email biasa, sementara asisten AI membaca pesan lain di baliknya.

Sifat tersembunyi inilah yang membuat serangan tersebut sangat licik. Pengguna yang paling teliti sekali pun tidak akan melihat kejanggalan apa pun, karena perintah itu memang tidak ditujukan kepadanya, melainkan kepada mesin yang membantunya.

Menurut Malwarebytes, persoalan ini tidak akan selesai hanya dengan meminta orang lebih teliti memeriksa email. Perusahaan penyedia asisten AI yang harus menentukan secara cermat bagaimana asisten mereka menelusuri data dan mengambil informasi relevan dari sebuah surel.

Akar masalahnya ada pada cara kerja model. "Kelemahan sebenarnya adalah model tidak bisa membedakan teks yang seharusnya dibaca dan instruksi yang seharusnya dijalankan," kata Apollo Raines, pengembang ShipItClean, layanan tinjauan kode berbasis AI, kepada Malwarebytes.

Raines menilai, membuang konten tersembunyi sebelum sampai ke model adalah langkah yang layak dilakukan dan semestinya diterapkan setiap vendor.

Dari situ ia menyimpulkan bahwa pengguna yang sudah waspada terhadap email mencurigakan perlu belajar untuk tidak begitu saja memercayai asisten AI mereka.

Kerentanan model AI terhadap serangan prompt injection sebenarnya sudah dikenal selama bertahun-tahun. Yang berubah adalah cara AI dipakai.

Dengan hadirnya alat asisten AI populer seperti Muse milik Meta, risiko itu berpotensi mencapai titik terjauhnya. Agen otonom menyelesaikan serangkaian tugas tanpa pengawasan manusia sama sekali.

Kelemahan serupa sebelumnya sudah ditemukan para peneliti pada peramban berbasis AI, yang untungnya belum memperoleh adopsi luas. Futurism juga pernah mencatat bot di Moltbook, jejaring sosial aneh yang khusus dihuni AI, saling menjegal dengan memperjualbelikan serangan prompt injection.

Kini, ketika asisten AI canggih mulai dipakai jutaan orang di seluruh dunia, peluang mereka terjebak serangan yang tersembunyi di email phishing disebut jauh lebih besar dibanding sebelumnya.

Malwarebytes tidak meminta pengguna meninggalkan alat AI yang membantu mengurus email. Namun, perusahaan itu menekankan bahwa pengguna perlu mempertimbangkan tugas apa yang dipercayakan kepada asisten dan izin apa yang diberikan kepadanya.

Khusus untuk tindakan berdampak tinggi, seperti pembayaran dan perubahan rincian pembayaran vendor, Malwarebytes menyarankan agar selalu diwajibkan adanya persetujuan manusia.

Untuk saat ini, manusia tetap harus berada dalam lingkaran keputusan. Pesan ini sejalan dengan inti peringatan Malwarebytes, di mana kenyamanan yang ditawarkan asisten AI tidak boleh dibayar dengan hilangnya kendali atas urusan yang menyangkut uang dan identitas.