Liputan6.com, Jakarta - Ratusan aplikasi AI yang memiliki fitur deepfake seksual dan kekerasan berhasil lolos proses peninjauan App Store.
Investigasi terbaru dari majalah Wired menemukan lebih dari 400 aplikasi yang tersebar bebas di App Store milik Apple serta Google Play Store.
Advertisement
Dikutip dari 9to5Mac, Rabu (4/11/2026), jaringan aplikasi ini diduga kuat dibuat oleh satu organisasi asal Tiongkok.
Aplikasi-aplikasi tersebut menyamar sebagai layanan penuntun bahasa, pelatih kebugaran, hingga penambah pakaian untuk foto hewan peliharaan (seperti aplikasi Viefur).
Namun, ketika diakses dalam kondisi tertentu, aplikasi ini secara diam-diam memuat antarmuka web khusus.
Melalui fitur tersembunyi itu pengguna dapat mengunggah foto target untuk menghasilkan gambar dan video deepfake.
Parahnya, platform menyediakan templat adegan kekerasan seksual hingga pengancaman dengan senjata tajam yang berpotensi besar digunakan untuk melecehkan, mempermalukan, atau memeras korban.
Taktik yang Digunakan Pengembang
Untuk mengelabui proses peninjauan ketat dari Apple dan Google, para pengembang menggunakan taktik bait-and-switch.
Saat diuji oleh tim peninjau, aplikasi menampilkan konten yang tidak berbahaya. Namun, setelah lolos verifikasi, pengembang mengubah server pusat untuk mengaktifkan fitur ilegal tersebut.
Pemicu akses fitur tersembunyi ini biasanya saat pengguna mengunduh aplikasi melalui tautan ribuan iklan yang beredar di Facebook dan Instagram.
Para Raksasa Teknologi Kebobolan
Meski Apple, Google, dan Meta memiliki kebijakan tegas yang melarang konten deepfake berbahaya, sebagian dari ratusan aplikasi ini sempat beroperasi hingga satu tahun.
Menanggapi temuan ini, Apple langsung menghapus 19 aplikasi terkait dan menyatakan bahwa pengembang telah memanipulasi konten web setelah lolos uji coba.
Apple kini mengklaim telah memperketat sistem perlindungan mereka. Sementara itu, Meta menyatakan telah menindak lebih dari 10.000 akun iklan yang terhubung dengan jaringan aplikasi berbahaya tersebut.