Wajah Emma Watson Terpampang di Ratusan Iklan Deepfake Seksual

Liputan6.com, Jakarta - Dalam sebuah iklan Facebook, seorang perempuan dengan wajah yang mirip dengan wajah aktor Emma Watson tersenyum malu-malu. Ia membungkuk di depan kamera dan tampaknya memulai tindakan seksual.

Dikutip dari NBC News, Jumat (10/3/2023), tapi perempuan itu bukanlah Emma Watson, bintang "Harry Potter". Iklan itu adalah bagian dari kampanye besar-besaran minggu ini untuk aplikasi deepfake, yang memungkinkan pengguna menukar wajah apa pun dengan video apa pun yang mereka pilih.

Deepfake adalah konten wajah atau suara diubah atau dimanipulasi. Biasanya, kreator deepfake membuat video di mana selebritas dibuat seolah-olah mereka rela tampil di dalamnya, padahal sebenarnya tidak.

Pesona Emma Watson Pakai Gaun Putih Tipis dengan Detail Renda Bunga

Teknologi ini semakin banyak digunakan untuk membuat pornografi nonkonsensual yang menampilkan wajah selebritas, influencer, atau siapa pun, termasuk anak-anak. Kampanye iklan di Meta mengacu pada fakta bahwa teknologi yang dulu canggih ini telah menyebar dengan cepat ke aplikasi konsumen yang tersedia dan diiklankan di bagian utama internet.

Banyak platform yang melarang konten deepfake yang manipulatif dan berbahaya. Pada awal pekan ini, aplikasi untuk membuat video "DeepFake FaceSwap" meluncurkan lebih dari 230 iklan di layanan Meta, termasuk Facebook, Instagram, dan Messenger, menurut ulasan perpustakaan iklan Meta.

Beberapa iklan menunjukkan apa yang tampak seperti permulaan video porno dengan suara terkenal dari lagu intro platform porno Pornhub. Beberapa detik kemudian, wajah para perempuan ditukar dengan wajah aktor terkenal.

Dari iklan Meta, 127 menampilkan kemiripan Emma Watson. 74 lainnya menampilkan wajah aktor Scarlett Johansson yang ditukar dengan wajah perempuan dalam video provokatif serupa.

"Ganti wajah dengan siapa pun," bunyi keterangan di 80 iklan itu. "Nikmati diri Anda dengan teknologi AI swap face."

Emma Watson ditunjuk sebagai salah satu pejabat penting di Kering. Kering adalah induk perusahaan yang menaungi brand fashion terkemuka seperti Gucci, Yves Saint Laurent, Balenciaga, Bottega Veneta, dan lainnya.

2 dari 4 halaman

Kategori

Iklan AI Deepfake yang menampilkan wajah Emma Watson (Tangkapan layar Twitter @laurenbarton03)

Pada Selasa, setelah NBC News meminta komentar dari Meta, semua iklan aplikasi dihapus dari layanan Meta. Meskipun tidak ada tindakan seksual yang ditampilkan dalam video tersebut, sifat sugestifnya menggambarkan bagaimana aplikasi berpotensi digunakan untuk menghasilkan konten seksual palsu.

Aplikasi ini memungkinkan pengguna mengunggah video untuk dimanipulasi dan juga menyertakan lusinan template video, banyak di antaranya tampaknya diambil dari TikTok dan platform media sosial serupa. Kategori preset termasuk Fashion", "Bride", "For Men", "For Women", dan "TikTok", sedangkan kategori dengan opsi terbanyak disebut "Hot".

Ini menampilkan video perempuandan pria berpakaian minim menari dan berpose. Setelah memilih template video atau mengunggahnya sendiri, pengguna dapat memasukkan satu foto wajah siapa pun, dan menerima versi video yang bertukar wajah dalam hitungan detik.

Ketentuan layanan untuk aplikasi, yang harganya 8 dolar AS (Rp123 ribu) per minggu, menyatakan bahwa itu tidak memungkinkan pengguna untuk menyamar sebagai orang lain melalui layanan mereka atau mengunggah konten seksual eksplisit. Pengembang aplikasi yang terdaftar di App Store bernama Ufoto Limited, dimiliki oleh perusahaan induk China, Wondershare.

3 dari 4 halaman

Apa Itu Deepfake?

Dikutip dari Insider, Jumat (10/3/2023), istilah "deepfake" berasal dari teknologi dasar "deep learning", yang merupakan salah satu bentuk AI (artificial intelligence). Algoritme deep learning, yang mengajarkan diri mereka sendiri cara memecahkan masalah ketika diberi set data besar, digunakan untuk menukar wajah dalam video dan konten digital untuk membuat media palsu yang terlihat realistis.

Ada beberapa metode untuk membuat deepfake, tetapi yang paling umum bergantung pada penggunaan jaringan neural dalam yang melibatkan autoencoder yang menggunakan teknik pertukaran wajah. Pertama-tama Anda membutuhkan video target untuk digunakan sebagai dasar deepfake dan kemudian kumpulan klip video dari orang yang ingin Anda masukkan ke dalam target.

Video bisa sama sekali tidak berhubungan, targetnya mungkin klip dari film Hollywood, misalnya, dan video orang yang ingin Anda masukkan ke dalam film mungkin klip acak yang diunduh dari YouTube. Autoencoder adalah program AI deep learning yang bertugas mempelajari klip video untuk memahami seperti apa rupa orang tersebut dari berbagai sudut dan kondisi lingkungan, lalu memetakan orang tersebut ke individu dalam video target dengan menemukan fitur-fitur umum.

4 dari 4 halaman

Cara Kerja

Hasil deepfake Luke Skywalker muda di serial The Mandalorian karya Youtuber Shamook (Tangkapan Layar Youtube Shamook)

Jenis pembelajaran mesin lain ditambahkan ke dalam campuran, yang dikenal sebagai Generative Adversarial Networks (GANs), yang mendeteksi dan memperbaiki setiap kekurangan dalam deepfake dalam beberapa putaran, mempersulit detektor deepfake untuk memecahkan kodenya. GAN juga digunakan sebagai metode populer untuk pembuatan deepfake, mengandalkan studi data dalam jumlah besar untuk "mempelajari" cara mengembangkan contoh baru yang meniru hal yang nyata, dengan hasil yang sangat akurat.

Beberapa aplikasi dan perangkat lunak memudahkan pembuatan deepfake bahkan untuk pemula, seperti aplikasi China Zao, DeepFace Lab, FaceApp (yang merupakan aplikasi pengeditan foto dengan teknik AI bawaan), Face Swap, dan DeepNude yang telah dihapus, aplikasi yang sangat berbahaya yang menghasilkan gambar perempuan telanjang palsu.

Sejumlah besar perangkat lunak deepfake dapat ditemukan di GitHub, komunitas open source pengembangan perangkat lunak. Beberapa dari aplikasi ini digunakan untuk tujuan hiburan murni, itulah sebabnya pembuatan deepfake tidak dilarang, sementara yang lain jauh lebih mungkin digunakan untuk tujuan jahat.

Banyak ahli percaya bahwa, di masa depan, deepfake akan menjadi jauh lebih canggih seiring dengan perkembangan teknologi dan mungkin menimbulkan ancaman yang lebih serius kepada publik, terkait dengan campur tangan pemilu, ketegangan politik, dan aktivitas kriminal tambahan.