Marak Aplikasi AI yang Edit Foto Perempuan Jadi Telanjang, Bikin Publik Resah

Liputan6.com, Jakarta - Para peneliti menemukan fakta meresahkan dari penggunaan teknologi AI (artificial intelligence) alias kecerdasan buatan. Rupanya, ada sejumlah aplikasi dan website yang menggunakan teknologi AI untuk menelanjangi foto-foto perempuan.

Mengutip laporan Time, Sabtu (16/12/2023), per September 2023, sebanyak 24 juta orang mengunjungi website yang bisa menelanjangi perempuan. Demikian berdasarkan hasil temuan dari perusahaan analisis jejaring sosial Graphika.

Menurut Graphika, kebanyakan layanan website yang "menelanjangi" alias nudify menggunakan jejaring sosial untuk memasarkan produknya.

Para peneliti menyebut, sejak awal tahun ini, jumlah tautan periklanan aplikasi untuk membuat foto perempuan telanjang berbasis AI, naik 2.400 persen di media sosial. Termasuk di antaranya di medsos X dan Reddit.

Layanan di website itu memakai teknologi AI untuk membuat ulang sebuah gambar. Aplikasi pun menghasilkan gambar baru yang memperlihatkan seolah orang di dalam foto tersebut telanjang.

Parahnya lagi, kebanyakan layanan berbasis AI ini hanya bisa berlaku untuk objek foto perempuan.

Aplikasi-aplikasi ini merupakan bagian yang mengkhawatirkan mengenai pornografi, terutama foto-foto perempuan diedit jadi seolah telanjang, tanpa persetujuan orang tersebut.

Foto tersebut dikembangkan dan didistribusikan seiring dengan kemajuan teknologi kecerdasan buatan, sejenis media palsu yang dikenal sebagai pornografi deepfake.

Penyebarannya menghadapi rintangan hukum dan pelanggaran serius terhadap etika. Pasalnya, gambar-gambar seringkali diambil dari media sosial dan disebar tanpa persetujuan atau sepengetahuan subjek foto.

Peningkatan popularitas aplikasi atau website yang hadirkan tool ini seiring dengan dirilisnya beberapa model difusi open source atau kecerdasan buatan yang menghasilkan gambar lebih unggul ketimbang yang dibuat beberapa tahun lalu.

Parahnya lagi, karena bersifat open source, model yang digunakan pengembang aplikasi bahkan tersedia secara gratis.

Video yang direkayasa bisa berdampak besar pada sebuah pemilu. Bila pun akhirnya terbukti bahwa video ini hasil manipulasi, banyak orang sudah terlanjur percaya karena sudah beredar secara viral. Teknologi baru juga memungkinkan manipulasi "deepfake"...

2 dari 4 halaman

Hasil Realistis

Hasil deepfake Luke Skywalker muda di serial The Mandalorian karya Youtuber Shamook (Tangkapan Layar Youtube Shamook)

Seorang analis di Graphika, Santiago Lakatos mengatakan, "Jika sebelumnya gambar hasil deepfake kerap buram, kini dengan kemajuan AI, orang bisa membuat gambar yang sangat realistik."

Selain peningkatan kunjungan ke website, beberapa layanan ubah gambar orang jadi telanjang mengenakan biaya USD 9,99 per bulan. Ada juga yang mengklaim kalau website mereka banyak menarik pelanggan.

"Situs web mereka mengklaim, punya lebih dari 1.000 pengguna per hari," kata Lakatos.

Bahkan, salah satu gambar yang diunggah di jejaring sosial X alias Twitter tentang sebuah aplikasi nudify menggunakan bahasa yang mengajak kustomer membuat gambar telanjang dan mengirimkannya ke orang lain dalam foto. Hal ini memicu tindak pelecehan online.

Sementara, salah satu aplikasi membayar konten sponsor di YouTube dan akan terlihat lebih dulu saat pengguna lain mencari dengan kata "nudify."

3 dari 4 halaman

Google Tak Izinkan Pornografi

Ilustrasi cara, logout akun, Google. (Photo by Brett Jordan on Unsplash)

Menanggapi hal ini, juru bicara Google mengatakan, perusahaannya tidak mengizinkan iklan yang memperlihatkan ketelanjangan atau menyiratkan hal-hal berbau seksual.

"Kami telah meninjau iklan yang dipertanyakan itu dan menghapus iklan-iklan yang melanggar kebijakan kami," kata pihak Google.

Adapun juru bicara Reddit mengatakan, situs mereka melarang pembagian materi seksual eksplisit palsu tanpa persetujuan. Reddit juga telah melarang beberapa domain sebagai hasil penelitian. X di sisi lain tidak menanggapi permintaan komentar.

Menakutkan

Pornografi non konsensual terhadap public figure telah lama jadi momok di internet. Namun para pakar privasi makin khawatir karena kemajuan teknologi AI telah membuat software deepfake jadi kian mudah diakses dan efektif.

"Kami melihat semakin banyak hal seperti ini dilalukan dengan target yang biasa-biasa saja," kata Direktur Keamanan Siber di Electronic Frontier Foundation, Eva Galperin.

Bahkan menurutnya, ada juga juga anak-anak sekolah menengah dan mahasiswa yang menjadi target.

4 dari 4 halaman

Banyak Korban Tak Sadar Sudah Jadi Korban Pelecehan Online

Ilustrasi Artificial Intelligence (AI), Machine Learning (ML). Kredit: Gerd Altmann from Pixabay

Parahnya lagi, banyak korban yang tak tau kalau dirinya jadi objek gambar telanjang palsu berbasis AI. Bahkan, ada sejumlah orang yang berjuang mendapatkan keadilan untuk mengivestigasi atau mengambil langkah hukum karena foto dirinya dipakai.

Saat ini, belum ada payung hukum di AS untuk melarang pembuatan deepfake pornografgi. Meski begitu, pemerintah melarang penggunaan teknologi ini untuk kalangan anak di bawah umur.

Pada September lalu, seorang psikiater anak di North Carolina dihukum 40 tahun penjara karena menggunakan aplikasi nudify pada foto pasien-pasiennya.

Di sisi lain, TIkTok memblokir kata pencarian "undress", kata pencarian populer yang diasosiasikan dengan layanan berteknologi AI untuk menelanjangi gambar perempuan.

Menurut TikTok, pencarian dengan kata "undress" bisa berakibat pada pelanggaran kebijakan perusahaan.

Sementara, Meta Platforms mulai memblokir sejumlah kata kunci pencarian yang diasosiasikan dengan mencari aplikasi undressing atau nudify.