Penyelenggaraan Miss Korea 2024 Dikritik karena Pertanyaan Deepfake yang Mengejek Kejahatan Seksual

Dalam pernyataan mereka, Global E&B Co. menjelaskan bahwa maksud dari pertanyaan tersebut adalah untuk mendengar pandangan para kontestan mengenai penggunaan teknologi AI dalam berbagai bidang seperti film, iklan, dan pendidikan. Namun, mereka mengakui bahwa pilihan kata mereka tidak tepat, terutama mengingat masalah serius yang ditimbulkan oleh penyalahgunaan deepfake di Korea Selatan saat ini.

"Kami meminta maaf kepada para pemirsa dan kontestan yang merasa tidak nyaman dengan pertanyaan tersebut. Kami seharusnya lebih berhati-hati dalam memilih kata-kata, terutama mengingat kenyataan saat ini di mana 'deepfake' disalahgunakan untuk video seksual ilegal," tulis Global E&B Co. dalam pernyataan mereka. 

Penyelenggara pun berjanji untuk lebih berhati-hati di masa mendatang. Mereka akan memastikan bahwa pertanyaan-pertanyaan dalam kontes kecantikan mereka lebih sensitif terhadap isu-isu sosial yang sedang berlangsung.

Insiden ini akhirnya menyoroti betapa pentingnya kesadaran dan kepekaan terhadap isu-isu sosial dan teknologi dalam acara publik, terutama yang memiliki audiens luas seperti kontes kecantikan. Kejahatan seksual yang melibatkan deepfake adalah masalah serius yang memerlukan perhatian dan penanganan yang tepat, bukan sekadar bahan pertanyaan dalam kontes kecantikan. 

Mengutip dari kanal Global Liputan6.com, kepolisian nasional Korea Selatan mengatakan pada Kamis, 19 September 2024, bahwa mereka berencana untuk menghabiskan dana hampir 7 juta dolar AS atau sekitar Rp106 miliar selama tiga tahun ke depan untuk bidang teknologi. Anggaran digunakan untuk memerangi deepfake, kloning suara, serta bentuk-bentuk penipuan seksual digital lainnya.

Deepfake porno mencakup konten eksplisit di mana wajah individu tertentu digabungkan secara digital ke gambar atau video porno lain menggunakan teknologi Artificial Intelligence (AI) atau kecerdasan buatan. CNA menulis pada Sabtu, 21 September 2024, dalam beberapa minggu terakhir, pihak berwenang telah mengungkap jaringan ruang obrolan Telegram yang kebanyakan dibuat dalam lingkup sekolah dan universitas.

Lewat jejaring itu, para penggunanya saling membagikan video porno deepfake yang menggambarkan siswa atau staf perempuan. Fenomena tersebut telah memicu kemarahan publik sekaligus memicu kebijakan dari Presiden Yoon Suk Yeol yang bersumpah untuk mengambil tindakan tegas.

Yoon mengatakan minggu lalu bahwa "masalah deepfake telah memicu kekhawatiran yang meluas, terutama di kalangan perempuan, karena merupakan kejahatan serius yang merusak keharmonisan sosial". "Saya telah mendesak kementerian terkait untuk mengambil tindakan tegas," sambung Yoon.

Badan Kepolisian Nasional Seoul mengatakan pada hari Kamis bahwa mereka sudah mengalokasikan 2,7 miliar won setahun hingga tahun 2027 untuk mengembangkan teknologi pembelajaran mendalam guna mendeteksi konten yang dibuat secara digital seperti deepfake dan kloning suara.

Di samping itu, mereka juga bakal menghabiskan dana hingga ratusan ribu dolar untuk meningkatkan perangkat lunak mereka saat ini guna memantau deepfake dan video lain yang dibuat dengan AI.

Korea Selatan sudah lama memerangi kekerasan seksual di dunia maya, tetapi menurut data resmi, kasusnya meningkat 11 kali lipat tahun ini dari tahun 2018.

Tetapi, tingkat penuntutan tetap suram. Dari tahun 2021 hingga Juli 2024, 793 kejahatan deepfake dilaporkan, tetapi hanya 16 orang yang ditangkap dan dituntut, dari data polisi yang diperoleh oleh seorang anggota parlemen.