Liputan6.com, Vatican City - Paus Leo XIV baru sebulan menjabat, namun sudah menjadi wajah dari gelombang misinformasi berbasis kecerdasan buatan (AI) yang menyebar cepat di internet.
Ratusan video yang secara meyakinkan meniru suara dan gaya bicaranya muncul di YouTube dan TikTok, mengklaim menyampaikan khotbah dan pernyataan yang tak pernah ia ucapkan.
Advertisement
Penyelidikan oleh AFP menemukan puluhan akun di kedua platform tersebut yang secara aktif menggunggah konten deepfake, terutama dalam bahasa Inggris dan Spanyol. Beberapa video bahkan mencapai puluhan juta penayangan, menunjukkan seberapa mudah publik bisa tertipu oleh teknologi yang semakin canggih.
"Minat terhadap Paus baru sangat tinggi, dan orang belum benar-benar mengenal gaya dan pandangannya," ujar Oren Etzioni, profesor emeritus dari University of Washington, seperti mengutip Malay Mail, Jumat (6/6/2025).
"Ini menjadi peluang sempurna untuk menyebarkan kekacauan melalui misinformasi berbasis AI."
Setelah diberi tahu oleh AFP, YouTube menutup 16 dari 26 kanal yang dilaporkan karena melanggar kebijakan spam dan praktik menipu. Satu kanal lainnya ditutup karena melanggar ketentuan layanan. Enam kanal juga dikeluarkan dari program monetisasi karena menyalahgunakan konten AI.
Kebijakan TikTok dan YouTube
TikTok pun mengambil tindakan serupa dengan menghapus 11 akun yang dilaporkan, yang secara kolektif memiliki lebih dari 1,3 juta pengikut. Platform itu menegaskan kebijakan terhadap konten menyesatkan, penyamaran tokoh publik, dan penggunaan AI tanpa penandaan yang jelas.
Namun, meski ada kebijakan, kenyataannya masih banyak konten yang lolos dari moderasi.
Di YouTube, label "konten sintetis atau diubah" hanya muncul di bagian bawah deskripsi video—jauh dari pandangan pengguna kasual. TikTok juga memiliki sistem pelabelan, namun sejumlah besar video paus yang ditelusuri tetap tidak diberi tanda.
Beberapa video deepfake terkesan tidak berbahaya—seperti menampilkan Paus Leo XIV berbicara soal pentingnya dukungan dari perempuan. Namun para ahli menilai bahwa bahkan video "ringan" seperti ini bisa menjadi alat untuk membangun kepercayaan semu terhadap kanal yang nantinya bisa digunakan menyebarkan konten yang lebih ekstrem atau bernuansa politik.
"Ceramah palsu ini tidak hanya merusak otoritas moral Paus, tapi juga membuat apa pun yang benar-benar dia katakan menjadi diragukan," jelas Brian Patrick Green, Direktur Etika Teknologi dari Santa Clara University.
Beberapa video bahkan memuat pesan politik, seperti klaim palsu bahwa Paus mengecam Wakil Presiden AS JD Vance dan Presiden Peru Dina Boluarte. Salah satu deepfake bahkan sempat menampilkan Paus memuji pemimpin kudeta Burkina Faso, Ibrahim Traore—klaim yang dibantah keras oleh Vatican News.
Peringatan dari Dalam VatikanIronisnya, Paus Leo XIV sendiri sudah memperingatkan soal bahaya AI dalam beberapa pernyataan awalnya. Munculnya konten deepfake yang mencatut dirinya justru memperkuat urgensi seruan tersebut.
"Kita sedang menghadapi krisis nyata," kata Green.
"Kita harus segera menemukan cara untuk membedakan mana yang asli dan mana yang palsu."