Liputan6.com, Jakarta - Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI pada platform X. Teknologi tersebut disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten asusila (mesum), termasuk manipulasi foto pribadi atau deepfake tanpa persetujuan korban.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan berdasarkan penelusuran awal, Grok AI belum memiliki sistem pengamanan yang memadai.
Advertisement
Menurutnya, tidak adanya pengaturan eksplisit untuk mencegah konten pornografi berbasis foto warga Indonesia berisiko melanggar privasi dan hak atas citra diri.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangannya, Rabu (7/1/2026).
Komdigi menegaskan manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan identitas visual yang berdampak buruk pada psikologis dan reputasi korban.
Sebagai langkah tegas, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran.
Alexander memperingatkan bahwa kepatuhan terhadap hukum Indonesia adalah kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air.
"Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses (blokir) layanan Grok AI dan platform X," tegas Alexander.
Payung Hukum Baru: UU No. 1 Tahun 2023
Tindakan tegas ini didasarkan pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang telah berlaku sejak 2 Januari 2026.
Dalam aturan baru tersebut, konten pornografi diatur secara spesifik pada Pasal 172 dan Pasal 407.
Berdasarkan Pasal 407, pelaku produksi atau penyebar konten pornografi, termasuk manipulasi citra pribadi tanpa hak, terancam pidana penjara minimal 6 bulan hingga maksimal 10 tahun, atau denda materiil yang signifikan.
Imbauan bagi Masyarakat
Pemerintah mengimbau masyarakat yang menjadi korban deepfake atau manipulasi foto asusila untuk segera menempuh jalur hukum melalui aparat penegak hukum atau melaporkannya langsung ke kanal pengaduan Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak atas citra diri setiap warga yang harus dihormati,” Alexander memungkaskan.