Ini Bahaya Sebar Foto Anak Sembarangan ke Medsos di Era AI

Liputan6.com, Jakarta - National Crime Agency (NCA) memperingatkan orang tua untuk tidak membagikan foto anak-anak secara publik, seperti media sosial (medsos), sebagaimana maraknya penyalahgunaan gambar dengan menggunakan kecerdasan buatan (AI).

Internet Watch Foundation (IWF) menyatakan adanya peningkatan ancaman terkait penggunaan foto anak-anak secara online untuk membuat gambar pelecehan seksual terhadap anak (Child Sexual Abuse Material/CSAM).

Dikutip dari BBC, Jumat (10/7/2026), teridentifikasi lebih dari 8.000 gambar dan video realistis berisi pelecehan seksual terhadap anak berbasis AI sepanjang 2025, naik 14% dibanding tahun sebelumnya.

“Sementara kami dan rekan-rekan penegak hukum menindak para pelaku kejahatan, upaya pencegahan tetaplah krusial,” ujar Tim Wright, seorang manajer senior di NCA.

Bekerja sama dengan IWF, organisasi tersebut merilis panduan terbaru bagi orang tua, berisi langkah-langkah yang membantu menjaga anak-anak di dunia online.

Disebutkan bahwa orang tua perlu meninjau pengaturan privasi atau membuat grup “close friends” untuk orang tua membagikan gambar.

“AI telah menjadi bagian dari hidup. Meskipun memiliki banyak manfaat, AI juga bisa disalahgunakan, termasuk mereka yang menggunakannya untuk membuat, memanipulasi, dan membagikan foto serta video anak ke arah pelecehan seksual” demikian tertulis di panduan tersebut. 

Para analisis IWF mengidentifikasi 13 video pelecehan seksual terhadap anak berbasis AI pada 2024. Pada 2025, jumlah tersebut meningkat menjadi 3.440. Di Inggris, materi visual semacam ini dikategorikan sebagai CSAM.

Pemerintah berupaya mengatasi ancaman penyalahgunaan AI terhadap anak-anak, khususnya anak perempuan, dengan melarang aplikasi yang disebut dengan “nudifikasi”.

Mereka juga merevisi aturan hukum demi memastikan perusahaan AI menjamin sistem mereka tidak dapat digunakan untuk membuat gambar atau video pelecehan seksual (CSAM).

NCA beserta IWF menyebutkan panduan tersebut bertujuan untuk membantu orang tua memahami ancaman-ancaman terkait CSAM dan peran AI yang semakin besar dalam hal tersebut.

Panduan itu menyoroti tiga hal penting untuk orang tua dan wali yang harus lakukan:

• Meninjau pengaturan privasi - gunakan fitur pengaturan privasi yang terdapat di sebagian besar aplikasi media sosial di menu Pengaturan untuk membatasi siapa yang dapat melihat postingan, atau ubah akun menjadi privat.
• Cek akun media sosial - tinjau konten yang dibagikan untuk memastikan detail identitas yang dapat mengungkapkan identitas anak, seperti wajah atau seragam sekolahnya tidak terlihat, atau apakah suatu gambar perlu dihapus.
• Tinjau kembali persetujuan penggunaan gambar - tanyakan kepada teman, keluarga, atau bahkan tempat yang didatangi oleh anak kamu, seperti sekolah atau klub, mengenai gambar yang diambil atau digunakan, atau tinjau formulir persetujuan yang telah ditandatangani.

Selain itu, akan berguna bagi orang tua untuk melibatkan anak dalam diskusi mengenai bagaimana dan di mana gambar mereka diambil atau dibagikan. Termasuk membantu mereka merasa lebih nyaman untuk berkata tidak.

Saran muncul setelah bertahun-tahun imbauan dari para ahli keselamatan anak dan berbagai organisasi terkait resiko “sharenting.”

Istilah itu digunakan untuk mendeskripsikan aksi orang tua yang membagikan foto atau video anak mereka di media sosial.

Para ahli mengatakan bahwa aksi tersebut dapat membuat anak rentan terhadap risiko yang tak terduga, seperti pencurian identitas dan penipuan. Bahkan juga dapat mengganggu privasi mereka saat sudah beranjak dewasa.

Namun, kini muncul kekhawatiran seiring dengan semakin mudahnya dan canggihnya AI yang dapat digunakan untuk memanipulasi gambar.