Liputan6.com, Jakarta - Mengedit wajah anak pakai teknologi kecerdasan buatan (AI) demi konten hiburan di media sosial semakin banyak ditemui. Di balik kemudahan teknologi tersebut, pakar mengingatkan adanya potensi risiko terhadap data dan privasi anak.
Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani mengatakan teknologi AI yang banyak digunakan saat ini merupakan generative AI (Gen-AI), yakni teknologi yang mampu menghasilkan data berupa gambar, video, teks, hingga suara berdasarkan model dan informasi yang tersedia.
Advertisement
“Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto real, maka AI dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya,” kata Yeni mengutip laman IPB.
Dari sisi risiko, penggunaan wajah anak sebagai data AI dinilai rentan terhadap kejahatan digital. Prof Yeni menyebutkan bahwa ketika foto diunggah ke ruang publik, data tersebut pada dasarnya dapat diakses dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.
“Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital,” ucapnya mengutip dari laman IPB University.
Wajib Paham Risiko dari Penggunaan AI
Maka dari itu, orangtua perlu memahami risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan AI.
Risiko tersebut mencakup keamanan data, perlindungan privasi, serta kemungkinan penyalahgunaan data. Selain itu, penting bagi pengguna untuk memahami bahwa data yang diberikan kepada algoritma AI bisa digunakan untuk melatih model sebagai dataset dan berpotensi muncul dalam bentuk lain.
Yeni menekankan keutamaan literasi digital di masyarakat. Perlu secara konsisten memberikan materi etika dan tanggung jawab penggunaan teknologi dalam perkuliahan berpikir komputasional bagi mahasiswa baru, sejak di tingkat pertama.