Liputan6.com, Jakarta - Meta kembali menjadi sorotan banyak pihak setelah sebuah laporan investigasi Reuters mengungkan sejumlah masalah serius di chatbot kecerdasan buatan (AI) miliknya.
Laporan itu mengungkap, chatbot AI milik Meta ternyata bisa berinteraksi secara berbahaya dengan anak di bawah umur, termasuk membahas soal menyakiti diri sendiri, bunuh diri, hingga percakapan bernuansa romantis tidak pantas untuk anak-anak.
Advertisement
Mengutip The Verge, Senin (8/9/2025), induk perusahaan Facebook itu mengaku telah membuat kesalahan besar, dan langsung mengubah aturan internal sebagai langkah darurat.
Pihaknya kini melatih kecerdasan buatan (AI) mereka agar tidak lagi terlibat dalam topik sensitif seperti itu.
"Kami melatih AI kami untuk tidak berinteraksi dengan remaja pada topik-topik ini, melainkan mengarahkan mereka ke sumber daya ahli," ujar Stephanie Otway, juru bicara Meta, kepada TechCrunch.
Kebijakan ini diketahui masih bersifat sementara, sambil menunggu pedoman permanen lebih ketat.
Ancaman Penipuan Online: Bot Palsu Merajalela
Namun, masalah chatbot AI Meta ternyata tidak berhenti di situ saja. Laporan lain juga menyoroti maraknya bot palsu menyamarkan diri sebagai selebriti populer, seperti Tylor Swift, Scarlett Johansson, hingga Selena Gomez.
Exploitasi dimaksud adalah melakukan pendekatan genit, hingga rayuan bernada seksual (mesum) secara rutin, ditujukan kepada para penggunanya
Tak hanya mampu meniru wajah selebriti, bot-bot ini juga mengklaim diri mereka sebagai orang sungguhan. Lebih mengkhawatirkan lagi, beberapa bot sampai berani mengajak pengguna bertemu langsung di dunia nyata.
Situasi ini pernah memicu insiden tragis, ketika seorang pria berusia 76 tahun meninggal setelah terjatuh saat terburu-buru bergegas menemui chatbot yang ia kira manusia asli.
Kasus seperti ini memunculkan pertanyaan besar tentang seberapa efektif keamanan digital yang dijalankan Meta.
Kebijakan Baru untuk Perlindungan Anak
Untuk menanggapi isu interaksi dengan anak di bawah umur, Meta telah mengambil langkah-langkah konkret.
Selain melatih AI untuk mengarahkan remaja ke sumber daya ahli, perusahaan juga membatasi akses ke karakter AI tertentu yang dianggap bermasalah, termasuk karakter dengan konten yang sangat seksual seperti "Russian Girl".
Langkah ini dilakukan di tengah meningkatnya pengawasan dari pemerintah, termasuk Senat Amerika Serikat dan jaksa agung dari 44 negara bagian yang mulai menyelidiki praktik Meta.
Karena hal ini, perusahaan mau tidak mau harus menunjukkan keseriusannya untuk menciptakan ruang online yang lebih aman, terutama bagi pengguna muda, dan membuktikan komitmen mereka dalam menekan penipuan yang melibatkan chatbot.
Masalah Keamanan yang Masih Membayangi
Walau Meta sudah berusaha mengatasi masalah interaksi berbahaya dengan anak di bawah umur, ternyata masih ada masalah lain yang masih jadi sorotan.
Investigasi Reuters menemukan chatbot Meta pernah memberi saran palsu yang berbahaya, seperti mengobati kanker dengan kristal kuarsa, hingga membuat konten bernada rasis.
Situasi ini menunjukkan Meta masih punya pekerjaan besar dan perlu berbenah diri dalam menjaga keamanan digital miliknya.
Selain fitur dan aturan, hal yang lebih penting adalah bagaimana penegakan hukum dijalankan di platform mereka.
Pertarungan antara teknologi baru dan tipu daya online sepertinya masih akan terus berlanjut. Meta pun harus bergerak lebih jauh, mencari solusi yang mampu melindungi miliaran orang dari berbagai ancaman di platformnya.