Chatbot AI Untuk Anak, Bahaya atau Aman?

Liputan6.com, Jakarta - Tren kecerdasan buatan atau artificial intelligence (AI) kini lagi naik daun. Tak cuma ke orang dewasa, sejumlah platform untuk anak pun juga sudah memakai teknologi semacam ini.

Noura Afaneh, Analis Konten Web di Kaspersky mengatakan, anak-anak merupakan bagian penting yang sayangnya tidak dipertimbangkan dalam euforia teknologi AI.

Menurutnya, anak-anak dari segala usia di seluruh dunia mendapatkan akses untuk menggunakan alat-alat AI dan banyak di antaranya hanya memerlukan sedikit atau tanpa persetujuan sama sekali.

Melalui siaran persnya, Noura mengatakan bahwa keberadaan chatbot AI saat ini memudahkan seseorang untuk menavigasi informasi, tanpa harus membuka banyak tab dan membaca banyak artikel.

"Jika menyangkut anak-anak, hal ini sangat penting untuk memenuhi rasa ingin tahu mereka, dan sekaligus dapat membuat pembelajaran menjadi lebih interaktif dan menarik," kata Noura, dikutip Jumat (20/10/2023).

Selain itu, chatbot AI juga bisa menyediakan platform yang dapat diakses dan memungkinkan anak-anak untuk melatih keterampilan bahasa mereka, serta berdiskusi secara bebas tanpa batas waktu

Meski terdapat banyak manfaat besar dari beragam alat yang tersedia, tetap ada risiko penggunaan AI di kelompok anak-anak, misalnya seperti hilangnya privasi data, ancaman dunia maya, serta konten yang tidak pantas untuk mereka.

Noura mencontohkan, chatbot AI paling populer saat ini, ChatGPT, tidak memiliki verifikasi usia yang tepat, sehingga dinilai memiliki risiko terhadap privasi data anak-anak.

ChatGPT juga dinilai dapat menyediakan konten yang sering kali tidak akurat dan keliru dengan cara yang meyakinkan. Sebagai contoh, ada siswa yang memakai chatbot ini sebagai alat plagiarisme dan menemukan berbagai referensi palsu untuk artikel yang tidak ada.

Anak-anak dan dunia maya kini semakin sulit dipisahkan, mereka bisa bermain bahkan bersekolah melalui internet. Nah supaya mereka tetap aman, ada beberapa tips yang bisa orang tua lakukan.

2 dari 4 halaman

Risiko Kehadiran Teman AI

Snapchat memperkenalkan My AI, chatbot AI dengan teknologi ChatGPT OpenAI (Snapchat)

Dalam kasus lebih berbahaya, pada awal kehebohan ChatGPT, gadis-gadis remaja bertanya kepada AI tentang rencana diet dan informasi medis yang langsung dijawab oleh chatbot dengan rencana dan saran tanpa mengacu pada data medis aktual.

Kasus lainnya adalah chatbot MyAI Snapchat, di mana pengguna berusia 13 tahun diperbolehkan menggunakannya tanpa perlu izin dari orangtua. Ini menimbulkan pertanyaan tentang privasi anak-anak dan penyimpanan data mereka oleh aplikasi.

Noura mengatakan, risiko dari teman AI semacam ini adalah anak-anak sering kali percaya bahwa mereka adalah teman nyata, dan bertindak berdasarkan saran mereka.

Padahal, Snapchat sendiri mengakui bahwa AI tersebut "mungkin berisi konten yang bias, tidak benar, berbahaya, atau menyesatkan."

"Hal ini sangat berisiko, karena remaja mungkin merasa lebih nyaman membagikan informasi pribadi dan detail pribadi tentang kehidupan mereka kepada chatbot, dibandingkan kepada orang tua yang dapat membantu mereka," ujarnya.

3 dari 4 halaman

Ada Chatbot untuk Pengalaman Erotis

Mitigasi Risiko Chatbot AI — Penting bagi orangtua untuk mengawasi penggunaan chatbot AI pada anak. (Foto: Kaspersky)

Tidak sedikit juga chatbot AI yang dirancang untuk memberikan pengalaman erotis. Chatbot ini memberikan pengalaman seakan-akan punya hubungan romantis kepada penggunanya, dengan bahasa yang eksplist.

"Meskipun beberapa anak memerlukan verifikasi usia, namun hal ini berbahaya karena beberapa anak mungkin memilih untuk berbohong tentang usia mereka dan pencegahan kasus tersebut tidak cukup," kata Noura.

Tidak sedikit juga chatbot AI yang dirancang untuk memberikan pengalaman erotis. Chatbot ini memberikan pengalaman seakan-akan punya hubungan romantis kepada penggunanya, dengan bahasa yang eksplist.

"Meskipun beberapa anak memerlukan verifikasi usia, namun hal ini berbahaya karena beberapa anak mungkin memilih untuk berbohong tentang usia mereka dan pencegahan kasus tersebut tidak cukup," kata Noura.

4 dari 4 halaman

Tips Gunakan Chatbot AI pada Anak

Apa itu ChatGPT buatan OpenAI — ChatGPT buatan OpenAI. (Liputan6.com/ Yuslianson)

Maka dari itu, Kaspersky pun memberikan beberapa tips bagi orangtua, dalam menyikapi kehadiran chatbot AI di dunia anak-anak.

Menurut perusahaan keamanan siber ini, melarang penggunaannya bisa jadi bukan saran terbaik, karena akan selalu ada hal baru di internet, yang dialami anak-anak. Namun, penting bagi orangtua berperan aktif dalam menyeimbangkan risikonya, dan berupaya memitigasinya.

Mengedukasi tentang keamanan Internet

Mengajari anak-anak tentang keamanan dan privasi online, dapat menjadi cara yang sangat ampuh untuk mencegah berbagi informasi pribadi kepada orang asing, bahkan kepada chatbot.

Mencoba teknologi Chatbot AI bersama-sama

Orangtua disarankan agar terlibat sejak awal, dan menunjukkan kepada anak-anak mereka bagaimana dan bagaimana untuk tidak menggunakan alat-alat ini. Tunjukkan contoh yang dapat mereka bicarakan dan chatbot AI mana yang dapat digunakan atau dihindari.

Awasi, Kontrol, dan Atur Pengaturan Privasi

Salah satu alat perlindungan terkuat untuk orang tua saat online adalah solusi keamanan komprehensif. Selain itu, aplikasi khusus untuk pengasuhan digital dapat menyediakan banyak alat yang diperlukan untuk perlindungan dan keamanan anak-anak saat online.

(Dio/Isk)