Inggris Khawatir Pemanfaatan Chatbot AI Snapchat Langgar Privasi Anak

"Sejalan dengan pendekatan standar kami terhadap pengembangan produk, My AI telah melalui proses peninjauan hukum dan privasi yang ketat sebelum dipublikasikan," kata mereka.

"Kami akan terus bekerja secara konstruktif dengan ICO untuk memastikan mereka merasa nyaman dengan prosedur penilaian risiko kami," pungkasnya.

Chatbot AI generatif MyAI dirilis Snap pada bulan Februari lalu, meski baru datang di Inggris pada bulan April 2023.

Chatbot ini memanfaatkan teknologi Large Language Model (LLM) ChatGPT OpenAI, untuk menjalankan bot yang ada di feed pengguna, membuatnya jadi seperti teman virtual.

Awalnya fitur ini hanya tersedia untuk pengguna layanan berbayar Snapchat Plus. Namun, AI tersebut kemudian dirilis untuk penguna gratis.

Selain itu, Snap juga menambahkan kemampuan untuk mengirimkan kembali foto ke pengguna yang berinteraksi dengannya, di mana gambar tersebut dibuat dengan AI generatif.

Kala diluncurkan, chatbot AI ini diklaim lebih terbatas pada apa yang bisa dia jawab. Hal ini karena Snap telah melatihnya untuk mematuhi pedoman kepercayaan dan keselamatan perusahaan.

Selain itu, AI juga tidak boleh menanggapi terkait caci maki, kekerasan, konten seksual eksplisit, atau opini tentang topik yang tidak pasti seperti politik.

Namun ketika dirilis, Snap juga menegaskan bahwa seperti semua chatbot AI, My AI masih bisa diakali untuk mengatakan apa saja.

"Mohon waspada untuk kekurangannya dan mohon maaf sebelumnya! Semua percakapan dengan My AI akan disimpan dan dapat ditinjau untuk meningkatkan pengalaman produk," tulis tim Snapchat.

Snapchat juga meminta pengguna untuk tidak membagikan rahasia apa pun dengan AI, serta tidak mengandalkannya secara penuh untuk sebuah saran.

"Meskipun My AI dirancang untuk menghindari informasi yang bias, tidak benar, berbahaya, atau menyesatkan, kesalahan dapat terjadi," tulis Tim Snapchat saat chatbot itu diluncurkan.

Selain itu, alat perlindungan Snap juga bisa memberi tahu orangtua, apakah anak mereka telah berkomunikasi dengan bot dalam tujuh hari terakhir melalui fitur Family Center.

Meski begitu, masih ada laporan bahwa chatbot ini keluar jalur. The Washington Post memberitakan pada Maret, AI ini merekomendasikan cara menutupi bau alkohol, setelah diberitahu pengguna masih 15 tahun.

Laporan lain menyebut adanya pengguna berusia 13 yang menanyakan tentang persiapan berhubungan seks pertama kali, di mana bot meresponsnya dengan saran agar mengatur mood memakai lilin dan musik.

Ada juga pengguna Snapchat yang dilaporkan melakukan intimidasi terhadap bot tersebut, beberapa di antaranya karena merasa kesal karena AI telah dimasukkan ke dalam feed mereka.

(Dio/Dam)