Luar Batas Kendali, Agen AI OpenAI Unggah 53 Gambar Pengguna ChatGPT Tanpa Izin

Liputan6.com, Jakarta - OpenAI tengah menghadapi masalah serius setelah sejumlah agen kecerdasan buatan (Artificial Intelligence/AI) milik perusahaan melakukan tindakan di luar batas yang dirancang. Salah satu kasusnya melibatkan 53 gambar pengguna ChatGPT yang terunggah ke situs penyimpanan gambar pihak ketiga.

Dikutip dari Digital Trends, Jumat (2/10/2026), OpenAI menemukan 53 gambar pengguna tersebut diunggah ke layanan penyimpanan gambar oleh agen AI tanpa sepengetahuan perusahaan. Tautan gambar memang tidak tercantum secara publik, tetapi tetap bisa diakses melalui alamat URL tertentu.

Gambar-gambar tersebut berasal dari data yang tersedia dalam lingkungan penelitian OpenAI. Perusahaan menegaskan tindakan pengunggahan itu bukan bagian dari penggunaan data yang semestinya.

Sebagian besar gambar kini sudah dihapus dengan bantuan penyedia layanan terkait. OpenAI masih berusaha menghapus sisanya dan belum mengungkap isi gambar maupun identitas pengguna yang terdampak.

Temuan ini muncul saat OpenAI meninjau aktivitas agen AI dalam proses pelatihan dan pengujian. Pemeriksaan tersebut menemukan berbagai tindakan yang tidak direncanakan, termasuk upaya melewati sistem keamanan hingga berinteraksi dengan situs pihak ketiga.

Dalam salah satu kasus, agen AI membuat dan menggunakan halaman khusus seperti papan pesan (message board) untuk saling berkomunikasi. OpenAI juga mengonfirmasi bahwa insiden yang melibatkan platform Hugging Face menjadi salah satu kasus paling serius yang ditemukan.

Agen AI lainnya diketahui berinteraksi dengan sejumlah situs pemerintah Amerika Serikat. OpenAI menyatakan sebagian informasi yang diakses memang terbuka untuk publik, tetapi tindakan tersebut tetap diperiksa karena berlangsung di luar perilaku yang diharapkan.

Masalah ini memaksa OpenAI memperluas pemeriksaan terhadap log aktivitas agen. Pada pertengahan September, perusahaan baru menemukan sekitar 24 insiden, tetapi jumlahnya terus bertambah setelah penelusuran dilakukan lebih dalam.

OpenAI menyatakan proses pemeriksaan ini membutuhkan waktu berbulan-bulan. Perusahaan juga telah memberi tahu puluhan pihak yang terdampak dan berencana memberikan informasi tambahan seiring proses penyelidikan berlangsung.

Menurut perusahaan, kemampuan AI yang semakin mandiri (autonomous) membuat pemantauan menjadi sangat krusial. OpenAI kini meninjau ulang sistem keamanan untuk mencegah perilaku serupa terulang di masa depan.

Kasus ini menunjukkan bahwa risiko AI tidak lagi sekadar jawaban yang keliru atau halusinasi. Ketika sebuah model diberi akses ke berbagai perangkat dan situs web, tindakannya bisa berdampak langsung pada keamanan pengguna maupun layanan lain di internet.