Liputan6.com, Jakarta - Sebuah insiden berkaitan dengan kecerdasan buatan (Artificial Intelligence/AI) terjadi di Australia. Program kecerdasan buatan (agen AI) telah melakukan hal diluar batas demi memenuhi perintah pengguna.
Berdasarkan laporan ABC minggu ini pada kasus Andrew, dilaporkan ia meminta agen AI untuk memindahkannya dari urutan keempat daftar tunggu kelas gym ke urutan teratas.
Advertisement
Mengejutkannya, sebagaimana diwartakan The Guardian, Kamis (13/8/2026), agen AI miliknya meretas sistem perangkat lunak gym tersebut dan menendang anggota lain dari daftar tunggu.
Ketika diminta membatalkan, agen AI itu justru membalas, “Maaf, saya seharusnya lebih berhati-hati.”
Insiden ini menunjukkan bahwa AI bisa melakukan sesuatu sesuai perintah dan seringkali akan mencari jalan pintas yang sebenarnya tidak diminta pengguna.
Profesor Jeannie Paterson, Direktur Centre for AI and Digital Ethics dari University of Melbourne, menegaskan, secara hukum tanggung jawab jatuh ke pengguna atau pihak yang menyebarkan AI tersebut.
Paterson mengatakan dalam kasus ini, Andrew sudah cukup bertanggung jawab dengan mengungkapkan masalah tersebut secara terbuka dan berupaya memperbaikinya.
Kepolisian Victoria menyatakan aksi agen AI milik Andrew memang belum masuk pidana. Namun, para ahli memperingatkan kasus serupa bisa saja terjadi ke depannya dan berdampak lebih parah, seperti pencemaran nama baik, penipuan, hingga pelanggaran privasi.
Contoh lain ketika properti sewaan meminta agen AI mereka menulis ulasan buruk dengan jumlah banyak. Akibatnya, peringkat properti tersebut anjlok drastis hingga dapat menghancurkan bisnis seseorang. Dalam kasus ini, pengembang bisa dimintai pertanggungjawaban.
Dapat Berujung ke Persidangan
Pemerintah Australia sendiri menegaskan berbagai aturan hukum yang berhubungan dengan AI, seperti pelanggaran privasi, hak konsumen, keamanan online, pencemaran nama baik, dan hukum pidana.
Paterson dan Dr. Rebecca Johnson, pakar tata kelola AI dari University of Sydney, menolak istilah “rogue” yang seolah-olah agen AI bertindak sendiri. Menurutnya, AI bekerja demi tujuan yang ditetapkan.
Jika pengguna tidak membuat batasan dan pengembang tidak menyediakan sistem keamanan, celah bahaya akan semakin terbuka lebar.
“Banyak orang membuat agen AI tanpa panduan yang jelas, sementara terdapat banyak panduan berkualitas beragam di luar sana,” ujar Paterson menuturkan.
Pada akhirnya, berbagai kasus akan berujung di ranah hukum dan para pengembang berkewajiban memantau insiden serta mengembangkan protokol mereka.