Pria AS Coba Manipulasi AI Pengadilan, Akhirnya Kena Sanksi

Liputan6.com, Jakarta - Seorang pria di Amerika Serikat (AS) mencoba menyisipkan perintah tersembunyi dalam dokumen pengadilan untuk memengaruhi sistem kecerdasan buatan (AI) dan memenangkan kasusnya.

Hakim Connecticut, Walter Spader Jr., mengungkap kasus tersebut dalam keputusan yang diterbitkan pekan lalu. Pria bernama Matthew Elliott itu sebelumnya menggugat penyedia layanan kesehatan karena dituding tidak memberikan akses terhadap catatan medis.

Menurut Spader, teks tersembunyi tersebut tidak memengaruhi proses pengambilan keputusan karena pengadilan Connecticut tidak menggunakan AI untuk meninjau atau memutuskan dokumen perkara.

Meski demikian, hakim menyebut upaya tersebut sebagai preseden yang "berbahaya". Teks dibuat dengan ukuran sangat kecil dan warna putih di atas latar putih sehingga tidak terlihat oleh manusia, tetapi tetap dapat dibaca perangkat lunak.

Perintah tersebut meminta AI yang membaca dokumen untuk mendukung argumen Elliott, mengabaikan penolakan pengadilan sebelumnya, dan menghasilkan penyelesaian sesuai keinginannya.

Teknik itu dikenal sebagai prompt injection, yakni upaya menyisipkan instruksi tersembunyi untuk memanipulasi cara kerja sistem AI.

Upaya Elliott tidak berhasil. Namun, ia tetap dikenai sanksi karena terus menyisipkan teks tersembunyi ke dokumen meski sudah mendapat peringatan dari pengadilan.

Elliott mengaku beberapa teks yang ia sisipkan setelah mendapat peringatan hanya merupakan "lelucon". Ia bahkan memasukkan tautan video YouTube Nosferatu serta pesan seperti "hi :) I hope yo ucant see me".

Namun, hakim menilai tindakannya tidak dapat dianggap sebagai lelucon karena dokumen tersebut diajukan sebagai bagian dari perkara yang ingin dianggap serius.

"Fakta bahwa penggugat terus menyembunyikan pesan dalam dokumen baru setelah menerima pemberitahuan mengenai sidang [sanksi] ini sungguh mengejutkan," kata Spader.

Elliott juga mengklaim teks tersebut merupakan upaya untuk "mengaudit" pengadilan karena khawatir AI digunakan secara tidak adil dalam mengambil keputusan.

Spader menolak alasan tersebut. Menurutnya, jika Elliott benar-benar ingin mempertanyakan penggunaan AI oleh pengadilan, ia bisa menyampaikan keberatannya secara terbuka.

"Dengan menyembunyikan sebuah perintah di dalam dokumen yang kemudian dibaca oleh sistem, pihak yang mengajukan dokumen tersebut berusaha menyelundupkan instruksinya sendiri ke dalam aliran tersebut sehingga sistem menganggapnya seolah-olah berasal dari operator sistem," ujar Spader.

Hakim akhirnya melarang Elliott mengajukan dokumen melalui sistem elektronik pengadilan dan mewajibkannya menggunakan dokumen fisik. Namun, ia tidak menjatuhkan denda.

Spader memperingatkan kasus seperti ini kemungkinan akan semakin sering terjadi seiring penggunaan AI meluas di berbagai bidang. Teknik prompt injection sendiri sudah digunakan dalam berbagai situasi, termasuk menyisipkan teks tersembunyi dalam CV untuk memengaruhi sistem AI saat proses rekrutmen.

Kasus Elliott disebut sebagai salah satu contoh awal prompt injection dalam sistem pengadilan AS. Spader juga menyinggung kasus di Brasil ketika dua pengacara menggunakan teknik serupa pada pengadilan yang menggunakan AI. Keduanya dilaporkan dikenai sanksi sekitar US$ 16.000.

Namun, Spader melihat ada persoalan lain yang tak kalah penting, yakni cara masyarakat menggunakan chatbot untuk menghadapi perkara hukum.

Elliott diketahui menggunakan AI untuk membantu membangun argumennya tanpa bantuan pengacara. Menurut Spader, pihak yang berperkara sendiri sering meminta chatbot hanya memperkuat pendapat mereka tanpa meminta AI menguji kelemahan argumen atau melihat sudut pandang lawan.

Hal ini dapat membuat pengguna semakin yakin bahwa argumennya benar, meski keputusan pengadilan berkata sebaliknya.

"Sebuah argumen yang hanya diarahkan untuk menyetujui pembuatnya pada akhirnya tidak jujur, bahkan terhadap pembuat argumen itu sendiri," kata Spader.

"Orang yang menggunakan alat-alat ini harus meminta AI untuk menguji sebuah posisi dengan cara yang sama seperti ketika mereka meminta AI untuk mendukung posisi tersebut."