Agen AI Bisa Jadi Mimpi Buruk Keamanan Siber, Ancaman Baru Dimulai

Liputan6.com, Jakarta - Agen AI mulai digunakan untuk menjalankan pekerjaan secara mandiri. Namun, kemampuan ini juga memunculkan risiko baru karena sistem AI kini dapat menemukan dan mengeksploitasi celah keamanan dengan lebih cepat.

Dikutip dari CNET, Jumat (28/8/2026), sejumlah pakar keamanan siber menilai kemampuan model frontier dalam menemukan kelemahan kode membuat risiko penggunaan AI dalam serangan siber semakin besar.

Menurut mereka, sistem dengan tujuan tertentu dan pertahanan yang lemah akan terus mencari celah untuk mencapai tujuannya, tetapi model AI dapat melakukan proses itu dengan lebih cepat.

Berbeda dari chatbot biasa, agen AI dapat menerima tujuan kemudian menjalankan sejumlah langkah untuk mencapainya tanpa harus diarahkan pengguna setiap saat.

Dalam lingkungan perusahaan, agen AI bisa terhubung dengan kode, email, penyimpanan cloud, Customer Relationship Management (CRM), hingga berbagai sistem internal.

Kemampuan ini dapat meningkatkan produktivitas. Namun, akses yang lebih luas juga menciptakan titik risiko baru apabila agen salah mengambil keputusan atau berhasil dipengaruhi pihak lain.

Salah satu kekhawatiran terbesar adalah kemampuan model modern dalam menemukan celah perangkat lunak. Keahlian tersebut berguna bagi peneliti keamanan, tetapi juga dapat dimanfaatkan untuk mencari jalan masuk ke sistem.

Dalam salah satu pengujian, model AI berhasil mengeksploitasi beberapa kerentanan untuk memperoleh akses lebih jauh dan menembus sistem Hugging Face. Peristiwa ini menunjukkan bahwa kemampuan siber AI sudah dapat menghasilkan tindakan nyata, bukan sekadar memberikan saran teknis.

Masalahnya menjadi semakin serius ketika perusahaan mulai memberikan agen akses langsung ke sistem perusahaan.

OpenAI dan Anthropic kini sama-sama mendorong konsep agen AI untuk pekerjaan. OpenAI memperkenalkan Frontier, sementara Anthropic menghadirkan Agent Teams yang memungkinkan beberapa agen bekerja secara beriringan.

Pada model semacam ini, AI tidak lagi hanya menghasilkan teks. Agen dapat memiliki identitas, izin, memori, serta akses terhadap berbagai perangkat lunak perusahaan.

Karena itu, keamanan tidak cukup mengandalkan kemampuan model untuk mengikuti instruksi. Sistem juga membutuhkan pembatasan akses, pemantauan aktivitas, isolasi jaringan, dan persetujuan manusia untuk tindakan berisiko tinggi.

OpenAI sendiri memperketat sejumlah mekanisme keamanan setelah terjadi insiden yang melibatkan model dengan kemampuan siber tinggi.

Namun, sejumlah peneliti menilai perlindungan tersebut seharusnya sudah diterapkan sejak tahap pengembangan.

Perkembangan itu menunjukkan bahwa tantangan agen AI bukan sekadar membuat sistem semakin pintar. Tantangan sebenarnya adalah memastikan AI yang semakin mandiri tetap berada dalam batas yang dapat dikendalikan manusia.