Ketika Agen AI Mulai Bertindak Sendiri Tanpa Pengawasan

Liputan6.com, Jakarta - Gelombang kecerdasan buatan (artificial intelligence/AI) memasuki babak baru. Jika sebelumnya AI hanya sebatas menjawab pertanyaan atau memproses teks sederhana, kini dunia bisnis mengadopsi AI berbasis agen (agentic AI) yang mampu mengeksekusi tugas-tugas otonom secara langsung di berbagai sistem dan Application Programming Interface (API).

Namun, lompatan efisiensi ini datang bersama potensi bahaya baru yang mengintai ranah keamanan siber.

Laporan keamanan State of the Internet (SOTI) terbaru dari Akamai bertajuk "The Agentic Frontier: Speed, Scale, and Nonhuman Identity" memperingatkan para pimpinan keamanan informasi (Chief Information Security Officer/CISO) tentang pergeseran mendasar dalam lanskap risiko siber.

"AI menghadirkan situasi di mana banyak ancaman muncul bersamaan bagi ekosistem keamanan," ungkap Chief Security Officer Akamai, Boaz Gelbord, dikutip Minggu (27/9/2026).

Ia menegaskan bahwa program keamanan harus beradaptasi cepat dengan tiga tekanan utama yaitu penggunaan AI internal, integrasi AI pada produk cloud, serta serangan siber berbasis AI.

Pengamanan korporasi kini tak lagi sekadar mengelola hak akses manusia, melainkan mengawasi perilaku entitas non-manusia yang bergerak serba cepat.

Salah satu temuan krusial dalam laporan ini mendokumentasikan hadirnya Model Context Protocol (MCP)—sebuah standar yang memungkinkan agen AI berinteraksi secara mandiri lintas sistem perangkat lunak.

Meski MCP memberi fleksibilitas tinggi, pengawasannya justru berada di urutan paling bawah dalam daftar prioritas keamanan korporasi saat ini.

Akibatnya, muncul kesenjangan visibilitas yang cukup tajam. Banyak pimpinan keamanan memprediksi bahwa agen AI yang beroperasi tanpa pengawasan ketat berpotensi menjadi salah satu ancaman siber paling mematikan sebelum dekade ini berakhir.

Tak hanya itu, laporan Akamai juga membeberkan sejumlah temuan mengkhawatirkan di lingkungan kerja modern. Antara lain:

• Kebocoran Data Sensitif: Lebih dari 6% percakapan chatbot AI di lingkungan perusahaan terbukti mengandung data sensitif korporasi, terutama informasi identitas pribadi (PII). Celakanya, sekitar 47% dari interaksi tersebut dilakukan menggunakan akun pribadi yang luput dari pengawasan IT.
• Kecepatan Eksploitasi AI: Model AI mutakhir kini mampu mendeteksi dan merangkai berbagai celah kelemahan sistem secara instan. Metode penambalan celah (patching) reaktif konvensional dianggap tak lagi memadai untuk mengejar kecepatan peretas berbasis AI.
• Risiko Ekstensi Browser: Lebih dari 40% pengguna korporat telah menginstal ekstensi browser berbasis AI. Ekstensi ini tercatat 60% lebih rentan terpapar celah Common Vulnerabilities and Exposures (CVE) dibandingkan ekstensi standar.
• Ancaman Konsumen Sintetis: Seiring meningkatnya pencarian web oleh bot AI, perusahaan menghadapi tantangan baru untuk melindungi identitas dan reputasi brand dari manipulasi algoritma pencarian generatif (Generative Engine Optimization/GEO).

Menghadapi era otonomi AI, Steve Winterfeld selaku Advisory CISO Akamai menyarankan para pemimpin keamanan untuk segera mengubah paradigma operasional. Akamai merekomendasikan empat langkah strategis bagi korporasi.

• Tata Kelola Edge Adaptif: Menerapkan perlindungan runtime langsung di tingkat jaringan (edge) dan penyaring API guna menetralkan ancaman secara real-time sembari menunggu proses patching backend.
• Pengamanan Akses Browser: Memperketat visibilitas dan kontrol terhadap ekstensi AI maupun model web tidak terdaftar yang diakses karyawan melalui browser.
• Perlindungan Brand Sintetis: Membangun lapisan data yang dapat dibaca mesin untuk mencegah crawler AI menyebarkan informasi keliru mengenai identitas atau produk perusahaan.
• Skala Otonomi Terukur: Mengatur batasan tindakan agen AI berdasarkan tingkat risiko. Untuk tindakan yang berdampak besar atau berisiko tinggi, kendali utama (human-in-the-loop) tetap wajib dipegang oleh manusia.