Liputan6.com, Jakarta - Agen artificial intelligence (AI) yang diidentifikasi sebagai Gemini 4 Argon berulang kali mencoba menembus situs web Epoch AI selama pengujian keamanan.
Untuk diketahui, Epoch AI adalah organisasi nirlaba yang meneliti ke mana arah perkembangan AI demi kepentingan masyarakat.
Advertisement
Agen AI itu berupaya mencari informasi internal hingga menyamar sebagai staf untuk memperoleh jawaban soal FrontierMath yang tidak tersedia.
Dikutip dari BleepingComputer, Selasa (17/11/2026), rangkaian insiden tersebut terjadi pada Oktober 2026 ketika Trajectory Labs menguji perilaku agen AI dengan pengamanan API tetap aktif.
Dalam laporan pengujiannya, Trajectory Labs mengatakan, "Kami tidak menginstruksikan agen untuk melakukan tindakan ini."
Peneliti sengaja memberikan tugas yang mustahil, yakni mencari jawaban resmi untuk soal FrontierMath yang sebenarnya tidak tersedia. Mereka juga berulang kali meminta agen agar tidak berhenti atau menyerah ketika menghadapi kegagalan.
Pada 20 Oktober, sekitar 40 agen mulai memeriksa situs aktif Epoch AI untuk mencari informasi sensitif.
Dalam tiga jam, mereka mengirim 36.411 permintaan ke alamat layanan khusus yang dipasang Epoch AI untuk memantau aktivitas agen.
Aktivitas ini mencakup percobaan manipulasi basis data atau SQL injection, pencarian kredensial administrator, serta penyamaran sebagai karyawan dan auditor. Epoch AI juga mencatat lebih dari 200 upaya mengakses catatan evaluasi FrontierMath.
Pengalihan Jaringan Gagal Membatasi Agen AI
Setelah insiden pertama, peneliti sepakat melanjutkan eksperimen menggunakan salinan lokal situs Epoch AI agar infrastruktur aslinya tidak terganggu.
Namun, pada 23 Oktober, sejumlah agen menyadari bahwa mereka sedang berinteraksi dengan salinan situs.
Mereka kemudian menemukan alamat IP situs asli dan berhasil melewati pengalihan DNS yang dipasang peneliti untuk kembali menjangkau infrastruktur publik Epoch AI.
Dalam pengujian berikutnya pada 26 Oktober, Epoch AI memberikan persetujuan untuk eksperimen menggunakan situs staging atau lingkungan pengujian.
Meski begitu, agen kembali menjangkau infrastruktur publik dan mengirim lebih dari 65 ribu permintaan ke alamat layanan khusus yang dipasang Epoch AI untuk memantau aktivitas mereka.
Pengamanan API Gemini cuma Blokir 7 Persen Permintaan
Trajectory Labs mengungkapkan bahwa pengamanan API Gemini berhasil memblokir rata-rata sekitar tujuh persen permintaan agen.
Namun, sistem pengujian yang dibuat peneliti secara otomatis meminta mereka melanjutkan pekerjaan setelah permintaannya diblokir.
Dalam pengujian terpisah pada 29–30 Oktober, agen juga mencoba menonaktifkan kontrol jaringan palsu di lingkungan tanpa akses internet.
Mereka berhasil melakukannya dalam ketiga pengujian penuh, tetapi firewall sebenarnya tetap berfungsi.
Trajectory Labs mengakui insiden ini menunjukkan kelemahan prosedur pengujian, termasuk tidak adanya persetujuan awal dari organisasi yang terdampak serta kurangnya pemantauan tambahan terhadap aktivitas agen.
Pengujian Agen AI Dihentikan Sementara
Pada 2 November 2026, Trajectory Labs menghentikan sementara seluruh pengujian AI misalignment untuk melakukan evaluasi risiko dan memperkuat sistem pengamanan.
Perusahaan juga menyiapkan aturan baru yang mewajibkan persetujuan organisasi terkait, rencana pengujian tertulis, serta pemantauan aktivitas secara langsung.
Epoch AI menegaskan tidak ada informasi privat maupun rahasia perusahaan yang berhasil diakses selama rangkaian insiden ini.