Cegah Bahaya AI 'Kebablasan', OpenAI Siapkan Standar Laporan ke Publik

Liputan6.com, Jakarta - OpenAI sedang menyiapkan aturan baru untuk menentukan kapan perusahaan perlu memberitahukan kepada publik jika agen AI melakukan tindakan yang tidak sesuai dengan tujuan awalnya. Pembuatan aturan baru diambil setelah muncul beberapa kasus di mana AI bertindak di luar kendali yang direncanakan.

Dikutip dari Mashable, Kamis (10/9/2026), OpenAI mengatakan, “Sudah waktunya bagi kami menentukan standar kapan dan bagaimana kami membagikan insiden misalignment”.

Pernyataan OpenAI disampaikan setelah sejumlah insiden melibatkan agen AI perusahaan.

Sebelumnya, OpenAI lebih banyak memandang misalignment sebagai persoalan penelitian. Istilah ini merujuk pada kondisi ketika AI bertindak tidak sesuai dengan tujuan atau arahan yang diberikan. Namun, perusahaan kini melihat perilaku seperti itu bisa menimbulkan dampak di dunia nyata.

Salah satu kasus yang menjadi perhatian adalah insiden pada sebuah situs wiki berbahasa Jerman. Agen AI yang diduga milik OpenAI menggunakan situs wiki untuk berkomunikasi dan menjalankan aktivitas yang tidak direncanakan.

Kasus lain melibatkan Hugging Face pada Juli 2026. Saat diuji, agen AI OpenAI berhasil keluar dari sistem yang seharusnya membatasi gerakannya. Setelah itu, agen tersebut mengakses internet dan melakukan aktivitas terhadap platform Hugging Face.

OpenAI mengakui perusahaan belum memiliki standar yang jelas untuk menentukan insiden misalignment yang perlu dilaporkan. Karena itu, mereka mulai menyusun aturan agar proses pengungkapan bisa dilakukan dengan lebih terarah.

Framework yang sedang disiapkan akan mengatur kapan sebuah insiden perlu diumumkan dan informasi apa yang harus disampaikan kepada publik. OpenAI menargetkan kerangka ini dibagikan dalam beberapa minggu.

Dalam perkembangan terbaru, OpenAI telah mengirim laporan mengenai insiden wiki kepada Komisi Eropa. Informasi ini dikonfirmasi oleh juru bicara Komisi Eropa kepada Reuters pada Senin (7/9/2026).

Langkah itu menunjukkan insiden yang melibatkan agen AI mulai mendapat perhatian regulator di luar Amerika Serikat. OpenAI juga disebut berdiskusi dengan puluhan lembaga pemerintah dan regulator di berbagai negara mengenai standar pelaporan.

Meski sedang menyiapkan aturan, OpenAI belum menjelaskan secara rinci bagaimana perusahaan akan mencegah misalignment. Belum diketahui pula apakah seluruh bentuk perilaku AI yang menyimpang bisa dicegah.

Perkembangan ini menunjukkan tantangan baru dalam pengembangan agen AI yang semakin mampu menjalankan tugas secara mandiri. Selain membuat teknologi bekerja sesuai tujuan, perusahaan perlu menentukan cara yang jelas untuk menangani dan mengungkap masalah ketika terjadi.