Liputan6.com, Jakarta - Anthropic mengusulkan aturan keselamatan artificial intelligence (AI) yang memungkinkan pemerintah Amerika Serikat (AS) menghentikan perilisan model jika menimbulkan ancaman serius.
Proposal ini menetapkan ambang risiko berupa potensi kerugian lebih dari USD 1 miliar atau sekitar Rp 18 triliun, atau kematian maupun cedera serius terhadap lebih dari 50 orang.
Advertisement
Dikutip dari Mashable, Jumat (23/10/2026), media asal AS, Politico, memperoleh draf rahasia berisi usulan aturan keselamatan AI dari perusahaan pengembang Claude itu.
Anthropic telah menawarkan proposalnya kepada para pembuat kebijakan di AS.
Dokumen itu mengatakan pemerintah hanya dapat menghentikan perilisan model AI jika muncul “risiko yang bisa diperkirakan dan segera terjadi”. Ketentuan ini menjadi salah satu batas utama dalam rancangan yang diajukan Anthropic.
Risiko yang dimaksud dibatasi pada tiga skenario, yakni serangan siber, model yang berhasil lepas dari kendali pengembangnya, serta pembuatan atau pelepasan senjata biologis.
Jadi, tidak semua kesalahan atau kegagalan sistem AI otomatis menjadi alasan untuk menghentikan perilisan model.
Meredam Potensi Bahaya
Rancangan itu juga mengatur cara mengidentifikasi potensi bahaya. Evaluator independen akan memeriksa laboratorium AI dan model yang dikembangkannya secara berkala untuk menemukan ancaman yang masuk dalam kategori tersebut.
Jika menemukan risiko mendesak yang memenuhi kriteria, evaluator wajib melapor kepada Departemen Perdagangan AS dalam waktu 72 jam. Departemen ini kemudian menentukan apakah perlu meminta hakim menghentikan perilisan model AI.
Dalam proposal yang ada, kewenangan menghentikan model hanya diberikan kepada hakim federal di Washington, D.C. Rancangan itu juga melarang departemen, lembaga, atau pejabat pemerintah lainnya menangguhkan model AI secara sepihak.
Namun, mekanisme evaluasi independen masih menyisakan pertanyaan mengenai konflik kepentingan. Evaluator diperbolehkan menerima pembayaran dari perusahaan AI yang mereka periksa, selama pembayaran tersebut tidak memengaruhi hasil penilaian.
Aturan Evaluator Picu Pertanyaan
Ketentuan mengenai pendanaan evaluator menjadi salah satu persoalan yang mendapat sorotan.
Jika perusahaan AI boleh membayar pihak yang menilai modelnya, muncul pertanyaan tentang cara memastikan hasil pemeriksaan tetap objektif.
Ambang risiko juga menjadi sorotan dalam proposal ini. Berdasarkan ketentuan yang dijelaskan, kerugian sebesar USD 999.999.999 atau kematian 49 orang tidak akan memicu proses penghentian model berdasarkan ambang yang ditetapkan.
Rancangan Anthropic dikatakan memiliki kemiripan dengan regulasi AI di California. Perusahaan AI, termasuk Anthropic, juga memberikan masukan dalam proses penyusunan aturan yang akhirnya disahkan di negara bagian itu.
Insiden AI Menjadi Perhatian
Di tengah meningkatnya perhatian terhadap insiden rogue AI agent, kebutuhan akan aturan keselamatan AI semakin menjadi bahan pembahasan.
Namun, keterlibatan perusahaan yang produknya akan diatur memunculkan pertanyaan tentang seberapa besar pengaruh industri seharusnya dalam penyusunan kebijakan.
Proposal ini bukan hanya membahas kapan pemerintah boleh menghentikan model AI, tetapi juga bagaimana memastikan pengawasan berjalan secara independen. Rancangan itu masih berupa usulan Anthropic, bukan undang-undang federal yang telah berlaku.