Liputan6.com, Jakarta - Salah satu pendiri Anthropic menilai perusahaan AI mungkin perlu diwajibkan memiliki mekanisme untuk mematikan sistem ketika teknologi itu menjadi terlalu berbahaya. Gagasan tersebut muncul di tengah kekhawatiran terhadap perkembangan AI.
Dikutip dari BBC, Kamis (17/9/2026), pendiri Anthropic, Jack Clark, mengatakan “Sebagian besar laboratorium memiliki cara untuk mematikan sistem AI.” Menurutnya, pembuat kebijakan mungkin perlu menjadikan mekanisme ini sebagai bagian dari aturan AI.
Advertisement
Clark juga mempertanyakan cara memastikan mekanisme itu benar-benar dapat digunakan ketika dibutuhkan. Ia menilai perlu ada pihak ketiga yang ikut memeriksa apakah “kill switch” bekerja sesuai fungsinya.
Sederhananya, AI kill switch adalah mekanisme yang mampu digunakan untuk mematikan sistem AI jika dianggap menimbulkan risiko. Bentuk dan cara kerjanya bisa berbeda, tergantung sistem yang digunakan setiap perusahaan.
Pembahasan tentang AI kill switch muncul ketika sejumlah tokoh di industri AI mulai menyoroti risiko perkembangan teknologi yang terlalu cepat. Mereka khawatir sistem yang semakin canggih menjadi lebih sulit dikendalikan.
Kepala Anthropic, Dario Amodei, sebelumnya juga meminta agar pengembang AI berjalan lebih hati-hati dan mendapatkan pengawasan lebih ketat. Ia menilai langkah ini perlu dilakukan tanpa menghilangkan manfaat bisnis dari teknologi tersebut.
Kepunahan Manusia Akibat AI
Kekhawatiran semakin besar setelah ilmuwan Anthropic, Evan Hubinger, memperkirakan bahwa AI memiliki kemungkinan lebih dari 10% untuk menyebabkan kepunahan manusia dalam satu dekade.
Geoffrey Hinton, ilmuwan yang dikenal sebagai salah satu pelopor AI, juga menilai angka itu masih masuk akal.
Perdebatan ancaman AI menunjukkan bahwa perhatian terhadap AI tidak lagi hanya berkaitan dengan kemampuan teknologi.
Cara mengendalikan sistem ketika terjadi masalah juga mulai menjadi bagian penting dalam pembahasan industri.
Kebijakan Terkait AI Mulai Dibentuk
Sejumlah anggota parlemen Amerika Serikat telah mengusulkan Kill Switch Act. Rancangan itu akan mewajibkan perusahaan memiliki cara untuk mematikan sistem AI yang bermasalah.
Usulan tersebut juga memberi kewenangan kepada lembaga pemerintah tertentu untuk meminta sebuah sistem AI dihentikan atau dibatasi. Langkah ini menunjukkan pembahasan soal pengendalian AI mulai masuk ke ranah kebijakan.
Namun, gagasan itu masih menuai perdebatan. Presiden Donald Trump sebelumnya menolak upaya memperlambat perkembangan AI dan menilai kekhawatiran tentang AI yang mengambil alih dunia sebagai sebuah “hoax”.
Bagi Clark, mekanisme penghentian bukan hanya persoalan teknis. Ia menilai industri perlu memikirkan cara mengendalikan sistem berisiko tinggi sebelum muncul persoalan yang lebih besar.