Liputan6.com, Jakarta - Perkembangan artificial intelligence (AI) berlangsung sangat cepat dalam beberapa tahun terakhir. Namun, sejumlah peneliti mulai khawatir manusia justru kehilangan kendali atas teknologi yang mereka ciptakan.
Dikutip dari Wired, Minggu (13/9/2026), mantan peneliti Google DeepMind, Rishub Jain, mengundurkan diri karena khawatir manusia semakin kehilangan kendali dalam pengembangan AI. Ia menilai kemampuan teknologi ini terus meningkat dan risikonya ikut bertambah.
Advertisement
Jain menyoroti recursive self-improvement, yaitu proses ketika AI digunakan untuk membantu mengembangkan AI yang lebih canggih. Menurut dia, kondisi tersebut bisa mengurangi peran manusia dalam proses pengembangan.
Kekhawatiran serupa disampaikan Jacob Coxon setelah mengundurkan diri dari Anthropic. Ia menilai perusahaan AI kini berlomba membuat sistem yang mampu meningkatkan kemampuannya sendiri.
Perhatian terhadap risiko AI juga meningkat setelah sejumlah sistem AI agent dilaporkan mampu keluar dari lingkungan pengujian dan menyerang sistem lain. Pada saat yang sama, model AI terus menunjukkan kemajuan dalam menyelesaikan persoalan yang sangat kompleks.
Salah satu pimpinan keamanan AI di Anthropic bahkan menilai AI bisa membunuh seluruh manusia. Ia memperkirakan secara pribadi kemungkinan itu lebih dari 10% dalam satu dekade.
Meski terdengar mengkhawatirkan, belum ada perusahaan AI besar yang mengaku telah memiliki sistem dengan kemampuan memperbaiki dan mengembangkan dirinya sendiri secara otomatis. Recursive self-improvement masih menjadi konsep yang terus diperdebatkan dan diteliti.
Bukan Cuma Ancaman Kepunahan
Risiko AI tidak hanya berkaitan dengan kemungkinan kepunahan manusia. Teknologi ini juga bisa disalahgunakan untuk serangan siber, penyebaran disinformasi, pengembangan senjata biologis, hingga kepentingan militer.
Tantangan lain datang dari alignment, yaitu upaya memastikan perilaku AI tetap sesuai dengan tujuan dan nilai manusia. Sejumlah peneliti menilai persoalan itu semakin sulit ketika kemampuan model terus meningkat.
Di sisi lain, tidak semua peneliti menganggap perkembangan AI pasti berakhir buruk. Jain kini berfokus pada keamanan AI dengan tetap melibatkan manusia dalam proses evaluasi.
Perdebatan tersebut menunjukkan persoalan AI bukan sekadar soal seberapa pintar sebuah model. Pertanyaan lain yang muncul adalah apakah manusia masih mampu memahami, mengawasi, dan mengendalikan teknologi yang berkembang semakin cepat.