Liputan6.com, Jakarta - Lonjakan biaya operasional akibat tingginya konsumsi token dalam pemanfaatan kecerdasan buatan (AI) menjadi salah satu beban finansial tersendiri bagi perusahaan.
Menjawab tantangan tersebut, Chief Technology Officer Akamai Cloud Computing, Jay Jenkins, memaparkan strategi efisiensi melalui pemanfaatan model open-weight serta infrastruktur komputasi berbasis serverless inference.
Advertisement
"Dalam praktiknya, banyak perusahaan yang menggunakan model AI komersial untuk pengembangan perangkat lunak sering kali harus menanggung biaya token yang membengkak seiring meningkatnya skala operasional," ujar Jenkins dalam media briefing via Zoom, Kamis (12/11/2026).
Untuk mengatasi hal ini, Akamai menawarkan solusi berupa endpoint terbuka yang kompatibel dengan standar industri, memungkinkan perusahaan mengalihkan sebagian beban kerja ke model berbobot terbuka (open-weight models) guna menekan pengeluaran.
"Organisasi dapat melakukan pembangunan aplikasi, arsitektur, dan coding, tetapi menggunakan model open-weight untuk tugas penunjang seperti pengujian unit, dokumentasi, dan pemeriksaan kode. Ini terbukti signifikan memangkas biaya penggunaan AI generatif," Jenkins menjelaskan.
Selain efisiensi biaya, aspek keamanan dalam ekosistem Agent AI juga menjadi sorotan utama. Mengingat agen AI otonom kini memiliki kemampuan untuk menulis kodenya sendiri secara mandiri tanpa intervensi manusia secara konstan, risiko keamanan siber kian meningkat.
Sebagai langkah mitigasi, perusahaan memperkenalkan memperkenalkan Akamai Agent Sandbox. Teknologi ini dirancang untuk menjalankan agen AI dalam lingkungan isolasi menggunakan teknologi WebAssembly yang dikembangkan bersama Cloud Native Computing Foundation.
Keunggulan Agent Sandbox
Berikut keunggulan utama dari sistem isolasi Agent Sandbox yang ditawarkan:
- Isolasi Runtime yang Ketat: Agen AI dapat menulis dan mengeksekusi kode secara mandiri di dalam lingkungan tertutup tanpa akses keluar, kecuali yang diizinkan secara eksplisit oleh administrator.
- Keamanan Berlapis di Setiap Langkah: Setiap proses eksekusi divalidasi secara instan dalam hitungan milidetik guna mencegah kebocoran data atau perilaku anomali dari agen.
- Dukungan Perangkat Keras Mutakhir: Terintegrasi langsung dengan kapabilitas pemrosesan grafis tingkat lanjut untuk mendukung analisis dokumen berukuran masif hingga miliaran token.
Dengan kombinasi layanan serverless inference yang fleksibel, kompatibilitas API yang mulus, serta perlindungan ketat melalui Agent Sandbox, Akamai berupaya memberikan kebebasan bagi industri untuk berinovasi.
Pendekatan ini memungkinkan perusahaan memaksimalkan potensi penuh dari kecerdasan buatan otonom tanpa harus terjebak pada risiko keamanan maupun ketergantungan ketat pada satu penyedia layanan.