Aplikasi berbasis container memang menawarkan beragam keuntungan bagi perusahaan di era cloud. Namun, ada satu “rahasia kecil” yang sering diabaikan, yaitu biaya pengelolaannya yang mahal. Menurut survei terbaru, mayoritas besar perusahaan yang menggunakan Kubernetes untuk orkestrasi container mengungkapkan pengeluaran mereka meningkat dalam setahun terakhir.
Tantangan ini pun mendorong banyak perusahaan beralih ke AI untuk mengendalikan peningkatan biaya tersebut. Vendor manajemen Kubernetes Spectro Cloud menemukan, 92% responden mengaku sudah berinvestasi pada alat optimisasi biaya berbasis AI.
Mengapa Biaya Kubernetes Meningkat
Jeremy Oakey (Field CTO di Spectro Cloud) mengatakan lonjakan biaya itu sejalan dengan meningkatnya penggunaan Kubernetes. Namun, ada faktor lain yang membuat biaya makin mahal yaitu layanan cloud dan kontrak dukungan.
“Gaji karyawan, terutama engineer platform, bisa mendekati USD 200 ribu per tahun. Selain itu, ada biaya lain seperti operasional engineer lapangan untuk deployment dan perawatan cluster di edge, hingga turunnya produktivitas saat developer terlalu banyak menghabiskan waktu mengelola cluster,” ujarnya seperti dikutip CIO.com.
Oakey menambahkan, pilihan penyediaan yang berlebih dan kurang tepat (overprovisioning) juga kerap memperparah situasi. “Memprediksi kebutuhan resource Kubernetes itu menantang. Developer sering memasang parameter konfigurasi yang terlalu longgar demi berjaga-jaga. Tapi pada skala besar, perilaku ini menyebabkan pembengkakan cluster secara signifikan,” ujarnya.
Selain itu, keputusan arsitektur juga menjadi pendorong biaya makin besar. Misalnya, lalu lintas data antar-cloud (ingress dan egress) yang mahal, serta penggunaan multi-node cluster di edge yang meningkatkan pengeluaran. Oakey menekankan pentingnya kedisiplinan tim Kubernetes dalam mengelola resource mulai dari mematikan cluster yang tak terpakai, menurunkan kapasitas, menentukan ambang autoscaling yang tepat, hingga meninjau ulang kebijakan logging dan konfigurasi penyimpanan.
Yashin Manraj (CEO Pvotal Technologies) menilai konfigurasi buruk, overprovisioning, dan resource yang tidak dioptimalkan sebagai biang keladi utama melonjaknya biaya lingkungan berbasis Kubernetes. “Banyak orang memperlakukan K8s seperti VM atau server statis. Hasilnya, banyak resource jadi terbengkalai dan tidak jelas fungsinya. Belum lagi, tekanan menggunakan Kubernetes tanpa tim yang benar-benar paham detail orkestrasi atau tanpa control plane yang efektif,” ucapnya.
Yasmin Rajabi (COO CloudBolt Software) mengatakan overprovisioning sudah menjadi “default deployment.” Umumnya, tim memberi buffer besar untuk CPU dan memori agar tidak terganggu alert di tengah malam. “Masalahnya, insentif deveveloper dan engineer platform tidak selaras. Kinerja developer diukur dari seberapa cepat mereka bisa meluncurkan aplikasi baru, bukan dari efisiensi biaya. Jadi solusi termudah adalah memastikan workload punya buffer besar,” ujarnya.
Namun, buffer itu jika dikalikan ribuan workload Kubernetes akan menimbulkan biaya besar. Terlebih lagi, workload dinamis sulit diprediksi, sementara rightsizing resource masih dilakukan secara manual dan menyita banyak waktu. “Deploy ke Kubernetes memang mudah. Tapi mengelolanya jauh lebih sulit,” ujarnya.
Biaya Tenaga Kerja Membengkak
Kasus serupa dialami digital agency NEWMEDIA.com yang mencatat kenaikan biaya Kubernetes hingga 18 persen dalam setahun terakhir. Steve Morri (CEO sekaligus pendiri NEWMEDIA.com) mengungkapkan biaya tenaga kerja dan “scaling yang tidak terkoordinasi” sebagai faktor utama. Saat timnya menganalisis aturan autoscaling, ditemukan 31% workload berjalan dengan pemakaian CPU di bawah 25% selama 95% waktu.
“Ketika tiap tim merilis aplikasi dan membuat aturan autoscaling sendiri, biasanya mereka akan overprovisioning dan menguncinya dalam konfigurasi. Engineer enggan menurunkan kapasitas karena takut mengganggu SLA,” katanya.
Biaya tenaga kerja juga terus bertambah. Dua engineer platform di perusahaannya menghabiskan separuh minggu hanya untuk menyesuaikan kapasitas dan menangani alert. “Overhead operasional tumbuh setiap kali ada layanan baru, bukan hanya ketika traffic meningkat. Memberi kebebasan tim membuat delivery lebih cepat, tapi juga memecah tanggung jawab biaya dan menyembunyikan pemborosan,” ucapnya.
Manraj dari Pvotal menambahkan, popularitas Kubernetes justru membuat masalah biaya semakin pelik. “Kami percaya masalah ini hanya akan memburuk seiring adopsi meningkat, ditambah menjamurnya tools yang didesain buruk dan ketergantungan pada pihak ketiga,” ujarnya. Pvotal sendiri mengaku belum menemukan solusi otomatis yang benar-benar efektif untuk mengelola biaya Kubernetes. “Kami rutin menguji tools baru, tapi sejauh ini belum ada yang memberi nilai nyata selain dashboard kosmetik yang sedikit lebih baik dari default GCP,” kata Manraj.
AI Jadi Harapan Baru
Meski begitu, kompleksitas mengelola Kubernetes membuat banyak praktisi kini mempertimbangkan penggunaan AI.
“Alokasi resource itu masalah multidimensi, ibarat soal matematika kompleks. AI dan machine learning bisa membantu menghitung kebutuhan resource optimal, lalu digabung dengan otomatisasi untuk mengatur workload dengan konfigurasi tepat,” kata Rajabi.
Oakey dari Spectro Cloud menambahkan bahwa sejumlah vendor kini sudah menawarkan fitur autonomous rightsizing dan intelligent autoscaling. “Lanskap tools optimisasi biaya Kubernetes berbasis AI berkembang sangat cepat. Vendor manajemen Kubernetes dan FinOps kini sama-sama berinovasi. Dari sisi manajemen, tools ini bisa memantau pemakaian pod secara real-time, belajar dari pola historis, dan otomatis menyesuaikan resource, ukuran node, bahkan menyeimbangkan penggunaan spot instance dan on-demand,” jelasnya.
Sementara itu, vendor FinOps mulai menyematkan AI untuk langkah kontrol biaya proaktif. “Walau belum semuanya murni AI canggih, tren jelas mengarah pada penyematan kecerdasan dan otomatisasi lebih dalam di seluruh toolchain,. Kombinasi ini menciptakan pendekatan baru yang lebih cerdas dan proaktif dalam optimisasi biaya Kubernetes menggabungkan kendali operasional dengan akuntabilitas finansial,” ujar Oakey.
Oakey menyarankan para CIO untuk memakai semua strategi penghematan yang ada, mulai dari negosiasi dengan penyedia cloud hingga pemanfaatan autoscaling. Lebih jauh, keputusan arsitektur harus diselaraskan dengan tujuan bisnis organisasi. Keputusan itu bisa berupa apakah CIO mengganti sewa data center dengan biaya operasional berbasis cloud, atau mengurangi jumlah staf IT dengan otomatisasi untuk menyederhanakan operasi. Namun, Oakey mengingatkan agar CIO juga membedakan antara biaya dan investasi, terutama di era AI.
“Men-deploy cluster Kubernetes untuk mendukung aplikasi transformatif yang menghasilkan pendapatan bukan hanya biaya, melainkan investasi dalam inovasi dan keunggulan kompetitif,” ujarnya. “Pertanyaan utama adalah apakah infrastruktur Kubernetes Anda benar-benar dikelola untuk memberikan nilai maksimal dalam kecepatan, fleksibilitas, dan pilihan bagi tim aplikasi Anda?,” tutupnya.
