Di tengah gelombang adopsi kecerdasan buatan (AI) yang masif di sektor korporasi, sebuah temuan mengejutkan mengemuka.
Berdasarkan data terbaru dari perusahaan teknologi Harness, sekitar 25 persen atau satu dari setiap empat dolar AS yang dialokasikan untuk anggaran AI berakhir sia-sia.
Laporan yang menghimpun pandangan dari 700 pemimpin bidang FinOps dan teknik itu mengungkapkan satu realitas pahit. Akselerasi investasi AI kini memiliki tantangan besar yaitu pembengkakan biaya yang tak terkendali.
Lebih dari separuh responden mengungkapkan bahwa organisasi mereka tidak memiliki penanggung jawab khusus untuk memantau pengeluaran AI.
Akibatnya, tanggung jawab tersebut terpecah-pecah di antara tim teknik, platform, dan FinOps, sehingga pengawasan menjadi tidak optimal.
Kendati belanja korporasi untuk teknologi ini melonjak pesat, struktur tata kelola belum berjalan selaras. Catatan Harness menunjukkan hanya satu dari setiap lima organisasi yang mampu melacak sumber lonjakan biaya tak terduga dalam hitungan jam.
Tantangan Pengendalian di Tengah “Sprawl” Perangkat AI
Para pemimpin teknologi kini sedang berjuang keras meredam anggaran AI yang melambung tinggi seiring meluasnya penggunaan di berbagai lini organisasi.
Tantangan utamanya adalah memfasilitasi inovasi tanpa mengorbankan regulasi, terlebih di tengah fenomena menjamurnya berbagai perangkat (tool sprawl) yang mengacaukan kondisi keuangan perusahaan.
Selain peningkatan belanja, laporan Harness menemukan bahwa korporasi kerap menemui jalan buntu karena karakteristik pembiayaan AI jauh berbeda dari pengeluaran teknologi informasi (TI) konvensional.
Berbeda dengan infrastruktur komputasi awan (cloud) yang biayanya terikat secara primer pada server dan penyimpanan data, pengeluaran AI mencakup banyak kategori secara bersamaan. Mulai dari infrastruktur, model fondasi (foundation models), langganan perangkat lunak sebagai layanan (SaaS), hingga layanan terkelola (managed services).
Mayoritas organisasi bahkan menggunakan tiga atau lebih penyedia layanan AI utama yang masing-masing menerapkan struktur harga berbeda. Kondisi itu membuat perusahaan kesulitan mendapatkan gambaran pengeluaran yang transparan.
Di sisi lain, perangkat penunjang produktivitas seperti asisten pengodean berbasis AI (AI copilots) turut memicu lonjakan biaya. Karena berwujud lisensi perangkat lunak biasa alih-alih biaya infrastruktur tradisional, komponen ini menjadi sangat sulit dilacak.
Respons Industri dan Hambatan Visibilitas
Para penyedia teknologi sejatinya telah merespons kebutuhan pengawasan yang kian mendesak ini. Penyedia layanan awan utama termasuk Oracle dan AWS meluncurkan berbagai fitur baru dan struktur penagihan demi memperjelas visibilitas biaya AI. Sementara itu, Linux Foundation mendirikan kelompok baru yang secara khusus berfokus pada manajemen biaya.
Meski demikian, kurangnya transparansi masih menjadi dinding tebal bagi banyak perusahaan.
”Yang paling mengejutkan saya bukanlah besarnya anggaran atau kecepatan pertumbuhannya, melainkan betapa konsistennya celah di setiap ukuran perusahaan dan wilayah geografis,” ujar Harish Doddala, Vice President of Cloud and AI Cost Management di Harness, dalam laporan tersebut.
”Masalah visibilitas, masalah kepemilikan, dan masalah peramalan ini tetap muncul, baik Anda mengeluarkan anggaran sebesar 300.000 dolar AS per bulan maupun 3 juta dolar AS,” imbuhnya.
Dampak buruk dari minimnya visibilitas ini terlihat nyata. Ada lebih dari separuh responden melakukan peramalan anggaran AI berdasarkan estimasi atau tebakan semata, alih-alih mengandalkan data akurat.
Sementara itu, lebih dari 40 persen korporasi masih mengandalkan lembar kerja (spreadsheets) manual untuk mengelola biaya operasional tersebut.
Ketika anggaran AI mulai mencapai skala yang menarik perhatian Direktur Keuangan (CFO), keterlambatan data berisiko membuat perusahaan terjebak dalam posisi reaktif, bukan lagi mengendalikan pengeluaran secara proaktif.
Strategi Meredam Kebocoran Anggaran AI
Doddala menegaskan bahwa berjalannya waktu saja tidak akan cukup untuk menutup celah visibilitas tersebut. Dibutuhkan investasi yang terarah agar perusahaan dapat mengontrol trayektori pengeluaran dengan lebih baik.
Solusi lainnya, organisasi harus melakukan beberapa strategi dengan kedisiplinan finansial lebih matang. Strategi itu antara lain menetapkan kepemilikan anggaran sejak dini, memusatkan visibilitas biaya, dan mengintegrasikan data pengeluaran ke dalam alur kerja teknik
Langkah serupa turut diserukan oleh OpenAI baru-baru ini. Perusahaan pengembang model AI juga mendesak para pelaku bisnis untuk meningkatkan transparansi penggunaan dan pengeluaran, melacak hasil keluaran model, dan membangun tata kelola yang terintegrasi secara utuh dalam operasional sehari-hari.
