Di tengah pesatnya adopsi kecerdasan buatan (AI) terutama dengan munculnya tren agen AI, para pemimpin teknologi (CIO) kini menghadapi dilema baru. Tantangannya adalah bagaimana menjaga biaya operasional tetap terkendali tanpa harus menghambat laju inovasi.
Meskipun harga token AI cenderung menyusut, lonjakan volume penggunaan justru memicu pembengkakan anggaran yang sulit diprediksi. Fenomena AI sprawl, penyebaran penggunaan AI yang tidak terawasi di seluruh lini organisasi, kini menjadi momok baru bagi banyak perusahaan.
Studi Flexera mempertegas tantangan ini. Sekitar tiga perlima profesional TI melaporkan adanya peningkatan pengeluaran yang berlebih. Lebih dari dua pertiga di antaranya bahkan mengakui kurangnya visibilitas terhadap bagaimana perangkat lunak AI sebenarnya digunakan di dalam organisasi.
Menanggapi krisis efisiensi ini, OpenAI merilis panduan strategis yang memuat lima langkah krusial. Tujuannya adalah membantu perusahaan mengelola pengeluaran sekaligus memastikan setiap investasi AI memberikan nilai nyata bagi bisnis.
Menyelaraskan Nilai di Balik Biaya
Salah satu hambatan utama saat ini adalah ketidakselarasan persepsi mengenai nilai AI di jajaran eksekutif. Riset dari Protiviti menunjukkan adanya celah kepercayaan (trust gap) yaitu CIO dan pengambil keputusan TI cenderung lebih optimis terhadap potensi AI dalam mendongkrak pendapatan dibandingkan dengan CEO maupun anggota dewan direksi.
Kini, kesadaran akan pentingnya disiplin fiskal mulai meningkat di perusahaan-perusahaan besar. Berbicara di konferensi FinOps X 2026 awal tahun ini, CTO sekaligus CISO Shutterstock, Courtney Totten, menegaskan bahwa pemahaman mendalam mengenai biaya AI “bukan lagi pilihan, melainkan fondasi bagi strategi bisnis.”
Lima Langkah Mengamankan Investasi AI
Untuk menyeimbangkan antara ambisi inovasi dan efisiensi anggaran, OpenAI mengusulkan lima langkah strategis bagi pemimpin TI:
1. Tingkatkan Visibilitas Penggunaan
Pemimpin perusahaan wajib memiliki kendali penuh atas identitas pengguna, model AI yang dipilih, kapasitas yang dikonsumsi, hingga konteks pekerjaan yang didukung oleh teknologi tersebut.
“Tanpa visibilitas tersebut, tagihan yang terus membengkak akan sulit untuk diinterpretasikan,” tulis OpenAI dalam blog resminya.
2. Evaluasi Berdasarkan Hasil Akhir
Murah bukan berarti efisien. Jika model yang lebih hemat sering gagal dan membutuhkan proses retry (pengulangan), total konsumsi token justru bisa membengkak.
OpenAI menyarankan pemimpin TI untuk menilai model berdasarkan total biaya untuk mencapai hasil akhir yang diinginkan, termasuk menghitung jumlah percobaan dan tingkat penyelesaian tugas.
3. Fokus pada Metrik Keberhasilan
Pemimpin TI disarankan melacak efisiensi berdasarkan hasil kerja nyata, terutama pada alur kerja prioritas. Sebagai contoh, di bidang dukungan pelanggan, keberhasilan diukur dari jumlah kasus yang terselesaikan. Di sektor teknik, keberhasilannya adalah perubahan kode yang lolos uji.
”Padukan biaya tersebut dengan nilai bisnis seperti penghematan waktu, pengurangan durasi siklus, perlindungan pendapatan, risiko yang terhindari, atau kapasitas yang tercipta,” jelas OpenAI.
4. Tata Kelola sebagai Fondasi Operasional
Tata kelola harus berfungsi sebagai “lapisan operasional yang menentukan pekerjaan AI mana yang dapat ditingkatkan skalanya.” Hal ini mencakup penentuan akses data, alat yang diizinkan, hingga batasan tindakan bagi model AI.
Perusahaan juga perlu menunjuk pihak berwenang untuk menyetujui langkah-langkah berisiko tinggi serta mengatur alokasi kapasitas tambahan bagi alur kerja yang bernilai tinggi.
5. Sesuaikan Produk dengan Permintaan
Langkah terakhir adalah menyesuaikan produk, kapasitas, dan model dukungan sesuai dengan permintaan setelah alur kerja terbukti menghasilkan nilai. OpenAI menegaskan bahwa kandidat terbaik untuk investasi AI adalah “alur kerja yang berulang pada skala yang berarti, memiliki kepemilikan yang jelas, serta dapat diukur kualitas, risiko, dan nilai bisnisnya.”
Dengan pendekatan yang terukur secara ketat, para pemimpin TI diharapkan mampu mentransformasi AI dari sekadar beban biaya menjadi mesin penggerak nilai bisnis yang berkelanjutan.
