CIO Wajib Tahu Cara Efektif Mengukur Keberhasilan AI

Saat ini, sudah banyak organisasi di seluruh dunia yang telah mencoba mengimplementasikan Generative AI (GenAI) di organisasi mereka. Pertanyaan besar pun muncul: apakah implementasi tersebut mencapai hasil yang diinginkan?

Studi awal menunjukkan jawaban yang kontradiktif. Studi global IBM terhadap 2.000 CEO pada Mei lalu, misalnya, mengindikasikan sebagian besar project GenAI tidak mencapai hasil yang diharapkan. Studi tersebut menemukan, hanya 25% inisiatif AI yang memberikan ROI sesuai harapan. Selain itu, hanya 16% yang berhasil diimplementasikan secara penuh di seluruh perusahaan. Studi lain dari Wakefield Research untuk Informatica menemukan, 67% dari 600 pemimpin bisnis mengaku tidak mampu memindahkan setengah dari proyek pilot GenAI mereka ke tahap produksi. Bahkan sebanyak 97% kesulitan menunjukkan nilai bisnis dari pilot project tersebut.

Namun ada juga laporan yang mengindikasikan keberhasilkan implementasi GenAI. Laporan Enterprise Strategy Group di April 2025, misalnya, menemukan 92% mengatakan investasi mereka sudah balik modal. Responden yang terdiri dari 1.200 petinggi perusahaan juga menyebut, rata-rata ROI mencapai 41% yang didapat melalui peningkatan pendapatan, pengurangan biaya, atau keduanya.

Ada juga survei yang menunjukkan keberhasilan sekaligus kegagalan. Survei IDC terhadap hampir 3.000 pengambil keputusan TI dan bisnis menunjukkan 68% merasakan inisiatif AI mereka memenuhi ekspektasi, dan 26% mengatakan melampaui ekspektasi. Namun, hanya empat dari 33 proyek AI yang mencapai tahap produksi dengan tingkat kegagalan 88 persen.

Pilot Memang Sepatutnya Gagal

Laporan yang kontradiktif tersebut kemungkinan disebabkan satu hal: Kendala mengukur keberhasilan atau kegagalan proyek AI. Para CIO harus memahami di mana letak nilai AI, bagaimana cara mengukurnya, dan metrik mana yang benar-benar relevan?.

Data yang sering jadi berita utama adalah tingginya tingkat kegagalan proyek AI. Namun, pilot project atau proof of concept (POC) memang tidak seharusnya selalu berhasil. Tujuan utama PoC atau pilot adalah menyingkirkan ide-ide yang tidak menjanjikan agar perusahaan fokus pada ide yang paling potensial. Tingkat kegagalan yang tinggi berarti perusahaan banyak bereksperimen dan akhirnya meningkatkan peluang keberhasilan di tahap produksi penuh.

Semakin banyak proyek yang gagal di tahap awal, semakin besar suatu proyek masuk ke tahap produksi penuh. Nantinya, proyek itu akan memberikan nilai bisnis yang positif. Jika semua POC berhasil masuk produksi, bisa jadi perusahaan tidak cukup kreatif atau inovatif dalam ide AI-nya. Metrik jumlah proyek yang masuk produksi bukan tolok ukur keberhasilan yang tepat.

“Biasanya POC hanya bekerja dengan beberapa ratus data. Ketika skala diperbesar, kita harus memastikan AI tersebut benar-benar bekerja dan memenuhi standar bisnis serta kebutuhan pengguna di jutaan data. Kalau masalah data tidak teratasi, proyek akan gagal dan uang terbuang percuma,” kata Rosha Pokharel (Chief AI Architect di UST Healthproof) seperti dikutip CIO.com.

Selain itu, ROI tidak seharusnya dihitung di tahap POC karena sangat rentan gagal. Biasanya, pendanaan berasal R&D atau laboratorium inovasi. “Mantranya adalah ‘fail fast’. Jika berhasil, lanjutkan. Jika tidak, hentikan. Banyak ide gagal karena pemilihan use case yang salah atau perkiraan beban kerja yang keliru,” ujar Eric Johnson (CIO PagerDuty).

Buat Sendiri atau Beli Jadi?

Untuk menekan biaya pilot, PagerDuty memilih tidak membangun teknologi dari nol tetapi memanfaatkan solusi komersial dengan uji coba gratis. Biasanya vendor mau menunggu pembayaran hingga nilai terbukti.

“Jika kami ingin menjalankan agen AI baru, kami tidak akan membayar sampai benar-benar terbukti memberikan nilai. Banyak vendor yang bersedia membicarakan hal ini, karena mereka tahu jika tidak bisa membuktikan nilainya, Anda tidak akan memperpanjang kontrak. Jadi mereka ingin memastikan Anda mendapatkan nilai yang Anda harapkan,” kata Johnson.

Perusahaan lain yang tidak membangun dari nol tetapi langsung mendapatkan manfaat dari produk komersial adalah Flexential. Ryan Mallory (COO Flexential) juga memilih layanan siap pakai yang sesuai kebijakan AI perusahaan, memanfaatkan fitur AI di produk yang sudah ada.  “Saya menggunakan layanan siap pakai yang sesuai dengan kebijakan AI kami, yang berarti mereka tidak melatih model publik,” kata Mallory.

Menggunakan fitur AI dari produk yang sudah ada bisa dilihat sebagai bagian dari alur kerja (workflow) yang mapan. Hal ini akan memudahkan perhitungan ROI karena sudah ada tolok ukur (baseline) yang bisa digunakan untuk perbandingan khususnya dalam hal dukungan pelanggan atau penjualan. “Semua yang kami lakukan memberikan ROI langsung, sesuai atau bahkan melampaui prediksi kami,” ujar Mallory.

Sebagian besar alat AI adalah modul plug-in ke tech stack yang sudah dimiliki perusahaan. Hal itu membuatnya sangat mudah untuk diterapkan dan diskalakan. “Pada akhirnya, kami akan memiliki model kami sendiri. Mungkin sekitar 18 bulan lagi,” tambahnya.

Metrik Utama: Pelanggan

Pengaruh AI terhadap profit perusahaan adalah ukuran paling ideal untuk menilai keberhasilan. Akan tetapi dalam prakteknya, sulit memastikan kenaikan atau penurunan profit itu murni akibat AI saja. Karena itu, banyak yang menggunakan metrik tidak langsung seperti kepuasan, retensi, dan rekomendasi pelanggan.

Flexential misalnya, mendapatkan manfaat langsung dari AI untuk meningkatkan kepuasan pelanggan. Sejak mereka menambahkan agen customer services berbasis AI ke alur kerjanya, waktu respons rata-rata menurun sekitar 20%. Waktu penyelesaian tiket atau sebuah keluhan juga meningkat 25%. “Dan ini sebenarnya bisa dikaitkan dengan keuntungan. Ketika kepuasan pelanggan meningkat, dan kemampuan Anda untuk menjawab permintaan, kebutuhan, atau tantangan menjadi lebih cepat, maka pelanggan memiliki kecenderungan besar untuk terus menggunakan layanan kami,” ujarnya.

Dalam jangka pendek, pengurangan biaya menjadi prioritas, dengan 88 persen perusahaan melaporkan peningkatan efisiensi. Menurut David Martin dari BCG, produktivitas di layanan pelanggan bisa langsung dikonversi menjadi nilai finansial jika panggilan dapat dialihkan atau agen bekerja lebih cepat. “Beberapa klien saat ini sangat fokus pada biaya karena ada banyak tekanan di berbagai sektor. Mereka memang memiliki kewajiban untuk memberikan nilai bagi pemegang saham dalam jangka pendek, sekaligus berinvestasi untuk masa depan,” kata David.

Martin mengungkapkan ada banyak area di mana perusahaan menemukan peningkatan produktivitas dan langsung menerjemahkannya menjadi nilai finansial. “Dalam layanan pelanggan, misalnya, jika Anda dapat mengalihkan lebih banyak panggilan, memberdayakan agen untuk bekerja lebih cepat, atau jika Anda membayar pihak ketiga untuk biaya call center, maka itu langsung berarti penghematan uang,” jelasnya.

Pertumbuhan Bisnis dan Inovasi

Akan tetapi, potensi terbesar AI ada pada peluang bisnis baru. Studi ESG menemukan, 84% perusahaan mengakui AI mempercepat inovasi dan menghasilkan prospek penjualan lebih banyak.

Hal ini setidaknya dialami Flexential dengan chatbot AI. Flexential mampu menghasilkan lebih banyak prospek dengan menempatkan chatbot AI di situs web perusahaan yang terhubung dengan jenis konten tertentu. “Kami melihat peningkatan jumlah pertemuan yang dipesan untuk calon pelanggan sekitar lima kali lipat . Lalu kami menghubungkannya ke pipeline dan rasio penutupan peluang. Jadi kami punya data yang sangat terukur dan ini bekerja dengan sangat baik untuk tim kami,” kata kata Mallory.

Berkat GenAI, Flexential juga dapat dengan cepat meluncurkan fungsionalitas dukungan penjualan untuk staf penjualannya. Alhasil, kini mereka memiliki akses ke catatan rapat, intelijen pendapatan, dan sumber daya lain yang mereka butuhkan untuk mendapatkan bisnis baru.

“Kami mendapatkan tingkat produktivitas yang lebih tinggi dari para sales ketika mereka memiliki informasi yang tepat. Rasio penutupan juga lebih tinggi ketika mereka dapat menggunakan AI untuk lebih memahami bagaimana melayani pelanggan,” katanya.

Todd Lohr dari KPMG mengungkapkan banyak perusahaan sebaiknya fokus pada potensi pertumbuhan dan mewaspadai risiko disrupsi yang didorong AI. “AI akan menyerang model bisnis Anda. Teknologi ini mengganggu bisnis dan barrier to entry. Anda harus memikirkannya lebih pada sisi model bisnis dibanding model operasional untuk memastikan keberlanjutan, kesuksesan, dan kelangsungan hidup jangka panjang organisasi,” ucapnya.

“Klien kami sudah tidak lagi bertanya apakah AI akan mengubah bisnis mereka. Pertanyaan mereka sekarang adalah seberapa cepat bisa diterapkan. Ini bukan hanya tentang adopsi teknologi, melainkan tentang transformasi bisnis fundamental yang memerlukan pembayangan ulang bagaimana pekerjaan dilakukan dan diukur,” ujar Lohr.

Baca Juga