Di tengah gegap gempita transformasi digital, realitas pahit mulai menghantui meja kerja para Direktur Teknologi (CIO). Alih-alih merayakan efisiensi, mayoritas pemimpin TI kini justru didera penyesalan mendalam atas keputusan adopsi kecerdasan buatan (AI).
Kini, para CIO terjepit di antara dua beban yaitu menjelaskan hasil kerja AI yang sulit dipahami atau menghadapi ancaman pemangkasan anggaran.
Laporan terbaru dari penyedia orkestrasi AI, Dataiku mengungkapkan fakta mengkhawatirkan. Sebanyak tiga perempat CIO menyesali pemilihan vendor atau platform AI utama mereka dalam 18 bulan terakhir. Kekecewaan ini berakar pada satu masalah krusial yaitu hasil AI yang jauh dari ekspektasi.
Krisis Transparansi
Persoalannya bukan sekadar salah pilih mitra. Sebanyak 29 persen CIO mengaku kewalahan saat diminta menjelaskan bagaimana AI mereka bekerja.
Masalahnya, sistem itu sering kali beroperasi sebagai “kotak hitam”, bekerja dengan algoritma yang sangat rumit hingga sulit dibedah secara logika manusia. Fenomena itu membuat para pemimpin TI kehilangan kendali atas akuntabilitas datanya.
Kurt Muehmel (Head of AI Strategy di Dataiku) mencemaskan statistik tersebut. “Melihat data ini, saya merasa sedikit takut karena mayoritas perusahaan semakin bergantung pada sistem AI ini,” ujarnya seperti dikutip dari CIO.
Menurutnya, desakan untuk segera menggelar AI akibat fenomena FOMO (fear of missing out) sebenarnya dapat dimaklumi mengingat potensi besarnya.
“Namun, mereka melangkah terlalu jauh dan keluar dari kerangka tata kelola yang ada,” tambah Muehmel.
Ia mencatat bahwa adopsi AI bergerak jauh lebih agresif dibandingkan machine learning pada dekade lalu.
”Pada era machine learning, pembangunan kapabilitas dilakukan bertahap. Organisasi belajar bersama tentang apa yang berhasil dan tidak,” jelas Muehmel.
“Dengan AI, terutama sistem agent saat ini, segalanya berjalan begitu cepat sehingga kita belum memiliki kapabilitas tata kelola dan operasional yang mumpuni. Praktik terbaik (best practices) di industri ini pun belum terdefinisi jelas,” ucapnya.
Beban Biaya Peralihan yang Membengkak
Penyesalan para CIO juga terkait dengan tingginya biaya peralihan (switching costs). Banyak perusahaan yang meluncurkan sistem agent AI terlanjur terikat erat pada vendor tertentu (vendor lock-in).
”Bayangkan sebuah agent, seluruh instruksinya, semua orkestrasi tentang bagaimana sistem itu seharusnya bekerja,” papar Muehmel.
“Jika Anda terikat erat dengan salah satu penyedia, lalu menyadari ada pihak lain yang memiliki model atau kerangka kerja yang lebih baik. Maka mengekstraksi logika dari sistem dasar akan menjadi sangat mahal,” ucapnya.
Tekanan itu kian memuncak saat sampai ke telinga CEO. Enam dari sepuluh CIO mengaku keputusan mereka terkait vendor AI mulai dipertanyakan oleh atasan dalam setahun terakhir.
Bahkan, sekitar 71 persen responden memprediksi anggaran AI akan dipangkas atau dibekukan jika target hasil tidak tercapai pada pertengahan 2026.
Antara Inovasi dan Janji Palsu
Pengalaman nyata dirasakan oleh Tomas Kazragis (VP of Engineering di Omnisend). Di awal adopsi, Kazragis pernah diminta menjelaskan output sistem AI yang dia tidak pahami sepenuhnya.
”Ada pergerakan yang luar biasa besar, tapi sulit untuk menjelaskan hasil apa yang sebenarnya kami tuju,” ungkap Kazragis.
“Pada dasarnya, kami meminta orang-orang bergerak dan mereka melakukannya tanpa tujuan yang jelas atau hasil yang terukur,” ucapnya.
Hingga kini, Kazragis masih merasakan tekanan untuk membuahkan dampak positif. Namun, ia kini lebih skeptis dan waspada.
“Kompetitor dan jaringan profesional semuanya berdengung tentang bagaimana AI akan mengubah dunia. Jika Anda tidak ikut, Anda dianggap tertinggal,” ucapnya.
“Tapi saat Anda mengamati tren ini secara mendalam, Anda akan melihat bahwa percakapan ini terdiri dari bagian yang sama antara janji palsu dan inovasi murni,” tegasnya.
Menuju Era Akuntabilitas
Meski berisiko tinggi, beberapa pemimpin teknologi menganggap kegagalan sebagai ongkos inovasi. Lior Gavish (Co-founder dan CTO Monte Carlo) mengaku tidak menyesal meski beberapa implementasi AI-nya kurang sukses.
”Eksperimen dan kegagalan adalah hal esensial di ruang yang berkembang pesat ini. Tekanan memenuhi target AI datang dari pasar yang bergerak cepat. Pelanggan mengharapkannya, dan kompetitor akan mengalahkan kami jika tidak melakukannya,” kata Gavish.
Namun, ia melihat adanya pergeseran tren. Setelah fase adopsi yang didorong oleh ketakutan, organisasi mulai beralih menuju akuntabilitas.
“Perusahaan mulai melewati fase pilot dan mengajukan pertanyaan yang lebih sulit tentang keandalan, tata kelola, dan ROI yang terukur,” jelasnya.
Kritik tajam turut datang dari Maya Mikhailov (CEO SAVVI AI). Menurutnya, CIO sering kali menjadi “kambing hitam” atas konsekuensi FOMO yang sebenarnya dipicu oleh jajaran eksekutif level atas.
“Banyak keputusan AI yang dipaksakan kepada tim teknis oleh para petinggi perusahaan tanpa pemahaman mendalam tentang risiko operasionalnya,” pungkasnya.
Pada akhirnya, keberhasilan di era AI bukan lagi soal siapa yang paling cepat memasang sistem, melainkan siapa yang mampu membangun kepercayaan dan ketelitian operasional di atas teknologi tersebut.
