Saat ini para pemimpi teknologi (CIO) harus cermat menakar risiko dan biaya besar adopsi AI agar sejalan dengan nilai bisnis yang nyata.
Di ajang Gartner IT Symposium/Xpo di Orlando, Florida, para analis mengingatkan bahwa kondisi saat ini sedang tidak seimbang. Alih-alih mendatangkan keuntungan besar, beban biaya dan risiko dari adopsi AI justru jauh lebih berat ketimbang nilai bisnis yang benar-benar dirasakan perusahaan
Bahkan, para pemimpin teknologi kini menghabiskan dana 18 kali lipat lebih banyak untuk AI dibanding dua tahun lalu. Di sisi lain, para CIO juga harus berjibaku menepis berbagai kekhawatiran seputar keamanan seiring dengan semakin otonom-nya sistem AI yang digunakan.
”Dalam hal AI, ribuan pertanyaan muncul di benak kita. Mulai dari ‘apakah AI akan membantu kita hidup hingga usia 150 tahun?’ sampai ‘apakah teknologi ini akan memusnahkan kita semua dalam 10 tahun ke depan?’,” ungkap Kristin Moyer, Distinguished Analyst di Gartner.
Meskipun risiko merupakan bagian yang tak terhindarkan dalam transformasi teknologi informasi, para analis menegaskan bahwa CIO harus mampu menyelaraskan antara risiko dan hasil nyata yang diciptakan AI untuk memaksimalkan keuntungan investasi. Perusahaan juga perlu membangun kerangka kerja pengambilan keputusan yang selaras di seluruh lini organisasi.
Pertanyakan Kasus Penggunaan dan Pengeluaran AI
Kendati adopsi AI masif terus terjadi, tingkat pengembalian investasi (ROI) masih tertinggal. Gartner mencatat bahwa hanya satu dari lima proyek AI yang saat ini sukses, rasio yang sama persis seperti tahun sebelumnya.
Meskipun hampir 60 persen eksekutif mengeklaim mereka mendapatkan ROI positif dari satu proyek AI, faktanya proyek-proyek yang sukses itulah yang justru menyumbang sebagian besar nilai AI di perusahaan.
Daryl Plummer (Distinguished Analyst di Gartner) memaparkan bahwa penggunaan AI (use cases) telah melonjak hingga 400 persen dalam setahun terakhir. Kendati demikian, fokus utama CIO seharusnya diarahkan pada nilai (value), bukan sekadar volume adopsi.
“CIO harus mengaudit kasus penggunaan AI dan bersikap lebih kritis terhadap bagaimana dan kapan teknologi itu diterapkan di dalam organisasi,” katanya.
Di sisi lain, para vendor AI berlomba-lomba memenuhi permintaan layanan dengan proyeksi pengeluaran mencapai hampir USD 7 triliun pada infrastruktur AI hingga tahun 2030.
Para vendor gencar memasarkan produk sebagai pendorong produktivitas dan efisiensi. Namun, realitanya hanya 16 persen perusahaan yang melaporkan adanya kenaikan produktivitas nyata.
”Vendor ingin Anda menggunakan agen AI di mana-mana, dan mereka ingin Anda membangun momentum untuk produk mereka, atau sekadar membeli token lebih banyak. Alih-alih memonetisasi valuasi Anda atau memberikan keuntungan bagi Anda, vendor justru ingin Anda menumbuhkan keuntungan mereka,” kritik Plummer.
Banyak organisasi saat ini membayar mahal AI hanya untuk keperluan sederhana yang sebenarnya sudah cukup diselesaikan lewat pencarian atau kueri dasar. Dampaknya terasa pada efisiensi kerja. Empat dari sepuluh pekerja mengaku menerima hasil kerja AI yang buruk dalam sebulan terakhir dan butuh waktu hampir dua jam untuk membereskannya. Menurut Moyer, waktu yang terbuang ini merugikan perusahaan Fortune 500 hingga USD52 juta setiap tahunnya.
Alih-alih terus menambah kasus penggunaan baru, Plummer menyarankan para CIO untuk menskalakan kasus penggunaan yang sudah terbukti sukses sebelumnya.
“Hentikan konsumsi yang sembrono dan mulailah pengembangan berbasis hasil. Anda harus mengurangi pemborosan sebelum memangkas investasi. investasilah di area di mana hasil akhir benar-benar penting,” tegasnya.
Tata Kelola dan Kontrol Keamanan yang Ketat
Seiring dengan audit kasus penggunaan AI, para CIO dan jajaran direksi (C-suite) wajib memperketat kontrol tata kelola (governance) terhadap teknologi yang mereka terapkan.
Berdasarkan survei terbaru Gartner, hanya 21 persen CIO yang memiliki tata kelola memadai untuk agen AI (agentic AI). Padahal 71 persen di antaranya berencana untuk menerapkannya tahun ini.
Fenomena Shadow AI dan dark AI yakni segala bentuk penggunaan AI yang memicu kerugian, baik disengaja maupun tidak masih terus menghantui perusahaan.
Risiko ini kian meningkat seiring bertambah otonomnya teknologi. Sementara itu banyak CIO belum mengetahui sejauh mana cakupan penggunaan atau akses agen AI di dalam perusahaan mereka.
Meski banyak pemimpin industri menyerukan perlunya keselarasan global mengenai pagar pengaman (guardrails), Moyer menilai hal tersebut kecil kemungkinannya terjadi dalam waktu dekat. Sebagai gantinya, korporasi dapat mengambil pendekatan serupa melalui penerapan tata kelola terpadu di internal organisasi.
Jika teknologi masa lalu umumnya meninggalkan jejak akuntabilitas yang jelas, AI justru sering kali baru memperlihatkan kerugian setelah insiden tersebut terjadi.
Karena itu, Plummer menekankan pentingnya bagi CIO untuk merumuskan proses yang transparan, tinjauan keamanan yang ketat, serta memperkuat kontrol seputar pemanfaatan AI.
Hingga kini, belum ada konsensus baku mengenai model kepemilikan mutlak atas pengelolaan AI. Namun, para CIO melaporkan adanya rasa tanggung jawab pribadi untuk mengelola keluaran dari teknologi ini.
Menurut Plummer, tata kelola yang efektif dapat dan harus diposisikan di antara CIO dan CFO, dengan konsultasi rutin bersama CISO (Chief Information Security Officer), tim hukum, dan pemangku kepentingan terkait lainnya.
Sebagai langkah awal, CIO mulai berinvestasi pada AI gateway, sebuah gerbang peladen yang secara cerdas merutekan permintaan kueri ke model atau platform terbaik untuk kebutuhan spesifik.
Perusahaan juga harus memastikan pihak yang memegang kepemilikan atas platform, alat, dan model AI di internal ditentukan dengan jelas. Menutup sesinya, Moyer mengingatkan agar para CIO terus meninjau stabilitas proses keamanan mereka secara berkelanjutan.
”Tanpa tinjauan mendalam dan audit terhadap kebijakan keamanan Anda, Anda sama saja sedang mengundang masalah,” pungkasnya.
