Di tengah gelombang adopsi kecerdasan buatan (AI) yang masif, para Chief Information Officer (CIO) menemukan satu hambatan terbesar yang menghalangi ekspansi teknologi tersebut.
Tantangan utamanya ternyata bukan terletak pada kecanggihan teknologi AI itu sendiri, melainkan kemampuan organisasi dalam memahami proses internal mereka sendiri.
Kendati perusahaan berlomba-lomba mengimplementasikan AI, berbagai masalah yang disebabkan oleh teknologi ini kian menumpuk.
Belum lama ini, sebuah agen AI internal memberikan instruksi kepada seorang insinyur yang tidak sengaja membocorkan data sensitif perusahaan dan pengguna selama dua jam penuh.
Di waktu yang hampir bersamaan, sebuah perusahaan ritel online besar terpaksa memberlakukan masa pemulihan keselamatan (safety reset) selama 90 hari setelah asisten AI mereka memicu insiden yang berujung pada hilangnya hampir 120.000 pesanan.
Tidak hanya itu, pada musim semi lalu, sebuah agen AI bahkan menghapus basis data produksi perusahaan beserta cadangan tingkat volumenya hanya dalam waktu sembilan detik.
Rangkaian insiden berulang seperti ini memperlihatkan jurang pemisah yang kian menganga antara kemampuan yang ditawarkan AI dan kapasitas organisasi untuk mengendalikannya secara aman.
”Setahun yang lalu, sebagian besar percakapan berkisar pada upaya mempercepat adopsi AI secepat mungkin. Hari ini, dewan direksi mengajukan pertanyaan yang jauh lebih sulit. Kecepatan dan tata kelola harus berjalan seiring saat ini,” ujar Sandeep Johri (CEO Platform Keamanan Aplikasi Checkmarx).
Seperti yang ditekankan oleh Johri, hambatan baru saat ini adalah kemampuan organisasi dalam menerapkan tata kelola (governance) AI.
Berdasarkan Studi Pemimpin Teknologi IBM 2026, sebanyak 77 persen organisasi mengakui bahwa tata kelola mereka gagal mengimbangi laju perkembangan AI.
Selain itu, 70 persen eksekutif TI menyatakan bahwa tim bisnis mengakui teknologi AI jauh lebih cepat bergerak daripada kemampuan organisasi untuk melacaknya.
Penggunaan AI yang bersifat otonom atau agen (agentic AI) semakin memperlebar jurang tersebut. Berdasarkan laporan Deloitte, sekitar 80 persen organisasi yang disurvei mengakui bahwa mereka belum memiliki kapabilitas yang matang untuk mengelolanya.
Hal ini mencakup ketiadaan batasan yang jelas bagi agen AI, sistem pemantauan waktu nyata (real-time monitoring), dan jejak audit (audit trails) yang mampu merekam seluruh rantai tindakan.
CIO harus beroperasi di dalam paradigma ini untuk menyeimbangkan dua tuntutan yang saling bersaing. Tuntutan itu meliputi mempercepat adopsi AI untuk mendongkrak produktivitas dan meyakinkan dewan direksi bahwa seluruh data sensitif terlindungi serta AI bekerja sesuai fungsinya.
”Saya rasa Anda tidak bisa memisahkan keduanya,” kata Sahil Sanghvi (VP Teknik AI di Kantor Kepala Teknologi Booz Allen Hamilton).
Berinovasi Sekaligus Mengelola Risiko
Sekilas, kode yang dihasilkan oleh AI tampak sempurna bahkan mampu lolos dari pengujian awal. Namun, peninjauan yang mendalam kerap menyingkap berbagai celah tersembunyi. Pengalaman itu dialami langsung oleh Ha Hoang, CIO di platform perlindungan data Commvault.
Dalam sebuah kasus, timnya mendapati bahwa AI mengambil jalan pintas dengan memotong proses otentikasi perusahaan untuk penerapan yang lebih ringkas, tetapi mengabaikan kontrol akses yang telah ditetapkan.
“Tanpa pos pemeriksaan tersebut, kode itu bisa melangkah jauh lebih andal,” ungkapnya.
”Ketika perusahaan menemukan masalah besar, mereka harus segera menghentikan penerapan sementara waktu. Masalah yang dibuat AI sering kali ngumpet dan bergerak terlalu cepat sehingga sulit terdeteksi,” tutur Omer Cohen, CISO di Layanan Identitas dan Otentikasi Pelanggan Descope.
Bagi Bob Leek (CIO di Clark County Nevada), masalah ini menjadikan tata kelola dan kepatuhan sebagai bagian dari desain sejak awal, bukan sekadar pemeriksaan akhir sebelum peluncuran.
”Kami memilih bergerak lambat untuk melangkah jauh, alih-alih bergerak cepat namun menciptakan risiko,” tegasnya.
Tantangan Utama Bersifat Organisasional, Bukan Teknis
Dalam banyak kasus, penerapan AI merupakan masalah manusia ketimbang masalah teknologi. Ketika memutuskan aspek apa yang harus diotomatisasi, tantangan terbesarnya adalah memahami bagaimana pekerjaan itu benar-benar diselesaikan sehari-hari. Sering kali, terdapat banyak proses tak kasatmata dan tidak terdokumentasi yang memengaruhinya.
Karyawan di divisi sumber daya manusia, keuangan, pengadaan, hukum, maupun operasional menghadapi pengecualian setiap hari. Mereka memiliki jalan pintas serta mengambil keputusan berdasarkan pertimbangan sendiri demi menjaga roda organisasi tetap berputar.
Penyesuaian-penyesuaian ini dipandang sebagai bagian dari pekerjaan biasa, sehingga mereka jarang memikirkannya atau memasukkannya ke dalam dokumentasi proses resmi. Para pemimpin harus mengamati secara cermat bagaimana karyawan benar-benar menjalankan tugasnya.
”Kami melibatkan tim-tim ini ke dalam proses desain, memetakan jalur estafet pekerjaan dan kasus-kasus non-standar,” kata Leek.
”Organisasi yang berhasil dalam hal ini memperlakukan AI sebagai kolaborator dalam alur kerja mereka yang sudah ada, bukan sebagai pengganti,” kata Vijay Jegan, Chief AI Transformation Officer di Platform Retensi Pelanggan Enterprise Gainsight.
“Keberhasilan menuntut perpaduan antara ketajaman bisnis yang mendalam di dalam suatu departemen dan kematangan teknis untuk memahami risiko inheren dari perangkat AI modern,” ucapnya.
Namun, tidak semua pengetahuan informal dapat atau harus didokumentasikan.
”Tujuannya harus diarahkan untuk merancang AI guna memperkuat fondasi manusia ini, alih-alih mencoba menggantikannya sepenuhnya,” tambah Cohen.
Di Mana Manusia Harus Tetap Dilibatkan?
Memberikan peran yang lebih besar kepada AI justru membuat penilaian manusia semakin krusial.
“Manusia harus tetap dilibatkan dalam setiap keputusan, tetapi bukan di setiap bagian dari proses tersebut. Urgensi untuk berinovasi sama sekali tidak mengubah tanggung jawab mendasar itu,” kata Leek.
Para CIO dapat menentukan di mana manusia harus tetap ambil bagian dengan menimbang nilai pertimbangan manusia dan risiko jika tugas tersebut diserahkan sepenuhnya kepada AI. Tugas-tugas yang memiliki skor tinggi pada kedua aspek tersebut harus berada di tangan manusia.
”Semakin tinggi risikonya, semakin besar pula pengawasan manusia yang dibutuhkan,” ungkap Jegan.
Sanghvi turut memperhitungkan dampak kemanusiaan dari potensi kesalahan AI.
”Ketika Anda berhadapan dengan keputusan yang dapat memengaruhi seseorang, sebuah misi, atau organisasi secara material, di sanalah Anda menginginkan otoritas manusia yang jelas untuk mengintervensi atau mengambil alih sistem,” ucapnya.
Sementara itu, Cohen menarik garis tegas pada keputusan berbasis AI yang tidak mudah untuk dibatalkan. ”Intervensi manusia tetap tidak dapat ditawar pada setiap titik di mana keputusan tersebut dibuat,” tegasnya.
Di sisi sebaliknya, pekerjaan rutin berisiko rendah dapat diserahkan sepenuhnya kepada mesin. ”Organisasi mungkin mempercayai agen AI untuk menangani tugas-tugas mudah yang dapat berulang secara otonom,” kata Hoang, sembari mengingatkan bahwa agen canggih sekalipun dapat salah menafsirkan konteks atau mengambil tindakan yang tidak diinginkan.
“Masa depan bukanlah tentang kepercayaan buta, melainkan kepercayaan terukur yang dibangun di atas transparansi dan kendali,” tambahnya.
Tata Kelola Tidak Berhenti Saat Peluncuran
Sebelum sebuah inisiatif AI menjadi komitmen besar, Leek menyarankan agar para CIO mengajukan pertanyaan mendasar: apakah proyek tersebut mendukung prioritas strategis organisasi? Sanggupkah infrastruktur TI mendukungnya? Serta apakah departemen bisnis memiliki kapabilitas dan kemauan untuk berubah?
”Kerangka kerja ini membantu mencegah inisiatif berubah menjadi solusi yang mencari-cari masalah,” ujarnya.
Langkah ini juga membantu CIO memulai dari proyek-proyek berisiko rendah, menguji apa yang berhasil, dan memperkuat tata kelola sebelum menerapkan AI ke area organisasi yang lebih sensitif.
Pendekatan tersebut diterapkan oleh Clark County pada peluncuran AI pertamanya untuk perizinan acara khusus. Alat AI mereka memandu promotor melewati formulir, mengidentifikasi izin yang diperlukan, serta menghubungkan mereka dengan analis daerah.
Meski demikian, memulai dari proyek berisiko rendah bukan berarti pekerjaan tata kelola berhenti saat sistem diluncurkan. Tata kelola harus menjadi percakapan yang berkelanjutan alih-alih sekadar pos pemeriksaan akhir, mengingat data terus berubah dan model AI terus berkembang.
Pernyataan tersebut didukung penuh oleh Hoang. ”Jika sistem tata kelola Anda mengandalkan tinjauan triwulanan, Anda sebenarnya sudah tertinggal,” pungkasnya.
