Inisiatif kecerdasan buatan (AI) di berbagai perusahaan kerap berujung pada kegagalan. Berdasarkan survei terbaru lembaga riset The Harris Poll, sebanyak 72 persen pengambil keputusan di bidang AI mengungkapkan bahwa akar permasalahan itu bersumber dari fondasi data yang buruk.
Survei yang melibatkan 300 responden itu terdiri dari para pengambil keputusan AI dan karyawan di bidang manajemen data serta privasi.
Data itu menunjukkan bahwa perusahaan terpaksa memutar otak dan merestrukturisasi model operasionalnya supaya tata kelola data dan AI dapat berjalan selaras.
Sebagai langkah nyata, sebanyak 53 persen perusahaan memindahkan tim pengelola AI supaya berada di bawah koordinasi divisi data. Selain itu, 58 persen perusahaan memperjelas siapa yang bertanggung jawab atas setiap hasil kerja sistem AI.
”Perusahaan harus mengetahui agen mana saja yang beroperasi, siapa pemiliknya, data dan sistem apa saja yang dapat mereka akses, serta apa saja wewenang yang mereka miliki,” ujar Felix Van de Maele, salah satu pendiri sekaligus CEO Collibra, dalam surat elektronik kepada CIO Dive.
”Tanpa visibilitas, celah tata kelola baru akan ketahuan setelah terjadi kesalahan,” imbuhnya.
Pengawasan Manual yang Memakan Waktu
Bagi agen AI, data berfungsi sebagai fondasi utama yang krusial. Tanpa penopang yang kokoh, para pemimpin perusahaan justru dipaksa mengawasi secara manual berbagai tugas yang sebelumnya diserahkan kepada agen AI. Kurangnya struktur data dan pengawasan membuat tim harus sering memeriksa kerja AI secara manual.
Sebanyak 87 persen pengambil keputusan dalam survei itu mengakui bahwa tim mereka secara rutin harus memeriksa apakah konteks yang tersedia untuk agen AI masih akurat dan mutakhir.
Tidak tanggung-tanggung, lebih dari separuh responden menyatakan bahwa karyawan menghabiskan waktu berjam-jam hanya untuk meninjau dan memperbaiki keluaran (output) dari agen AI secara manual.
Menurut Van de Maele, membangun fondasi data yang siap menghadapi era agen AI menuntut langkah-langkah konkret. Mulai dari menyelaraskan definisi di seluruh lini bisnis hingga menyematkan aturan kebijakan (policy) ke dalam sistem, yang memungkinkan agen AI memverifikasinya secara langsung saat hendak bertindak.
Selama ini, data perusahaan dirancang khusus supaya mudah dibaca oleh manusia melalui dasbor (dashboards) dan analisis manual. ”Jika ada data yang meragukan, manusia bisa langsung meluruskan dan melengkapinya sesuai konteks,” ujar Van de Maele.
Van de Maele menjelaskan bahwa dinamika pemanfaatan data kini telah berubah. Perusahaan tidak bisa lagi hanya fokus membersihkan lebih banyak data, melainkan harus menyajikannya dalam format yang dapat dipahami dan digunakan oleh mesin. Hal itu mencakup pemastian arti data, tingkat kepercayaan, hingga batasan penggunaannya.
”Ketika suatu definisi bersifat ambigu atau konteksnya hilang, agen AI tetap dapat memproduksi jawaban dan menindaklanjutinya dengan penuh keyakinan,” kata Van de Maele.
Tantangan Akses Data dan Kesiapan Regulasi
Peningkatan skala agen AI menuntut perusahaan untuk memiliki fondasi data yang kokoh dan memberikan akses teknologi yang lebih luas terhadap data tersebut, demikian menurut laporan gabungan Google Cloud dan MIT Technology Review Insights yang dirilis pada bulan Agustus.
Saat ini, teknologi AI rata-rata hanya dapat mengakses 45 persen dari keseluruhan data perusahaan. Akibat keterbatasan tersebut, hanya separuh dari total organisasi yang benar-benar menaruh kepercayaan bahwa hasil kerja agen AI mereka relevan dan akurat.
Data yang berkualitas tidak hanya membuat agen AI bekerja optimal dan bernilai bisnis, tetapi juga melindungi perusahaan dari hambatan regulasi di masa depan.
Berdasarkan data survei Collibra dan The Harris Poll, sembilan dari sepuluh pemimpin bisnis saat ini aktif mempersiapkan diri menghadapi regulasi AI, baik di Amerika Serikat (AS) maupun di tingkat global.
Sebanyak 51 persen pemimpin perusahaan bahkan telah menggelontorkan investasi khusus untuk pengelolaan garis keturunan data (data lineage) dan dokumentasi.
Gelombang pengawasan hukum ini juga dibarengi oleh desakan dari para pemimpin industri teknologi. Para eksekutif dari perusahaan terkemuka seperti OpenAI, Anthropic, Microsoft, dan SpaceXAI sempat menyerukan adanya perlambatan dalam pengembangan AI. Mereka menyoroti belum memadainya kerangka kerja keselamatan (safety frameworks) untuk mengimbangi pesatnya kapabilitas model AI tingkat lanjut (frontier models).
Dari jalur legislatif, Senator AS Bernie Sanders berencana mengajukan rancangan undang-undang untuk menunda sementara pengembangan AI tingkat lanjut.
Di tingkat negara bagian, Gubernur California Gavin Newsom mengesahkan dua undang-undang AI yang menetapkan kerangka kerja untuk audit independen terhadap model bahasa besar (large language models).
Sementara di kawasan Eropa, kewajiban literasi AI dan larangan penggunaan kasus yang tidak dapat diterima (unacceptable use cases) di bawah regulasi UU AI Uni Eropa (EU AI Act) telah resmi berlaku sejak bulan Agustus.
