Lonjakan adopsi kecerdasan buatan (AI) terus melaju kencang. Namun, ada satu hal krusial yang tertinggal yaitu kepercayaan publik dan pengguna.
Tanpa fondasi kepercayaan yang kokoh, potensi transformatif AI dikhawatirkan akan berjalan di tempat atau menghadapi hambatan serius di berbagai lini industri.
Berdasarkan data Thinkers360 AI Trust Index, sentimen global terhadap AI saat ini berada dalam fase stagnasi. Skor Indeks Kepercayaan AI berada di angka 307 (diukur pada skala 100 untuk tidak khawatir hingga 400 untuk sangat khawatir).
Angka ini tidak menunjukkan perubahan berarti dari 308 pada tahun sebelumnya, setelah sempat melompat tajam dari 224 pada 2023. Kondisi ini menggambarkan bahwa industri teknologi sedang terjebak dalam kelesuan kepercayaan (trust rut).
Lebih mengkhawatirkannya lagi, terdapat jurang persepsi yang cukup lebar antara pencipta teknologi dan para penggunanya.
Pengguna akhir (end-users) mencatat tingkat kekhawatiran yang lebih tinggi (312) ketimbang para penyedia dan praktisi AI (301).
Sebanyak 83 persen penyedia layanan meyakini manfaat AI jauh melampaui risikonya, sementara hanya 65 persen pengguna akhir yang memiliki pandangan serupa. Disparitas ini menciptakan krisis keyakinan yang harus segera diselesaikan oleh organisasi.
Nicholas D. Evans, konsultan inovasi dan kolumnis teknologi terkemuka, mengungkapkan bahwa para Chief Information Officer (CIO) dan jajaran eksekutif C-suite harus bertransisi dari sekadar pengamat pasif menjadi pemimpin aktif dalam merancang arsitektur kepercayaan AI.
Ia menjabarkan empat mandat utama bagi para pemimpin teknologi untuk mengatasi kesenjangan tersebut:
1. Prioritaskan Atribut Kepercayaan NIST pada Sektor yang Paling Dikhawatirkan
Data menunjukkan bahwa kekhawatiran terbesar masyarakat berpusat pada aspek-aspek kerangka kerja manajemen risiko AI dari NIST (National Institute of Standards and Technology).
Tiga isu utama yang mendominasi kekhawatiran publik adalah peningkatan privasi (63 persen), akuntabilitas serta transparansi (61 persen), dan keadilan dengan pengelolaan bias yang merugikan (59 persen).
Sebaliknya, atribut seperti penjelasan dan penafsiran (explainability and interpretability) serta validitas dan keandalan (valid and reliable) berada di tingkat kekhawatiran yang lebih rendah (masing-masing 49 persen dan 53 persen).
Artinya, publik secara umum percaya bahwa teknologi ini berfungsi sebagaimana mestinya, tetapi mereka merisaukan bagaimana perilaku dan dampak nyata dari sistem tersebut.
Bagi para CIO, temuan ini menuntut pergeseran fokus dari metrik fungsional murni menuju hasil yang beretika.
Peningkatan akurasi beberapa persen saja tidak akan mendongkrak tingkat kepercayaan secara signifikan. Terkait aspek privasi, kecemasan pengguna akhir jauh lebih tinggi (69 persen) dibandingkan penyedia (53 persen).
”Kesenjangan ini mengharuskan Anda mengartikulasikan kepada pengguna akhir bagaimana privasi mereka dilindungi, bukan hanya dalam istilah umum, tetapi terutama ketika teknologi AI dilibatkan,” jelas Evans.
2. Tangkal Defisit Kepercayaan pada Skenario Publik
Tingkat kepercayaan terhadap AI ternyata tidak merata di semua sektor. Indeks menunjukkan bahwa kekhawatiran tertinggi terjadi pada penggunaan AI dalam skenario media (339) dan skenario pribadi (309).
Sebaliknya, tingkat kekhawatiran paling rendah yang berarti tingkat kepercayaannya paling tinggi—berada pada skenario pemerintahan (291) dan tempat kerja (289).
Ironisnya, karyawan merasa cukup nyaman ketika AI mendukung operasi internal perusahaan, namun mereka menyimpan kekhawatiran mendalam saat AI mulai mengatur kehidupan publik, akses informasi, dan layanan sipil.
Sebagai seorang CIO, rendahnya tingkat kepercayaan publik terhadap AI pada akhirnya akan merembes masuk ke dalam ranah korporasi.
Jika pelanggan atau karyawan melihat AI digunakan secara tidak etis dalam ranah media melalui penyebaran disinformasi seperti kejahatan siber, skeptisisme itu akan menular ke sistem CRM atau HR perusahaan.
Karena itu, organisasi disarankan membangun fondasi dari tingkat kepercayaan yang sudah ada di tempat kerja dan menjadikan lingkungan internal sebagai model penerapan yang bertanggung jawab. Komunikasikan kebijakan internal AI secara transparan untuk dijadikan pembeda di pasar.
”Tunjukkan standar AI internal Anda kepada pelanggan dan mitra, lalu terapkan pada produk eksternal,” saran Evans.
3. Terapkan Tata Kelola dan Transparansi yang Spesifik
Tingkat kepercayaan terhadap teknologi cerdas ini juga bervariasi secara signifikan antar industri. Faktor ini wajib dimasukkan oleh para CIO ke dalam model analisis risiko perusahaan masing-masing.
Bagi para CIO di sektor-sektor yang sangat diatur (regulated industries) seperti keuangan dan kesehatan, mandat utamanya bukan sekadar mempertahankan tingkat ketelitian yang ada, melainkan meningkatkannya.
Kepatuhan regulasi yang berlaku saat ini hanyalah garis dasar (baseline), bukan batas atas (ceiling). Pasar tidak akan segan-segan menghukum perusahaan karena insiden kebocoran data. Insiden ini dapat meruntuhkan kepercayaan konsumen yang telah dibangun bertahun-tahun.
4. Tutup Jurang Persepsi Melalui Pengalaman Nyata (Experiential Trust)
Kesenjangan 11 poin dalam kekhawatiran dan 18 poin dalam optimisme menunjukkan bahwa masalah ini berpusat pada manusia, bukan sekadar teknis.
”Kita harus berhenti mengatakan kepada pengguna bahwa AI itu dapat dipercaya. Kepercayaan adalah fitur yang harus dirancang sejak awal, bukan sesuatu yang ditambal kemudian,” tegas Evans.
Langkah awalnya adalah melibatkan pelanggan secara langsung. Terapkan program co-design dengan melibatkan pengguna dan pelanggan bukan hanya manajer produk dalam perancangan dan pengujian aplikasi AI. Jika pelanggan mengkhawatirkan masalah bias, ajaklah mereka mencari dan menganotasi data pelatihan guna memastikan objektivitas dan keadilan.
Selain itu, perusahaan juga perlu mempertimbangkan penunjukan pejabat khusus etika AI (Chief AI Ethics Officer / CAIEO) atau mencari kandidat internal yang mumpuni untuk mengisi peran tersebut.
Seorang CIO memerlukan mitra setara yang fokus pada konsekuensi sosial dan etika dari AI. Hal itu membuat pengambilan keputusan etis memiliki bobot yang setara dengan mandat keamanan maupun infrastruktur di tingkat eksekutif.
Menuju Inovasi yang Bertanggung Jawab
Riset AI Trust Index menegaskan bahwa revolusi AI telah memicu kekhawatiran mendalam dari para penerimanya, di mana fokus perhatian tertuju langsung pada dimensi kemanusiaan seperti tata kelola, etika, dan keadilan.
Misi di masa depan sangat jelas. CIO bukan lagi sekadar penjaga infrastruktur teknologi perusahaan, melainkan arsitek utama kepercayaan digital. Dengan mengatasi isu privasi, menjaga transparansi, dan merapatkan jurang persepsi, pimpinan teknologi dapat memastikan organisasi berinovasi secara bertanggung jawab.
