Kecerdasan buatan (AI) berkembang sangat cepat di dunia perusahaan. Hari ini, banyak organisasi sudah menggunakan AI untuk merangkum dokumen, menjawab pertanyaan, atau membantu analisis sederhana.
Namun, ada satu hal yang tidak bergerak secepat teknologinya yaitu kepercayaan. Faktanya, masih sedikit perusahaan yang benar-benar berani menjadikan AI sebagai dasar pengambilan keputusan bisnis. Bukan karena AI tidak mampu, tetapi karena AI belum sepenuhnya dipercaya.
Di sinilah masalah utamanya muncul. Jurangnya bukan antara “AI bisa atau tidak bisa”, melainkan antara “AI mampu” dan “AI diizinkan”.
AI Cerdas, Tapi Berhenti di Tahap Uji Coba
Banyak proyek AI di perusahaan berakhir di tahap pilot atau demo. Teknologinya terlihat menjanjikan, tetapi tak pernah benar-benar dipakai dalam operasional harian.
Satu pertanyaan hampir selalu muncul di ruang rapat direksi yaitu, “Bagaimana kami bisa mempercayai sistem yang tidak bisa menjelaskan cara kerjanya?.”
“Perusahaan tidak menskalakan sesuatu hanya karena terdengar masuk akal. Mereka menskalakan bukti,” ujar Praveen Koushik Satyanarayana (Senior Director of Customer and Data Strategy di Tredence) seperti dikutip AI Journal.
Dari Janji AI ke Dunia Nyata
Dengan pengalaman lebih dari 12 tahun membangun sistem analitik lintas industri, Satyanarayana paham betul mengapa AI sering gagal menembus dunia operasional.
Ia pernah mengembangkan platform analitik pelanggan berbasis AI yang diklaim memberi dampak bisnis lebih dari USD 1 miliar bagi klien. Dari pengalaman itu, Satyanarayana menyimpulkan satu hal penting yaitu AI sepintar apa pun tidak akan dipakai tanpa kepercayaan.
Proyek terbarunya, Milky Way, mengambil pendekatan berbeda. Alih-alih hanya membuat AI yang “pintar berbicara”, sistem itu dirancang agar setiap keputusan AI bisa dibuktikan, diuji, dan diaudit.
AI di Perusahaan Harus Punya Aturan Main
Menurut Satyanarayana, kesalahan paling umum adalah memperlakukan AI seperti chatbot. Padahal, AI adalah bagian dari proses pengambilan keputusan di perusahaan dan setiap keputusan harus punya kontrol.
Karena itu, setiap jawaban AI diuji dengan kriteria yang jelas sejak awal. Jika jawabannya tidak memenuhi standar, sistem tidak akan langsung memberikan hasil. AI akan meminta klarifikasi, atau menyerahkannya ke manusia.
Sederhananya, AI tidak hanya ditanya “apa jawabannya?”, tapi juga “apakah jawabannya layak dipercaya?”.
Perpustakaan Pengetahuan yang Disepakati Bersama
Agar penilaian tidak subjektif, sistem ini dibangun di atas “perpustakaan referensi” berisi definisi bisnis, cara perhitungan, dan skenario uji yang telah disepakati perusahaan.
Setiap kali AI menjawab pertanyaan, sistem mencatat:
- Data apa yang dipakai
- Logika apa yang digunakan
- Pemeriksaan apa saja yang dilakukan
- Bagi pimpinan bisnis, hasilnya disajikan dalam bahasa sederhana.
- Bagi analis dan auditor, jejak pengambilan keputusan bisa ditelusuri hingga ke akarnya.
“Kecepatan tanpa bukti justru menciptakan ketidakpercayaan,” kata Satyanarayana.
“Dengan jejak yang jelas, perdebatan jadi lebih singkat karena orang bisa memeriksa metodenya, bukan beradu asumsi,” ucapnya.
Otonomi AI Tidak Bisa Instan
Dalam pendekatan ini, AI tidak langsung dilepas sepenuhnya. Otonomi dibuka secara bertahap.
Awalnya, AI hanya memberi rekomendasi yang harus disetujui manusia.
Jika terbukti konsisten dan akurat, barulah AI diberi ruang lebih luas untuk berjalan otomatis itu pun hanya untuk proses berisiko rendah.
Prinsipnya sederhana yaitu semakin besar kepercayaan, semakin besar otonomi.
Tidak Murah, Tapi Relevan
Pendekatan berbasis bukti ini memang tidak murah dan tidak sederhana. Membangun aturan, referensi, dan sistem audit membutuhkan investasi serius.
Namun, bagi perusahaan yang biaya salah keputusan jauh lebih mahal daripada bergerak lambat, pendekatan ini masuk akal.
“Jalan menuju AI yang otonom selalu melewati pembuktian,” tutup Satyanarayana.
Pertanyaannya sekarang, apakah perusahaan siap menempuh jalan yang lebih disiplin, demi AI yang benar-benar bisa dipercaya?
