Ketika Salesforce baru-baru ini meluncurkan agen AI di situs webnya, hasilnya jauh dari harapan pasar. Alih-alih memberi jawaban yang konsisten, agen AI Salesforce itu justru berhalusinasi dan menampilkan hasil yang tidak akurat.
Akhirnya, Salesforce terpaksa mematikan sementara fitur itu untuk melakukan investigasi. Shibani Ahuja (Senior Vice President Enterprise IT Strategy Salesforce) mengungkap ia dan timnya langsung melakukan investigasi terkait kelemahan agen AI-nya. Hasilnya, kesalahan bukan pada agen AI tetapi kelemahan dan ketidakakuratan data yang diberikan kepada agen AI.
“Setelah kami telusuri, ternyata masalahnya bukan pada agen AI tetapi ada permasalah mendasar pada data kami. Ternyata, kami telah menayangkan artikel pengetahuan (knowledge articles) yang saling bertentangan di situs resmi” katanya dalam sebuah diskusi meja bundar di konferensi Fortune’s Brainstorm Tech di Park City, Utah.
“Jadi sebenarnya bukan agennya yang bermasalah. Justru agen AI ini membantu kami menemukan masalah yang sudah lama ada,” tambahnya seperti dikutip Fortune.
Karena itu, Salesforce kemudian mengubah agen AI menjadi agen auditor yang bertugas memeriksa konten di situs publik untuk mencari anomali. Setelah data dasar dibersihkan, agen AI kembali dijalankan dan hasilnya menjadi jauh lebih fungsional.
Kualitas AI Bergantung pada Kualitas Data
Kualitas produk AI sangat bergantung pada kualitas data yang mendasarinya. Ashok Srivastava (Senior Vice President sekaligus Chief AI Officer di Intuit) mengatakan dirinya tidak terkejut dengan hasil studi terbaru MIT yang menemukan 95 persen uji coba (pilot) AI di perusahaan besar mengalami kegagalan. Penyebab utama adalah sistem lama (legacy systems) yang masih banyak dipakai perusahaan besar.
“Faktanya adalah fondasi AI adalah data, dan banyak orang tidak berinvestasi di sana. Jadi, Anda punya data dari tahun 1990-an yang tersimpan di database mahal dan kuno, lalu Anda mencoba menghubungkannya dengan AI canggih sambil CEO menuntut hasil cepat. Jelas ini tidak akan berhasil, ” ujarnya.
Tantangan lain yang dihadapi perusahaan besar adalah kesulitan mengembangkan proyek AI dari skala pilot menjadi adopsi penuh di seluruh perusahaan. Sean Bruich (Senior Vice President Artificial Intelligence and Data di Amgen) mengatakan proyek pilot di perusahaan besar hampir tidak pernah memberikan ROI (return on investment). Proyek pilot hanya menghasilkan pembelajaran, bukti konsep, atau inspirasi. “Hanya adopsi skala penuh yang sebenarnya menghasilkan ROI yang signifikan, ” ujarnya.
Kesimpulannya, jika perusahaan ingin benar-benar mendapatkan manfaat bisnis dari investasi AI, perusahaan harus mengatasi dua masalah sekaligus.
Yang pertama adalah memastikan data yang digunakan berkualitas, konsisten, dan terstruktur dengan baik. Kedua, perusahaan harus membangun strategi untuk memperluas adopsi AI dari pilot ke skala enterprise. Tanpa kedua fondasi tersebut, teknologi AI secanggih apa pun hanya akan berakhir menjadi proyek gagal dengan biaya besar.
