Saat ini, banyak perusahaan menaruh harapan tinggi akan teknologi AI. Termasuk, perusahaan Indonesia. Studi IBM menunjukkan, 77% petinggi perusahaan Indonesia menilai teknologi AI akan menjadi bagian penting dalam persaingan bisnis ke depan.
Namun studi lain menunjukkan, masih banyak kekhawatiran yang muncul dari penggunaan AI ini. Salah satunya adalah konsekuensi tidak terduga dari interaksi pelanggan dengan AI. Hal ini menjadi kompleks mengingat karakteristik teknologi AI yang dinamis. Output AI akan terus berubah ketika semakin banyak data dan interaksi yang terjadi.
Karena itu, penting bagi setiap organisasi untuk memiliki “menara pengawas” terhadap model AI yang mereka gunakan. Menara pengawas ini berfungsi memonitor setiap tahap kerja dari model AI, sehingga hasil yang dikeluarkan sesuai batasan yang ditentukan.
Dengan begitu, organisasi bisa mendapatkan manfaat maksimal dari implementasi AI sekaligus meminimalisir risiko yang terjadi. Lebih jauh lagi, sistem pengawasan AI yang baik juga dapat digunakan untuk mengontrol biaya; sesuatu yang krusial ketika semakin banyak implementasi AI di dalam organisasi.
Hal itulah yang terungkap dari acara CXO Roundtable: Why AI Observability Matters Now yang diselenggarakan oleh CIO Insight Indonesia bekerjasama dengan IBM Indonesia. Acara ini dihadiri puluhan IT Leaders perusahaan Indonesia yang berbagi tentang tantangan mereka dalam mengelola implementasi AI di organisasi mereka.
Selain itu, hadir Jordy Mevissen (Global Sales Leader IBM) dan Aju Murjani (IBM Automation Leader ASEAN) yang berbagi perspektif global mereka terkait AI observability.
AI untuk Observasi
Menurut Jordy, teknologi AI mengubah paradigma pengelolaan aplikasi, dari proses monitor menjadi observasi. Pada proses monitoring, fokusnya terletak pada metrics, traces, dan log. “Sementara dalam observasi, kita juga harus memperhitungkan efisiensi, biaya, serta “maksud” dari model AI,” ungkap Jordy.
Ke depan, tantangan observasi akan semakin besar seiring kemunculan agentic AI. Jordy mengutip prediksi Gartner yang menyebut akan ada satu miliar aplikasi berbasis Agentic AI. “Ekspansi semasif ini meningkatkan tantangan bagi organisasi dalam mengontrol akses data maupun biaya dari implementasi AI mereka,” tambah Jordy.
Tantangan inilah yang dijawab melalui solusi IBM Instana. Sebagai informasi, IBM Instana adalah platform Application Performance Monitoring (APM) dan observabilitas berbasis AI yang memantau, mendiagnosis, dan mengoptimalkan performa aplikasi serta infrastruktur secara real-time dan otomatis.
Dengan kata lain, IBM Instana adalah solusi AI for Observability sekaligus Observability for AI.
Di area AI for Observability, Insana menggunakan algoritma AI untuk mengidentifikasi isu di infrastruktur maupun aplikasi dengan lebih cepat. Instana juga dapat melakukan root cause analysis sekaligus remediation sehingga menurunkan incident response time dengan lebih cepat. “Contohnya adalah Mizuho Bank (bank global asal Jepang, Red) yang berhasil menurunkan incident response time sampai 65% berkat IBM Instana,” ungkap Jordy.
Di sisi lain, Instana juga dirancang sebagai Observability for AI. Artinya, Instana dapat menganalisis workflow dan dependencies dari model AI untuk memastikan model tersebut bekerja pada parameter yang telah ditentukan. “Jadi tidak terjadi drifting yang membuat model bergeser dari tujuan awal,” tambah Jordy.
Tidak cuma itu, IBM Instana juga dapat digunakan organisasi untuk memonitor biaya dari penggunaan model AI. Dan itu semua terjadi secara otomatis sehingga menurunkan kompleksitas pengelolaan AI. “Sejak awal, IBM Instana memang dirancang untuk mudah digunakan, cerdas, dan bekerja secara otomatis,” ungkap Jordy yang merupakan salah satu petinggi Instana saat IBM mengakuisisi perusahaan Jerman itu di tahun 2020.
Pentingnya Mengedepankan Bisnis
Akan tetapi di tengah antusiasme perusahaan terkait AI, Aju Murjani (IBM Automation Leader ASEAN) menekankan pentingnya mengedepankan kepentingan bisnis dibanding teknologi. “Penekanan pada hasil menjadi sangat krusial dalam investasi teknologi, terlebih teknologi AI,” ungkap Aju.
Aju menyadari, setiap organisasi akan memiliki use case maupun tujuan bisnis berbeda. Karena itu, ia mengundang perusahaan Indonesia untuk berdiskusi dengan IBM dalam menentukan use case tersebut. “Dalam lima tahun terakhir, IBM telah berinvestasi di area R&D sebesar US$17 miliar,” ungkap Aju.
“Semua itu untuk memastikan IBM menyediakan solusi yang menjawab kebutuhan pelanggan kami,” tambah Aju.
