Industri jasa keuangan kini memasuki babak baru di tengah gelombang adopsi agentic AI yang mampu bertindak secara mandiri. Secara teori, agentic AI menjanjikan efisiensi tinggi dan keputusan yang lebih cepat; dua hal yang krusial di industri finansial.
Namun di balik peluang besar itu tersimpan tantangan besar, yaitu menjaga keamanan dan tata kelola supaya inovasi tidak berubah menjadi bumerang.
Dalam Evident AI Symposium di New York pekan ini, sejumlah pemimpin teknologi dari sektor keuangan sepakat bahwa sistem otonom mengubah secara drastis cara perusahaan mengelola risiko.
“Kalau dulu mencari celah keamanan itu seperti mencari jarum di tumpukan jerami, sekarang kita akan menghadapi puluhan ribu tumpukan jerami,” ujar Al Slamecka (Global Financial Services Industry Lead for Cloud and AI Infrastructure di Cisco) dalam diskusi panel tersebut.
Menurut Slamecka, semakin banyak sistem AI yang bekerja secara mandiri, semakin sulit pula mendeteksi potensi kerentanan. Risiko itu bisa muncul dalam berbagai bentuk, mulai dari gangguan operasional, kebocoran data, hingga kegagalan sistem pengambilan keputusan otomatis.
Kekhawatiran itu bukan tanpa dasar. Pinar Kip (EVP dan CIO International Risk, Governance and Transformation di State Street) menilai adopsi agentic AI dapat membuka “celah baru” dalam struktur manajemen risiko perusahaan. “AI yang berinteraksi dengan agen lain dapat memperlihatkan kelemahan dalam struktur dasar tata kelola risiko kita,” ujarnya, dikutip dari CIO Dive.
Pentingnya Tata Kelola AI
Laporan OneTrust yang dirilis September lalu turut memperkuat pandangan tersebut. Dalam laporan itu, para pemimpin TI di sektor keuangan menghabiskan 37 persen lebih banyak waktu untuk menangani risiko AI dibanding tahun sebelumnya. Tak heran, hampir semua perusahaan berencana menaikkan anggaran tata kelola AI rata-rata 24 persen pada tahun depan.
Tren adopsi AI di sektor keuangan pun meningkat pesat. Menurut laporan Evident Insights, jumlah kasus penggunaan AI di 50 perusahaan finansial terbesar dunia meningkat dua kali lipat dibanding paruh kedua 2024. Bahkan, jumlah perusahaan teknologi yang mengembangkan agentic AI melonjak lebih dari sepuluh kali lipat dalam periode yang sama.
Meski demikian, para pemimpin industri menekankan pentingnya keseimbangan antara inovasi dan kehati-hatian. “Kita ini industri yang sangat terbiasa mengelola risiko. Jangan terlalu rumit,” kata Ian Glasner, (Group Head of Emerging Technology, Innovation and Ventures di HSBC). “Fokuslah pada nilai bisnis dengan manfaat yang jelas,” ucapnya.
Pinar Kip juga mengingatkan agar perusahaan tidak terjebak dalam euforia teknologi agentic AI semata. “Tidak semua masalah harus diselesaikan dengan agentic AI. Banyak proses klasik yang masih bisa diatasi dengan otomatisasi biasa,” katanya.
Dengan adopsi agentic AI yang kian meluas, keseimbangan antara inovasi dan tata kelola menjadi kunci. Industri keuangan yang dikenal konservatif kini ditantang untuk melangkah cepat tanpa kehilangan kendali. Sebab pada akhirnya, masa depan keuangan yang cerdas bukan hanya tentang seberapa pintar mesin membuat keputusan tetapi seberapa bijak manusia mengatur batasnya.
