Perkembangan Frontier AI menciptakan tantangan tersendiri di dunia cyber security. Kemampuan Frontier AI (alias AI yang memiliki kemampuan tingkat lanjut) dalam mengeksploitasi lubang keamanan secara otonom membuat ancaman cyber security semakin kompleks.

Hal itulah yang menjadi pembahasan utama acara NTT DATA Cybersecurity Executive Luncheon yang diselenggarakan akhir Agustus 2026 lalu. Mengambil tema Frontier AI and The Future of Cyber Trust: Navigating Emerging Threats in Indonesia Financial Service Sector, acara ini melibatkan belasan IT Leaders dari berbagai perusahaan finansial Indonesia.

Acara ini juga menghadirkan Slamet Aji Pamungkas (Deputi Bidang Keamanan Siber dan Sandi Perekonomian BSSN), Purnama Sulfa (CISO Bank Mandiri Taspen), Ashish Thapar (VP and Head of Security Asia Pacific NTT DATA) sebagai narasumber utama. Melalui diskusi interaktif yang dipimpin praktisi Pudja Unggul Kartiman, acara ini menghasilkan insight menarik bagi perusahaan dalam bersiap menghadapi era Frontier AI ini.

Kembali ke Dasar

Menurut data BSSN, Indonesia mengalami 5,5 miliar serangan anomali sepanjang tahun 2025 kemarin. “Artinya, ada 183 anomali per detik,” ungkap Slamet Aji Pamungkas. Anomali ini memang tidak seluruhnya berasal dari AI, namun sudah menggambarkan tingginya anomali yang terjadi saat ini. “Dan dengan kehadiran AI, saya prediksi skalanya akan meningkat drastis,” ungkap Aji.

Perbankan sendiri termasuk sektor teratas yang mengalami serangan siber, selain sektor manufaktur dan energi. Serangan di sektor perbankan mengarah ke tiga bagian besar, yaitu nasabah, supply chain, serta core banking. Dengan kehadiran AI, siklus serangan kini menjadi otomatis, adaptif, dan sangat efisien. “Contohnya, AI dapat membuat email phishing atau deepfake yang sangat meyakinkan sehingga menipu korban,” ungkap Aji.

Sementara Ashish Thapar menyebut, Frontier AI tidak serta-merta menghadirkan threat baru. “Namun Frontier AI membuat perubahan besar pada skala, kecepatan, dan adaptabilitas dari threat itu sendiri,” ungkap Ashish. Salah satu contohnya adalah model AI Mythos yang secara cepat dan otonom berhasil menemukan dan mengeksploitasi zero-day vulnerabilities di berbagai OS dan browser utama. “Eksploitasi yang dulunya membutuhkan waktu mingguan, kini dapat dilakukan dalam hitungan hari bahkan jam,” tambah Ashish.

Solusi Mengatasi Frontier AI

Karena vektor serangan masih sama, solusi keamanan di era frontier AI ini pada dasarnya kembali ke fundamental keamanan siber. Organisasi harus memperkokoh pilar utama security seperti identity and access management, endpoint security management, data protection, sampai network security protection.

Kabar baiknya, pilar-pilar pertahanan fundamental tersebut kini dapat diakselerasi menggunakan teknologi AI itu sendiri.  Contohnya, penggunaan Agentic AI dalam Security Operations Center (SOC) memungkinkan tim keamanan merespons ancaman dengan kecepatan tinggi (machine speed). Teknologi AI juga memungkinkan SOC menganalisis pola perilaku transaksi secara real-time, serta automated response sebelum kerusakan meluas.

Untuk membangun sistem pertahanan berbasis AI itu, Ashish merekomendasikan tiga langkah strategis. “Langkah pertama adalah melakukan assessment,” ungkap Ashish. Lakukan audit terhadap visibilitas aset, ketergantungan vendor, kerentanan sistem legacy, dan tingkat kesiapan tata kelola organisasi.

Setelah assessment, langkah selanjutnya adalah menyusun roadmap. Susun rencana pembaruan infrastruktur dan alokasi kontrol keamanan berdasarkan skala prioritas risiko bisnis. Langkah ketiga adalah mengintegrasikan teknologi AI secara bertahap ke proses bisnis sehingga dapat mengimbangi skala dan kecepatan serangan yang mungkin terjadi.

Saat implementasi AI, Purnama Sulfa (CISO Bank Mandiri Taspen) mendorong pemanfaatan kerangka kerja seperti Agentic Trust Framework (ATF) yang diselaraskan dengan aturan lokal (seperti Tata Kelola AI OJK 2025 dan UU PDP). “Pendekatan ini memastikan otonomi AI tidak pernah diberikan secara penuh, namun dibatasi secara bertahap,” ungkap Purnama.

Memastikan Keamanan Implementasi AI

Saat mengimplementasikan AI, hal wajib yang harus diperhatikan setiap organisasi adalah AI Governance. Pasalnya, AI Governance akan memastikan implementasi AI sesuai tujuan dan tidak menciptakan risiko yang justru merugikan.

Framework seperti ISO 42001 (Manajemen Sistem AI) dan ISO 27001 (Manajemen Keamanan Informasi) bisa menjadi fondasi untuk menjamin tata kelola mendasar. Selain itu, lengkapi agen AI dengan pembatas (guardrails) berbasis hard rules untuk mencegah tindakan di luar kontrol. Yang tak kalah penting, selalu uji fungsi AI dalam lingkungan terisolasi sebelum diluncurkan ke sistem produksi. 

Untuk memudahkan organisasi dalam implementasi AI, NTT Data dan Cisco memiliki solusi yang disebut Cisco AI Defense. Solusi ini mencakup validasi model AI, manajemen risiko AI supply chain, hingga AI runtime protection untuk memastikan setiap input dan output aman dari ancaman manipulasi logika (cognitive hijacking) maupun eksploitasi agen.

Selain itu, Cisco juga telah menanamkan berbagai fitur AI di solusi cybersecurity-nya. Contohnya solusi Cisco XDR dan Splunk yang menggunakan AI untuk mempercepat deteksi dan otomatisasi respon. “Solusi ini memastikan organisasi dapat merespon insiden dengan kecepatan mesin,” tambah Ashish.

Dari acara ini bisa disimpulkan, Frontier AI memang menciptakan gelombang ancaman baru di area cybersecurity. Akan tetapi, AI juga bisa dimanfaatkan sebagai bagian krusial dari sistem pertahanan. Dan jika dikombinasikan dengan fondasi cybersecurity yang kokoh, setiap organisasi dapat menghadapi era frontier AI ini dengan lebih percaya diri.