Agentic AI diprediksi akan mengubah cara kerja Security Operations Center (SOC). Agen cerdas ini dapat ditugaskan menangani tugas yang repetitif, sehingga membebaskan analis untuk melakukan investigasi yang lebih kompleks.
Meski menjanjikan, Agentic AI masih menyisakan tantangan soal kepercayaan, harga, dan pengawasan.
Mengapa Harus Pakai Agentic AI?
Kelebihan utama Agentic AI adalah pada kemampuannya bertindak berdasarkan sinyal dan menjalankan alur kerja keamanan secara cerdas. Mereka mampu menyaring ribuan peringatan keamanan yang masuk, lalu menentukan prioritas penanganan. Dengan begitu, tim SOC hanya perlu berurusan dengan peringatan yang penting dan krusial.
Jonathan Garini (CEO dan Strategi AI Enterprise Fifthelement) sepakat jika Agentic AI akan sangat membantu tim SOC. “Agentic AI mampu menyaring data, mengumpulkan informasi hingga menahan ancaman serangan. Kini analis keamanan bisa fokus pada tugas-tugas strategis lainnya. Bukan pekerjaan rutin yang berulang,” katanya seperti dikutip CSOOnline.
Garini sendiri melihat, tim keamanan yang diperkuat agentic AI mampu merespons insiden lebih cepat, serta mampu menangani jumlah alert yang banyak. Berkat Agentic AI, jumlah personil tim keamanan pun lebih ramping dan efisien.
Apa yang Harus Diperhatikan?
Akan tetapi, Agentic AI di area cyber security ini memang masih menyisakan tantangan, baik dari kepercayaan, biaya, dan pengawasan.
Terkait kepercayaan, Agentic AI sering kali bekerja mirip “kotak hitam”. Kita bisa melihat input dan output-nya, tapi tidak tahu bagaimana AI sampai pada keputusan tersebut. “Agentic AI bisa memblokir akses seorang eksekutif senior tanpa penjelasan jelas. Tindakan ini membuat tim IT bingung dan bertanya, apa alasannya? Apakah ini keputusan yang benar?,” kata Amit Weigman (Kepala Keamanan Siber Checkpoint) mencontohkan.
Berbeda dengan analis manusia yang punya rekam jejak bertahun-tahun, agentic AI masih relatif baru. Organisasi tidak punya cukup data untuk mengukur tingkat kesalahan dan konsekuensinya. “Perusahaan harus memiliki data yang bersih dan aman serta buku panduan yang jelas. Jika tidak, agentic AI akan mengambil langkah-langkah yang tidak perlu,” kata Itay Glick (VP Produk OPSWAT).
Tak hanya itu, perusahaan harus melakukan audit pada agentic AI dari prompt hingga output. “Catat semua keputusan AI. Input apa yang diterima, data apa yang dianalisis, logika apa yang digunakan,” kata Glick menyarankan.
Masalah kedua terkait harga. Model biaya Agentic AI belum matang dan bervariasi sehingga perusahaan bingung mana yang paling efektif untuk kebutuhan mereka. “Biaya sistem agentic AI canggih biasanya mahal karena memiliki dampak lebih luas dan peluang penghematan pada beban kerja analis,” kata Kepala Keamanan Siber Mindgard Fergal Glynn.
Masalah lainnya, penggunaan layanan agentic AI juga menyisakan masalah biaya tersembunyi seperti perawatan, biaya storage, dan integrasi. Terakhir, organisasi sulit mengukur ROI (Return on Investment) dari penggunaan agentic AI.
“Bagaimana menghitung nilai dari ‘faster threat detection‘?. Apakah kita benar-benar hemat atau cuma shifting costs?,” kata Prashant Jagwani (Analisis Siber Mphasis). Karena itu, penting bagi organisasi untuk mencari sistem perhitungan biaya yang lebih baik.
Contohnya dengan menghitung berapa efisiensi yang dihasilkan saat tim SOC memanfaatkan Agentic AI. Kemudian, berapa banyak insiden yang bisa diselesaikan oleh agentic AI. Organisasi juga harus mendefinisikan KPI dengan jelas sebelum mengadopsi agentic AI. Contohnya seperti bagaimana mengukur metrik efisiensi, sumber daya, dan kualitas.
Tantangan adopsi agentic AI terakhir di divisi keamanan siber adalah pengawasan. Kebanyakan organisasi punya kerangka tata kelola untuk sistem tradisional, tapi belum siap untuk agentic AI yang bergerak otonom.
Contoh kasus, siapa yang bertanggung jawab jika agentic AI membuat keputusan yang salah? Bagaimana proses persetujuan untuk keputusan yang dibuat AI?
Solusinya, jangan buang tata kelola yang sudah ada, tetapi perluas supaya bisa mengakomodasi teknologi atau sistem baru seperti AI, automation, dan cloud. “Kalau ada tindakan berisiko tinggi (misalnya hapus data, matikan server), tetap perlu dua orang menyetujui (dual control),” kata Glick.
Pendek kata, keberhasilan adopsi agentic AI akan sangat bergantung pada bagaimana organisasi mengelola ekspektasi, membangun tata kelola yang solid, dan menyeimbangkan otonomi dengan akuntabilitas. Jika itu bisa dilakukan, Agentic AI di dunia keamanan IT akan memberikan dampak nyata.
