Banyak Direktur Teknologi Informasi (CIO) saat ini tampak sangat yakin dengan sistem keamanan kecerdasan buatan (AI) yang mereka miliki. Namun, sebuah riset terbaru justru membongkar realitas yang jauh lebih rumit dan penuh dengan titik buta (blind spots).
Menurut survei Palo Alto Networks yang bekerja sama dengan CIO Dive, sebanyak 77 persen CIO mengaku percaya diri dengan kemampuan perusahaan mengelola risiko AI.
Kendati demikian, ada jurang pemisah yang lebar antara persepsi dan realitas. Hanya 30 persen dari mereka yang benar-benar memiliki visibilitas penuh terhadap aktivitas AI di seluruh organisasi.
Sialnya, salah satu titik buta terbesar dan paling mengkhawatirkan justru datang dari agentic AI, sistem otonom yang dapat mengambil tindakan mandiri tanpa transparansi atau kendali yang jelas.
Sebanyak 62 persen CIO mengungkapkan kasus agen AI liar (rogue AI agents) kini menjadi kekhawatiran terbesarnya.
Kekhawatiran ini bukan tanpa alasan. Sebanyak 54 persen CIO telah menyaksikan tindakan tanpa izin yang dilakukan oleh agen AI di lingkungan kerja.
Ironisnya, meski ancaman sudah di depan mata, baru 47 persen CIO yang berencana mengamankan sistem ini dalam 24 bulan ke depan.
”Kita tentu tidak ingin mengulangi kesalahan yang sama seperti saat dunia memasuki era komputasi awan (cloud),” kata Jaimin Patel, (Vice President of Product Management untuk Prisma AIRS di Palo Alto Networks).
“Dengan AI, kita punya kesempatan melakukan sesuatu yang lebih baik yaitu mengamankannya sejak awal perancangan (secure by design) dan memegang teguh prinsip tersebut sejak langkah pertama,” imbuhnya.
Otonomi Tinggi, Bahaya Tersembunyi
Sebagai teknologi mutakhir, agentic AI membawa jenis ancaman baru ke dalam lanskap keamanan siber. Risiko itu melonjak tajam karena manusia tidak lagi terlibat dalam setiap tahapan eksekusi. Agen AI bekerja secara mandiri langsung di antara instruksi (prompt) dan hasil akhir.
Sifat otonom inilah yang membuat agentic AI layaknya pisau bermata dua yaitu sangat berguna sekaligus luar biasa berisiko. Agen AI memang dirancang untuk bertindak atas nama pengguna, tetapi model bahasa besar (Large Language Models / LLM) di baliknya bersifat nondeterministik.
Artinya, hasil eksekusi sistem tidak selalu bisa diprediksi dan rentan memicu kesalahan fatal di dunia nyata. Sebagai ilustrasi, bayangkan seorang staf penjualan yang meminta agen AI merapikan data pada sistem manajemen hubungan pelanggan (CRM).
Kala sistem gagal membedakan antara perintah “merapikan” dan “menghapus”, agen AI akan melenyapkan seluruh jalur data penjualan (pipeline) perusahaan dalam sekejap.
Ancaman lain yang tidak kalah mengerikan adalah risiko pengambilalihan agen (agent hijacking) dari akses jarak jauh.
Dalam skenario ini, agen AI dapat dimanipulasi bertindak untuk kepentingan penyerang siber. Bahkan dalam beberapa kasus, peramban berbasis agen komersial dapat dieksploitasi sepenuhnya hanya bermodalkan sebuah email.
”Itulah mengapa banyak organisasi menggambarkan pendekatan keamanan AI yang bersifat reaktif,” kata Yonatan Gotlib (Vice President of Product Management untuk Prisma Browser di Palo Alto Networks).
“Sering kali Anda hanya melihat hasil akhirnya, bukan niatnya, padahal risiko yang sebenarnya justru terletak pada niat tersebut,” ucapnya.
Jurang Pemisah Antara Keyakinan dan Visibilitas
Jaimin Patel yang rutin bertemu dengan para CIO dan CISO di Amerika Serikat, Eropa, dan Asia, menyatakan bahwa tolok ukur sejati dari kesiapan keamanan AI sebenarnya bermuara pada dua pertanyaan mendasar:
Pertama, apakah organisasi memiliki visibilitas penuh terhadap di mana saja AI digunakan, baik oleh karyawan maupun pengembang?. Kedua, sudahkah mereka mengetahui risiko di setiap alat atau layanan AI yang diakses atau dibangun oleh tim mereka?.
Patel merangkum tantangan ini dengan sangat lugas: “Anda tidak bisa melindungi apa yang tidak bisa Anda lihat. Jika mereka tidak memiliki visibilitas tersebut, maka proteksi itu sejatinya tidak pernah ada.”
Mengapa Model Risiko Kini Berubah?
Akar masalah dari kegagalan deteksi ini adalah karakteristik AI yang mengubah lanskap ancaman secara mendasar, sebuah pergeseran radikal yang tidak dapat diantisipasi oleh alat keamanan tradisional.
Yonatan Gotlib menjelaskan bahwa fenomena ini dipicu oleh betapa luas dan dalamnya AI tertanam di berbagai lini organisasi saat ini.
”Dalam banyak kasus, rasa percaya diri muncul dari postur keamanan kuat yang dibangun untuk menghadapi ancaman berbasis manusia. Namun, AI mengubah model risiko secara fundamental,” tutur Gotlib.
”Fenomena Shadow AI kini meluas karena karyawan kerap menggunakan alat pilihan mereka sendiri dan membagikan data sensitif ke platform yang tidak resmi,” ujarnya.
Kemudahan AI dalam membangun dan memublikasikan aplikasi pada akhirnya menciptakan permukaan SaaS (Sistem sebagai Layanan) yang nyaris tanpa batas, sehingga mustahil untuk dikelola dengan metode lama.
Terjebak Kelumpuhan Struktural
Melihat risiko nyata yang sudah mulai bermunculan, muncul pertanyaan besar, mengapa organisasi tidak bergerak lebih cepat untuk mengatasinya?. Hambatan terbesar ternyata bersifat struktural.
Sistem keamanan tradisional didesain khusus untuk interaksi yang digerakkan oleh manusia, bukan untuk agen otonom yang bertindak sebagai wakil pengguna.
Akibatnya, ketika sebuah agen AI mengambil alih sesi yang aktif, sebagian besar lapisan keamanan kehilangan mata dan kendali atas apa yang sedang terjadi di dalamnya.
Kondisi ini diperparah oleh dilema internal organisasi. Banyak perusahaan merasa terjebak di antara dua pilihan ekstrem yaitu memblokir AI sepenuhnya atau menerima semua risikonya tanpa syarat.
Persepsi hitam-putih inilah yang memicu kelumpuhan dalam pengambilan keputusan. Di satu sisi, AI kian melekat dalam alat bisnis dan alur kerja harian. Di sisi lain, menambah kendali keamanan dikhawatirkan dapat menciptakan hambatan (friction) operasional yang ditakuti perusahaan.
Patel menambahkan bahwa kesenjangan antara kesadaran dan tindakan ini terjadi karena organisasi masih keliru dalam memandang keamanan. Mereka kerap memperlakukannya sebagai pekerjaan satu kali selesai, bukan sebagai proses yang berkelanjutan.
Menggeser Fokus Pengendalian Keamanan
Untuk keluar dari jebakan tersebut, paradigma keamanan harus diubah. Saat ini, sebagian besar alat keamanan beroperasi terpisah dari tempat keputusan AI dibuat.
Padahal, agen AI tidak sekadar mengakses data, melainkan mengeksekusi tindakan berdasarkan data tersebut. Artinya, titik kendali keamanan harus dipindahkan langsung ke dalam interaksi itu sendiri.
Dalam praktiknya, langkah revolusioner ini dimulai dari penegasan identitas dan akuntabilitas. Perusahaan harus tahu kapan suatu tindakan dilakukan oleh manusia dan kapan dilakukan oleh agen AI.
Semua ini harus terekam dalam jejak audit (audit trails) menyeluruh yang mencatat apa yang dilakukan agen, atas nama siapa, dan di sistem mana saja.
Selain itu, sistem membutuhkan pembatas jalan (guardrails) yang proaktif. Hal ini mencakup kemampuan untuk menunda atau menyetujui tindakan berisiko tinggi sebelum tindakan itu terjadi seperti penghapusan data massal atau transfer informasi sensitif alih-alih baru mendeteksi masalah setelah kerusakan fatal terjadi.
”Pada akhirnya, rasa percaya diri itu muncul ketika kita membuat tindakan AI yang transparan dan dapat dipertanggungjawabkan secara real-time tanpa memperlambat jalannya bisnis,” tambah Gotlib.
Peta Jalan Menuju Keamanan Ideal
Tentu saja, membangun keamanan AI dari ujung ke ujung (end-to-end) tidak bisa dilakukan dalam semalam. Organisasi memerlukan pendekatan bertahap yang adaptif seiring dengan meningkatnya kematangan sistem mereka.
Sesuai rekomendasi Patel, perusahaan sebaiknya memulai dari aspek visibilitas dan tata kelola terlebih dahulu untuk memetakan di mana saja AI digunakan dan apa saja risikonya.
Langkah berikutnya adalah naik ke tahap perlindungan terhadap ancaman aktif seperti prompt injection dan tindakan agen tanpa izin.
Terakhir, organisasi dapat melangkah ke tahap pembatas jalan penuh, yang mencakup perlindungan data serta persetujuan manusia (human-in-the-loop) untuk setiap tindakan yang bersifat sensitif.
Namun di luar faktor teknologi, tata kelola kebijakan memegang peran yang tidak kalah krusial. Alih-alih sekadar mengizinkan atau memblokir suatu alat secara ekstrem, organisasi perlu mendefinisikan dengan tegas batasan tindakan yang dapat diterima.
Perusahaan harus membedakan dengan jelas antara hak membaca data dengan hak mengubah atau menghapusnya, serta merinci kapan persetujuan manusia mutlak diperlukan.
Mengingat AI berevolusi dengan kecepatan tinggi, panduan ini harus terus diperkuat secara berkala langsung pada titik penggunaan alat.
Sebagai penutup, Patel mengingatkan bahwa pertaruhan hari ini sangat mirip dengan masa-masa awal adopsi komputasi awan dahulu.
Kala itu, banyak organisasi berbondong-bondong melakukan migrasi instan tanpa memikirkan matang-matang faktor keamanan, dan pada akhirnya, mereka harus membayar mahal akibat kelalaian tersebut.
