Dunia teknologi sedang memasuki babak baru dalam evolusi kecerdasan buatan (AI). Jika tahun-tahun sebelumnya kita terpukau oleh kemampuan chatbot dalam menjawab pertanyaan, awal 2026 menandai pergeseran besar menuju agentic AI.
Sistem agentic AI ini tidak sekadar memberi saran, tetapi mampu mengeksekusi tugas secara otonom atas nama penggunanya.
Namun, di balik janji efisiensi yang menggiurkan, para pemimpin TI kini dihadapkan pada peringatan keras. Memberikan kendali penuh pada mesin membawa risiko keamanan dan ketidak konsistenan yang hingga kini belum sepenuhnya teratasi.
Kebangkitan Sang “Asisten” Otonom
Dua peluncuran besar pada awal tahun ini menjadi katalisator utama tren tersebut. Anthropic merilis platform agen Claude Cowork untuk macOS pada Januari dan Windows pada Februari.
Di saat yang sama, penggunaan alat agen sumber terbuka OpenClaw meroket setelah proyek besutan pengembang Peter Steinberger yang kini bergabung dengan OpenAI diluncurkan pada penghujung 2025.
Neal Riley (Pemimpin Inovasi di firma konsultasi IT The Adaptavist Group) mengamati adanya lonjakan minat yang masif.
Bahkan, sektor yang biasanya konservatif terhadap risiko seperti layanan keuangan dan kesehatan, kini mulai berani bereksperimen.
”Memasuki 2026, kita melihat investasi besar-besaran pada proses yang lebih bersifat agentic. Perusahaan membiarkan sistem ini mengambil tingkat otonomi tertentu dalam koridor yang diatur ketat,” ujar Riley.
“Kami melihat peningkatan yang sangat besar dalam hal ini,” ucapnya.
Claude Cowork dan OpenClaw kini berada di garda terdepan revolusi ini. Cowork, misalnya, dapat mengakses aplikasi, file, Slack, hingga peramban web untuk menyusun laporan atau mengelola data.
Meski Anthropic mengeklaim sistemnya akan meminta persetujuan sebelum bertindak, kenyataan di lapangan menunjukkan bahwa pengguna sering kali memberikan kebebasan yang jauh lebih luas.
Saat Kendali Lepas Tangan: Pelajaran dari Kasus “Hapus Inbox”
Risiko dari otonomi berlebihan itu bukan sekadar teori di atas kertas. Peneliti keamanan Meta AI Summer Yue membagikan pengalaman pahitnya melalui media sosial X pada akhir Februari lalu.
Niat hati ingin merapikan kotak masuk email menggunakan OpenClaw, asisten AI tersebut justru mencoba menghapus seluruh isi inbox-nya dengan kecepatan tinggi.
”Tidak ada yang lebih merendahkan hati selain menginstruksikan OpenClaw untuk ‘konfirmasi sebelum bertindak’, lalu melihatnya melakukan speedrun menghapus seluruh kotak masuk Anda,” tulis Yue seperti dikutip dari CIO.
Ia mengakui bahwa kesalahan tersebut berawal dari rasa percaya diri yang berlebihan karena sistem OpenClaw bekerja sempurna di lingkungan percobaan selama berminggu-minggu.
“Ternyata peneliti penyelarasan (alignment) pun tidak kebal terhadap ketidakselarasan AI. Kotak masuk asli memberikan tantangan yang berbeda,” tambahnya.
Selain potensi kesalahan fatal dalam eksekusi tugas, para peneliti juga menemukan celah keamanan serius pada OpenClaw, termasuk kerentanan terhadap serangan prompt injection.
Pedang Bermata Dua: Kecepatan vs Keamanan
Para ahli sepakat bahwa tantangan terbesar saat ini adalah menemukan keseimbangan antara manfaat dan risiko. Russell Twilligear, (Kepala Litbang AI di BlogBuster) melihat adanya pergeseran fundamental dalam cara kerja teknologi tersebut.
”Kita sedang menyaksikan transisi dari sistem yang hanya menghasilkan teks menuju sistem yang benar-benar bisa mengeksekusi pekerjaan multi-langkah,” kata Twilligear.
Namun, ia memperingatkan bahwa adopsi ini bisa tumbuh lebih cepat daripada kemampuan manusia untuk mengendalikannya.
”Masalahnya adalah seberapa cepat semua ini terjadi. Laporan keamanan terbaru menunjukkan banyak perusahaan bahkan tidak memiliki pengawasan terhadap agen AI mereka. Bagi saya, itu sangat gila,” ucapnya.
Senada dengan hal tersebut, Upal Saha (CTO di bem) menambahkan bahwa AI sering kali “menebak” daripada “mengeksekusi” akibat kurangnya konteks operasional di dalam perusahaan. Menurutnya, pemahaman konteks adalah pembeda utama antara keberhasilan dan kegagalan.
”Jika mereka memiliki konteks yang tepat, mereka bisa memampatkan jam kerja operasional menjadi hitungan detik,” jelas Saha.
“Sisi negatifnya, kecepatan yang sama dapat memperbesar kesalahan. Jika agen salah memahami alur kerja, ia akan mengulangi kesalahan tersebut dalam skala besar,” ucapnya.
Masa Depan Tanpa Pekerjaan Administratif
Meskipun biaya operasionalnya masih tergolong mahal akibat tingginya penggunaan token, para pendukung teknologi ini optimis bahwa agentic AI akan mengubah hakikat dunia kerja. Visi utamanya adalah menghapus tugas-tugas administratif yang menjemukan dari pundak manusia.
”AI ini tidak harus bekerja lebih cepat atau lebih baik dari manusia, tetapi ia tidak memerlukan keterlibatan manusia, sehingga staf dapat mengerjakan hal lain,” ujar Riley menekankan potensi efisiensi yang ditawarkan.
Bagi organisasi yang ingin mengadopsi teknologi ini, Riley menyarankan penerapan kontrol yang ketat, memastikan kebersihan data, dan konfigurasi izin aplikasi yang tepat.
“Saya mendorong para pemimpin TI untuk memberikan ruang bagi karyawan untuk bereksperimen secara terukur. Setiap orang harus mulai mencoba sekarang hanya untuk memahami cara kerjanya,” saran Riley.
“Teknologi ini muncul begitu cepat sehingga metode orientasi tradisional perangkat lunak 10 tahun lalu sudah tidak relevan. Pendekatannya adalah: silakan mainkan, dan Anda akan mengerti cara kerjanya,” katanya.
Pada akhirnya, di tengah laju teknologi yang tak terbendung, kunci keberhasilan adopsi AI otonom bukanlah sekadar kecepatan eksekusi.
Keberanian untuk bereksperimen harus dibarengi dengan pengawasan ketat serta pemahaman mendalam akan cara kerja sistem tersebut agar inovasi tidak berbalik menjadi bumerang bagi perusahaan
