Perkembangan agen AI otonom yang semakin pesat membawa janji efisiensi dan otomatisasi tingkat tinggi bagi perusahaan. Namun di balik kemajuan tersebut, muncul persoalan mendasar yang mulai dianggap sebagai titik lemah utama keamanan siber modern, yakni masalah identitas digital. Tanpa sistem identitas yang jelas, terverifikasi, dan dapat ditelusuri, agen AI justru berpotensi menjadi risiko besar bagi organisasi.
Berbagai riset menunjukkan adanya ketimpangan serius antara kecepatan adopsi teknologi AI dan kesiapan perusahaan dalam mengelola aspek keamanan, khususnya identitas dan tata kelola agen digital. Semakin mandiri sebuah agen AI dalam mengambil keputusan dan menjalankan tugas, semakin sulit pula perusahaan memastikan siapa yang bertanggung jawab atas setiap tindakan yang dilakukan sistem tersebut. Metode keamanan konvensional dinilai tidak lagi cukup untuk menjawab tantangan ini.
Kekhawatiran terbesar terletak pada kemampuan pelacakan dan pengendalian. Banyak profesional keamanan siber mempertanyakan bagaimana cara mengidentifikasi sumber sebuah tindakan, menghentikan agen AI yang menyimpang, atau menonaktifkan sistem yang telah bertindak di luar kendali. Dalam sejumlah survei, mayoritas responden bahkan menilai potensi penyalahgunaan atau kegagalan agen AI lebih berbahaya dibandingkan kesalahan manusia. Meski demikian, hanya sebagian kecil perusahaan yang merasa benar-benar siap menghadapi skenario tersebut.
Masalah ini semakin kompleks dengan maraknya penggunaan AI dalam proses pengembangan perangkat lunak. Banyak organisasi mengakui bahwa mereka tidak memiliki visibilitas penuh terhadap kode yang dihasilkan oleh AI. Tanpa jejak identitas yang kuat dan dapat diverifikasi secara kriptografis, kode tersebut berisiko menjadi celah keamanan tersembunyi. Praktik ini menuntut perubahan pendekatan, mulai dari penerapan sertifikat digital, pemberian identitas unik pada setiap agen AI, hingga penguatan tata kelola dalam setiap tahap pengembangan perangkat lunak.
Di Prancis, isu ini mendapat perhatian khusus. Pendekatan kehati-hatian lebih menonjol dibandingkan rata-rata global. Tingkat kepercayaan terhadap sistem identitas digital agen AI masih relatif rendah, sementara penggunaan sertifikat digital dianggap sebagai solusi yang lebih dapat diandalkan. Hal ini mencerminkan sikap konservatif namun realistis dalam menghadapi risiko keamanan yang berpotensi timbul dari AI otonom.
Pada akhirnya, masa depan keamanan siber di era agen AI sangat bergantung pada bagaimana perusahaan membangun dan mengelola identitas digital. Tanpa fondasi identitas yang kuat, transparan, dan dapat dikendalikan, kepercayaan terhadap AI akan rapuh. Identitas bukan lagi sekadar elemen teknis, melainkan kunci utama untuk memastikan bahwa transformasi digital berjalan aman, terkendali, dan berkelanjutan.
