Ancaman Keamanan dalam Penggunaan GenAI dan Langkah Proteksi Data

JAKARTA – Pesatnya perkembangan teknologi Generative AI (GenAI) membawa dampak besar bagi berbagai sektor industri. Namun, laporan mengungkap bahwa ancaman keamanan dan kurangnya strategi perlindungan data masih menjadi tantangan utama dalam adopsi GenAI.

Menurut laporan NTT Data Indonesia, perkembangan GenAI telah menimbulkan kekhawatiran akan privasi dan keamanan data. Namun, hal ini tidak sepenuhnya dirasakan oleh para pelaku bisnis di Indonesia.

Pasalnya, meski 45 Chief Information Security Officers (CISO) merasakan kekhawatiran ini, hanya 19 dari seluruh eksekutif yang memiliki kekhawatiran serupa, menurut laporan NTT Data.

Hal ini diperparah dengan fakta bahwa sebagian besar organisasi masih belum sepenuhnya menyelaraskan strategi keamanan siber dengan strategi penggunaan GenAI. Menurut Hendra, banyak perusahaan yang menggunakan AI tanpa memahami logikanya, yang bisa menimbulkan masalah dalam penerapan di dunia bisnis.

“GenAI juga punya cautions (kekhawatiran)-nya juga. GenAI juga bisa dipake oleh hacker-hacker, oleh pelaku-pelaku kejahatan, dan GenAI nya sendiri tidak 100 resistance terhadap serangan-serangan,” kata Hendra dalam pemaparannya, Kamis, (13/3/2025), menambahkan bahwa jika data-data GenAI “diracuni”, maka dampaknya akan sangat buruk.

Tantangan dan Ancaman Keamanan GenAI

Salah satu tantangan utama dalam implementasi GenAI adalah ketidaktransparanan model yang sering kali beroperasi sebagai "black box" dengan algoritma pengambilan keputusan yang tidak jelas. Hal ini meningkatkan risiko manipulasi data serta kesalahan informasi (hallucinations), yang dapat berdampak pada kepercayaan dan validitas data yang dihasilkan oleh GenAI.

Selain itu, ancaman deepfake, penyebaran misinformasi, serta potensi pelanggaran hukum akibat kurangnya regulasi yang jelas juga menjadi perhatian serius. Lebih dari 80 responden dalam laporan ini mengungkapkan bahwa regulasi terkait GenAI masih belum cukup jelas, sehingga menghambat investasi dan pengembangan lebih lanjut.

Risiko lainnya datang dari aspek penyimpanan data. Banyak organisasi yang mengandalkan layanan cloud publik, yang meskipun memberikan fleksibilitas, juga menghadirkan risiko kebocoran data jika tidak dikelola dengan baik. Oleh karena itu, memiliki strategi tata kelola data yang kuat menjadi krusial untuk menjaga keamanan dan privasi data organisasi.

Langkah-Langkah Proteksi Data dalam Implementasi GenAI

Untuk mengatasi tantangan ini, laporan NTT DATA merekomendasikan beberapa langkah strategis yang dapat diterapkan oleh organisasi. Hendra menyampaikan 4 langkah yang harus diterapkan oleh perusahaan untuk memastikan implementasi GenAI yang aman dan efektif:

1. Strategi dan Transformasi

GenAI harus terintegrasi dengan strategi bisnis, bukan sekadar proyek teknologi. 51 organisasi belum menyelaraskan strategi GenAI dengan tujuan bisnis mereka. Perusahaan harus mengidentifikasi area bisnis yang dapat dioptimalkan dengan GenAI dan mengadopsi pendekatan berbasis eksperimen sebelum melakukan investasi besar.

2. Infrastruktur Teknologi

Keberhasilan GenAI bergantung pada ekosistem teknologi yang andal. 90 eksekutif mengakui bahwa infrastruktur lama mereka menghambat pemanfaatan GenAI. Penggunaan cloud computing dan penguatan keamanan data dengan enkripsi serta autentikasi multi-faktor menjadi langkah utama dalam membangun ekosistem GenAI yang aman dan efisien.

3. Sumber Daya Manusia dan Budaya Organisasi

Kurangnya keterampilan tenaga kerja menjadi tantangan utama, dengan 67 eksekutif menyatakan bahwa karyawan mereka belum siap menggunakan GenAI. Organisasi harus berinvestasi dalam pelatihan dan membangun budaya kerja yang mendukung kolaborasi antara manusia dan AI agar GenAI menjadi alat peningkatan produktivitas, bukan ancaman bagi tenaga kerja.

4. Etika, Keamanan, dan Keberlanjutan

Sebanyak 89 eksekutif khawatir tentang risiko keamanan GenAI, termasuk misinformasi dan penyalahgunaan data. Organisasi perlu menerapkan audit berkala, memastikan transparansi model AI, serta mengintegrasikan prinsip keberlanjutan dalam penggunaan daya komputasi AI untuk meminimalkan dampak lingkungan.

Dengan semakin berkembangnya teknologi GenAI, keamanan siber dan tata kelola data harus menjadi prioritas bagi setiap organisasi yang ingin mengadopsinya. Meskipun tantangan dan ancaman masih ada, langkah-langkah yang tepat dapat membantu memitigasi risiko dan memastikan pemanfaatan GenAI yang lebih aman dan bertanggung jawab.