Bahaya Penggunaan AI di Perusahaan

AI udah jadi bagian kerja sehari-hari di banyak tim, dan itu bagus. Tapi yang aku perhatiin, adopsi yang cepat sering nggak dibarengi kesadaran soal risikonya. Bukan berarti harus berhenti pakai AI, tapi penting tahu di mana titik rawannya, supaya makenya lebih hati-hati.

Risiko data sensitif ke-input ke AI publik

Ini risiko yang paling sering kejadian tanpa disadari. Karyawan copy-paste data internal, kode, atau notulen rapat ke chatbot AI publik buat minta bantuan, tanpa sadar data itu bisa tersimpan atau diproses di luar kendali perusahaan.

Kasus paling terkenal terjadi di Samsung. Menurut laporan Cybersecurity Dive, beberapa karyawan divisi semikonduktor tanpa sengaja membocorkan source code dan rekaman rapat internal dengan memasukkannya ke ChatGPT, yang akhirnya bikin Samsung membatasi penggunaan chatbot AI publik oleh karyawannya.

Ketergantungan tanpa validasi

Output AI itu meyakinkan, tapi meyakinkan bukan berarti benar. Masalah muncul begitu output-nya ditelan mentah-mentah tanpa dicek ulang, apalagi kalau dipakai buat hal yang berdampak langsung ke pihak lain.

Contoh paling sering dikutip adalah kasus Mata v. Avianca, di mana dua pengacara di Amerika Serikat kena sanksi pengadilan karena mengajukan berkas hukum yang isinya enam putusan kasus, dan semuanya karangan ChatGPT. Mereka bahkan sempat minta ChatGPT konfirmasi ulang, dan chatbot-nya meyakinkan kalau kasus-kasus itu nyata.

Risiko akses yang nempel ke satu orang

Ini yang udah dibahas lengkap di artikel pertama: begitu akun AI kerja didaftarkan pakai email pribadi karyawan, seluruh chat history, prompt, sampai automation yang terhubung ke situ ikut berisiko hilang kalau orangnya resign. Ini bukan cuma soal kenyamanan kerja, tapi juga soal siapa yang sebenarnya punya kendali atas aset digital perusahaan.

Risiko compliance dan legal, tergantung industri

Buat perusahaan yang beroperasi di industri yang diatur ketat, seperti kesehatan, keuangan, atau yang menyimpan data pribadi pelanggan dalam jumlah besar, penggunaan AI juga harus memperhatikan aturan yang berlaku. Di Indonesia, ada UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi yang mengatur bagaimana data pribadi boleh dikumpulkan, disimpan, dan diproses, termasuk kalau prosesnya melibatkan pihak ketiga seperti penyedia layanan AI.

Sebelum mengizinkan data pelanggan atau data karyawan diproses lewat tools AI, cek dulu apakah penyedia tools-nya punya kebijakan data yang sesuai, dan apakah ada aturan sektor tertentu yang lebih ketat dari itu.

Rekomendasi mitigasi singkat

• Batasi jenis data yang boleh dimasukkan ke AI publik, dan sediakan alternatif resmi (paket tim/workspace) yang kebijakan datanya lebih jelas.
• Terapkan langkah validasi manusia buat setiap output AI yang dipakai buat keputusan atau komunikasi ke pihak luar.
• Terapkan SOP akses AI seperti yang dibahas di artikel sebelumnya, supaya kepemilikan akun dan dokumentasi kerja nggak nempel ke satu orang.
• Cek kebijakan data dari tools yang dipakai terhadap regulasi yang relevan di industri kamu. Kerangka kerja seperti NIST AI Risk Management Framework bisa jadi acuan awal buat menyusun proses manajemen risiko AI yang lebih rapi.

Menurut aku, kesadaran soal risiko ini bukan alasan buat berhenti pakai AI. Ini alasan buat makenya lebih sengaja, dengan proses yang jelas, bukan asal-asalan.