JAKARTA – Windy Gambetta dari Kelompok Keahlian Informatika STEI Institut Teknologi Bandung (ITB) mengingatkan lima risiko penggunaan kecerdasan buatan atau Artificial Intelligence (AI), terutama dalam pekerjaan hukum dan peradilan.
Peringatan tersebut disampaikan dalam kegiatan Pelatihan Mahkamah Agung pada 26 Oktober 2026. Dalam presentasi bertajuk Artificial Intelligence dan Perubahan Lanskap Peradilan, Windy menjelaskan bahwa jawaban AI yang tampak meyakinkan belum tentu akurat.
Lima risiko tersebut meliputi hallucination atau informasi keliru, referensi hukum palsu, informasi usang, bias data, dan ketergantungan berlebihan terhadap teknologi.
Risiko hallucination muncul ketika AI menghasilkan informasi yang tidak sesuai fakta. Sementara itu, referensi palsu dapat berupa nomor putusan, kutipan peraturan, atau sumber hukum yang tidak valid.
AI juga berpotensi menyajikan informasi yang tidak lagi mutakhir. Kondisi ini perlu diwaspadai ketika pengguna mencari aturan terbaru atau perkembangan putusan pengadilan.
Risiko berikutnya adalah bias data. Ketimpangan dalam data yang digunakan untuk melatih sistem dapat memengaruhi hasil dan rekomendasi AI.
Windy juga menyoroti ketergantungan berlebihan terhadap AI. Pengguna berisiko mengurangi pemeriksaan mandiri ketika terlalu mengandalkan jawaban yang dihasilkan teknologi tersebut.
Untuk mengantisipasi risiko itu, pengguna perlu memeriksa sumber primer, menjaga kerahasiaan data, dan menerapkan prinsip Human in the Loop. Prinsip ini menempatkan manusia sebagai pihak yang memeriksa serta mengendalikan hasil AI.
Dalam konteks peradilan, AI dapat membantu penelitian dan pengelolaan informasi. Namun, teknologi tersebut tidak dapat menggantikan pemeriksaan fakta, penilaian alat bukti, maupun tanggung jawab profesional manusia.
