Jakarta – Bagaimana jika sebuah bukti terlihat autentik, tetapi ternyata dibuat oleh kecerdasan artifisial?
Bagaimana jika kutipan putusan yang tampak meyakinkan ternyata tidak pernah ada? Dan siapa yang bertanggung jawab apabila rekomendasi algoritma menghasilkan kesalahan?
Pertanyaan-pertanyaan tersebut menjadi pembuka materi Windy Gambetta dari Kelompok Keahlian Informatika Sekolah Teknik Elektro dan Informatika (STEI) Institut Teknologi Bandung (ITB) sekaligus Pusat AI ITB, dalam kegiatan Pelatihan Mahkamah Agung pada 26 Oktober 2026.
Melalui presentasi bertajuk “Artificial Intelligence dan Perubahan Lanskap Peradilan”, Windy mengingatkan bahwa perkembangan AI tidak hanya menghadirkan peluang bagi dunia peradilan, tetapi juga memunculkan tantangan baru yang harus dipahami oleh setiap insan peradilan, khususnya hakim.
Salah satu tantangan paling serius adalah semakin mudahnya penciptaan konten digital sintetis melalui teknologi Generative AI. Teknologi ini mampu menghasilkan teks, gambar, suara, hingga video yang menyerupai materi autentik. Dalam konteks hukum, kemampuan tersebut dapat menimbulkan persoalan serius ketika konten buatan AI diajukan sebagai bagian dari alat bukti.
Windy secara khusus menyoroti fenomena deepfake, yaitu teknologi yang memungkinkan penciptaan wajah atau suara sintetis, serta synthetic media berupa gambar, video, maupun audio yang dihasilkan oleh AI.
Kondisi tersebut menuntut hakim untuk semakin cermat dalam memeriksa autentisitas bukti digital. Tidak cukup hanya melihat apakah suatu rekaman terlihat meyakinkan, tetapi juga perlu memperhatikan asal-usul dokumen, integritasnya, rantai penguasaan (chain of custody), serta kemungkinan adanya verifikasi secara independen.
Windy juga mengingatkan bahwa penggunaan perangkat pendeteksi AI tidak dapat dijadikan satu-satunya dasar untuk menentukan autentisitas suatu bukti. Dengan demikian, pemeriksaan terhadap bukti digital tetap memerlukan penilaian yang menyeluruh dan tidak boleh semata-mata diserahkan kepada hasil suatu algoritma.
Selain persoalan bukti digital, terdapat lima risiko utama AI yang perlu dikenali oleh hakim.
Pertama, hallucination, yaitu kondisi ketika AI menghasilkan informasi yang tidak benar tetapi disampaikan seolah-olah merupakan fakta. Kedua, fabricated citation, yakni penciptaan kutipan atau referensi yang sebenarnya tidak pernah ada. Ketiga, informasi usang yang tidak lagi sesuai dengan perkembangan hukum terkini. Keempat, bias data yang dapat memengaruhi hasil analisis. Kelima, overreliance, yaitu ketergantungan berlebihan terhadap keluaran AI tanpa melakukan pemeriksaan secara mandiri.
Risiko tersebut menjadi semakin relevan ketika AI digunakan untuk membantu penelitian hukum, meringkas berkas perkara, atau menyusun draf dokumen. Jawaban yang tersusun secara sistematis dan menggunakan bahasa hukum yang meyakinkan belum tentu memiliki dasar hukum dan sumber yang benar.
Dalam materi presentasinya, Windy menekankan pentingnya verifikasi terhadap sumber primer, perlindungan data dan kerahasiaan informasi, serta penerapan prinsip Human in The Loop. Prinsip ini menempatkan manusia sebagai pihak yang tetap melakukan pemeriksaan dan pengambilan keputusan, sementara AI berfungsi sebagai alat bantu.
Bahkan, materi tersebut turut menyinggung pedoman yudisial Inggris yang mengingatkan adanya risiko kesalahan AI, bias, dan kerahasiaan informasi. Pedoman tersebut juga menekankan tanggung jawab pribadi pejabat yudisial atas materi yang dihasilkan atas namanya.
Pada bagian penutup, Windy mengajak peserta untuk mengajukan lima pertanyaan sebelum menggunakan AI dalam pekerjaan peradilan. Apakah penggunaannya diizinkan? Apakah data dan kerahasiaan terlindungi? Dapatkah sumber dan hasilnya diverifikasi? Adakah bias, kesalahan, atau pengaruh berlebihan? Serta apakah tanggung jawab dan keputusan tetap berada pada hakim?
Lima pertanyaan tersebut menjadi pengingat bahwa kemajuan teknologi tidak boleh menggeser prinsip dasar kekuasaan kehakiman. AI dapat membantu hakim bekerja lebih cepat dan efisien, tetapi tidak dapat mengambil alih tanggung jawab profesional maupun independensi hakim dalam memeriksa dan memutus perkara.
Pada akhirnya, semakin canggih teknologi yang digunakan, semakin besar pula tuntutan terhadap kecermatan manusia yang mengendalikannya. Dalam dunia peradilan, teknologi boleh berkembang, tetapi kebenaran, keadilan, dan tanggung jawab atas putusan tetap tidak dapat diserahkan kepada algoritma
