Ringkasan:
-
Krisis “Synthetic Witness” membahayakan keadilan dengan menciptakan deepfake realistis yang menipu hakim dan juri sehingga memberikan tuduhan palsu.
-
Terdakwa mengeksploitasi teknologi deepfake untuk menabur keraguan pada bukti asli, sehingga menghalangi jaksa untuk membuktikan kesalahannya tanpa keraguan.
-
Video palsu yang dihasilkan oleh AI menimbulkan ancaman terhadap privasi dan keadilan, memanipulasi emosi dan mengintimidasi saksi untuk menghalangi kebenaran.
Krisis “Saksi Sintetis” muncul ketika bukti pengadilan mencakup gambar serta konten audio dan video yang dibuat oleh AI untuk secara salah menuduh individu yang tidak bersalah dan memalsukan rincian peristiwa. Hakim dan juri tidak bisa lagi mempercayai pendengaran dan kemampuan melihat mereka sendiri untuk memisahkan rekaman asli dari rekaman palsu karena deepfake telah mencapai realisme sempurna. Teknologi baru ini membahayakan elemen inti keadilan yang digunakan untuk menegakkan kebenaran melalui bukti visual sebagai standar universal.
Dividen Pembohong
Sistem hukum mengandung celah yang memungkinkan tersangka yang bersalah mengklaim bahwa video asli yang menunjukkan aktivitas kriminal mereka adalah deepfake yang dihasilkan oleh AI. Meluasnya penggunaan video palsu memungkinkan terdakwa menimbulkan keraguan terhadap bukti asli yang mengakibatkan kesulitan bagi jaksa penuntut untuk membuktikan kasusnya dengan kepastian mutlak.
Kasus Gary Schildhorn
Seorang ayah hampir membayar $9.000 kepada pengacara penipu setelah mendengar suara AI menirukan putranya yang berpura-pura berada di penjara setelah mengalami kecelakaan mobil. Seorang saksi akan dengan yakin menyatakan bahwa audio tersebut adalah milik orang sebenarnya jika dia mendengar rekaman tersebut di pengadilan.
Pengakuan Palsu
Para pengacara mulai mengenali contoh-contoh “pengakuan sintetik” karena teknologi AI menghasilkan duplikat suara yang meniru suara orang untuk menciptakan pengakuan kejahatan palsu. Klip-klip tersebut menciptakan bukti kuat bahkan anggota keluarga pun gagal mengidentifikasi sumber sebenarnya sehingga menghasilkan putusan bersalah yang salah.
Pelajaran Mata v. Avianca
Pengacara dalam kasus ini menggunakan AI untuk menghasilkan dokumen hukum yang seluruhnya berisi kasus dan kutipan pengadilan fiktif. Teks tersebut berisi peringatan bahwa sistem AI dapat menghasilkan dokumen hukum yang dapat dipercaya melalui halusinasi fakta yang mengakibatkan terciptanya preseden hukum yang tidak ada.
Kematian Metadata
File digital berisi metadata yang berfungsi sebagai pengenal unik yang mengungkapkan waktu dan tempat pengambilan gambar. Teknologi AI yang canggih memiliki kemampuan untuk menghasilkan data palsu yang memungkinkan pengguna membuat gambar palsu yang tampak seperti difoto di lokasi GPS sebenarnya selama jangka waktu tertentu.
“Kotak Hitam” Forensik
Pengadilan menggunakan teknologi AI untuk menemukan sistem AI, namun metode deteksi yang ada saat ini hanya berfungsi sebagai solusi “kotak hitam”. Sistem peradilan menghadapi kesulitan dalam menerima bukti video karena sistem komputer mengidentifikasi video tersebut palsu namun para ahli tidak dapat menjelaskan dasar sistem yang mendasari keputusan tersebut.
Manipulasi Emosional Juri
Para juri menunjukkan kecenderungan kuat untuk lebih memercayai bukti video dibandingkan kesaksian lisan. Saksi sintetis menciptakan efek emosional yang kuat yang akan melekat pada juri bahkan setelah pengacara membuktikan saksi tersebut palsu.
Intimidasi oleh Deepfake
Penjahat membuat video palsu melalui teknologi AI untuk mengintimidasi saksi agar tetap diam. Kelompok ini menggunakan ancaman untuk mengungkap skandal “sintetis” sebagai metode untuk mencegah orang memasuki ruang sidang sementara mereka menghalangi keadilan tanpa secara langsung merugikan korban.
Perangkap Privasi
Pakar forensik memerlukan akses penuh ke semua materi digital termasuk kata sandi dan pesan pribadi serta file cloud untuk memverifikasi keberadaan konten video yang sebenarnya. Orang yang tidak bersalah perlu mengorbankan semua hak privasi pribadinya untuk membuktikan bahwa kesaksian yang memberatkannya adalah palsu.
Bukti Hantu Gaya Satoshi
Bukti tersebut berasal dari sumber anonim yang tidak dapat dilacak ke sumber sebenarnya karena keyakinan bahwa pencipta Bitcoin hanya ada sebagai hantu. Saksi sintetis tidak memiliki keberadaan fisik sehingga menghalangi pengacara untuk melakukan pemeriksaan silang di ruang sidang tradisional.
Comments are closed.