Sun,24 May 2026
USD41,57
%0.21
EURO48,55
%0.10
GBP55,54
%0.10
BIST11.258,72
%-1.04
GR. ALTIN5.012,06
%0.23
İstanbul
Ankara
İzmir
Adana
Adıyaman
Afyonkarahisar
Ağrı
Aksaray
Amasya
Antalya
Ardahan
Artvin
Aydın
Balıkesir
Bartın
Batman
Bayburt
Bilecik
Bingöl
Bitlis
Bolu
Burdur
Bursa
Çanakkale
Çankırı
Çorum
Denizli
Diyarbakır
Düzce
Edirne
Elazığ
Erzincan
Erzurum
Eskişehir
Gaziantep
Giresun
Gümüşhane
Hakkâri
Hatay
Iğdır
Isparta
Kahramanmaraş
Karabük
Karaman
Kars
Kastamonu
Kayseri
Kırıkkale
Kırklareli
Kırşehir
Kilis
Kocaeli
Konya
Kütahya
Malatya
Manisa
Mardin
Mersin
Muğla
Muş
Nevşehir
Niğde
Ordu
Osmaniye
Rize
Sakarya
Samsun
Siirt
Sinop
Sivas
Şırnak
Tekirdağ
Tokat
Trabzon
Tunceli
Şanlıurfa
Uşak
Van
Yalova
Yozgat
Zonguldak
  1. News
  2. Jurnalistik
  3. ‘Terkejut, Bingung, dan Takut’: Saat AI Jadi Alat Kekerasan Seksual

‘Terkejut, Bingung, dan Takut’: Saat AI Jadi Alat Kekerasan Seksual

‘terkejut,-bingung,-dan-takut’:-saat-ai-jadi-alat-kekerasan-seksual
‘Terkejut, Bingung, dan Takut’: Saat AI Jadi Alat Kekerasan Seksual
service
Peringatan: Artikel ini membahas kekerasan berbasis gender online (KBGO) yang dapat membuat tidak nyaman atau memicu ingatan tidak menyenangkan.

AI memudahkan kekerasan seksual. Cukup dengan perintah sederhana, foto biasa kini bisa disulap menjadi gambar yang melecehkan, lalu beredar luas di berbagai saluran. Penyintas bergumul dengan rasa takut, stigma, dan ketidakpastian.


Hidup M tak lagi sama sejak Juni 2025.

Saat itu, M menemukan foto dirinya tanpa busana di ponsel keponakannya. Ia kaget. Wajahnya memang benar wajah dia. Namun, ia tak pernah mengambil foto semacam ini.

Setelah ditelusuri, barulah ketahuan foto itu hasil rekayasa akal imitasi (AI).

Pada 2023, M memang pernah mengambil foto-foto dirinya dengan ponsel keponakannya. Namun, M bilang semuanya sudah ia hapus. Ia menduga kakak iparnya menyimpan salinan foto-foto itu di tempat lain, kemudian mengedit salah satunya sehingga ia tampak telanjang.

Di periode tersebut, M tinggal bersama keluarga kakaknya di rumah orang tua M.

M lantas mengonfrontasi kakak iparnya. Pria itu tidak membantah. Ia mengaku mengedit foto tersebut untuk membandingkannya dengan foto perempuan lain mirip M, yang menurutnya ditemukan temannya di aplikasi MiChat.

M sulit percaya dengan penjelasan itu. Ia sendiri tidak punya akun MiChat.

Setelah konfrontasi, barulah M mengerti mengapa ia kerap menerima pesan dari nomor tak dikenal di Telegram. Pesan-pesan tersebut berisi permintaan tidak jelas, dan ketika ditanggapi, pengirim menuduh M mempermainkan mereka.

“Mungkin ada yang jual foto saya di Telegram buat mendapatkan uang,” kata M.

M tahu ada bot-bot Telegram yang bisa digunakan untuk mengedit foto, termasuk menghilangkan atau menambahkan pakaian. Meski belum bisa membuktikannya, M yakin pelaku menggunakan bot semacam itu. Ia khawatir foto-fotonya yang telah dimanipulasi masih beredar dan sulit dilacak.

Diliputi amarah dan kebingungan, M mengambil cuti beberapa hari dari pekerjaannya dan meninggalkan Jakarta untuk menenangkan diri. Namun, ini tidak banyak membantu.

Apalagi, kakak perempuan M memihak suaminya. Anggota keluarga lain yang kemudian mengetahui kejadian ini juga mencegahnya melapor ke polisi. Alasannya: pelaku masih keluarga sendiri.

“Saya mikirnya kok bisa mereka ngomong kayak gitu? Mereka kan enggak merasakan apa yang saya rasakan. Kalau saya terlalu mikirin omongan keluarga, yang ada saya yang hancur sendiri,” kata M.

Tak lama setelah kejadian, kakak perempuan M dan suaminya pindah rumah. Keduanya memutus kontak dan tidak pernah meminta maaf kepada M, yang hingga kini terus dihantui kecemasan.

“Saya jadi gelisah, khawatir dan tidak nyaman dalam kehidupan sehari-hari karena saya takut ada yang mengenali saya di real life,” ujar M.

Media sosial pun tak lagi terasa sama. M kini menahan diri untuk membagikan foto-fotonya di ruang maya.

“Seharusnya saya bisa membagikan momen kehidupan saya, malah jadi enggak nyaman,” katanya.

Meski tidak didukung keluarga, M bersikeras menempuh jalur hukum.

Ia menghubungi Lembaga Bantuan Hukum Asosiasi Perempuan Indonesia untuk Keadilan (LBH APIK) Jakarta agar mendapat pendampingan, termasuk dalam melaporkan kasusnya ke polisi. Hingga kini, proses penyelidikan awal masih berjalan, tapi belum ada hasil jelas.

M bukan satu-satunya korban. Di berbagai daerah, kasus serupa terus bermunculan, sering kali dengan konsekuensi yang jauh melampaui ruang digital.

Dari Layar ke Dunia Nyata

Meski terjadi di ruang digital, kekerasan seksual kerap membawa dampak luas ke kehidupan sehari-hari korban. Tak hanya itu, orang-orang yang berniat baik membantu pun bisa ikut kena getahnya.

K mengalaminya sendiri saat membantu keponakan temannya, SV, yang fotonya dimanipulasi pacarnya dengan AI. Foto SV diedit sehingga tampak seolah-olah ia hanya mengenakan handuk.

SV, seorang siswi SMA, tinggal bersama tantenya (teman K) karena masalah keluarga. K tidak tahu bagaimana gambar itu bisa beredar di grup WhatsApp sekolah SV. Yang pasti, SV langsung dihakimi, tak hanya oleh teman-temannya tapi juga para gurunya.

K dan seorang kawannya berusaha meluruskan situasi. Keduanya berulang kali memberi tahu pihak sekolah dan bahkan menemui orang tua teman-teman sekelas SV untuk menjelaskan bahwa gambar itu hasil rekayasa AI.

Namun, usaha itu tidak membuahkan hasil. Penjelasan mereka tidak sepenuhnya dipercaya dan tidak ada yang mencoba membantu mencarikan solusi.

Rasa malu yang ditanggung SV perlahan menjadi beban mental. Ia mulai bolos sekolah dan menolak keluar rumah. Akhirnya, SV berhenti sekolah dan mendapat pendampingan psikologis. Menurut K, SV kemudian melanjutkan pendidikan melalui homeschooling.

K sempat mencoba melacak pacar SV, yang berstatus mahasiswa. Ia pergi ke kos pelaku, lalu meminta bantuan pengurus RT dan RW setempat. K juga mencari pelaku di kampusnya. Semuanya tak membuahkan hasil.

“Saya juga minta surat rekomendasi ke kampusnya buat diteruskan ke kepolisian, tapi kampusnya tuh alot buat diajak ngomong, termasuk birokrasinya,” kata K.

“Terus, mereka malah maksa-maksa nyuruh korban buat bertemu [dengan pelaku]. Itu enggak pantas dan berisiko.”

K dan kawannya sepakat tidak melapor ke polisi. Mereka yakin, aparat tidak akan benar-benar membantu.

“Prosesnya bakal panjang dan melelahkan juga jika kita menempuh jalur hukum,” kata K.

Segala proses yang dijalani membuat K dan kawannya lelah dan frustrasi.

Terlebih lagi, orang tua SV justru mempertanyakan keterlibatan mereka di kasus ini. Keduanya dianggap terlalu jauh mencampuri persoalan yang bukan urusan mereka.

“Kami berdua merasa orang tua SV tidak menerima kami sih. Jadi ya kami fokus ke hal-hal yang sekiranya bisa kita talangin saja, daripada mencoba meyakinkan mereka kalau korban enggak bersalah,” kata K.

Saat AI Jadi Alat Kekerasan Seksual

AI memudahkan kekerasan seksual. Cukup dengan perintah sederhana, foto biasa yang diambil dari media sosial seseorang kini bisa disulap menjadi gambar yang melecehkan, lalu beredar luas di berbagai saluran.

Fenomena ini tampak jelas, misalnya, di X. Pada akhir 2025 hingga awal 2026, pengguna X ramai meminta Grok, chatbot hasil pengembangan xAI yang terintegrasi dengan X, untuk mengedit foto perempuan tanpa persetujuan menjadi gambar seksual.

Setelah menghadapi badai kecaman, xAI membatasi sebagian fitur Grok di X sehingga pengguna gratis tak lagi bisa dengan mudah memanggil Grok di kolom balasan untuk menyunting gambar. Namun, warganet kemudian menemukan bahwa fitur ini masih bisa diakses lewat jalur lain, termasuk lewat aplikasi Grok yang terpisah dari X.

Pengguna X di Indonesia ramai-ramai meminta Grok untuk memanipulasi foto perempuan menjadi gambar seksual pada akhir 2025 hingga awal 2026.
Pengguna X di Indonesia ramai-ramai meminta Grok untuk memanipulasi foto perempuan menjadi gambar seksual pada akhir 2025 hingga awal 2026. (X)

Sejumlah layanan AI lainnya, termasuk yang dikembangkan OpenAI dan Meta, juga memungkinkan pengguna untuk membuat atau mengedit konten seksual dengan keterampilan minimal.

Menurut kajian akademik yang terbit di jurnal Trauma, Violence, & Abuse pada 2025, produksi dan distribusi konten seksual non-konsensual dengan AI semacam ini termasuk kekerasan berbasis gender online (KBGO).

“AI menjadi ruang yang besar untuk digunakan pelaku untuk mereproduksi konten seksual,” kata Shevierra Danmadiyah, peneliti di Lembaga Kajian dan Advokasi Independensi Peradilan (LeIP) sekaligus relawan Satgas KBGO yang banyak mendampingi penyintas.

Dan, hal itu dapat dilakukan dalam skala besar, bahkan hanya oleh satu orang.

Norma patriarki yang menormalkan kontrol atas tubuh perempuan turut memperparah situasi. Apalagi, secara umum laki-laki memiliki akses lebih besar terhadap teknologi, sehingga lebih mudah menjajal dan menggunakan berbagai aplikasi digital, termasuk yang berbasis AI.

Kesenjangan itu terlihat dalam riset yang dijalankan tim peneliti dari University of California, Amerika Serikat.

Dari analisis terhadap 18 studi yang melibatkan lebih dari 140.000 orang di berbagai negara, mereka menemukan kesenjangan gender dalam penggunaan AI generatif di hampir semua sektor dan jenis pekerjaan. Dalam 12 studi, perempuan tercatat 22% lebih kecil kemungkinannya menggunakan AI generatif dibandingkan laki-laki.

Chatarina Pancer Istiyani, komisioner Komnas Perempuan, mengatakan AI pada dasarnya mencerminkan bias yang sudah ada dalam masyarakat.

“AI adalah mesin yang belajar dari data. Data dan mayoritas sistem dibentuk dari perspektif laki-laki,” kata Chatarina.

Dalam konteks KBGO, bias tersebut membuat produksi konten intim tanpa persetujuan lebih banyak menyasar perempuan dan kelompok gender minoritas, termasuk melalui gambar seksual hasil manipulasi dan pornografi deepfake.

Pada 2019, perusahaan keamanan siber Deeptrace Labs (kini Sensity AI) melaporkan bahwa 96% video deepfake yang mereka temukan di internet merupakan pornografi non-konsensual yang menyasar perempuan.

“Hal ini menyerang agensi perempuan terhadap tubuhnya dan merupakan bentuk objektifikasi seksual,” kata Alia Yofira Karunian, peneliti gender, HAM, dan kebijakan teknologi di PurpleCode Collective.

Dalam beberapa tahun terakhir, adopsi AI yang kian masif terjadi bersamaan dengan meningkatnya laporan KBGO di berbagai belahan dunia, termasuk Indonesia.

Komnas Perempuan menerima 1.846 laporan kasus KBGO pada 2025, naik sekitar 3% dari 1.791 laporan pada tahun sebelumnya.

Sementara itu, Southeast Asia Freedom of Expression Network (SAFEnet) mencatat 2.382 aduan kasus KBGO di Indonesia pada 2025, meningkat 25% dari 1.902 kasus pada 2024.

“Peningkatan laporan tidak dapat sepenuhnya dikaitkan dengan AI, karena ada faktor-faktor lain yang berkontribusi,” kata Wida Arioka, koordinator Awas KBGO, inisiatif SAFEnet untuk advokasi isu KBGO.

“Misalnya, lebih banyak korban sekarang mengetahui cara melaporkan kasus dan ke mana harus mencari bantuan.”

Meski begitu, Wida bilang pola aduan yang masuk memang telah berubah. Jumlah kasus manipulasi foto atau video disebut terus meningkat seiring perkembangan AI.

“Sebelumnya, kami jarang menerima laporan tentang morphing atau konten intim yang dimanipulasi, tetapi dalam dua tahun terakhir, kami telah menerima dua hingga tiga pengaduan per bulan terkait kasus-kasus tersebut,” katanya.

Untuk memahami lebih jauh isu ini, Project Multatuli menyebar survei daring yang menghimpun pengalaman orang-orang yang pernah mengalami, menyaksikan, mendampingi korban, ataupun meneliti KBGO berbasis AI.

Survei ini, yang berlangsung dari 12 Februari hingga 10 April 2026, berhasil mengumpulkan total 50 responden.

Sebanyak 40 responden mengaku pernah menyaksikan KBGO atau mendapat cerita langsung dari korban. Tujuh responden mengalaminya sendiri, sementara tiga lainnya meneliti isu tersebut.

Hanya 10 yang melaporkan kasusnya ke polisi. Mayoritas menilai prosesnya terlalu rumit dan perkembangannya tidak jelas. Di sisi lain, ada 14 orang yang menghubungi LSM untuk meminta bantuan.

Sebagian besar korban tidak mengenal atau tidak tahu siapa pelakunya.

KBGO paling banyak terjadi di X dengan 30 kasus. Facebook dan Telegram ada di tempat kedua dan ketiga, masing-masing dengan 14 dan 11 kasus.

Jalan Panjang Mencari Rasa Aman

Bagi penyintas KBGO, menempuh jalur hukum bukan keputusan sederhana. Banyak yang urung melapor karena khawatir prosesnya panjang dan melelahkan. Sebagian lain akhirnya mencari cara sendiri untuk mendapatkan sedikit rasa aman. R salah satunya.

Foto-foto dari akun Instagram R diambil seorang pria, yang merupakan tunangan temannya. Si pria kemudian memanipulasi foto-foto itu sehingga R tampak telanjang.

“Instagram aku enggak private dan aku enggak follow pelaku. Kami sebenarnya enggak sedekat itu, cuma sebatas kenal,” kata R.

R bilang temannya sudah tahu soal foto-foto telanjang hasil manipulasi tersebut selama beberapa waktu, tapi baru memberi tahu R setelah tunangannya ketahuan selingkuh.

Setelah ditelusuri lebih lanjut, ternyata R bukan satu-satunya korban. Ada setidaknya dua perempuan lain yang fotonya juga direkayasa, dan R kenal salah satunya.

“Ada sahabat teman aku dan adik tingkatnya di kampus,” kata R.

Pelaku mengklaim tidak pernah menyebarkan gambar-gambar tersebut di dunia maya, tapi R tidak tahu bagaimana cara memastikannya.

R, yang memiliki latar belakang hukum, memilih tidak melapor ke polisi. Ia menilai kasusnya tidak cukup kuat untuk dibawa ke pengadilan. Kalaupun diproses, ia memperkirakan prosesnya akan panjang. Belum lagi, ia khawatir dengan penilaian dari keluarganya sendiri.

“Di kasus-kasus pelecehan seksual, korban cenderung disalahkan,” katanya.

Akhirnya, R meminta pelaku menandatangani pernyataan tertulis yang menegaskan bahwa foto-foto telanjang tersebut adalah hasil manipulasi, tidak pernah disebarkan di platform mana pun, dan akan dihapus. Tak lupa, R mencatat identitas pelaku di dokumen itu.

“Kami juga bilang ke pelaku kalau misalnya kita tahu ada orang lain [yang jadi korban], meskipun bukan kami, akan kami bawa ini ke ranah hukum,” kata R.

Setelah kejadian itu, R menghapus sejumlah foto dari akun Instagram-nya, memblokir pelaku, dan sempat mengunci akunnya.

Namun, sesekali R masih perlu membuka kembali akun tersebut. Pada saat-saat seperti itu, kecemasannya muncul lagi. Ia khawatir pelaku punya akun lain yang bisa digunakan untuk memantaunya.

Dampak Psikologis

Ilustrasi.
Ilustrasi. (Project M/Sekarjoget)

Korban KBGO, termasuk M, SV, dan R yang foto-fotonya dimanipulasi dengan AI menjadi gambar seksual, kerap harus menanggung beban psikologis berkepanjangan.

“Para korban biasanya terkejut, bingung, dan takut. Mereka bahkan bisa melukai diri sendiri. Mereka tidak tahu harus pergi ke mana dan itu membuat mereka semakin panik,” kata Chatarina Pancer Istiyani dari Komnas Perempuan.

Dampaknya bisa semakin luas ketika konten hasil rekayasa tersebut viral. Korban berisiko kehilangan pekerjaan, yang kemudian dapat memengaruhi stabilitas keuangan mereka, tambah Chatarina.

Wida Arioka dari SAFEnet menyampaikan hal senada. Menurutnya, korban sering menunjukkan tanda-tanda tertekan saat datang meminta bantuan.

“Yang paling pertama mereka sebutkan adalah mereka takut dan cemas. Makanya kami akan selalu tawarkan konseling. Kami bekerja sama dengan pihak ketiga jadi memang ada psikolog profesional,” ujar Wida.

Tak hanya korban dan lingkar terdekatnya, pengguna media sosial biasa pun bisa ikut terdampak. Ini dialami sendiri oleh Meey asal Papua.

Sepanjang 2025, Meey menemukan setidaknya tiga konten seksual hasil manipulasi AI, termasuk deepfake, di linimasa Facebook-nya. Salah satu korban adalah temannya sendiri. Para korban kemudian mengunggah klarifikasi bahwa foto-foto tersebut hasil rekayasa.

Konten semacam ini, yang menurut Meey tampak begitu nyata, kerap dibagikan oleh akun anonim atau akun bodong. Karena itu, sulit bagi korban atau saksi seperti dirinya untuk melacak pelaku.

“Semenjak ada Facebook Pro, konten yang dihasilkan AI mulai muncul. Saat saya buka Facebook, saya terus melihat konten-konten yang negatif,” katanya.

“Banyak yang membagikan konten-konten itu sambil komentar menghujat korban. Mereka tidak bisa berpikir [kalau foto tersebut bisa saja palsu].”

Lama-kelamaan, Meey merasa media sosial tak lagi aman dan menyenangkan. Ia lalu memutuskan untuk menutup akun secara permanen demi menjaga kesehatan mentalnya.

Tersendat di Jalur Hukum

Di atas kertas, korban KBGO memang dapat menempuh jalur hukum. Namun, dalam praktiknya, banyak kasus tersendat dan tak kunjung sampai ke pengadilan.

Hal ini diamini Diandra Paramita Anggraini, staf layanan hukum LBH APIK Jakarta yang mendampingi M.

“Biasanya memang lama. Bahkan belum tentu bisa naik ke pengadilan,” ujar Diandra.

“Rata-rata terhambat di proses penyelidikan tanpa sebab yang jelas.”

Setelah menerima laporan, polisi biasanya melakukan penyelidikan untuk menilai apakah ada dugaan tindak pidana. Jika ada, perkara dapat naik ke tahap penyidikan dan, saat bukti dinilai cukup, polisi dapat menetapkan tersangka. Setelah itu, barulah berkas perkara diserahkan ke kejaksaan sebelum akhirnya dibawa ke pengadilan.

Untuk kasus M, Diandra bilang polisi telah melakukan penyelidikan awal selama enam bulan. Hingga kini, belum ada tanda-tanda kasus itu akan masuk tahap penyidikan.

Polisi yang menangani kasus M tampak belum sepenuhnya memahami urgensi KBGO. Mereka justru terkesan menyepelekan pengalaman M.

“Mereka bertanya kenapa M semarah ini padahal cuma foto yang diedit,” kata Diandra.

Di tingkat kebijakan, pemerintah belum memiliki kerangka hukum komprehensif yang secara khusus mengatur AI.

Hingga April 2026, aturan yang ada masih terbatas pada surat edaran menteri tentang etika AI. Sementara itu, dua peraturan presiden soal etika dan peta jalan AI nasional masih disusun, tanpa jadwal jelas kapan akan diumumkan dan diterapkan.

Karena itu, dalam penanganan KBGO, penegak hukum biasanya mengandalkan UU Informasi dan Transaksi Elektronik (ITE), UU Pornografi, serta ketentuan dalam KUHP terkait kesusilaan untuk menjerat pelaku.

Jika korban adalah anak, aparat juga dapat menggunakan UU Perlindungan Anak, yang membuka kemungkinan ancaman pidana lebih berat.

“Secara prinsip, setiap konten seksual yang dibuat, dimodifikasi, atau disebarkan tanpa persetujuan terutama terkait anak, tetap dipandang sebagai pelanggaran hukum dan dapat diproses pidana,” kata Rizki Prakoso dari Direktorat Tindak Pidana Siber Badan Reserse Kriminal (Bareskrim) Polri.

Masalahnya, aturan-aturan itu pun jarang dipakai untuk memproses kasus karena pihak-pihak yang terlibat, termasuk penegak hukum, kerap mendorong penyelesaian secara informal.

Ini terjadi dalam kasus M. Polisi sempat menyarankan agar kasus diselesaikan melalui keadilan restoratif, alias jalan damai antara korban dan pelaku, dengan alasan pelaku masih anggota keluarga. M menolaknya.

Bagi Shevierra Danmadiyah dari LeIP, situasi ini mencerminkan persoalan yang lebih dalam.

“KBGO adalah bagian dari pelecehan seksual, tetapi tidak diperlakukan sebagai kejahatan. Ini masih dilihat sebagai masalah etika,” katanya.

Aturan Tegas di Atas Kertas

Berbagai platform media sosial biasanya baru menganggap sebuah konten melanggar jika tubuh seseorang ditampilkan tanpa busana. Imbasnya, gambar hasil manipulasi AI yang memperlihatkan korban mengenakan lingeri atau pakaian ketat kerap lolos moderasi.
Berbagai platform media sosial biasanya baru menganggap sebuah konten melanggar jika tubuh seseorang ditampilkan tanpa busana. Imbasnya, gambar hasil manipulasi AI yang memperlihatkan korban mengenakan lingeri atau pakaian ketat kerap lolos moderasi. (Unsplash/Julian)

Berbagai platform sebenarnya memiliki kebijakan yang melarang konten seksual non-konsensual. Namun, saat korban mencoba melaporkan konten semacam itu, tidak ada jaminan platform akan mengambil tindakan nyata.

TikTok, misalnya, punya panduan komunitas yang melarang konten yang menggambarkan aktivitas seksual serta konten intim yang disebar tanpa persetujuan, termasuk yang dihasilkan dengan AI.

Menurut TikTok, mereka mengandalkan kombinasi teknologi, moderasi manusia, dan laporan pengguna untuk menghapus konten yang melanggar aturan.

Saat menemukan video atau audio sintetis buatan AI yang melanggar kebijakan, TikTok mengatakan sistem deteksinya dapat “menangkap dan menindak” konten serupa yang kembali beredar daring.

TikTok bilang mereka “mempermudah” siapa pun untuk mengadukan konten atau akun yang diduga melanggar kebijakannya melalui fitur pelaporan di aplikasi dan formulir web.

Di Indonesia, pada Juli-September 2025, TikTok menghapus 11,9 juta video yang melanggar panduan komunitas, termasuk konten bertema sensitif dan dewasa serta konten “berbahaya” yang dihasilkan AI. Sebanyak 99,6% di antaranya, menurut TikTok, dihapus secara proaktif sebelum ada warganet yang melaporkan.

Kami juga sempat meminta tanggapan X melalui pesan langsung ke akun resminya: @support. Akun itu menjawab panjang lebar dalam waktu kurang dari satu menit, yang mengindikasikan respons tersebut dikirim otomatis oleh sistem.

Mirip dengan TikTok, X bilang mereka memadukan teknologi, tinjauan manusia, dan aduan pengguna untuk mendeteksi gambar-gambar intim atau deepfake non-konsensual yang dihasilkan AI.

Konten semacam itu disebut melanggar kebijakan platform. Karena itu, X mewajibkan penghapusan unggahan bermasalah. Akun terkait dapat ditangguhkan jika pelanggaran terjadi berulang kali.

“Pengguna dapat melaporkan konten seksual yang dihasilkan AI melalui fitur dalam aplikasi atau formulir,” tulis X.

“Peninjauan laporan diprioritaskan dan ditangani secepat mungkin, sering kali dalam hitungan jam untuk laporan berisiko tinggi, meski kasus yang kompleks dapat membutuhkan waktu lebih lama. Konten akan dihapus jika pelanggaran terkonfirmasi.”

Meta dan OpenAI juga memiliki pedoman yang melarang konten seksual tanpa persetujuan. Namun, keduanya tidak membalas permintaan tanggapan dari Project Multatuli. Begitu pula Amazon, Google, Microsoft, dan Telegram.

Meski aturan berbagai platform dan perusahaan teknologi itu terdengar tegas, pengalaman korban dan pendamping menunjukkan bahwa proses penghapusan konten sering kali tidak semudah yang dijanjikan.

Seperti dijelaskan Shinta Ressmy, peneliti SAFEnet, banyak platform biasanya baru menganggap sebuah konten melanggar jika tubuh seseorang ditampilkan telanjang. Imbasnya, gambar hasil manipulasi AI yang memperlihatkan korban mengenakan lingeri atau pakaian ketat kerap lolos moderasi.

“Korban-korban yang mengadu kepada kami terkadang berhijab. Maka ketika foto mereka diedit memakai baju ketat atau pakaian renang, itu mereka anggap sebagai konten intim. Dari perspektif korban itulah kontennya harus di-takedown,” kata Shinta.

SAFEnet telah mendorong sejumlah platform untuk mempertimbangkan konteks budaya lokal dalam moderasi konten, tapi Shinta bilang hingga kini belum ada perubahan signifikan.

Kasus Langka yang Menembus Pengadilan

Di tengah banyaknya kasus KBGO yang mandek, satu perkara di Semarang, Jawa Tengah, berhasil mendapat sorotan besar dari publik dan menembus pengadilan.

Chiko Radityatama Agung Putra, mahasiswa hukum Universitas Diponegoro sekaligus alumnus SMAN 11 Semarang, menjadi terdakwa setelah menggunakan AI untuk membuat konten seksual deepfake berupa foto dan video. Bahan-bahan yang digunakan berasal dari dokumentasi pribadi pelaku dan media sosial korban.

Jumlah korban diperkirakan mencapai 30 orang, mencakup siswi aktif, alumni, dan guru SMAN 11 Semarang, serta siswi dari sekolah lain.

Meski skala kasusnya cukup besar, jaksa hanya menuntut Chiko tujuh bulan penjara. Pada Maret 2026, Pengadilan Negeri Semarang kemudian menjatuhkan vonis satu tahun penjara dan denda Rp2 miliar, yang dapat diganti dengan 15 hari kurungan.

“Dengan nilai hukuman seperti itu, jika kita melihat putusan-putusan yang lain, hukuman penggantinya bisa enam bulan, sembilan bulan, atau bahkan satu tahun penjara. Kami kecewa,” kata Reza Alfiawan Pratama, salah satu pengacara korban.

Pengadilan, imbuhnya, mempertimbangkan kesepakatan damai yang dibuat antara pelaku dan korban.

“Klien kami juga mengatakan bahwa mereka membuat kesepakatan itu sudah dalam tekanan,” kata Reza.

Kedua orang tua Chiko adalah polisi yang bertugas di Semarang.

Pengacara korban lainnya, Bagas Wahyu Jati, mengatakan orang tua pelaku sempat mendatangi korban pada malam hari.

“Para korban aslinya tidak mau berdamai, tetapi mengingat background orang tua terdakwa mungkin ada rasa tertekan juga. Ini kalau aku enggak mau, aku bakal kenapa?” ujar Bagas.

Vonis yang dijatuhkan pun dinilai belum mencerminkan dampak yang dialami korban.

“Para korban mungkin terlihat biasa-biasa saja dan dapat beraktivitas, tapi trauma mereka akan terus terbawa. Apalagi pelaku hanya mendapat hukuman ringan dan dalam waktu dekat juga akan keluar dari penjara. Pasti bakal menambah ketakutan korban,” kata Bagas.

Sebelumnya, Chiko sempat diskors dua semester dari Universitas Diponegoro. Setelah resmi dinyatakan bersalah, ia otomatis dikeluarkan dari kampus.

Apa Kata Pemerintah?

Otoritas saat ini masih menyusun dua peraturan presiden soal etika dan peta jalan AI. Namun, keduanya tidak dirancang untuk mengatur sanksi, hanya akan menjadi panduan. Artinya, penindakan terhadap konten seksual berbasis AI masih akan bertumpu pada aturan-aturan yang sudah ada.

Ini dikonfirmasi oleh Fifi Aleyda Yahya, direktur jenderal komunikasi publik dan media Kementerian Komunikasi dan Digital.

“Pelanggaran terhadap manipulasi konten digital dan deepfake yang bersifat seksual dapat mengacu UU terkait seperti UU ITE dan UU TPKS,” kata Fifi.

Fifi bilang konten yang dihasilkan AI, meski tidak memenuhi definisi hukum pornografi, masih dapat dihapus jika merugikan publik atau menggunakan identitas seseorang tanpa persetujuan.

Ke depan, imbuhnya, pemerintah berencana memperkuat respons terhadap penyalahgunaan AI melalui kombinasi teknologi, pemantauan, dan partisipasi publik.

Rizki Prakoso dari Direktorat Tindak Pidana Siber Bareskrim Polri pun mengatakan kepolisian berkomitmen melakukan patroli siber secara proaktif tanpa menunggu laporan masyarakat untuk mendeteksi dan memantau penyebaran konten seksual non-konsensual.

Negara, polisi, dan platform sama-sama mengaku punya cara untuk menangani kekerasan seksual berbasis AI.

Namun, pengalaman korban menunjukkan hal berbeda. Konten bermasalah bisa menyebar dalam sekejap, sementara perlindungan bagi korban sering datang terlambat.


Artikel ini adalah bagian dari serial reportase soal dampak AI terhadap perempuan di Asia, yang dikerjakan Project Multatuli bersama Asian Dispatch. Laporan sebelumnya, yang terbit dalam bahasa Inggris, mengulas fenomena serupa di India.

0
emoji-1
Emoji
0
emoji-2
Emoji
0
emoji-3
Emoji
0
emoji-4
Emoji
0
emoji-5
Emoji
0
emoji-6
Emoji
0
emoji-7
Emoji
Berlangganan Newsletter Kami Sepenuhnya Gratis Jangan lewatkan kesempatan untuk tetap mendapatkan informasi terbaru dan mulai berlangganan email gratis Anda sekarang.

Comments are closed.

Login

To enjoy kabarwarga.com privileges, log in or create an account now, and it's completely free!

Install App

By installing our application, you can access our content faster and easier.

Ikuti Kami
KAI ile Haber Hakkında Sohbet
Sohbet sistemi şu anda aktif değil. Lütfen daha sonra tekrar deneyin.