Bincangperempuan.com– Belakangan ini, pola penggunaan Grok di platform X semakin mudah ditemui. Seorang pengguna mengunggah foto—bisa foto dirinya sendiri, orang lain, atau figur publik. Di kolom balasan, pengguna lain kemudian menandai akun Grok dan meminta AI tersebut untuk mengedit atau memodifikasi gambar yang diunggah. Grok lalu merespons dengan versi visual baru hasil improvisasinya.
Namun, masalah muncul ketika fitur tersebut diarahkan secara sengaja oleh pengguna ke konteks yang tidak pantas. Beberapa foto diedit menjadi bernuansa seksual, misalnya dengan mengubah pakaian menjadi bikini atau busana minim lainnya, tanpa persetujuan dari orang yang ada di dalam foto. Praktik ini tidak hanya menyasar figur publik, tetapi juga pengguna biasa, bahkan anak di bawah umur.
Dalam berbagai unggahan, foto-foto tersebut awalnya diunggah tanpa maksud apa pun selain berbagi momen. Tetapi dengan menandai Grok di kolom balasan, pengguna lain dapat dengan mudah meminta AI untuk memodifikasi gambar tersebut. Proses yang cepat dan terbuka ini membuat batas antara kreativitas dan pelanggaran menjadi kabur,
Dari Fitur Iseng ke Alat Pelecehan
Banyak yang mempertanyakan, bagaimana sebuah fitur yang diklaim sebagai alat kreatif justru berubah menjadi sarana pelecehan. Akses semakin mudah tetapi tidak ada kontrol. Tanpa perlu aplikasi tambahan atau keahlian teknis, siapa pun dapat ikut serta. Cukup dengan mengunggah foto dan menandai Grok, konten visual yang bermasalah dapat diproduksi dalam hitungan detik.
Karena prosesnya terjadi secara terbuka di linimasa X, hasil improvisasi Grok langsung dapat dilihat, dibagikan, dan dikomentari oleh banyak akun. Ini artinya, pelecehan tidak lagi berlangsung secara privat, melainkan dipertontonkan dan direproduksi bersama-sama. Apa yang awalnya dianggap “iseng” dengan cepat berubah menjadi tindakan yang merendahkan, terutama ketika tubuh seseorang dimodifikasi tanpa izin.
Yang membuat situasi ini semakin meresahkan adalah sifat X sebagai ruang publik digital yang memungkinkan penyalahgunaan berlangsung secara anonim. Ketika sebuah foto diedit tanpa persetujuan, subjek di dalam foto kerap tidak mengetahui siapa pelakunya, siapa yang pertama kali memicu pengeditan, atau bagaimana gambar tersebut terus diproduksi ulang. Identitas pelaku kabur, sementara dampak sepenuhnya ditanggung oleh korban.
Situasi ini kemudian melahirkan respons yang tak kalah bermasalah. Di tengah maraknya penyalahgunaan Grok, mulai muncul cuitan berisi himbauan agar perempuan lebih berhati-hati, bahkan disarankan untuk tidak mengunggah foto di X. Alasan yang kerap digunakan adalah demi “keamanan” dan untuk menghindari risiko disalahgunakan oleh AI.
Namun, imbauan semacam ini justru memindahkan beban tanggung jawab ke pihak yang salah. Alih-alih menyoroti perilaku pengguna yang memanfaatkan Grok secara tidak senonoh, perempuan diminta untuk membatasi kehadirannya di ruang publik digital. Pola ini bukan hal baru. Dalam berbagai kasus kekerasan berbasis gender, korban kerap diminta menyesuaikan diri, sementara pelaku dan sistem yang memfasilitasi tindakan tersebut luput dari sorotan.
Menyarankan perempuan untuk tidak mengunggah foto sama artinya dengan membenarkan praktik pelecehan sebagai risiko yang “wajar” di internet. Padahal, masalah utamanya terletak pada penyalahgunaan teknologi dan absennya perlindungan dari platform. Jika logika ini terus dipakai, maka ruang publik digital akan semakin menyempit bagi perempuan, sementara perilaku bermasalah dibiarkan terus berulang.
Grok dan platform X seharusnya mengambil peran aktif dalam mencegah penyalahgunaan, bukan membiarkan narasi pengamanan diri menjadi solusi utama. Ketika perempuan dipaksa memilih antara visibilitas dan keselamatan, yang sesungguhnya gagal adalah sistemnya—bukan penggunanya.
Baca juga: Menikah dengan AI: Kita yang Terlalu Aneh, atau Dunia yang Sudah Terlalu Sepi?
Dari AI ke Objektifikasi Tubuh Perempuan
Berbagai studi menunjukkan bahwa AI cenderung mengulang standar kecantikan yang sudah lama mendominasi media. Gambar hasil AI lebih sering menampilkan tubuh kurus, kulit cerah, dan fitur wajah yang mengikuti standar Barat. Tubuh gemuk jarang muncul, atau jika muncul, sering digambarkan secara negatif.
Pola ini terlihat jelas dalam penyalahgunaan fitur AI seperti Grok. Dalam banyak hasil edit, tubuh perempuan diubah agar tampak lebih terbuka dan lebih seksual. Perempuan diperlakukan sebagai objek visual, bukan sebagai individu yang memiliki kendali atas tubuh dan citranya sendiri.
Alih-alih netral, AI justru mengikuti selera visual yang sudah bias. Ketika permintaan pengguna mengarah ke bentuk tubuh tertentu, AI menyesuaikan diri dan menghasilkan gambaran tubuh yang tidak realistis. Tubuh perempuan dipersempit pada satu standar, dilepaskan dari konteks personal, dan dijadikan tontonan semata.
Baca juga: Kenapa Hasil Generated AI Sering Pakai Figur Perempuan?
Ketika Ruang Publik Digital Gagal Melindungi Pengguna
Jika praktik semacam ini terus dibiarkan, ruang publik digital kehilangan fungsinya sebagai ruang aman. Platform tidak lagi sekadar gagal melindungi, tetapi turut memfasilitasi penyebaran konten bermasalah melalui fitur dan sistem yang mereka kembangkan sendiri. Dalam kondisi ini, tanggung jawab tidak bisa terus dialihkan kepada pengguna, apalagi kepada korban.
Teknologi seperti Grok harus ditempatkan dalam kerangka etika dan perlindungan yang jelas. Platform wajib membatasi fungsi yang rentan disalahgunakan, memperketat moderasi, serta memastikan adanya mekanisme pengaduan yang berpihak pada korban. Tanpa langkah tegas, kekerasan yang dilanggengkan lewat teknologi akan terus berulang.
Referensi:
- Vargas-Veleda, Y., del Mar Rodríguez-González, M., & Marauri-Castillo, I. (2025). Visual Representations in AI: A Study on the Most Discriminatory Algorithmic Biases in Image Generation. Journalism and Media, 6(3), 110. https://doi.org/10.3390/journalmedia6030110
- Rosenbaum, J. I need husband: AI beauty standards, fascism and the proliferation of bot driven content. AI & Soc (2025). https://doi.org/10.1007/s00146-025-02491-8
Comments are closed.