Apakah tren media sosial yang satu ini sering lewat di linimasa-mu? Atau kamu juga pernah mencobanya?
Sekarang, teknologi membuatmu bisa ‘menonton’ pertandingan cabang olahraga kesukaanmu hanya bermodal teks saja. Kamu bahkan bisa memilih mau cabang olahraga apa. Basket, sepak bola, F1, baseball? Semua ada dan bisa. Syaratnya, kamu hanya diminta untuk memasukkan foto wajahmu dan juga teks perintah ke mesin Kecerdasan Artifisial (artificial intelligence / AI). Dalam sekejap, muncul video 1-2 detik dirimu menjadi ‘penonton’ yang duduk menikmati pertandingan olahraga itu.
Begitu trik ini muncul di media sosial, banyak yang langsung terjun untuk membuatnya. Mereka beramai-ramai mengunggah hasilnya di media sosial, dan akhirnya lebih banyak lagi yang mengikuti. Komentar-komentar yang muncul di unggahan tentang video tren ini terbagi jadi dua kubu. Di satu sisi ada yang meminta si kreator untuk berbagi teks perintah atau prompt yang digunakan, alat AI yang mana, serta tutorial lengkapnya. Di sisi lain ada juga yang merasa tren ini berbahaya dan hanya kesenangan sementara yang sebenarnya menyimpan polemik yang lebih dalam lagi terkait keamanan siber.
Ya, hidup dalam perkembangan teknologi AI seperti saat ini bagaikan hidup di dunia fantasi. Anggaplah kita punya jin yang dapat mengabulkan permohonan, misalnya ingin menonton pertandingan sepak bola jauh di Inggris tanpa harus benar-benar pergi ke sana. Permohonan itu diserahkan dalam bentuk kata-kata yang kita masukkan ke suatu mesin—’jin’ tersebut. Tapi, sebagaimana jin di cerita dongeng, AI tidak memberi secara cuma-cuma. Ada syarat-syarat yang harus kita penuhi dulu—dan bisa jadi, keamanan kita taruhannya.
Sadarkah kamu, apa saja yang kamu lakukan demi mendapatkan video 2-3 detik ‘menonton’ pertandingan baseball itu lewat mesin AI? Kamu memasukkan wajahmu, data pribadimu, dan hal-hal personal lainnya. Ini tentunya adalah upah yang diminta oleh mesin ‘jin’mu itu.
Baca juga: Di Balik Drama Buah-Buahan AI di TikTok: Hiburannya Absurd dan Misoginis
Sejak generative AI (GenAI) naik daun pada tahun 2022, tren serupa bermunculan. Kita pasti pernah melihat beberapa di antaranya. Seperti pada awal tahun 2025 lalu, tren yang cukup populer adalah mengubah foto kita menjadi seakan-akan olahan produk Studio Ghibli. Siapa yang tak kenal studio animasi asal Jepang yang memproduksi Spirited Away dan My Neighbor Totoro itu? Karya-karyanya sudah sangat khas dan akrab di mata kita semua.
Maka saat tren tersebut muncul, banyak yang langsung terjun untuk mengikutinya. Demi melihat bagaimana suatu gambar yang dekat dengan dirinya seperti keluarga, hewan peliharaan, dan lainnya, dihadirkan seperti animasi terkenal itu. Tapi tentu tren tersebut kemudian tak lepas dari kontroversi. Banyak yang menentang karena OpenAI, yang menjalankan GenAI, menggunakan karya-karya dari Studio Ghibli tanpa izin untuk melatih mesin mereka. Bahkan pada November 2025, Organisasi perdagangan Jepang, Content Overseas Distribution Association (CODA) mengirimkan surat terbuka kepada OpenAI. Dalam surat itu CODA menilai praktik yang dilakukan oleh Perusahaan OpenAI adalah pelanggaran hak cipta.
Kontroversi ini kemudian semakin memanas setelah muncul kekhawatiran bahwa GenAI tidak hanya belajar dari karya seni hasil manusia. Tetapi juga bisa meniru gaya visual, karakter, hingga identitas kreator tanpa persetujuan mereka. Hayao Miyazaki, lelaki di balik hadirnya Studio Ghibli memang memilih diam ketika badai kontroversi ini terjadi. Namun penggemar tak lupa bahwa Miyazaki juga pernah mengatakan bahwa animasi hasil AI adalah “penghinaan terhadap kehidupan itu sendiri”.
Sudah cukup lama semenjak CODA memberikan surat terbuka ini kepada OpenAI. Karena penasaran apakah fitur ini masih berfungsi atau tidak, aku mencoba memasukkan satu foto acak dari galeriku dan mencoba tren ini. Ironisnya, fitur ini masih bisa digunakan meskipun kontroversi mengenai hak cipta dan protes dari CODA terhadap OpenAI sudah ramai dibicarakan.
Baca juga: #KBGOut: Deepfake Serang Jurnalis Perempuan, Pembuat Konten Gunakan Perempuan sebagai Tools
Tak berhenti di situ tren generative AI muncul lagi di awal tahun ini. “Caricature of Me and My Job” hadir menjadi tren baru di media sosial. Dengan hanya memasukkan prompt “Create caricature of me and my job based on everything you know about me”, tak perlu menunggu lama, karikatu sesuai ‘profesi’ yang AI ‘ketahui’ tentangmu pun jadi. Pada tren ini, gambar yang dihasilkan benar-benar mengandalkan sejarah percakapanmu dengan mesin AI ini. Semakin sering kamu berbincang tentang profesimu, hobimu, dan ketertarikan pribadimu yang lain, maka semakin detail gambar yang dihasilkan. AI akan menyelipkan hal-hal itu ke karikaturmu.
Namun, di balik hasilnya yang terasa lucu dan “nyambung” dengan diri kita, ada hal yang mulai membuat banyak orang bertanya-tanya. Kok, AI bisa tahu kita banget? Kok, hasilnya bisa terasa personal? Ternyata, untuk membuat gambar seperti itu, AI perlu memproses banyak informasi tentang penggunanya terlebih dahulu. Mulai dari wajah, gaya berpakaian, unggahan media sosial, sampai kebiasaan atau pekerjaan kita bisa ikut terbaca oleh sistem.
Tanpa sadar, tren-tren seperti ini membuat kita jadi semakin terbiasa memberikan data pribadi ke platform AI. Hanya demi ikut seru-seruan di media sosial, banyak orang rela mengunggah foto wajah, memberi informasi tentang dirinya. Bahkan meminta AI menganalisis kehidupan mereka sendiri.
Di balik jawaban cepat dan gambar-gambar untuk tren media sosial yang dihasilkan GenAI, ada sesuatu yang selalu terlewatkan dari benak kita. Dari mana sebenarnya AI mempelajari semua itu? Setiap kali kita mengetik prompt di ChatGPT, melihat gambar hasil AI, atau mendengar lagu buatan mesin, sistem tersebut bekerja berdasarkan miliaran data yang dikumpulkan dari internet. Masalahnya, sebagian data itu mungkin berasal dari kita sendiri, tanpa pernah kita sadari.
Baca juga: Waspada KBGO, Ada Grup Obrolan Bikin Deepfake Porn via Formulir Daring
Paper berjudul Privacy and Copyright Protection in Generative AI: A Lifecycle Perspective menjelaskan bahwa perkembangan generative AI membawa persoalan besar terkait privasi dan hak cipta. Para penulis menyebut bahwa dataset pelatihan AI sering kali “encompass personal and copyrighted content”, atau mencakup data pribadi serta karya berhak cipta. Artinya, unggahan media sosial, tulisan, foto, hingga karya kreatif pengguna internet dapat menjadi bahan latihan AI tanpa persetujuan yang jelas dari pemiliknya. Situasi ini semakin mengkhawatirkan karena model AI tidak sekadar “membaca” data, tetapi juga dapat mengingatnya. Dalam paper tersebut dijelaskan bahwa Generative AI memiliki risiko memunculkan kembali informasi yang pernah dipelajarinya dari internet, termasuk data pribadi maupun karya tertentu.
Di saat yang sama, banyak orang bahkan tidak tahu bahwa data mereka sedang digunakan. Paper ini menyoroti bagaimana minimnya transparansi menjadi salah satu masalah utama dalam perkembangan AI saat ini. Penulis menyebut bahwa “the lack of transparency in GenAI training data usage poses significant challenges for data subjects and authors”. Pengguna sering kali tidak diberi tahu data apa yang dikumpulkan, bagaimana data itu dipakai, atau apakah karya mereka masuk ke dalam sistem pelatihan AI.
Yang membuat situasinya semakin pelik, data yang sudah masuk ke dalam model AI tidak mudah dihapus begitu saja. Sekali data terserap ke dalam sistem AI, proses menghapusnya bisa sangat rumit, bahkan terkadang membutuhkan pelatihan ulang model secara besar-besaran. Hak pengguna untuk “melupakan” data mereka menjadi jauh lebih sulit diterapkan di era AI.
Alia Yofira Karunian, Peneliti PurpleCode Collective memberikan pandangannya tentang tren Baseball AI ini. “Secara sekilas, tren baseball AI ini mungkin terlihat ‘harmless’. namun jika kita perhatikan secara lebih seksama, banyak sekali risiko-risko yang membayangi kita ketika kita berpartisipasi dalam tren ini,” ungkapnya pada Konde.co, 21 Mei 2026.
Baca juga: Bagaimana QTCinderella Perang Lawan Pornografi Teknologi AI Deepfake
Menurut Alia, persoalan terbesar dari tren AI berbasis foto pribadi bukan hanya soal hasil gambar yang lucu atau menarik untuk diunggah ke media sosial. Yang jauh lebih penting adalah apa yang terjadi di balik layar setelah seseorang menyerahkan foto wajahnya ke sistem AI. Ia menjelaskan bahwa pengguna sering merasa aman karena “hanya upload foto saja”, padahal wajah merupakan data biometrik yang sangat sensitif.
“Betul, wajah kita termasuk biometrik atau data pribadi sensitif berdasarkan UU PDP. Hal ini penting karena wajah kita biasanya menjadi pintu gerbang identitas kita di era digital ini,” jelasnya. Menurutnya, penggunaan teknologi facial recognition yang semakin luas di sektor pemerintah maupun privat membuat pencurian identitas menjadi ancaman yang nyata.
Alia menilai cara pikir “cuma upload foto” sebenarnya bukan sepenuhnya kesalahan pengguna. “Cara pikir ini yang secara sistemik dipromosikan oleh perusahaan teknologi raksasa di balik sistem AI saat ini. Mereka berupaya keras untuk mengaburkan lapisan-lapisan eksploitasi data, buruh, dan lingkungan dari bagaimana mereka mengembangan sistem AI. Oleh karenanya penting untuk kita membangun awareness terkait ini. ketika sudah dalam pijakan yang sama, baru kita bisa menuntut akuntabilitas perusahaan teknologi dan juga pemerintah,” jelas Alia.
Karena itu, menurutnya, masyarakat perlu mulai membangun kesadaran kritis terhadap bagaimana AI bekerja dan bagaimana data mereka digunakan. Sebab ketika foto sudah masuk ke sistem AI, pengguna tidak pernah benar-benar tahu sampai kapan data tersebut akan tersimpan. “Ketika seseorang mengunggah foto pribadinya ke sistem AI, sukar untuk menerka berapa lama data tersebut ‘hidup’ dalam sistem AI. hal ini dikarenakan kompleksnya data processing dalam sistem AI, khususnya bagi model2 jenis Machine Learning. Hal ini telah menjadi kontestasi para ahli privasi yang berargumen bahwa dalam sistem AI, susah bagi pengguna untuk merequest penghapusan data pribadinya,” tambahnya.
Baca juga: Stop Misogini Teknologi: Rantai Panjang Serangan Siber dan Disinformasi Berbasis Gender
Di sisi lain, perkembangan generative AI juga membuat manipulasi wajah semakin mudah dilakukan oleh siapa saja. Alia menjelaskan salah satu teknologi manipulasi yang juga banyak dikenal orang yaitu deepfake, bahwa teknologi ini kini berkembang jauh lebih realistis dibanding sebelumnya. Ia mengutip definisi dari Chesney dan Citron (2018) yang menyebut deepfake sebagai “berbagai bentuk pemalsuan digital yang sangat realistis terhadap gambar, video, dan audio.” “Kecerdasan Buatan (AI) berfungsi sebagai teknologi dasar yang mendasari pembuatan deepfake. Dua metode utama AI yang sering digunakan dalam deepfake adalah Generative Adversarial Networks (GANs) dan Autoencoders (varian dari deep learning). Secara historis, istilah deepfake pertama kali mendapat perhatian publik pada tahun 2017 ketika seorang pengguna Reddit dengan nama pengguna ‘deepfakes’ mengunggah video pornografi deepfake tanpa persetujuan yang menampilkan aktris terkenal. Laporan dari Deeptrace Labs pada tahun 2019 menemukan bahwa konten intim non-konsensual yang dibuat dengan deepfake menyumbang sebagian besar (96%) dari semua video deepfake yang beredar di internet,” jelasnya.
Saat ditanyai tentang seberapa mudah saat ini orang awam menggunakan AI untuk membuat deepfake, Alia menjawab dengan tegas “sangat mudah”. “Penelitian terbaru Oxford Internet Institute (OII) di Universitas Oxford mengungkap peningkatan drastis dalam alat AI yang mudah diakses dan dirancang khusus untuk membuat gambar deepfake dari orang-orang yang dapat dikenali, menemukan hampir 35.000 alat AI yang tersedia untuk diunduh publik di salah satu platform online populer yang dapat diakses secara global,” tambahnya.
Menurut Alia, perempuan menjadi kelompok yang paling rentan terhadap penyalahgunaan teknologi ini. Ia melihat ada hubungan kuat antara perkembangan AI dengan budaya objektifikasi yang selama ini sudah ada di internet. “Dalam sejarahnya, teknologi sering kali disalahgunakan untuk mengkomodifikasi dan mengobjektifikasi komunitas yang terpinggirkan,” katanya. Ia kemudian mengaitkan hal tersebut dengan konsep “matrix of domination” dari Patricia Hill Collins, bahwa kelompok yang memiliki posisi paling rentan dalam struktur sosial akan menanggung beban terbesar dari perkembangan teknologi.
Baca juga: Stop Misogini Teknologi: Ketika AI Jadi Alat Manipulasi Tubuh Perempuan
Kembali pada tren Baseball AI, yang juga tak terlepas dari pelecehan terhadap perempuan.
Banyak video yang beredar menggunakan wajah selebritas perempuan yang fotonya sudah tersebar luas di internet. Dengan mudahnya, pencipta video mengambil foto-foto tersebut lalu memasukkannya ke mesin AI beserta prompt tertentu untuk menghasilkan video baru tanpa persetujuan pemilik wajahnya. Bahkan, gambar penonton baseball yang diproduksi oleh AI bisa menempelkan wajah tersebut pada tubuh dengan nuansa pornografi hingga menampilkan kekerasan seksual.
Dampaknya tidak hanya berhenti di ruang digital. Alia mengatakan korban manipulasi AI sering mengalami tekanan psikologis, pengucilan sosial, hingga kehilangan pekerjaan.
“Dampak psikologis, sosial, ekonomi. Ada yang dikeluarkan dari sekolah, dihujat masyarakat, kehilangan pekerjaan, sampai mengalami pemerasan,” ujarnya.
Ia mencontohkan bagaimana persoalan penyalahgunaan data sering kali muncul dari teknologi yang awalnya dianggap biasa saja. Salah satunya adalah kasus kacamata Ray-Ban Meta. Investigasi media Swedia menemukan bahwa rekaman video dari pengguna ternyata dikirim ke subkontraktor Meta di Kenya untuk anotasi data AI. Bahkan beberapa rekaman disebut memuat aktivitas intim pengguna. “Kasus Ray-Ban Meta bisa jadi contoh penting bagaimana perusahaan teknologi menggunakan data penggunanya dengan cara-cara yang tidak diketahui pengguna,” jelas Alia.
Meski begitu, ia menegaskan bahwa bukan berarti AI harus sepenuhnya ditolak. Menurut PurpleCode Collective, AI tetap bisa dikembangkan secara aman dan etis jika dibangun dengan perspektif yang berpihak pada manusia. “PurpleCode Collective saat ini sedang membangun percakapan terkait pendekatan feminis terhadap sistem AI. Teknologi, termasuk AI, tidaklah netral; ia mencerminkan bias-bias para pengembangnya. berangkat dari hal ini, kami percaya jika AI dikembangan dengan berlandaskan dengan prinsip-prinsip feminisme, kita dapat mengembangkan sistem AI yang tidak eksploitatif dan menghargai segala bentuk kehidupan termasuk keberlanjutan lingkungan hidup. Aspek-aspek seperti etis, keamanan, dan privasi juga bisa kita sematkan dalam pengembangan AI. Dan yang terpenting, kita juga membuka peluang bagi masa depan dimana AI mungkin dipilih untuk tidak digunakan,” pungkas Alia.
Baca juga: Stop Misogini Teknologi: Disinformasi di Medsos Digunakan untuk Jerat Korban TPPO
Indonesia sendiri adalah negara yang sangat terbuka dengan AI. Penggunaannya terus meningkat dari tahun ke tahun, terutama di kalangan anak muda. Survei APJII 2025 menunjukkan bahwa lebih dari seperempat responden sudah menggunakan teknologi AI, dengan Generasi Z menjadi kelompok pengguna terbesar dibanding generasi lainnya. AI paling banyak dimanfaatkan untuk kebutuhan belajar dan pendidikan, disusul hiburan, pembuatan konten, hingga membantu pekerjaan sehari-hari seperti penulisan otomatis dan analisis data.
Lantas, bagaimana pemerintah Indonesia menyikapi tren penggunaan AI, terutama GenAI yang rawan menjadi alat kekerasan berbasis gender di ruang siber?
Pemerintah Indonesia justru aktif mendorong penggunaan AI di berbagai sektor sebagai bagian dari transformasi digital nasional. Wakil Menteri Komunikasi dan Digital, Nezar Patria, misalnya, beberapa kali menyampaikan bahwa pemerintah tengah mempercepat pengembangan ekosistem AI nasional melalui penyusunan peta jalan AI dan tata kelola lintas sektor. Sedangkan Wakil Presiden Indonesia, Gibran Rakabuming juga mengajak masyarakat untuk menggunakan AI dalam sambutannya di Binus University pada Mei 2025 lalu. Ia mengatakan bahwa manusia yang tidak menggunakan AI akan kalah dengan yang menggunakan AI.
Namun, di tengah dorongan besar terhadap penggunaan AI, regulasi di Indonesia dinilai masih tertinggal dibanding kecepatan perkembangan teknologinya. Saat ini, aturan yang paling sering dijadikan acuan masih berupa Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Masalahnya, surat edaran tersebut tidak bersifat mengikat secara hukum dan tidak memiliki sanksi tegas bagi penyalahgunaan AI. Hal ini juga disetujui oleh Alia. “[Regulasi Belum cukup. Regulasi saat ini masih berupa surat edaran Komdigi yang tidak mengikat dan tidak ada sanksi bagi penyalahgunaan,” katanya.
Baca juga: Yang Fana Itu Pasangan AI, Kerusakannya Abadi: Feminisme Memandang Perempuan Menikah dengan AI
Di sisi lain, tingkat literasi AI masyarakat Indonesia masih tergolong rendah. Indeks literasi AI nasional bahkan masih masuk kategori kurang baik. Kondisi ini menunjukkan bahwa penggunaan AI berkembang jauh lebih cepat dibanding pemahaman masyarakat terhadap risiko, cara kerja, maupun dampaknya terhadap privasi dan keamanan data pribadi.
Situasi ini membuat masyarakat berada di posisi yang rentan. Di saat pemerintah mendorong masyarakat untuk semakin akrab dengan AI, perlindungan terhadap data pribadi, manipulasi wajah, deepfake, hingga penyalahgunaan identitas digital belum sepenuhnya siap mengimbangi perkembangan teknologi tersebut.
Di tengah dorongan penggunaan AI yang semakin kencang, pemerintah juga seharusnya sekaligus memastikan etika teknis terkait AI berada dalam pemantauan dan regulasi ketat. Apa lagi ketika menyangkut nasib perempuan dan kelompok rentan. AI bukan mesin pasif; ia “belajar” dari pola, dan ketika pola yang digunakan selalu patriarkal dan seksis, apa lagi politis, AI malah jadi membahayakan. Jika memang AI masih bisa diterima, pastikan bahwa ia tidak dijadikan alat kekerasan jenis baru terhadap perempuan dan kelompok marginal.
(Editor: Salsabila Putri Pertiwi)
Referensi
Zhang, D., Xia, B., Liu, Y., Xu, X., Hoang, T., Xing, Z., Staples, M., Lu, Q., & Zhu, L. (2023). Privacy and Copyright Protection in Generative AI: A Lifecycle Perspective. 2024 IEEE/ACM 3rd International Conference on AI Engineering – Software Engineering for AI (CAIN), 92-97. https://doi.org/10.1145/3644815.3644952.
Comments are closed.