#KBGOut: Deepfake Serang Jurnalis Perempuan, Pembuat Konten Gunakan Perempuan sebagai Tools

Hari itu Rosiana Silalahi, Pemimpin Redaksi Kompas TV,  sedang berada di kantornya ketika sebuah pesan pendek masuk ke ponselnya. 

Seorang teman bertanya, apakah video yang beredar di media sosial benar dirinya? Ia cukup kaget dan buru-buru mengecek HP nya.

Disana ia mendapati sebuah video yang menampilkan dirinya sedang bersama dokter Terawan. Di video itu mereka berbincang tentang metode penyembuhan hipertensi.

Rosi langsung lemas. Pasalnya wawancara itu memang benar-benar terjadi, peristiwanya memang benar ada. Ia ingat betul ketika datang ke rumah dokter Terawan di daerah Jakarta Pusat untuk wawancara. Tetapi di video yang dikirim temannya tersebut, suaranya diubah. Kalimat yang ia ucapkan berbeda dengan perbincangan yang berlangsung dengan Dokter Terawan saat itu.

Sejenak raut mukanya jadi tegang ketika mengecek komentar-komentar yang ada di video tersebut. Apalagi pesan yang isinya sama dikirimkan juga oleh beberapa orang, termasuk oleh koleganya seorang doktor di bidang ekonomi.

“Ini benar atau hoaks, Rosi?,” begitu pertanyaan yang masuk ke ponselnya.

Beberapa waktu terakhir memang muncul video-video di media sosial yang menampilkan jurnalis perempuan mewawancarai pakar atau figur publik. Video tersebut membahas soal penyakit yang banyak dikeluhkan masyarakat atau sebuah situs yang bisa mendatangkan uang.

Baca Juga: Bagaimana QTCinderella Perang Lawan Pornografi Teknologi AI Deepfake

Salah satunya video yang menampilkan Rosi sedang mewawancarai dokter Terawan yang membahas metode penyembuhan penyakit hipertensi. Pengecekan dari tim cek fakta sejumlah media menunjukkan video yang beredar di media sosial tersebut merupakan hoaks atau informasi bohong.

“Jadi seperti mata koin gitu antara marah karena orang kok bisa banget ya jualan dengan penipuan. Tapi juga jadi sedih karena saya baca di kolom komentar itu ada yang udah terlanjur beli buat bapaknya yang sakit,” cerita Rosi kepada Konde.co, Rabu (18/9/24).

Rosi tak menyalahkan masyarakat yang terkecoh dengan video yang sudah dimanipulasi suaranya tersebut. Apalagi sosok yang berbicara adalah orang yang punya otoritas di bidangnya, yakni seorang dokter.

“Saya nggak bisa langsung menghakimi mereka, ‘Kok lo percaya aja’. Karena kalau saya lihat di sini (ada) pak Terawan dan beliau terkenal sebagai dokter yang memang punya cara sendiri untuk penyembuhan pasien. Jadi ya lebih ke arah kasihan kepada mereka yang punya keluarga sakit dan jadi termakan kebohongan ini,” papar Rosi.

Dari video-video yang dimanipulasi dengan memakai teknologi kecerdasan buatan generatif berbasis audio tersebut ada kemiripan yang bisa diidentifikasi. Salah satunya pembuat konten memakai video talkshow yang dipandu jurnalis perempuan atau program berita dengan presenter perempuan. Artinya pembuat konten memakai produk jurnalistik untuk menyebarkan informasi bohong.

Tak hanya sekali Rosi mengalami itu. Salah satu video terbaru yang mengandung disinformasi juga memakai video Rosiana. Video itu beredar di media sosial awal Agustus 2024 lalu. Sebuah akun Facebook mengunggah video yang lantas menjadi perbincangan warganet. Video tersebut merupakan potongan dari talkshow program ROSI yang tayang di KompasTV dengan Rosianna Silalahi sebagai pembawa acara.

Selain Rosi, video tersebut juga menampilkan seorang dokter jantung, Isman Firdaus. Video itu membahas tentang minuman rumahan dari jahe yang berkhasiat menormalkan tekanan darah. Dalam video itu Rosi dan Isman terlihat riil dan berbicara dengan suara yang terdengar mirip suara mereka.

Baca Juga: Waspada KBGO, Ada Grup Obrolan Bikin Deepfake Porn via Formulir Daring

“Kabar baik, masalah tekanan darah tinggi di Indonesia telah berakhir selamanya. Dokter kardiolog Isman Firdaus mengungkap rahasia paling kotor dari perusahaan farmasi yang mereka sembunyikan dari semua orang selama 77 tahun,” kata Rosi membuka perbincangan dengan nada datar.

Kalau kita benar-benar menyimak video tersebut, ada beberapa detik suara Rosi terdengar selip dan ada pengulangan kata di bagian angka yang tidak natural. Jadi terdengar seperti suara bot atau kecerdasan buatan (AI).

“Dokter Isman Firdaus menemukan kebenaran dan mengetahui tentang minuman yang sangat sederhana yang menormalkan tekanan darah menjadi 120/80 hanya dalam 27 jam penggunaan. Sekarang dokter Isman sendiri akan memberitahu kita tentang minuman rumah yang sederhana ini,” lanjut suara Rosi.

Isman kemudian menanggapi perkataan Rosi. Ia bicara dengan latar belakang video yang berbeda dengan latar belakang video Rosi.

“Nama saya dokter Isman Firdaus, saya telah mempelajari hipertensi dan tekanan darah tinggi selama 25 tahun dan menjadi salah satu kardiolog terkemuka di Indonesia,” katanya.

Isman mengungkapkan dirinya sudah melakukan ratusan eksperimen ilmiah dan berkesimpulan tidak ada obat yang bisa menstabilkan tekanan darah seseorang. Ia mengucapkannya dengan nada datar, nyaris sama antara satu kalimat dengan kalimat lain.

Ia menawarkan solusi berupa minuman dari akar jahe yang diklaim mampu menurunkan tekanan darah ribuan pasiennya. Isman juga mengaku minuman tersebut sudah disertifikasi dan melalui uji ilmiah klinis. Ia menyarankan penonton untuk melihat video tutorial cara membuat dan menggunakan minuman tersebut, tapi video itu akan dihapus dalam 15 menit demi keamanan dirinya.

Sejak diunggah akun Facebook pada 4 Agustus 2024, video Rosiana sudah dilihat 3 juta kali dan disukai 19 ribu orang. Video ini juga dibagikan oleh 1.800 pengguna Facebook dan dikomentari oleh 975 warganet.

Baca Juga: AI Bisa Memprediksi Langgengnya Hubungan Lewat Cara Bicara

Sebagian besar komentar warganet merupakan ucapan terima kasih kepada sang dokter. Komentar semacam ini biasanya mendapat banyak reaksi emotikon positif dari warganet. Ada juga sebagian komentar warganet yang menyayangkan karena si dokter pada akhirnya jualan obat.

Hanya sebagian kecil dari komentar warganet yang menunjukkan mereka tahu bahwa video itu hasil olahan Artificial Intelligence/ AI. Beberapa dari mereka yang tahu juga mengingatkan warganet lain agar tidak terkecoh hoaks.

Tak hanya Rosiana, presenter Narasi TV, Najwa Shihab juga pernah mengalami. Seperti video yang diunggah sebuah akun Instagram pada 15 Januari 2024, video tersebut menampilkan wawancara antara jurnalis Najwa Shihab dengan dua orang selebritas yakni Raffi Ahmad dan Atta Halilintar. Wawancara itu membahas situs Kobe138, sebuah situs judi online yang menawarkan permainan slot dengan pemain bisa memasang taruhan secara online.

Di video tersebut Raffi dan Atta mengatakan setiap pemain akan mendapat keuntungan. Ini lantaran mereka berdua sudah mengucurkan sejumlah dana untuk berinvestasi di situs tersebut.

Kasus-kasus di atas menunjukkan video-video deepfake yang diunggah di media sosial dipakai untuk kepentingan marketing. Entah itu menawarkan dan menjual produk kesehatan atau mengajak orang ikut judi online, dll.

Penelusuran Cek Fakta

Data-data coverage media sosial dari konten tersebut menunjukkan video berdurasi hampir tiga menit Rosiana sudah menyebar luas dalam waktu singkat. 

Data ini baru dari satu akun di satu media sosial. Ada kemungkinan akun-akun lain juga menyebarkannya di platform media sosial yang lain. Pasalnya pengguna media sosial punya kecenderungan membagikan konten lintas platform terutama pada konten-konten yang viral.

Video ini adalah satu dari sejumlah video sejenis yang dibuat dengan memakai teknologi deepfake. 

Pemeriksaan fakta yang dilakukan Tempo menunjukkan video tersebut berasal dari dua video yang dibuat untuk dua acara berbeda. Waktu pembuatan video tersebut juga tidak sama.

Video bagian Rosi diambil dari talkshow program ROSI. Di video aslinya, Rosi menghadirkan narasumber dua pebulutangkis tunggal putra Indonesia, yakni Jonatan Christie dan Anthony Sinisuka Ginting, yang menjadi finalis turnamen All England Championships 2024 di Birmingham, Inggris. Video tersebut tayang di kanal YouTube KompasTV pada 21 Maret 2024.

Potongan video Rosi tersebut kemudian digabung dengan video Tausiyah Ramadhan yang menghadirkan Isman sebagai narasumber. Isman menjadi pembicara pada episode 10 yang membahas tentang “Tips Jaga Kesehatan Jantung ‘035 140 530’ selama puasa dan lebaran. Video tersebut ditayangkan di kanal YouTube Forum Studi Islam Fakultas Kedokteran Universitas Indonesia pada 12 Mei 2021.

Baca Juga: Maraknya KBGO dari AI: Pentingnya Semangat 16 HAKTP Terus Digerakkan

Baik Rosi maupun Isman tidak bicara soal minuman akar jahe untuk menurunkan tekanan darah. Mereka bicara tentang dua topik yang berbeda. Namun suara Rosi dan Isman diubah dari video aslinya dengan memakai teknologi kecerdasan buatan (AI). Temuan tim cek fakta Tempo menyebutkan analisis Deepware menunjukkan pemakaian Voice Generator AI antara 97-99 persen.

Dalam video itu presenter tvOne, Agita Mahlika membahas obat diabetes bikinan seorang dokter Indonesia yang bisa menyembuhkan diabetes dalam tiga hari. Selanjutnya mantan Menteri Kesehatan, Terawan Agus Putranto mempromosikan obat tersebut dan mengklaim 20 ribu orang sudah mencobanya dan sembuh dari diabetes. Video tersebut juga berisi testimoni dari sejumlah orang yang mengaku pernah menderita diabetes tetapi sekarang kadar gula darahnya sudah turun.

Pembuat konten membuat video deepfake dengan menggabungkan sejumlah video dengan konteks yang berbeda-beda. Pada video ini suara orang-orang yang muncul di video tersebut belum “senatural” seperti video-video yang dibuat pada 2024.

Baca Juga: Kini AI bisa Mengetahui Prediksi Hubungan Asmaramu dari Suara

Video deepfake yang beredar di media sosial tidak hanya berisi disinformasi, tetapi juga berupa scam atau penipuan terkait judi online. Video semacam ini beredar pada Januari 2024 dengan menggunakan sosok jurnalis perempuan dan selebgram yang punya jutaan followers.

Karena itu menurut Rosi, pembuat konten menggunakan perempuan sebagai tools, atau alat untuk menjual. Hal ini tidak terlepas dari stereotip yang berlaku di masyarakat yang menganggap bahwa perempuan lebih cakap dalam berjualan dibanding laki-laki.

Di sisi lain hal bisa dilihat sebagai berkah tersembunyi (blessing in disguise) yang menunjukkan bahwa perempuan jauh lebih bisa dipercaya daripada laki-laki. Meski begitu, situasi ini juga rawan menempatkan perempuan sebagai objek, yang dieksploitasi tubuhnya. Cara-cara seperti ini menurut Rosi adalah cara berjualan yang patriarkis dan merendahkan perempuan.

Ketika video deepfake Rosi menyebar di media sosial, tim legal KompasTV kemudian bersurat kepada perusahaan platform, mereka membuat laporan dan pengaduan. Upaya ini bisa mengerem penyebaran video deepfake. Meski begitu langkah ini belum cukup.

Baca Juga: Platform Sosmed Mesti Ikut Tanggung Jawab Cegah Penyebaran Konten Intim Non-Konsensual

Setelah pelaporan tersebut, video deepfake obat hipertensi yang diunggah Januari 2024, saat ini sudah tidak bisa diakses di akun Facebook yang pernah mengunggahnya. Sementara untuk video yang diunggah pada Agustus 2024, masih bisa dilihat, dikomentari dan dibagikan.

Rosi mengatakan upaya untuk melaporkan sudah dilakukan, tapi kemungkinan munculnya video-video serupa tetap ada. Apalagi jadi semacam iklan (ads) yang bisa muncul kapan saja.

“Ya kita waktu itu kalau di YouTube sudah melaporkan. Tapi kayak kamu nih, kemarin (videonya) masih muncul juga di YouTube. Jadi masih ada aja (videonya) padahal kita udah laporin. Dan itu jadi bagian dari iklan,” ujarnya.

Bahaya Disinformasi dengan Deepfake; Risiko AI Bagi Jurnalis dan Media

Bisa dibilang ketika satu video berhasil dihapus, akan muncul video-video baru yang lain. Situasi ini didukung dengan makin mudahnya penggunaan teknologi AI. Apalagi teknologi AI sekarang tersedia secara bebas, seperti dijelaskan Ika Ningtyas, jurnalis Cek Fakta Tempo.

“Teknologi deepfake yang sekarang tersedia bebas itu sebenarnya low cost dan lebih mudah diakses. Dia juga tidak terlalu membutuhkan skill teknologi. Misalnya dulu orang harus paham Photoshop atau Corel Draw. Tapi dengan teknologi AI generatif, sekarang ini orang hanya cukup memberikan perintah atau prompt terhadap AI. Jadi semudah itulah sekarang untuk membuat konten-konten yang bisa dipalsukan,” papar Ika Ningtyas kepada Konde.co, Minggu (15/9/24).

Sementara hasil dari video deepfake ini sangat mirip dengan konten aslinya. Dari video-video deepfake yang pernah beredar misalnya, video tahun 2024 hasilnya lebih “halus” dibanding video yang dihasilkan tahun-tahun sebelumnya. Suara yang dihasilkan jadi sangat mirip suara penutur aslinya sehingga masyarakat makin sulit membedakan antara konten asli dengan konten AI.

Konsekuensinya informasi bohong atau keliru yang disebar dengan memakai video deepfake bisa makin memenuhi ruang publik digital kita. Apalagi bahan untuk membuatnya tersedia melimpah di media sosial, seperti teks, foto, video, dsb. Kondisi ini akan berpengaruh terhadap kehidupan masyarakat luas misalnya terkait dengan isu kesehatan publik, politik, demokrasi, dan sebagainya.

Baca Juga: KDRT Perempuan Seniman: Konten Intim Disebar Mantan Suami, Niat Lapor Polisi Barang Bukti Hilang

“Contohnya kayak scam tadi ya, Najwa atau Rosi seperti jualan obat. Orang yang tidak tahu bahwa ini adalah video palsu pasti akan membeli obat itu. Ke depan akan makin banyak deepfake yang kayak gini sehingga bisa membahayakan kesehatan publik,” papar Ika Ningtyas.

“Ini juga bisa membahayakan demokrasi kita. Termasuk memicu kekerasan kalau misalnya deepfake itu digunakan untuk memprovokasi atau meningkatkan kebencian terhadap kelompok minoritas,” tambahnya.

Strategi Mengatasi Deepfake: Bedakan Fakta dan Fiksi

Arif Perdana, Associate Professor Digital Strategy and Data Science, Monash University, dalam tulisannya di Theconversation.com menyatakan, bahwa kemajuan algoritma AI generatif, dan kemampuan untuk menghasilkan media sintetis tidak lagi dimonopoli oleh profesional film dan pengeditan video. Orang awam pun bisa mengakses teknologi ini untuk menghasilkan konten yang kompleks dengan cepat, mudah, dan berbiaya murah.

Salah satu masalahnya adalah media sintetis versi AI yang disalahgunakan bisa menimbulkan konsekuensi serius. Misalnya, ketika digunakan untuk menciptakan “deepfake,” yaitu konten media sintetis yang dibuat dengan tujuan menyesatkan atau melakukan kejahatan. Deepfake dapat memicu kepanikan dan kebingungan di tengah situasi yang sudah tegang.

Kejadian ini memperlihatkan bagaimana teknologi yang canggih bisa disalahgunakan untuk menipu dan mengakibatkan kerugian material yang besar, mulai dari privasi, fitnah, pelanggaran hak cipta, kerugian keuangan, hingga keresahan sosial.

Arif Perdana memberikan langkah agar kita tidak tertipu dengan deepfake. Pertama, yaitu kita perlu mengenali inkonsistensi pada wajah, rambut dan elemen dalam video tersebut. 

Kedua, menggunakan algoritma AI untuk menguji ketidakkonsistenan ini. Lalu yang ketiga, mengubahnya dengan melibatkan kebijakan hukum untuk mengatasinya.

Keempat, meningkat kesadaran publik untuk mengetahui mana yang asli dan mana yang palsu. Dan terakhir, platform memainkan peran krusial dalam menjaga integritas informasi dengan menyediakan sumber yang terverifikasi dan dapat diandalkan.

Baca Juga: Hati-Hati Penggunaan AI, Ancaman Bias Gender Dan Karir Pekerja

Ika Ningtyas menambahkan, jurnalisme punya peran untuk mengawasi perkembangan teknologi AI. Jadi jurnalis tidak hanya menggunakan tetapi harus mengawasi perkembangan teknologi AI. Pengawasan ini terutama terhadap dampak buruk atau penyalahgunaannya yang bisa berisiko terhadap hak asasi manusia.

“Kita harus secara proaktif mengawasi bagaimana teknologi AI itu bisa berdampak negatif terhadap hak asasi manusia,” terang Ika. 

Situasi ini tentu menjadi tantangan tersendiri bagi kerja-kerja jurnalis dan media massa. Ika melihat jurnalis dan media justru punya peran besar ketika informasi palsu dengan memakai teknologi AI makin melimpah.

“Jurnalis justru menjadi lebih relevan karena dia yang akan menjadi frontliner untuk memverifikasi, membantu publik memberikan informasi yang benar terhadap konten-konten yang ada. Sehingga tahu mana konten yang asli dan yang bukan.”

Dengan begitu teknologi AI membantu jurnalisme untuk mendeteksi konten-konten palsu. Karena itu menurut Ika adaptasi AI di bidang jurnalisme jadi penting. Jurnalis perlu menguasai keterampilan untuk membongkar deepfake dan punya kemahiran menggunakan teknologi untuk mendeteksi AI.

Baca Juga: Di Balik Tren AI, Waspadai Sederet Bahaya yang Mengintai

Mengawasi di sini artinya mengawasi akuntabilitas dari perusahaan teknologi AI supaya mereka tidak melupakan aspek-aspek akuntabilitasnya. Selain itu juga mengawasi bagaimana teknologi AI bisa memberikan dampak negatif terhadap kelompok paling rentan. Hal ini mengingat teknologi AI banyak dipakai dalam hal keamanan, transportasi dan sebagainya.

Hal lain yang juga penting adalah memastikan negara bisa meregulasi teknologi AI secara komprehensif. Komprehensif artinya regulasi tersebut tidak mematikan inovasi terkait penciptaan AI, tetapi di sisi lain teknologi AI yang dibuat harus sejalan dengan prinsip hak asasi manusia.

Jurnalis menurut Ika bisa mengambil peran untuk memastikan bagaimana transparansi, etika, perlindungan terhadap inovasi, prosedur penanganan komplain diatur oleh negara. Singkatnya jurnalis dan media mengawasi itu agar semua bisa berjalan.

Konten ini dibuat oleh Konde.co dengan pendanaan dari Indonesia Media Program, berdasarkan kebijakan dan panduan editorial Konde.co dengan tetap mempertahankan independensi editorial Konde.co.

Artikel ini merupakan bagian dari Series #StopNgelesUUTPKS, serial tentang liputan kasus-kasus kekerasan seksual dan implementasi UU TPKS.