Artificial Intelligence dan Ancaman Pornografi di Ruang Digital

Bincangperempuan,com- Perkembangan era digital yang menghadirkan Artificial Intelligence (AI) membawa dampak positif salah satunya memudahkan dalam melakukan pekerjaan. Salah satu fitur yang disediakan AI adalah editan foto apik secara otomatis. Kemampuan AI ini digunakan oleh banyak orang untuk menyunting foto untuk diunggah di media sosial. Kualitas foto yang dihasilkan oleh AI jauh lebih baik daripada mengedit secara manual. Hal ini lah yang menjadikan AI populer di berbagai kalangan.

Seiring dengan kemudahan tersebut, hadir tantangan baru yang dikenal dengan fenomena deepfake yang menjadikan perempuan sebagai target utama khususnya dalam industri pornografi. Deepfake atau manipulasi citra dan suara menggunakan kecerdasan buatan, telah menjadi ancaman nyata terhadap privasi, keamanan, dan reputasi perempuan di dunia maya. 

Deepfake berasal dari gabungan kata “deep learning” dan “fake”. Ini merujuk pada teknologi yang menggunakan kecerdasan buatan (AI) untuk membuat atau memanipulasi konten multimedia, terutama gambar dan video, sehingga terlihat seolah-olah dibuat oleh sumber otentik. Deepfake dapat menciptakan video palsu yang sulit dibedakan dari rekaman asli.

Salah satu dampak paling serius dari deepfake adalah ancaman terhadap privasi perempuan. Kemudahan mengakses foto dan video seseorang dari platform media sosial, pembuat deepfake dapat menciptakan konten palsu yang melecehkan atau merusak reputasi seseorang. Perempuan menjadi rentan terhadap manipulasi ini, dengan deepfake sering digunakan untuk membuat video porno palsu yang melibatkan wajah mereka. 

Baca juga: Perempuan Indonesia Masih Diharuskan Meninggalkan Pekerjaan yang Berbayar untuk Memenuhi Kebutuhan Perawatan

Deepfake juga dapat digunakan untuk menyusup ke kehidupan pribadi seseorang dengan menciptakan situasi palsu. Misalnya, seorang perempuan dapat difitnah dengan memanipulasi rekaman video agar terlihat seperti ia terlibat dalam kegiatan ilegal atau tidak pantas. Ini bukan hanya menimbulkan kekhawatiran privasi, tetapi juga berdampak pada keamanan dan kesejahteraan perempuan.

Selain deepfake menimbulkan masalah yang semakin umum, terdapat juga risiko terkait AI lainnya yang dihadapi perempuan. Karena AI bergantung pada konten internet yang tidak ada habisnya untuk dipelajari dan ditiru, AI berisiko mereproduksi dan melanggengkan bias sosial. Salah satu contoh dunia nyata adalah seksualisasi berlebihan terhadap foto-foto perempuan yang biasa-biasa saja.

Contohnya saja layanan AI imengumpulkan foto tanpa busana palsu yang baru dibuat ke dalam galeri foto yang terus diperbarui setiap harinya. Selain itu, fitur yang ditawarkan oleh teknologi AI dapat merekomendasikan editan foto dipusatkan pada payudara dan menambahkan bagian intim jika diinginkan. Setidaknya, ada lebih dari 25.000 akun telah berlangganan kepada mereka.

Gianluca Mauro dan Profesor Jurnalisme Universitas New York Hilke Schellmann dalam tulisannya “Zero to AI: A Non-technical, Hype-free Guide to Prospering in the AI ​​Era”,  menemukan bahwa algoritme AI yang digunakan oleh platform media sosial, termasuk Instagram dan LinkedIn, menentukan konten apa yang akan dipromosikan dan konten apa yang akan disembunyikan, sebagian berdasarkan pada seberapa menjurus ke arah seksual dalam sebuah foto. (Semakin bernuansa seksual, semakin kecil kemungkinannya terlihat.)

Baca juga: Love Scamming, Modus dan Cara Menghindarinya

Namun ketika program tersebut menganalisis gambar-gambar yang membandingkan pria dan wanita yang mengenakan pakaian dalam, program tersebut mengidentifikasi bahwa foto-foto wanita tersebut jauh lebih bernuansa seksual. Mereka juga menandai foto wanita hamil sebagai foto yang sangat menjurus ke arah seksual. Akibatnya, postingan yang menampilkan gambar wanita kemungkinan besar akan diblokir.

AI juga mencerminkan bias masyarakat dalam hal perekrutan – Amazon harus menghapus alat perekrutan yang dimaksudkan untuk menyederhanakan proses perekrutan mereka setelah jelas bahwa AI lebih memilih kandidat laki-laki. Dan kesenjangan dalam data kesehatan yang tersedia dapat membuat aplikasi medis yang menggunakan AI menjadi kurang akurat bagi perempuan.

Profesor hukum Universitas Boston, Danielle Citro dalam penelitiannya tentang ancaman daring dari “privasi intim” mengatakan jika kebanyakan korban merasa sedih mengetahui foto tanpa busana mereka dilihat dan disimpan oleh orang asing tanpa sepengetahuan mereka. Seorang perempuan Rusia mengatakan jika ia menemukan banyak foto dirinya tanpa busana yang dikirimkan dalam saluran publik. Hal serupa dialami oleh Hellen Mort, seorang penyiar Inggris yang turut menjadi korban AI pornografi yang membuatnya mengalami tekanan psikologis setelah mendapati fotonya dicuri dan diedit menjadi foto tanpa busana.

Data lainnya yang ditemukan oleh peneliti Sensity mencatat terdapat 104.000 foto perempuan diubah menjadi tanpa busana yang dibagikan di saluran publik. Para pelaku mengatakan jika mereka hanya ingin memenuhi fantasi seksual dan belum ada keluhan dari perempuan yang mereka targetkan. Pelaku seolah berusaha melempar kesalahannya kepada perempuan yang memposting gambar di media sosial. Mereka menilai jika perempuan sengaja memposting fotonya di media sosial untuk menarik perhatian yang mengarah ke seksualitas.

Masalah ini sudah menjadi ancaman nyata bagi perempuan di seluruh dunia. Ruang media sosial yang aman semakin terbatas dan beresiko bagi seluruh perempuan. Kebebasan berekspersi mereka akan kembali dipertanyakan karena ancaman sudah semakin nyata. Tindakan tidak bermoral ini memberikan dampak negatif bagi psikologis, ekonomi hingga karier seluruh korban.

Baca juga: Fair Play: Potret Patriarki dan Misogini yang Dihadapi Perempuan

Dampak Psikologis dan Emosional 

Ancaman deepfake tidak hanya mencakup aspek fisik, tetapi juga memiliki dampak psikologis dan emosional yang serius. Perempuan yang menjadi korban deepfake dapat mengalami stres, depresi, dan kecemasan karena ketidakpastian tentang bagaimana citra mereka dimanipulasi dan digunakan secara online. Reputasi yang terancam, perempuan mungkin merasa terasingkan dan kesulitan membangun kembali kepercayaan diri mereka. 

Selain itu, efek deepfake juga dapat merembet ke dalam kehidupan pribadi dan profesional perempuan. Konten palsu dapat mempengaruhi hubungan personal, reputasi profesional, dan kesempatan karir. Beberapa kasus, korban deepfake bahkan dapat mengalami pelecehan dan ancaman fisik dari individu yang percaya pada keaslian konten palsu tersebut.

Pentingnya Kesadaran dan Kepedulian 

Untuk melawan ancaman deepfake, penting bagi perempuan untuk meningkatkan kesadaran tentang potensi risiko dan langkah-langkah perlindungan yang dapat diambil. Pendidikan mengenai deteksi deepfake, keamanan digital, dan pengaturan privasi online menjadi kunci dalam melindungi perempuan dari potensi ancaman ini.

Selain itu, platform media sosial dan penyedia layanan online juga memiliki peran penting dalam memberikan perlindungan. Platform perlu meningkatkan keamanan dan menggunakan teknologi canggih untuk mendeteksi dan menghapus konten deepfake yang merugikan. Adopsi kebijakan yang ketat dan penegakan hukum terhadap pembuat deepfake dapat menjadi langkah tambahan untuk mengurangi dampak negatifnya. Negara-negara lain, seperti Australia dan Inggris, telah atau sedang berupaya untuk mengeluarkan undang-undang yang akan mengkriminalisasi jenis pelecehan ini.

Membuat Ruang Media Sosial yang Aman bagi Perempuan

Kemajuan teknologi dan kehadiran AI telah memudahkan manusia dalam kehadiran. Akan tetapi, ancaman pornografi yang harus dihadapi oleh perempuan terus bertambah. Lantas, haruskah perempuan tidak mengunggah foto mereka di media sosial? Bukankah itu sama saja dengan membatasi hak kebebasan berekspresi?

Sayangnya, belum ada metode yang efektif untuk menciptakan ruang media sosial yang aman bagi perempuan. Ancaman dari teknologi AI tetap harus dihadapi oleh mereka. Akan tetapi, ada beberapa cara yang dapat dilakukan oleh perempuan untuk mengurangi kemungkinan menjadi korban pornografi. Mengedukasi diri sendiri dan mengurangi untuk memposting informasi pribadi dapat membantu perempuan untuk tetap aman menggunakan media sosial. Perlunya memperhatikan kemungkinan terburuk menjadi hal yang harus diperhatikan lagi.  Selain itu, pemerintah setempat dapat membantu perempuan dengan menciptakan undang-undang yang melindungi ruang berekspesi di media sosial.

Baca juga: Pentingnya Digital Mindset dan Ruang Digital Aman bagi Anak Muda

Untuk mendukung keamanan pengguna media sosial, beberapa perusahaan media sosial juga telah memperketat aturan mereka dari konten berbahaya. Baru-baru ini, perusahaan teknologi seperti Google telah meningkatkan keamanan pengguna dengan menghapus video yang menjurus ke arah seksual untuk memasarkan produk. Sementara itu, perusahaan Meta juga turut melakukan hal sama dengan memberikan kebijakan yang membatasi konten dewasa AI dan non-AI yang ada di platformnya.

Akan tetapi, perlindungan yang diberikan tidak sepenuhnya berfungsi. Tetap saja, teknologi AI yang dapat menghasilkan konten pornografi menjadi ancaman yang tidak mudah dikendalikan. Para ahli menilai, menghilangkan AI dari internet untuk menghindari risiko penyalahgunaan menjadi keputusan yang tidak realistis. Hal yang disarankan oleh mereka adalah menghindari konten seksual yang memengaruhi kesehatan mental, hubungan hingga karier para korban. (**)

Sumber : 

• Karen Hao, 2021. “A horrifying new AI app swaps women into porn videos with a click”, dalam MIT Technology Review
• Drew Harwell, 2020. “A shadow AI service has transformed thousands of women’s photos into fake nudes: ‘Make fantasy a reality.’”, dalam The Washington Post
• Tatum Hunter, 2023. “AI porn is easy to make now. For women, that’s a nightmare.”, dalam The Washington Post