Beberapa hari ini kita melihat fenomena penggunaan fitur Ai yang terjadi di platform X, khususnya di Grok Ai, yang digunakan untuk memanipulasi foto atau video pribadi seseorang menjadi bernuansa seksual tanpa adanya persetujuan pemiliknya (non-consensual sexual deepfake) dengan menulis prompt Ai misalnya “hey Grok, put me in a bikini from this angle” atau dengan sejenisnya.
Tidak jauh dari waktu fenomena ini terjadi, pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) telah melakukan pembatasan penggunaan aplikasi Grok Ai, akan tetapi, kebijakan pembatasan ini belum berjalan secara optimal karena pembatasan yang dilakukan pemerintah pada aplikasi Grok Ai, sementara penyalahgunaan fitur Ai tersebut justru banyak terjadi di platform X. Namun lebih dari kebijakan tersebut, penulis lebih menyikapi fenomena ini yang menunjukkan permasalahan adanya ancaman serius terhadap keselamatan dan martabat seseorang di ruang digital, khususnya dalam bentuk Kekerasan Berbasis Gender Online (KBGO).
Menurut penulis, pertama perlu dipahami terlebih dahulu, apa yang dimaksud dengan KBGO, menurut Southeast Asia Freedom of Expression Network (SAFEnet) dalam panduannya berjudul “memahami dan menyikapi kekerasaan berbasis gender online”, mendefinisikan KBGO sebagai tindak kekerasan yang berawal dari niatan atau maksud untuk melecehkan korban berdasarkan gender atau seksual di ranah digital.
Sedangkan, bentuk modus dan tipe KBGO itu sangat beragam, namun apabila dihubungkan dengan konteks penyalahgunaan fitur Ai, maka fenomena manipulasi foto atau video secara seksual tanpa persetujuan dapat diklasifikasi sebagai perbuatan pelecehan online (cyber harassment), konten illegal (illegal content), pelanggaran privasi (infringement of privacy), dan pencemaran nama baik (online defamation), lebih jauhnya menurut penulis, bahkan penyalahgunaan ini bisa menjadi modus ancaman distribusi foto atau video pribadi (malicious distribution).
Sedangkan ciri utama fenomena ini terletak pada ketiadaan persetujuan korban untuk mengubah foto atau videonya, nuansa manipulasinya seksual sehingga merendahkan harkat dan martabat korban, serta memiliki dampak langsung atau tidak langsung terhadap korban, baik nanti secara psikologis, sosial, maupun reputasi dari korban itu sendiri.
Lebih daripada itu, dengan maraknya user di platform X melakukan penyalahgunaan fitur Ai tersebut, juga memperlihatkan ada masalah yang lebih mendalam dari aspek etika dan moralitas dalam penggunaan fitur Ai, yakni kecenderungan menormalisasi kekerasan digital yang terjadi, di mana banyak user merasa tindakannya “tidak nyata” karena dilakukan di ruang digital, sehingga dengan cara pandang tersebut mengakibatkan risiko KBGO menjadi lebih masif, cepat, dan sulit dikendalikan.
Apabila kita cermati dari perspektif Hak Asasi Manusia (HAM), memanipulasi foto atau video seseorang menjadi objek seksualitas tanpa adanya persetujuan korban, dapat dianggap sebagai bentuk pelanggaran HAM yang serius, karena menyentuh aspek paling fundamental dari kemanusiaan itu sendiri, yakni martabat, privasi, dan rasa aman.
Perlu dipahami, HAM berangkat dari pengakuan setiap individu memiliki martabat yang melekat sejak lahir. Ketika foto atau video seseorang dimanipulasi secara tanpa adanya persetujuan, sama saja merampas hak korban untuk mengontrol representasi dirinya sendiri, sehingga bertentangan dengan prinsip dasar HAM yang menempatkan manusia sebagai tujuan, bukan alat.
Selain itu, memanipulasi foto atau video dengan fitur Ai hampir selalu melibatkan fisik korban, dari wajah, tubuh atau identitas visual seseorang tanpa adanya izin, sehingga hal ini tidak saja melanggar martabat seseorang tetapi juga melanggar hak atas privasi seseorang, karena pada prinsipnya definisi hak atas privasi, juga mencakup perlindungan individu antar sesama warga, sebab foto atau video yang awalnya bersifat personal diubah dan disebarluaskan dalam bentuk yang merendahkan atau objek seksualitas, maka secara otomatis batas privasi seseorang telah dilanggar secara tidak langsung.
Sehingga menurut penulis, pemerintah beserta pihak-pihak berkepentingan harus melakukan pembatasan untuk menghindari adanya fenomena penyalahgunaan, karena diperlukan adanya perlindungan untuk korban, dengan memastikan terdapatnya mekanisme pelaporan dan pemulihan, dan mencegah normalisasi KBGO itu sendiri dengan menegaskan bahwa kekerasan digital adalah sebuah kejahatan, bukan sebuah hiburan.
Apabila kita sikapi fenomena penyalahgunaan fitur Ai ini dengan melihat dari perspektif HAM, maka ada satu pesan penting, yakni tidak semua yang bisa dilakukan oleh teknologi boleh dilakukan oleh user itu sendiri. Oleh karena itu pengguna fitur Ai harus tunduk pada batas etik dan moralitas yang ditentukan oleh HAM, bukan sebaliknya. Jika fitur Ai ini tidak dikembangkan atau tidak diatur dengan kerangka Ham, maka yang terjadi bukanlah inovasi yang membantu pekerjaan manusia, melainkan teknologi yang memberi ancaman berarti bagi perempuan dan anak-anak.
Melihat fenomena ini, perlu disikapi juga pada era modern sekarang tidak dipungkiri perkembangan teknologi sangat masif dan manfaat yang dihadirkan sangat memberikan dampak positif bagi manusia, meskipun begitu teknologi dapat memberikan dampak negatif yang dimanfaatkan oleh pengguna-pengguna yang tidak bertanggung jawab, maka penulis menyimpulkan perlunya pemerintah dan pihak-pihak terkait untuk membatasi penggunaan prompt Ai tertentu yang mengarah kepada terjadinya modus atau ciri-ciri KBGO, seperti halnya fenomena yang diangkat penulis berupa penyalahgunaan fitur Ai untuk memanipulasi foto atau video korban menjadi objek seksualitas tanpa adanya persetujuan korban.
