Pemilihan umum, sebuah proses sangat penting dalam menjaga keutuhan demokrasi di negara kita. Sebagai warga negara, kita seharusnya bisa menggunakan hak suara kita dengan bijak. Menjaga hak suara dan kebebasan dalam memilih pemimpin adalah pemberian negara yang harus kita jaga. Dalam menuju proses tersebut, tidak sedikit hambatan yang menghalangi.
Kini berhadapan kita dengan tahun 2024, pemilu yang ada di depan mata memunculkan potensi gangguan yang sebelumnya tak pernah kita bayangkan. Kemajuan teknologi Artificial Intelligence (AI) membawa banyak dampak yang tak dapat diabaikan, antara sorotan positif dan juga bayang-bayang negatif.
Khususnya, Deepfakes dan Voice lone yang secara nyata bisa kita bayangkan akibatnya terhadap distribusi informasi. Deepfakes adalah teknologi yang menggunakan metode pembelajaran mesin dan kecerdasan buatan untuk menggantikan wajah seseorang dalam video dengan wajah orang lain. Proses ini melibatkan sistem yang canggih untuk mengidentifikasi dan mengisolasi wajah target dalam video sumber, kemudian menggantikannya dengan wajah dari dataset gambar atau video yang digunakan sebagai referensi. Hasil akhirnya adalah video palsu yang menampilkan orang tersebut seolah-olah sedang melakukan sesuatu yang sebenarnya tidak pernah terjadi.
Sedangkan Voice Clone, atau sering juga disebut dengan Voice Synthesis, adalah teknologi AI yang mampu menciptakan suara yang sangat mirip dengan suara asli seseorang. Prosesnya melibatkan perekaman suara target untuk mengumpulkan data dan ciri khas suara, yang kemudian digunakan untuk melatih model AI.
Setelah model terlatih, teknologi ini dapat menghasilkan teks apa pun yang ditulis dalam suara yang sangat mirip dengan suara asli si target. Kehebatan Voice Clone terletak pada kemampuannya untuk meniru intonasi, nada, dan gaya bicara si target dengan sangat akurat. Hal ini membuatnya menjadi alat yang potensial dalam membuat rekaman suara palsu dan mengelabui orang yang mendengarnya.
Kedua teknologi teknologi tersebut sangat dimungkinkan dimanfaatkan oleh orang yang tidak bertanggung jawab untuk membuat rekaman palsu untuk mengelabui orang yang melihatnya. Jika digunakan secara tidak etis, teknologi ini bisa menjadi ancaman serius bagi penyebaran informasi. Serta dapat memperburuk kepercayaan publik pada berita dan fakta. Apalagi persebaran deepfakes sudah sangat banyak. Sejak Maret 2022 ada lebih dari 1 juta video deepfakes tersebar di internet.
Deepfakes dan Voice Clone merupakan dua hal yang baru dalam ruang lingkup dunia digital dan masih dianggap baru oleh masyarakat. Dua teknologi tersebut dapat membuat rekaman dan suara palsu yang sangat menyerupai aslinya dan sulit untuk dibedakan bahkan oleh orang yang paham dengan teknologi.
Survei tahun 2022 tentang kemampuan orang dalam mendeteksi video Deepfakes menunjukan bahwa 43 persen orang tidak bisa mendeteksi sedangkan 57 persen yakin bisa mendeteksi. Namun, survei lain juga menunjukkan bahwa rata-rata orang menaksir terlalu tinggi kemampuannya dalam mendeteksi video Deepfakes, sehingga angka 57 persen tersebut bisa dipertanyakan.
Pengaruh teknologi tersebut terhadap jalannya Pemilihan Umum (Pemilu) menjadi perbincangan yang hangat di kalangan para ahli. Dr. Firman Kurniawan Sujono, seorang pakar komunikasi digital dari Universitas Indonesia, turut memberikan pandangannya mengenai hal ini. Dia mengekspresikan kekhawatiran yang mendalam terkait potensi dampak teknologi dalam konteks pemilu di masa depan.
Menurutnya, teknologi memiliki potensi besar untuk mempengaruhi dinamika pemilu, namun terdapat risiko yang signifikan terkait penyalahgunaan. kemungkinannya, teknologi ini dapat dengan mudah digunakan oleh partai-partai yang tidak memiliki keunggulan dan mengandalkan kampanye hoaks.
Penulis juga sepandangan dengan pendapat ini, bahwa setiap teknologi baru yang munul jika tidak dibarengi dengan pengetahuan masyarakat akan teknologi tersebut atau jika masyarakat tidak siap menerimanya, akan sangat bedampak negatif bagi masyarakat. Apalagi di jaman modern ini dimana batas informasi antar negara sudah semakin tipis, teknologi digital terutama bisa dengan mudah merambah ke setiap penjuru dunia, tak terkecuali indonesia.
Mahfud MD berkomentar bahwa diperlukan kesadaran bersama diantara semua lapisan masyarakat untuk menghadapi permasalahan ini. Masyarakat perlu diberi pemahaman yang jelas mengenai potensi risiko teknologi ini, serta dampaknya terhadap integritas pemilu dan proses demokrasi secara keseluruhan. Pendidikan dan kampanye publik yang cermat dapat membantu masyarakat memahami bagaimana teknologi ini dapat disalahgunakan dan mengapa penting untuk tetap waspada terhadap informasi yang diterima.
Peran pemerintah dan lembaga penegak hukum menjadi sangat penting dalam merumuskan dan melaksanakan kebijakan yang dapat mengendalikan dan mengatasi penyalahgunaan teknologi AI Voice Clone dan deepfakes.
Langkah-langkah preventif, seperti regulasi yang ketat dan mekanisme pengawasan yang efektif, perlu diterapkan untuk meminimalkan potensi penyebaran informasi palsu atau manipulatif selama periode kampanye pemilu. Peran aktif masyarakat dalam melaporkan konten-konten media informasi serta kerjasama pemerintah dengan platform teknologi digital dalam hal berbagi informasi patut untuk dilakukan guna melancarkan proses penegakan hukum.
Tantangan yang dihadirkan oleh teknologi AI Voice Clone dan Deepfakes pada Pemilihan Umum 2024 menggiring kita menuju realitas baru yang perlu diatasi secara cermat. Menghadapi ancaman ini, memerlukan sinergi kesadaran kolektif dan kolaborasi tegas antara pemerintah, lembaga penegak hukum, dan seluruh lapisan masyarakat.
Melalui tekad dan langkah konkret bersama, kita dapat memastikan bahwa esensi pemilu sebagai tonggak demokrasi tetap terjaga: sebuah proses yang tidak hanya adil dan transparan, tetapi juga mampu memelihara integritas informasi yang sampai kepada pemilih dengan kejelasan dan kebenaran yang tak tergoyahkan.
