Perkembangan teknologi memunculkan fenomena deepfake yang bisa mengecoh siapa pun tanpa pandang bulu. Dengan memanfaatkan deepfake, pelaku bisa menipu target dengan mudah lantaran biasanya target tak menyadari dirinya sedang tertipu. Deepfake adalah teknologi yang menggunakan kecerdasan buatan untuk menciptakan video atau audio palsu yang tampak atau terdengar seperti rekaman asli, meskipun sebenarnya tidak benar. Teknologi ini pertama kali menjadi perhatian luas pada April 2018 ketika komedian Jordan Peele membuat video yang menunjukkan Barack Obama menghina Donald Trump dalam sebuah pidato, padahal pidato tersebut tidak pernah ada.

Menjelang Pemilu, kekhawatiran terkait penggunaan teknologi AI Deepfake merupakan suatu isu yang serius karena teknologi ini berpotensi menciptakan konten manipulatif yang dapat mempengaruhi opini publik. Deepfake yang dibuat dengan menggunakan AI generator ini ditengarai sebagai biang keladi kegaduhan di dunia maya jelang kontestasi Pilpres 2024.

Baru-baru ini jagat maya tengah dihebohkan dengan munculnya video deepfake pidato Presiden Joko Widodo (Jokowi) yang menggunakan bahasa Mandarin. Sontak kemunculan video itu membuat gaduh netizen. Banyak yang menegaskan bahwa itu hoax, tetapi tak sedikit pula yang termakan isu yang digiring pengunggah video tersebut.

Seperti halnya, berita hoax yang sempat memecah belah publik saat pemilihan umum beberapa tahun silam, deepfake juga bisa melakukannya, bahkan dampaknya akan lebih parah. Berikut ini adalah beberapa contoh dampak negatif yang muncul akibat deepfake:

1. Penipuan dan Manipulasi Informasi

Deepfake bisa dimanfaatkan untuk membuat video palsu dari tokoh publik yang tampaknya mengucapkan atau melakukan hal-hal yang sebenarnya tidak pernah mereka lakukan. Hal ini dapat menimbulkan kebingungan di masyarakat dan merusak reputasi seseorang.

2. Pelanggaran Privasi

Orang dapat menjadi korban deepfake dengan wajah atau suara mereka disisipkan ke dalam konten yang tidak pantas atau merugikan secara pribadi. Hal ini dapat mengancam privasi dan kesejahteraan individu.

3. Penyebaran Hoaks dan Pemalsuan Informasi

Deepfake memiliki potensi besar untuk menyebarluaskan hoaks atau informasi palsu yang tampak sangat meyakinkan. Ini bisa digunakan untuk tujuan politik, sosial, atau ekonomi yang merugikan.

4. Ancaman Keamanan Nasional

Dalam konteks keamanan nasional, deepfake bisa menjadi senjata untuk merusak stabilitas politik, menciptakan ketidakpercayaan dalam lembaga-lembaga, dan memicu konflik sosial.

Di Indonesia sendiri, regulasi untuk mencegah penyalahgunaan AI Deepfake diatur dalam Undang-Undang (UU) tentang Informasi dan Transaksi Elektronik (ITE), Pasal 28 Ayat 1 yang berbunyi :

“setiap orang yang sengaja menyebarkan berita bohong dan menyesatkan yang mengakibatkan kerugian konsumen dalam transaksi elektronik bisa dikenakan pidana penjara paling lama enam tahun dan/atau denda maksimal Rp1 miliar.”

Namun secanggih apapun teknologi AI, tentunya konten yang sudah dimanipulasi dan belum dimanipulasi memiliki perbedaan yang dapat kita kenali sehingga informasi dalam konten tidak secara langsung kita konsumsi atau bahkan sebarluaskan. Berikut beberapa tips yang dapat digunakan untuk membedakan konten yang telah dimanipulasi deepfake :

1. Fokus pada fisik target

Pada dasarnya konten deepfake merupakan tiruan dari seseorang atau objek sungguhan. Namun, konten yang dihasilkan tetap memiliki kelemahan yang bisa kamu lihat melalui warna kulit, rambut, atau ciri fisik lainnya.

2. Lihat pencahayaan

Selain pada fisik target, kamu juga bisa menganalisa hasil konten deepfake melalui pencahayaan. Biasanya konten deepfake memiliki hasil pencahayaan yang kurang sempurna dan terlihat perbedaannya dengan hasil konten yang nyata atau sungguhan.

3. Cara berbicara

Cara terakhir yaitu dengan menganalisa gerak bibir dari konten deepfake. Cara berbicara seseorang dalam konten deepfake biasanya tidak sinkron antara suara dan gerak bibirnya.

Melihat dampak yang dihasilkan oleh teknologi AI Deepfake sangat bahaya, penting bagi kita untuk mengambil langkah-langkah preventif guna melindungi diri dari bahaya deepfake:

1. Mengurangi postingan di media sosial
2. Menggunakan fitur privasi akun
3. Bersikap bijak dalam menggunakan internet

Sumber :

https://bankmas.co.id/id/blog/apa-itu-deepfake-dan-cara-menghindari-bahayanya/

https://iptek.co.id/deepfake-ancaman-dan-bahaya-teknologi/