AI Umum

Mengatur Deepfake AI pada 2024: Tantangan Terbesar bagi Negara-negara

Pengantar

Deepfake, video atau gambar palsu yang sangat realistis, dapat menipu pemilih, memanipulasi opini publik, dan merusak reputasi partai politik dan politisi.

Kekhawatiran yang Meningkat

Lebih dari empat miliar orang di seluruh dunia akan berpartisipasi dalam pemilu tahun ini, termasuk di AS, Inggris, India, dan Afrika Selatan. Namun, meningkatnya prevalensi disinformasi, yang didorong oleh penggunaan deepfake dan AI generatif, mengharuskan politisi dan pemilih untuk waspada.

Dalam Laporan Risiko Global 2024, Forum Ekonomi Dunia mengidentifikasi misinformasi dan disinformasi yang dihasilkan AI sebagai risiko global paling signifikan kedua setelah cuaca ekstrem. Kekhawatiran ini beralasan, terutama dengan meningkatnya pesatnya alat seperti deepfake yang didukung AI generatif, yang mengancam integritas proses demokrasi.

Dampak Deepfake

Deepfake dapat menipu pemilih, memanipulasi opini publik, dan merusak reputasi partai politik dan politisi. Anna Collard, SVP Strategi Konten dan Penginjil di KnowBe4 AFRICA, sebuah organisasi pelatihan keamanan siber, mengatakan telah terjadi peningkatan besar dalam kualitas deepfake selama setahun terakhir, membuatnya lebih meyakinkan dan sulit diidentifikasi.

Dalam insiden terkenal pada Oktober tahun lalu, penjahat siber menggunakan video deepfake untuk menyamar sebagai Ketua Uni Afrika Moussa Faki Mahamat selama percakapan online dengan diplomat Eropa. Demikian pula, pada bulan Desember, Facebook menghapus lebih dari 100 iklan berbayar deepfake yang menampilkan Perdana Menteri Inggris Rishi Sunak setelah hampir setengah juta orang melihatnya.

“Deepfake menimbulkan risiko besar menjelang pemilu, baik di Inggris maupun Afrika Selatan,” kata Collard. “Pemilih perlu menyadari risiko ini dan proaktif dalam memitigasi dampaknya.”

Mengatasi Deepfake

Kesadaran

Menurut Collard, langkah awal dalam memerangi dampak misinformasi dan disinformasi melalui deepfake adalah meningkatkan kesadaran. “Sangat penting bagi masyarakat untuk menyadari keberadaan fenomena ini,” tegasnya, menambahkan, “Produksi video dan gambar deepfake murah dan mudah.”

Verifikasi Informasi

Selain meningkatkan kesadaran, prinsip penting lainnya adalah memverifikasi informasi. “Jika seorang politisi diduga mengatakan sesuatu yang sangat mempolarisasi, penting untuk memverifikasi apakah mereka benar-benar mengatakannya.”

Untuk mengatasi risiko deepfake, Komisi Pemilihan Umum (KPU), bekerja sama dengan Media Monitoring Africa, telah meluncurkan inisiatif bernama Padre. Inisiatif ini memungkinkan pemilih untuk memeriksa fakta informasi mengenai partai politik Afrika Selatan dan pernyataan terbaru mereka.

Jangan Bereaksi Berlebihan

Terakhir, ketika dihadapkan dengan konten yang menghasut, Collard menekankan pentingnya pemilih untuk tidak bereaksi berlebihan. “Penipu ingin membangkitkan emosi Anda dan membuat Anda dalam keadaan di mana Anda tidak dapat berpikir rasional,” katanya. “Tetap tenang dan jangan bagikan konten yang terlalu emosional. Setiap kali emosi Anda terpicu, perlambat dan verifikasi, -itu bisa jadi tipuan.”

Collard percaya bahwa setiap pemilih bertanggung jawab untuk mendidik diri mereka sendiri tentang bahaya deepfake. “Konten palsu yang dihasilkan AI memiliki implikasi besar bagi masyarakat, terutama selama masa pemilu,” katanya. “Untuk memerangi bentuk disinformasi ini dan menjaga proses demokrasi, platform media sosial, partai politik, dan pengawas independen serta kita sebagai masyarakat harus bekerja sama.”