Pegiat pemilu desak regulasi penggunaan AI usai unggahan video Soeharto

>>> Untuk berita lainnya terkait Pemilu 2024, silakan klik di sini.

Sebuah video hasil kecerdasan buatan yang menghidupkan kembali sosok dan suara mendiang diktator Soeharto telah memicu perdebatan perihal etik dan hukum dari penggunaan teknologi tersebut dalam kampanye politik.

Video yang diunggah pada 6 Januari 2024 oleh Wakil Ketua Umum Partai Golkar Erwin Aksa menyimulasikan Soeharto dalam sosok berbatik kuning, menyuarakan agar pemilih mencoblos calon legislatif dari Partai Golkar.

Hingga berita ini ditulis video tersebut telah ditonton lebih dari 4,5 juta kali.

Koordinator Tim Advokasi Peduli Pemilu (TAPP) Gugum Ridho Putra mengatakan, unggahan Erwin tersebut merupakan contoh bahwa Artificial Intelligence (AI) kini telah mampu menjadi alat propaganda politik tanpa batas yang jika tidak diregulasi berpotensi menerabas batasan hukum dan etika.

"Jika tidak diregulasi, AI berpotensi dimanfaatkan secara meyimpang, memanipulasi, dan menyesatkan pemilih," ujar Gugum kepada BenarNews.

"Karena AI mampu memoles citra diri figur politik tertentu dengan tingkat kemiripan yang sulit dibedakan dengan aslinya."

Dalam video tersebut, sosok Soeharto buatan AI itu mengatakan, "Saya Presiden Soeharto, Presiden Indonesia yang kedua, mengajak Anda untuk memilih wakil rakyat dari Golkar."

Soeharto adalah pendiri partai Golkar, yang merupakan mesin politiknya untuk berkuasa selama 32 tahun.

Presiden Indonesia kedua itu jatuh pada Mei 1998 setelah kerusuhan berdarah dan demonstrasi mahasiswa di Jakarta dan di sejumlah daerah lainnya menuntut reformasi dan penghapusan korupsi, kolusi dan nepotisme, yang menandai pemerintahan Soeharto.

Unggahan Erwin di X dikecam sebagain besar netizen.

“Orang yg sudah meninggal lama terus dihidupkan kembali dgn teknologi AI berpidato mendukung Golkar, dimana moral dan adab?” kata @mashazairin.

“Kacau. Anda sudah melanggar batas. Jelas ini hal bohong. Citra paslon Anda akan makin jelek karena penggunaan AI yang kebablasan begini,” kata pengguna X lainnya, @akuluthfi.

Video tersebut dibuat dengan menggunakan teknik yang dikenal sebagai deepfake, yang menggunakan kecerdasan buatan untuk memanipulasi gambar dan audio untuk menciptakan konten terlihat seperti asli.

Teknologi ini telah digunakan untuk berbagai tujuan, mulai dari hiburan hingga misinformasi, dan menimbulkan kekhawatiran tentang potensinya untuk menipu dan mempengaruhi opini publik.

Para ahli mengatakan bahwa munculnya teknologi deepfake menimbulkan tantangan bagi para jurnalis dan pemeriksa fakta, yang harus memverifikasi keaslian dan keakuratan konten yang mereka laporkan.

Beberapa ahli menyarankan penggunaan penanda air digital, blockchain, dan kecerdasan buatan itu sendiri untuk mendeteksi dan menangkal deepfake.

Koordinator Komite Pemilih Indonesia Jeirry Sumampow mengatakan, Komisi Pemilihan Umum (KPU) sejauh ini memang belum memiliki regulasi yang mengatur penggunaan AI dalam berkampanye.

"Kita belum ada regulasi soal itu (penggunaan AI). Kalau mau dipaksakan, bisa saja didorong. Tapi dengan waktu mepet menjelang pemilihan, paling masuk akal adalah menerbitkan surat edaran KPU," ujar Jeirry kepada BenarNews.

Kementerian Komunikasi dan Informatika (Kominfo) pada akhir Desember tahun lalu sempat menerbitkan surat edaran terkait etika penggunaan kecerdasan buatan, tapi surat tersebut hanya bersifat imbauan.

Adapun perihal sanksi, Menteri Kominfo Budi Arie Setiadi dalam keterangan pada Desember menambahkan akan mengacu pada aturan yang sudah ada seperti Undang-undang Informasi dan Transaksi Elektronik dan UU Perlindungan Data Pribadi.

Jeirry menambahkan, pengaturan penggunaan kecerdasaan buatan tersebut menjadi perihal penting yang harus dilakukan penyelenggara pemilu lantaran penggunaannya sudah tergolong jamak.

"(Aturan itu) Perlu karena kebutuhan karena perkembangan teknologi sesuatu yang kita tidak bisa lawan," ujar Jeirry lagi, seraya menambahkan penggunaan AI juga telah digunakan pasangan Prabowo Subianto-Gibran Rakabuming lewat poster bergaya kartun dan Ganjar Pranowo-Mohammad Mahfud MD lewat poster berlatar kota futuristik.

"Hanya harus diperinci, hal seperti apa yang dilarang menggunakan AI. Apakah boleh gambar yang bersuara dan bergerak, apakah boleh tokoh yang sudah meninggal, itu harus dibahas lebih lanjut."

Dengan masa kampanye yang telah berjalan dan waktu pemilihan yang sudah dekat, Peneliti dari Perkumpulan untuk Pemilu dan Demokrasi (Perludem) Nurul Amalia menyatakan, perubahan aturan memang akan tergolong merepotkan jika dilakukan.

"Sulit untuk berharap KPU akan mengatur itu di Pemilu 2024," ujar Nurul kepada BenarNews.

Oleh karena itu, terang Nurul, Perludem bersama sejumlah lembaga pemantau demokrasi dan pemilu lain kini mengusulkan kepada KPU untuk membuat komitmen bersama perihal kampanye di media sosial, terutama penggunaan kecerdasan buatan oleh peserta pemilu.

"Salah satu yang kami usulkan adalah memberikan disclaimer pada setiap konten yang di-generate dengan AI," kata Nurul lagi.

"Harapannya, dengan komitmen bersama yang akan dimonitor Bawaslu (Badan Pengawas Pemilu), akan ada efek psikologis kepada mereka yang menandatangani," kata Nurul, tanpa memerinci perkembangan usulan tersebut.

Konten misinformasi hasil kecerdasan buatan sempat meramaikan media sosial di Indonesia beberapa bulan lalu saat video menampilkan Presiden Joko "Jokowi" Widodo tengah berpidato menggunakan bahasa Mandarin dan memancing perdebatan di tengah masyarakat.

Peneliti Politik dari Badan Riset dan Inovasi Nasional (BRIN) Wasisto Rharjo Djati menambahkan, konten misinformasi serupa video tersebut belum ditemukan dalam masa kampanye pemilu hingga saat ini. 

"Menurut saya, penggunaan AI di musim pemilu sekarang masih dalam batas wajar. Namun ke depan, tetap perlu regulasi khusus soal konten apa saja yang bisa ditampilkan," katanya kepada BenarNews.