Kementerian Komunikasi juga Informatika () mengantisipasi adu domba dengan menggunakan video kecerdasan buatan () di dalam tempat momen .
Penggunaan AI dalam masa kampanye pemilihan umum 2024 memang menjadi keresahan berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi lalu juga hoaks semakin merajalela.
“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh mirip tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI dikarenakan ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya perihal prospek hoaks AI saat pemilu, Jakarta, Kamis (19/10).
Budi menyebut AI mempunyai kemungkinan kebermanfaatan yang mana yang disebut sangat besar. Namun, teknologi ini juga miliki kemungkinan merusak yang digunakan hal itu serupa besarnya.
“Iya, apalagi nanti pemilu. Orang sanggup berantem akibat AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.
Untuk mengawal prospek tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang dimaksud mana mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.
Sebelum regulasi hal itu rampung, ia mengimbau penduduk untuk berhati-hati terhadap hoaks, fitnah, serta ujaran kebencian.
Hoaks atau misinformasi sekarang hadir dalam bentuk yang dimaksud sangat canggih, salah satunya deepfake. Deepfake adalah teknik manipulasi konten video lalu pernyataan yang tersebut mana mengandalkan kecerdasan buatan.
Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi akan datang digunakan untuk mempengaruhi situasi serta opini rakyat jelang pemilihan umum 2024.
Penelitian Kasperksy juga mengungkap terdapat permintaan yang digunakan mana signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.
Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya tiada berbahaya, namun di dalam area tangan penipu, teknologi ini sanggup menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran kemudian juga kewaspadaan terhadap teknologi deepfake serta juga kemungkinan eksploitasinya.
Sebagai contoh, beberapa waktu lalu merebak kata-kata mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang dimaksud terdengar dalam video hal hal tersebut dinilai mirip dengan kata-kata asli Jokowi.
Raksasa teknologi Microsoft juga mewanti-wanti kemungkinan bahaya AI pada pilpres 2024. Salah satunya adalah pemanfaatan AI yang dimaksud yang dapat menyebabkan disinformasi menyebar luas.
Panji Wasmana, National Technology Officer Microsoft Indonesia mengungkap AI dapat semata dipakai untuk “tujuan yang tersebut tiada baik” seperti memunculkan disinformasi selama pemilihan umum 2024.
“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi di dalam area dalamnya. Itu kemungkinan bisa saja sekadar terjadi dengan melakukan teknologi AI,” kata Panji dalam kantor Microsoft Indonesia, Jakarta, Rabu (18/10).
“Kita sanggup menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.