Meta telah melakukan intervensi untuk menutup sekitar 20 operasi pengaruh rahasia di seluruh dunia pada tahun ini, meskipun perusahaan teknologi tersebut mengatakan kekhawatiran bahwa pemilu palsu yang didukung AI tidak terwujud pada tahun 2024.
Nick Clegg, presiden urusan global untuk perusahaan yang menjalankan Facebook, instagram dan WhatsApp, mengatakan bahwa Rusia masih menjadi sumber utama aktivitas online yang kontroversial, namun dalam konferensi pers mereka mengatakan bahwa “mengejutkan” betapa sedikitnya penggunaan AI untuk menyesatkan pemilih pada tahun tersibuk dalam sejarah pemilu di seluruh dunia.
Mantan wakil perdana menteri Inggris mengungkapkan bahwa Meta, yang memiliki lebih dari 3 miliar pengguna, harus menolak lebih dari 500,000 permintaan untuk menghasilkan gambar dengan alat kecerdasan buatan milik Donald Trump dan Kamala Harris, JD Vance, dan Joe Biden pada bulan sebelumnya. . sampai hari pemilu AS.
Namun pakar keamanan perusahaan harus menghadapi operasi baru yang menggunakan akun palsu untuk memanipulasi debat publik demi tujuan strategis, yang jumlahnya lebih dari satu kali setiap tiga minggu. Insiden “perilaku tidak autentik yang terkoordinasi” termasuk jaringan Rusia menggunakan lusinan akun Facebook fiktif dan situs berita untuk menyerang orang-orang di Georgia, Armenia, dan Azerbaijan.
Operasi lainnya adalah operasi berbasis di Rusia yang menggunakan kecerdasan buatan untuk membuat situs berita palsu dengan menggunakan merek seperti Fox News dan Telegraph untuk mencoba melemahkan dukungan Barat terhadap Ukraina, dan menggunakan situs berita palsu berbahasa Perancis untuk mempromosikan peran Rusia di Afrika dan mengkritik Perancis. .
“Rusia tetap menjadi sumber operasi pengaruh rahasia nomor satu yang kami ganggu hingga saat ini, dengan total 39 jaringan yang terganggu sejak tahun 2017,” katanya. Sumber campur tangan asing yang paling sering dideteksi Meta selanjutnya adalah Iran dan Tiongkok.
Saat menilai dampak spoofing AI setelah serangkaian survei di 50 negara, termasuk Amerika Serikat, India, Taiwan, Perancis, Jerman dan Inggris, ia mengatakan: “Ada berbagai macam peringatan mengenai potensi risiko dari hal-hal seperti pemalsuan yang meluas”. Deepfakes dan AI memungkinkan kampanye disinformasi. Bukan itu yang kami lihat dalam apa yang kami pantau di seluruh layanan kami. “Tampaknya risiko-risiko ini tidak terwujud secara signifikan dan dampaknya kecil dan cakupannya terbatas.”
Namun Clegg memperingatkan agar tidak berpuas diri dan mengatakan dampak deepfake yang relatif rendah yang menggunakan AI generatif untuk memanipulasi video, suara, dan foto “sangat, sangat mungkin” akan berubah.
“Jelas bahwa alat-alat ini akan menjadi semakin lazim dan kita akan melihat semakin banyak konten sintetik dan hibrida di dunia maya,” katanya.
Evaluasi meta berlanjut kesimpulan Bulan lalu, Pusat Teknologi dan Keamanan Berkembang menyatakan bahwa “konten menyesatkan yang dihasilkan oleh AI telah membentuk wacana pemilu Amerika dengan memperkuat bentuk-bentuk misinformasi dan mengobarkan perdebatan politik.” Dia mengatakan masih kurang bukti mengenai dampaknya terhadap kemenangan pemilu Donald Trump.
Laporan tersebut menyimpulkan bahwa ancaman yang dipicu oleh AI mulai merusak kesehatan sistem demokrasi pada tahun 2024 dan memperingatkan bahwa “rasa berpuas diri tidak boleh muncul” menjelang pemilu tahun 2025 di Australia dan Kanada.
Sam Stockwell, peneliti di Alan Turing Institute, mengatakan alat kecerdasan buatan mungkin telah membentuk pidato pemilu dan memperkuat narasi berbahaya dengan cara yang halus, khususnya dalam pemilu AS baru-baru ini.
“Ini termasuk klaim menyesatkan bahwa unjuk rasa Kamala Harris disebabkan oleh AI dan rumor tidak berdasar bahwa imigran Haiti memakan hewan peliharaan menjadi viral dengan bantuan meme xenofobia yang dihasilkan AI,” katanya.
