Kate Ruane, direktur proyek kebebasan berekspresi di Pusat Demokrasi dan Teknologi, mengatakan sebagian besar platform teknologi besar kini memiliki kebijakan yang melarang distribusi gambar-gambar intim tanpa persetujuan, dan banyak di antaranya yang terbesar menyetujui prinsip-prinsip untuk mengatasi deepfake. “Menurut saya, sebenarnya tidak jelas apakah pembuatan atau distribusi gambar intim tanpa persetujuan dilarang di platform ini,” kata Ruane tentang Ketentuan layanan Telegramyang kurang detail dibandingkan platform teknologi besar lainnya.
Pendekatan Telegram untuk menghapus konten berbahaya telah lama dikritik oleh kelompok masyarakat sipil, karena platform tersebut secara historis menjadi tuan rumah bagi para penipu. kelompok sayap kanan ekstremDan konten terkait terorisme. Sejak CEO dan pendiri Telegram Pavel Durov dulu ditangkap Dan dibebankan di Perancis pada bulan Agustus sehubungan dengan serangkaian potensi pelanggaran, Telegram telah mulai melakukan beberapa perubahan persyaratan layanan dan memberikan data kepada lembaga penegak hukum. Perusahaan tidak menanggapi pertanyaan WIRED tentang apakah mereka secara khusus melarang deepfake yang eksplisit.
Jalankan Kerugiannya
Ajder, peneliti yang menemukan bot Telegram deepfake empat tahun lalu, mengatakan bahwa aplikasi tersebut memiliki posisi yang hampir unik untuk penyalahgunaan deepfake. “Telegram memberi Anda fungsi pencarian, sehingga memungkinkan Anda mengidentifikasi komunitas, obrolan, dan bot,” kata Ajder. “Ini menyediakan fungsionalitas bot-hosting, jadi ini adalah tempat yang menyediakan alat tersebut. Selain itu, ini juga merupakan tempat di mana Anda dapat membagikannya dan benar-benar melakukan tindakan yang merugikan dalam kaitannya dengan hasil akhirnya.”
Pada akhir September, beberapa saluran deepfake mulai memposting bahwa Telegram telah menghapus bot mereka. Tidak jelas apa yang mendorong penghapusan tersebut. Pada tanggal 30 September, sebuah saluran dengan 295.000 pelanggan memposting bahwa Telegram telah “melarang” botnya, tetapi saluran tersebut memposting tautan bot baru untuk digunakan pengguna. (Saluran tersebut dihapus setelah WIRED mengirimkan pertanyaan ke Telegram.)
“Salah satu hal yang benar-benar mengkhawatirkan tentang aplikasi seperti Telegram adalah sangat sulit untuk dilacak dan dipantau, terutama dari sudut pandang para penyintas,” kata Elena Michael, salah satu pendiri dan direktur #NotYourPorn, sebuah kelompok kampanye yang bekerja untuk melindungi orang-orang. dari pelecehan seksual berbasis gambar.
Michael mengatakan Telegram “terkenal sulit” untuk mendiskusikan masalah keamanan, namun ia mencatat ada beberapa kemajuan dari perusahaan tersebut dalam beberapa tahun terakhir. Namun, dia mengatakan perusahaan harus lebih proaktif dalam memoderasi dan menyaring konten itu sendiri.
“Bayangkan jika Anda adalah seorang penyintas yang harus melakukan hal tersebut sendiri, tentunya beban tersebut tidak harus ditanggung oleh seseorang,” kata Michael. “Tentu saja bebannya ada pada perusahaan untuk menerapkan sesuatu yang proaktif, bukan reaktif.”
