Ini adalah lencana baru status selebriti yang tidak diinginkan siapa pun. Jennifer Aniston, Oprah Winfrey dan Kylie Jenner telah menyuarakan suaranya dikloning oleh penipu. Para pembuat onar online menggunakan kecerdasan buatan untuk memalsukan pernyataan Tiggerish yang disampaikan oleh penasihat keuangan TV, Martin Lewis. Dan akhir pekan ini, David Attenborough menggambarkan dirinya “sangat terganggu” setelah mengetahui bahwa suaranya yang dikloning telah digunakan untuk menyiarkan buletin berita partisan Amerika.
Kini para ahli telah memperingatkan bahwa kloning suara melanggar hukum karena para ahli teknologi menyempurnakan generator ucapan yang sebelumnya kikuk menjadi model yang mampu meniru jeda dan hembusan paling halus dari intonasi manusia.
Dr Dominic Lees, pakar AI dalam film dan televisi yang menjadi penasihat komite parlemen Inggris, mengatakan kepada The Guardian pada hari Senin: “Undang-undang privasi dan hak cipta kami tidak sesuai dengan apa yang dihadirkan oleh teknologi baru ini, jadi sangat sedikit yang David Attenborough Saya bisa melakukannya.”
Lees menjadi penasihat komite pemilihan budaya, media, dan olahraga House of Commons mengenai penyelidikan yang akan menyelidiki penggunaan etis AI dalam pembuatan film. Ini juga membentuk Jaringan Riset Media Sintetis, yang anggotanya termasuk perusahaan yang membuat versi kecerdasan buatan dari mendiang pewawancara acara bincang-bincang Michael Parkinson, yang akan menghasilkan serial delapan bagian tanpa naskah, Virtually Parkinson, dengan tamu baru. Kloningan suara itu proyek Hal ini dilakukan dengan persetujuan keluarga dan harta milik Parkinson.
“Pemerintah tentunya perlu mempertimbangkan (kloning suara), karena ini adalah masalah penipuan yang besar,” kata Lee. “Anda memerlukan peraturan pemerintah untuk mencegah (penyalahgunaan)… kita tidak bisa membiarkannya menjadi pertarungan sengit.”
Penipuan kloning suara AI meningkat sebesar 30% di Inggris tahun lalu, menurut penyelidikan oleh NatWest Bank bulan ini. Pemberi pinjaman lain, Starling Bank, ditemukan 28% orang telah menjadi sasaran penipuan kloning suara AI setidaknya sekali dalam setahun terakhir.
Penipu juga dilaporkan menggunakan kloning suara untuk melakukan versi penipuan teks “hai ibu”, di mana penipu menyamar sebagai anak-anak yang sangat membutuhkan orang tua mereka untuk mengirimkan dana. Pada saluran telepon yang sudah membingungkan, sulit untuk mendeteksi bahwa anak yang mengemis adalah tiruan dari seorang penipu. Konsumen disarankan untuk melakukan pengecekan dengan menutup telepon dan menelepon kembali nomor terpercaya.
Orang-orang yang suaranya dikloning tanpa persetujuan mereka menganggapnya lebih dari sekedar gangguan. Attenborough mengatakan kepada BBC pada hari Minggu: “Setelah menghabiskan seluruh hidup saya untuk mencoba mengatakan apa yang saya yakini sebagai kebenaran, saya sangat terganggu saat mengetahui bahwa akhir-akhir ini orang lain mencuri identitas saya dan saya sangat menentang penggunaan untuk mengatakan apa.” kamu mau.”
Saat opsi suara baru di model AI terbaru OpenAI, ChatGPT-4o, menampilkan nada yang tadinya sangat dekat Kepada aktris Scarlett Johansson, dia berkata bahwa dia terkejut dan marah karena suara itu “terdengar sangat mirip dengan suara saya sehingga teman-teman terdekat saya dan media tidak dapat membedakannya.”
setelah promosi buletin
Munculnya suara-suara kloning menimbulkan pertanyaan tentang apa yang hilang dari nada suara manusia yang sebenarnya. Lees berkata: “Masalah besarnya adalah AI tidak memahami emosi dan bagaimana hal itu mengubah cara sebuah kata atau frasa dapat berdampak emosional, dan bagaimana suara bervariasi untuk mewakili hal tersebut.”
Industri sulih suara, yang menyediakan suara untuk iklan, animasi, dan pelatihan instruksional, harus merespons kemajuan teknologi dengan cepat. Joe Lewis, kepala audio di Galeri Voiceover London, yang telah memberikan suara manusia nyata untuk iklan Specsavers dan National Express, mengatakan pihaknya telah mengkloning suara beberapa artisnya.
Dia mengatakan AI tampaknya bekerja lebih baik dengan suara laki-laki Inggris, mungkin karena hal itu mencerminkan bias dalam jenis rekaman yang digunakan untuk melatih algoritme, tetapi memperingatkan bahwa secara keseluruhan “ada sesuatu tentang cara pembuatannya yang membuat Anda merasa lebih baik.” kurang perhatian.”
“Saat AI (suara) bernafas, itu adalah nafas yang sangat berulang-ulang,” ujarnya. “Nafasnya ada di tempat yang tepat, tapi tidak terasa alami… (Tapi) bisakah sampai pada titik yang benar-benar sempurna? “Saya tidak mengerti kenapa tidak, tapi untuk mencapai spektrum emosi sepenuhnya masih jauh.”
