Saya seorang reporter AI dan tahun depan saya tidak ingin bosan. Saya tidak ingin mendengar tentang kenaikan suku bunga Penipu yang didukung AIberantakan perebutan kekuasaan di ruang rapat atau orang yang menyalahgunakan program kecerdasan buatan untuk membuat foto dan video yang berbahaya, menyesatkan, atau sengaja menghasut.
Ini adalah tugas yang sulit dan saya tahu saya mungkin tidak akan mendapatkan keinginan saya. Terlalu banyak perusahaan yang mengembangkan AI dan terlalu sedikit panduan dan regulasi. Namun jika saya harus menanyakan satu hal pada musim liburan ini, ini adalah: 2025 harus menjadi tahun dimana kita mendapatkan label konten AI yang bermakna, terutama untuk gambar dan video.
Gambar dan video yang dihasilkan AI telah berkembang pesat, terutama dalam satu tahun terakhir. Namun, evolusi generator gambar AI adalah pedang bermata dua. Peningkatan model berarti lebih sedikit gambar yang dihasilkan halusinasi atau kebetulan. Namun hal-hal aneh itu, orang-orang dengan 12 jari dan benda-benda yang menghilang, adalah salah satu dari sedikit hal yang dapat ditandai oleh orang-orang dan menebak apakah gambar tersebut dibuat oleh manusia atau kecerdasan buatan. Ketika generator AI semakin membaik dan tanda-tanda peringatan ini hilang, ini akan menjadi masalah besar bagi kita semua.
Perebutan kekuasaan hukum dan perdebatan etika mengenai pencitraan AI pasti akan berlanjut tahun depan. Namun untuk saat ini, generator gambar AI dan layanan pengeditan legal dan mudah digunakan. Artinya, konten AI akan terus membanjiri pengalaman online kita, dan menentukan asal suatu gambar akan menjadi lebih sulit – dan lebih penting – dibandingkan sebelumnya. Tidak ada solusi jitu, solusi universal. Namun, saya yakin label konten AI yang diadopsi secara luas akan sangat membantu.
Sejarah kompleks seni AI
Jika ada satu tombol yang dapat Anda tekan untuk membuat marah artis mana pun, itu adalah generator gambar AI. Teknologi ini, yang didukung oleh AI generatif, dapat membuat seluruh gambar dari beberapa kata sederhana yang Anda perintahkan. Saya punya digunakan dan ditinjau beberapa di antaranya untuk CNET, dan saya masih takjub melihat betapa detail dan jelasnya gambar yang dihasilkan. (Mereka tidak semuanya adalah pemenangtapi mereka bisa jadi cukup bagus.)
Seperti yang dikatakan mantan rekan saya di CNET, Stephen Shankland ceritakan padaku secara singkat“AI bisa membiarkan Anda berbohong dengan foto. Namun Anda tidak ingin foto tidak tersentuh oleh pemrosesan digital.” Selama bertahun-tahun, jurnalis foto, editor, dan pencipta telah berupaya menyeimbangkan antara retouching dan editing kebenaran. AI generatif dan pengeditan berbasis AI hanya menambah kesulitan.
Ambil Adobe misalnya. Musim gugur ini, Adobe memperkenalkan banyak fitur barubanyak di antaranya dihasilkan oleh kecerdasan buatan. Photoshop sekarang dapat menghilangkan kabel-kabel yang mengganggu dari gambar, dan pengguna Premiere Pro dapat memperluas klip film yang ada dengan gen AI. Pengisian generatif adalah salah satunya alat Photoshop paling populerAdobe Deepa Subramaniam, setara dengan alat crop. Adobe telah memperjelas bahwa pengeditan generatifnya akan menjadi norma baru dan masa depan. Karena Adobe adalah standar industri, pengembang terpaksa: bergabunglah dengan AI atau Anda akan tertinggal.
Meskipun Adobe berjanji untuk tidak pernah mengajari penggunanya cara bekerja – salah satu masalah terbesar dengan AI generatif – tidak semua perusahaan mempublikasikan atau bahkan mengungkapkan bagaimana model AI mereka dibuat. Kreator yang membagikan karyanya secara online sudah harus menghadapi “pencurian karya seni dan plagiarisme”, tulis seniman digital René Ramos. memberitahuku awal tahun ini, mencatat bagaimana alat penghasil gambar memberikan akses ke gaya yang telah disempurnakan oleh para seniman sepanjang hidup mereka.
Apa yang Dapat Dilakukan Label AI
Tag AI adalah segala jenis pesan digital yang menunjukkan kapan AI mungkin telah membuat atau memodifikasi gambar secara signifikan. Beberapa perusahaan secara otomatis menambahkan tanda air digital ke generasinya (mis Gambar meta AI), tetapi banyak yang menawarkan opsi untuk menghapusnya dengan meningkatkan ke tingkatan berbayar (misalnya OpenAI Dall-E 3). Alternatifnya, pengguna cukup memotong gambar untuk menghilangkan tanda identifikasi.
Banyak upaya baik yang telah dilakukan dalam satu tahun terakhir untuk mendukung upaya ini. Inisiatif keaslian konten Adobe meluncurkan program baru awal tahun ini yang disebut Kredensial konten memungkinkan siapa saja untuk menambahkan tanda tangan digital yang tidak terlihat pada karya mereka. Pengembang juga dapat menggunakan kredensial ini untuk mengungkapkan dan memantau penggunaan AI dalam pekerjaan mereka. Adobe juga memiliki ekstensi untuk Google Chrome yang membantu Anda menyetel kredensial ini pada konten web.
Google telah mengadopsi standar baru untuk kredensial konten gambar dan iklan di pencarian Google sebagai bagian dari Koalisi Asal dan Keaslian Konten yang didirikan oleh Adobe. Ditambahkan juga oleh a bab baru ke informasi gambar di Google Penelusuran, yang menyoroti setiap pengeditan AI untuk “transparansi yang lebih besar”. Program beta Google untuk watermarking dan identifikasi konten AI disebut SynthIDmengambil langkah maju dan merilis open source untuk pengembang tahun ini
Perusahaan media sosial juga kesulitan memberi label pada konten AI. Menurut laporan itu Inisiatif MediaWise Poynter. Meta, perusahaan induk Instagram dan Facebook, mulai beroperasi Label “Dibuat dengan Kecerdasan Buatan”. untuk postingan dan tag media sosial dengan cepat, diberi label yang salah foto buatan manusia yang diciptakan oleh kecerdasan buatan. Setahun kemudian menemukan bahwa label tersebut diterapkan ketika “mendeteksi indikator gambar AI standar industri” dan mengubah label menjadi “info AI” untuk menghindari implikasi bahwa gambar tersebut seluruhnya dihasilkan oleh program komputer. Platform media sosial lain seperti Pinterest dan TikTok memiliki tingkat tag AI yang berbeda-beda – menurut pengalaman saya, sebagian besar Pinterest telah dibanjiri AI, sedangkan tag AI TikTok ada di mana-mana tetapi mudah untuk dilewatkan.
Adam Mosseri, kepala Instagram, baru-baru ini membagikan a serangkaian pesan mengenai hal ini, dengan mengatakan: “Peran kami sebagai platform web adalah memberi label pada konten yang dibuat oleh AI sebaik mungkin. Namun beberapa konten pasti akan lolos dan tidak semua representasi yang salah akan dibuat oleh AI, jadi kami juga perlu memberikan konteks tentang siapa yang membuat konten tersebut.” berbagi bahwa Anda dapat menilai sendiri seberapa besar Anda ingin mempercayai konten mereka.
Jika Mosseri mempunyai saran yang dapat ditindaklanjuti selain “pertimbangkan sumbernya” yang sebagian besar dari kita diajarkan di kelas bahasa Inggris sekolah menengah, saya akan senang mendengarnya. Namun yang lebih optimis, hal ini dapat memberikan petunjuk mengenai pengembangan produk di masa depan untuk memberikan lebih banyak konteks kepada masyarakat, seperti dalam komentar komunitas Twitter/X. Hal-hal seperti tag AI akan menjadi lebih penting jika Meta memutuskan untuk melakukan eksperimennya sendiri dan menambahkan Postingan yang disarankan yang dihasilkan AI ke umpan kami.
Apa yang kita butuhkan di tahun 2025?
Itu semua bagus, tapi kami membutuhkan lebih banyak. Kita memerlukan label yang konsisten dan jelas di setiap sudut web. Tidak terkubur dalam metadata foto, namun ditampar (atau di atas/bawahnya). Semakin jelas semakin baik.
Tidak ada solusi mudah untuk mengatasi hal ini. Infrastruktur daring seperti ini memerlukan kerja keras dan kolaborasi antara teknologi, kelompok sosial, dan mungkin pemerintah serta kelompok masyarakat sipil. Namun, investasi dalam membedakan gambar mentah dari gambar yang dibuat hanya dengan kecerdasan buatan sangatlah penting. Mengajarkan orang untuk mengenali konten AI adalah hal yang bagus, namun seiring dengan kemajuan AI, bahkan pakar seperti saya pun akan kesulitan menilai gambar secara akurat. Jadi mengapa tidak memperjelasnya dan memberi orang-orang informasi yang perlu mereka ketahui tentang asal muasal video tersebut, atau setidaknya membantu mereka menebak ketika mereka melihat sesuatu yang aneh?
Yang menjadi perhatian saya adalah bahwa masalah ini saat ini berada di urutan paling bawah dari daftar tugas yang harus dilakukan banyak perusahaan AI, terutama karena trennya tampaknya sedang berkembang. video AI. Namun demi kewarasan saya dan orang lain, tahun 2025 harus menjadi tahun di mana kita membangun sistem identifikasi dan penandaan gambar AI yang lebih baik.
