Para pemimpin dunia, tokoh teknologi dan variasi gantungan (termasuk mereka benar -benar) bertemu di Paris minggu ini untuk KTT Aksi Kecerdasan BuatanSebuah konferensi yang diorganisasikan oleh Emmanuel Macron, presiden Prancis, dan Narendra Modi, Perdana Menteri India, untuk membahas sejumlah besar masalah yang berkaitan dengan AI.
Para pemimpin tiga perusahaan AS AI, Sam Altman de Openai, Dario Amodei dari Anthrope dan Demis Hassabis dari Google DeepMind, ada di sini, serta sekawanan para pemimpin terkemuka AI, peneliti akademik dan kelompok masyarakat sipil. (Wakil Presiden JD Vance diperkirakan akan memimpin delegasi Amerika Serikat, muncul pada hari Selasa).
Antara gigitan rasa sakit au chocolat, inilah sesuatu yang saya lihat sejauh ini:
Eropa mengalami penyesalan peraturan.
Latar belakang KTT AI adalah bahwa Eropa, yang menyetujui undang -undang sulit tentang privasi data dan jejaring sosial selama dekade terakhir, dan memiliki keunggulan atas peraturan AI dengan hukum Union Eropa, TI, itu sepertinya memiliki keraguan.
Tn. Macron, yang minggu ini mengumumkan $ 112,5 miliar Dalam investasi swasta di ekosistem Prancis, sangat berhati -hati ditinggalkan. Itu telah menjadi animator mistral, perusahaan AI Prancis baru, dan memiliki dibahas terhadap Peraturan “menghukum” yang dapat membuat sektor teknologi negara itu kurang kompetitif.
Perusahaan teknologi (dan pelobi mereka) menghargai bantuan. Tapi mungkin sudah terlambat untuk berhenti Hukum AIyang dijadwalkan mulai berlaku secara bertahap selama tahun berikutnya. Dan beberapa eksekutif AS mengatakan kepada saya bahwa mereka masih menganggap Eropa sebagai tempat yang sulit untuk melakukan bisnis dibandingkan dengan pasar besar lainnya, seperti India, di mana peraturan relatif lemah.
AI Doomsayers kehilangan tempat.
KTT AI Paris sebenarnya adalah yang ketiga dari serangkaian puncak global AI. Dua yang pertama, yang diadakan di Inggris pada tahun 2023 dan Korea Selatan tahun lalu, lebih fokus pada risiko dan potensi kerusakan sistem AI canggih, untuk dan termasuk kepunahan manusia.
Tetapi di Paris, para penyair telah terpinggirkan demi visi potensial teknologi yang lebih cerah dan lebih optimis. Panelis dan pembicara diundang untuk berbicara tentang kemampuan AI untuk mempercepat kemajuan di bidang -bidang seperti kedokteran dan ilmu iklim, dan percakapan paling suram tentang risiko memperoleh AI sebagian besar diturunkan ke peristiwa sekunder tidak resmi. Dan draft penyaringan Deklarasi resmi KTT, Bahwa itu diharapkan ditandatangani oleh beberapa asisten negara, itu dikritik oleh kelompok keamanan AI karena memberi sedikit perhatian pada risiko bencana.
Sebagian, itu mencerminkan keputusan yang disengaja dari Mr. Macron dan letnannya untuk memainkan sisi positif AI (salah satunya, Anne Bouverot, utusan khusus dari puncak, menunjuk pada “ketakutan yang berlebihan” dari orang -orang berpusat pada keamanan selama komentar pembukaan mereka pada hari Senin). Tetapi itu juga mencerminkan perubahan yang lebih besar dalam industri AI, yang tampaknya menyadari bahwa lebih mudah untuk membangkitkan politisi tentang kemajuan AI jika mereka tidak khawatir bahwa mereka akan membunuh mereka.
Deepseek juga telah memberi energi pada Rans.
Seperti semua acara AI selama bulan lalu, KTT Paris telah penuh dengan percakapan tentang Deepseek, start-up Cina AI Itu mengejutkan dunia dengan model penalaran yang kuat, menurut laporan, dibangun untuk sebagian kecil dari biaya model utama AS.
Selain menyalakan panas di bawah raksasa Amerika Serikat, Deepseek telah memberikan harapan baru pada pakaian terkecil di Eropa dan di tempat -tempat lain yang telah dipertimbangkan di luar lomba. Dengan menggunakan teknik pelatihan yang lebih efisien dan trik rekayasa cerdas untuk membangun model mereka, Depseek menunjukkan bahwa Anda hanya bisa membutuhkan lusinan juta dolar, bukannya ratusan miliar dolar, untuk menjaga ritme perbatasan IA.
“Deepseek telah menunjukkan bahwa semua negara dapat menjadi bagian dari AI, yang tidak jelas sebelumnya,” Clément Delangue, direktur eksekutif yang lahir di Prancis dari Face, mengatakan kepada saya sebuah perusahaan pengembangan AI.
Sekarang, Mr. Delangue berkata: “Seluruh dunia diperbarui.”
Kebijakan AI Trump adalah tanda pertanyaan.
Permainan teka -teki paling populer dalam seminggu adalah apa yang akan menjadi posisi administrasi Trump di IA.
Administrasi baru telah membuat beberapa gerakan di AI sejauh ini, seperti mencabut perintah eksekutif Gedung Putih Biden yang membentuk program pengujian untuk model AI yang kuat. Tetapi belum menyajikan agenda lengkap untuk teknologi.
Beberapa orang di sini adalah harapan bahwa Elon Musk, salah satu penasihat utama presiden dan seorang pria yang menjalankan perusahaan AI dan memiliki Mengungkapkan ketakutan Tentang Amok AI Run yang kuat: Dia akan membujuk Tuan Trump untuk mengadopsi pendekatan yang lebih hati -hati.
Yang lain percaya bahwa kapitalis risiko dan akselerator AI yang disebut SO di orbit Tuan Trump, seperti inverter Marc Andreessen, akan membujuknya untuk meninggalkan industri AI sendirian dan merobek peraturan apa pun yang bisa menghentikannya.
Tn. Vance dapat memberi tip tangan pemerintah pada hari Selasa, selama arahan puncaknya. Tapi tidak ada orang di sini yang mengharapkan stabilitas dalam jangka pendek. (Seorang eksekutif AI mencirikan administrasi Trump sebagai “varian tinggi”, yang merupakan ai-berbicara untuk “kacau”).
Tidak ada yang benar -benar berurusan dengan celana pendek.
Kejutan terbesar dari KTT Paris, bagi saya, adalah bahwa formulator kebijakan tampaknya tidak memahami seberapa cepat sistem AI yang kuat atau seberapa berbahaya mereka.
Hassabis, dari Google Deepmind, mengatakan selama acara di kantor Paris perusahaan pada hari Minggu bahwa AGI (intelijen umum buatan, sistem AI yang bertepatan atau melampaui keterampilan manusia di banyak domain) dapat tiba dalam lima tahun. (Tn. Amodei, dari Anthrope, dan Mr. Altman, dari Openai, telah meramalkan kedatangan mereka bahkan sebelumnya, mungkin dalam satu atau dua tahun depan).
Bahkan jika Anda menerapkan diskon untuk prediksi yang dibuat oleh CEO Technology, diskusi yang saya dengar di Paris tidak memiliki urgensi yang saya harapkan, jika AI yang kuat benar -benar hanya sekitar sudut.
Kebijakan kebijakan di sini sangat bagus dalam konsep difus sebagai “komitmen terhadap banyak pemangku kepentingan” dan “bingkai yang memungkinkan inovasi.” Tetapi sedikit yang serius memikirkan apa yang akan terjadi jika sistem AI paling cerdas yang manusia tiba dalam hitungan bulan atau mengajukan pertanyaan pelacakan yang tepat.
Apa artinya bagi pekerja jika agen -agen kuat dari mereka yang mampu mengganti jutaan pekerjaan kerah putih bukanlah fantasi yang jauh tetapi kenyataan yang akan segera terjadi? Jenis peraturan apa yang diperlukan di dunia di mana sistem AI mampu mengatasi perbaikan rekursif atau melakukan serangan cyber yang otonom? Dan jika itu adalah AGI yang optimis, bagaimana seharusnya lembaga mempersiapkan perbaikan cepat di bidang -bidang seperti penelitian ilmiah dan penemuan obat?
Saya tidak bermaksud untuk menumpuk formulator kebijakan, banyak di antaranya melakukan segala yang mungkin untuk mempertahankan ritme dengan kemajuan AI. Teknologi bergerak dengan kecepatan tinggi; Lembaga bergerak di negara lain. Dan ada kemungkinan bahwa para pemimpin industri sangat jauh dalam prediksi AGI mereka, atau bahwa hambatan baru muncul untuk peningkatan AI.
Tetapi kadang -kadang minggu ini, mendengarkan formulator kebijakan untuk membahas bagaimana mengatur sistem AI yang telah menggunakan peraturan yang mungkin tidak setuju segera setelah mereka ditulis, saya terkejut betapa berbedanya skala waktu ini. Kadang -kadang rasanya seperti melihat formulator kebijakan dengan menunggang kuda, berjuang untuk memasang sabuk pengaman dalam lewat lamborghini.
Saya tidak yakin apa yang harus dilakukan. Tidak seolah -olah para pemimpin industri tidak jelas atau tidak jelas tentang niat mereka untuk membangun AGI, atau intuisi mereka yang akan segera terjadi. Tetapi jika KTT di Paris merupakan indikasi, ada sesuatu yang hilang dalam terjemahan.
