Sepertinya itu sejak saat itu Oh Datang ke dunia kita, para pencipta menempatkan kaki di atas gas. Namun, menurut dokumen kebijakan baru, Meta CEO Mark Zuckerberg dapat memperlambat atau menghentikan pengembangan sistem AGI yang diadakan “berisiko tinggi” atau “risiko kritis”.
AGI adalah sistem AI yang dapat melakukan semua yang bisa dilakukan seseorang dan Zuckerberg Suatu hari berjanji untuk membuatnya secara terbuka; Tapi dalam dokumen ‘Sistem AI Perbatasan,“Zuckerberg mengakui bahwa beberapa sistem AI yang sangat mampu tidak akan dirilis secara publik karena mereka mungkin terlalu berisiko.
Sistem ini “berfokus pada risiko paling kritis dari ancaman keamanan siber dan risiko senjata kimia dan biologis.”
“Dengan memberikan prioritas untuk bidang -bidang ini, kami dapat mencoba melindungi keamanan nasional dan mempromosikan inovasi. Sistem kami menggambarkan banyak proses yang kami lakukan untuk mengantisipasi dan mengurangi risiko pengembangan sistem AI perbatasan,” Siaran pers ditulis tentang dokumen tersebut;
Kecepatan cahaya yang dapat dipasangkan
Sebagai contoh, sistem bermaksud untuk menentukan “kemungkinan hasil bencana yang terkait dengan risiko cyber, kimia dan biologis yang ingin kita cegah”. Dia juga melakukan “latihan pemodelan ancaman untuk memprediksi bagaimana karakter yang berbeda dapat mencoba menyalahgunakan perbatasan untuk mendapatkan hasil bencana itu” dan memiliki “proses agar dapat diterima.”
Jika perusahaan menentukan bahwa risikonya terlalu tinggi, ia akan mempertahankan sistem bagian dalam, alih -alih memberikan akses publik.
“Meskipun sistem ini berfokus pada upaya kami untuk mengantisipasi dan mengurangi risiko hasil bencana, penting untuk menekankan bahwa alasan mengapa pengembangan sistem AI canggih” ditulis dalam dokumen.
Meski begitu, Zuckerberg tampaknya telah menyerang rem – setidaknya untuk saat ini – jalan AGI yang cepat menuju masa depan.
