Alat AI yang dihosting Amazon dirancang untuk meningkatkan rekrutmen Kementerian Pertahanan Inggris sehingga menempatkan personel pertahanan dalam risiko teridentifikasi secara publik, demikian menurut evaluasi pemerintah.
Data yang digunakan dalam sistem otomatis untuk meningkatkan penulisan iklan pekerjaan pertahanan dan menarik kandidat yang lebih beragam dengan meningkatkan bahasa inklusif, termasuk nama, peran dan email personel militer dan disimpan oleh Amazon di AS Hal ini berarti bahwa “pelanggaran data dapat menimbulkan konsekuensi yang mengkhawatirkan, yaitu identifikasi personel pertahanan,” menurut dokumen yang merinci sistem kecerdasan buatan pemerintah yang diterbitkan hari ini untuk pertama kalinya.
Risikonya dianggap “rendah” dan Kementerian Pertahanan mengatakan penyedianya, Textio, Amazon Web Services dan Amazon GuardDuty, sebuah layanan pendeteksi ancaman, telah menerapkan “perlindungan yang kuat”.
Namun hal ini merupakan salah satu dari beberapa risiko yang diakui oleh pemerintah terkait penggunaan alat kecerdasan buatan di sektor publik di a tahap dokumen diterbitkan untuk meningkatkan transparansi penggunaan algoritma oleh pemerintah pusat.
Pernyataan resmi tentang cara kerja algoritme menekankan bahwa terdapat mitigasi dan perlindungan untuk mengatasi risiko tersebut, seiring dengan dorongan para menteri untuk menggunakan AI untuk meningkatkan produktivitas ekonomi Inggris dan, seperti yang diungkapkan oleh Menteri Teknologi Peter Kyle pada hari Selasa, “menghadirkan layanan publik.” kembalilah dari tepi jurang yang dalam.”
Minggu ini dilaporkan bahwa Chris Wormald, sekretaris kabinet yang baru, telah memberitahu para pejabat Perdana menteri ingin “merestrukturisasi cara kerja pemerintah,” dan menuntut agar para pejabat memanfaatkan “peluang besar yang ditawarkan teknologi.”
Google dan Meta telah bekerja sama secara langsung dengan pemerintah Inggris dalam proyek percontohan penggunaan AI dalam layanan publik. Microsoft menyediakan sistem Copilot yang didukung AI kepada pegawai negeri dan awal bulan ini, Menteri Kantor Kabinet Pat McFadden mengatakan dia ingin pemerintah “berpikir lebih seperti sebuah startup.”
Risiko dan manfaat lain yang diidentifikasi dalam AI pemerintah pusat saat ini meliputi:
-
Kemungkinan bahan ajar yang tidak sesuai dihasilkan oleh a Alat perencanaan pembelajaran yang didukung AI digunakan oleh guru berdasarkan model bahasa besar yang canggih dari Open AI, GPT-4o. AI menghemat waktu guru dan dapat dengan cepat mempersonalisasi rencana pembelajaran dengan cara yang tidak mungkin dilakukan jika tidak dilakukan.
-
“Halusinasi” dari a Chatbot diimplementasikan untuk menjawab pertanyaan tentang kesejahteraan anak. di pengadilan keluarga. Namun, ia juga menawarkan informasi 24 jam dan mengurangi waktu antrian bagi orang-orang yang perlu berbicara dengan agen manusia.
-
‘Operasi kode kesalahan’ dan ‘input data salah’ di HM Treasury baru Mesin Kebijakan yang menggunakan pembelajaran mesin untuk memodelkan pajak dan memberi manfaat pada perubahan “lebih akurat dibandingkan pendekatan yang ada.”
-
“Penurunan nalar manusia” jika pengguna AI yang memprioritaskan risiko pemeriksaan kebersihan makanan menjadi terlalu bergantung pada AI sistem. Hal ini juga dapat menghasilkan “skor yang konsisten untuk jenis perusahaan tertentu”, namun hal ini juga berarti inspeksi yang lebih cepat terhadap tempat-tempat yang kemungkinan besar melanggar standar kebersihan.
Pengungkapan ini dilakukan dalam daftar transparansi algoritmik yang baru diperluas yang mencatat informasi rinci tentang 23 algoritma pemerintah pusat. Beberapa algoritma, seperti yang digunakan dalam sistem kesejahteraan oleh Departemen Pekerjaan dan Pensiun, yang punya menunjukkan tanda-tanda biasMereka belum terdaftar.
“Teknologi memiliki potensi yang sangat besar untuk meningkatkan pelayanan publik,” kata Kyle. “Kami akan menggunakannya untuk mengurangi penundaan, menghemat uang, dan meningkatkan hasil bagi masyarakat di seluruh negeri. “Transparansi tentang bagaimana dan mengapa sektor publik menggunakan alat algoritmik sangat penting untuk memastikan alat tersebut dapat diandalkan dan efektif.”
Organisasi pemerintah pusat akan diwajibkan untuk mempublikasikan catatan alat algoritmik apa pun yang berinteraksi langsung dengan warga negara atau secara signifikan memengaruhi keputusan yang dibuat mengenai individu, kecuali jika ada pengecualian terbatas yang berlaku, seperti keamanan nasional. Log untuk alat tersebut akan dipublikasikan setelah diuji secara publik atau aktif dan beroperasi.
AI lain yang termasuk dalam daftar yang diperluas mencakup chatbot AI yang menangani pertanyaan pelanggan ke Network Rail dan dilatih tentang kasus-kasus historis dari sistem hubungan pelanggan entitas kereta api.
Departemen Pendidikan mengoperasikan asisten pembelajaran AI untuk guru, Aila, menggunakan model GPT-4o Open AI. Dibuat di Whitehall, alih-alih menggunakan kontraktor, ini memungkinkan guru membuat rencana pembelajaran. Alat ini sengaja dirancang untuk tidak menghasilkan pelajaran hanya dengan satu sentuhan tombol. Namun risiko yang diidentifikasi dan dimitigasi mencakup materi pengajaran yang dihasilkan berbahaya atau tidak sesuai, bias atau informasi yang salah dan “suntikan segera” – cara bagi pelaku kejahatan untuk mengelabui AI agar melaksanakan niatnya.
Layanan Nasihat dan Dukungan Pengadilan Anak dan Keluarga, yang memberikan nasihat kepada pengadilan keluarga mengenai kesejahteraan anak, menggunakan robot pemrosesan bahasa alami untuk menjalankan layanan obrolan di situs web yang menjalankan sekitar 2.500 konsultasi per bulan. Salah satu risiko yang diketahui adalah Anda mungkin menangani laporan kekhawatiran tentang anak-anak, sementara risiko lainnya adalah “halusinasi” dan “hasil yang tidak akurat”. Ini memiliki tingkat keberhasilan dua pertiga. Hal ini didukung oleh perusahaan seperti Genesys dan Kerv, yang lagi-lagi menggunakan Amazon Web Services.
