Minggu lalu, jika Anda bertanya kepada Google bagaimana cara mencegah keju dari geser saat membuat pizza, mungkin Google akan menyarankan untuk menambahkan lem ke saus Anda—tentu saja yang tidak beracun. Google juga memiliki beberapa informasi mengejutkan lainnya untuk dibagikan kepada pengguna. Berapa banyak batu yang harus Anda makan? Setidaknya satu per hari (kecil). Barack Obama adalah presiden Muslim pertama dan satu-satunya di Amerika; juga, 13 lainnya menghadiri Universitas Wisconsin-Madison. Anda dapat mengeluarkan batu ginjal dengan minum liter urin. Menatap matahari selama lima hingga 15 menit dianggap “umumnya aman.” Beberapa orang mengatakan, menurut Google, “bahwa jika Anda berlari dari tebing, Anda bisa tetap di udara selama Anda terus berlari dan tidak melihat ke bawah.”
Ini adalah peluncuran besar dari AI Overviews Google, yang sebelumnya dikenal sebagai Search Generative Experience, yang menjanjikan untuk menjawab pertanyaan pencari dalam bahasa sederhana daripada serangkaian tautan yang diharapkan. Ini adalah bencana PR viral kedua tahun ini untuk produk AI Google setelah chatbot Gemini dan pembuat gambar mereka menjadi viral karena revisi sejarah absurd. Contoh-contoh ini, menurut Google, jarang dan tidak representatif. “Sebagian besar besar dari AI Overviews memberikan informasi berkualitas tinggi,” kata perusahaan kepada wartawan, sementara contoh aneh di atas mewakili “kueri yang tidak umum.” Yang, mungkin saja, tapi seperti yang diketahui perusahaan dengan baik, orang-orang menggunakan Google sangat sering—sering kali puluhan kali sehari dan dalam beberapa kasus ratusan. Kesalahan yang aneh, lucu, atau mengkhawatirkan yang disampaikan dengan percaya diri di bagian atas halaman pencarian tidak perlu terlalu sering untuk menciptakan kesan bahwa Google sangat rusak.
Perusahaan secara manual membersihkan contoh yang paling mencolok dari platformnya, tetapi jawaban yang sangat salah masih muncul sesekali, dan jawaban yang sedikit salah muncul hampir setiap hari saya menggunakannya (ini juga berlaku untuk tahun saya mengujinya). Dengan kata lain, masalah yang diciptakan Google untuk dirinya sendiri tidak mudah untuk diperbaiki. Google, yang mungkin memiliki pengetahuan institusional tentang AI sebanyak perusahaan pesaing mana pun di dunia, tampaknya cenderung melebih-lebihkan kemampuan teknologinya dan meremehkan kompleksitas tugas yang diberikan. Sementara jawaban AI omong kosong Google sebagian besar lucu, mereka juga memberikan gambaran tentang hal-hal yang akan datang. Saat perusahaan teknologi lain mengikuti jejak Google—dan saat perusahaan Amerika beralih dari pertemuan samar tentang AI ke rencana konkret—kita semua bisa berharap untuk makan sedikit lem.
AI Overviews cukup mudah dijelaskan secara umum: Mereka adalah jawaban Google atas kueri Anda. Ini membantu Google karena perusahaan dapat meluncurkan fitur baru yang besar ke miliaran pelanggan tanpa banyak penjelasan; ini juga sangat tidak membantu bagi Google karena menetapkan harapan yang sangat tinggi. Jawaban AI Google sering kali pada dasarnya benar, dalam pengalaman saya, tetapi terlalu samar untuk membantu. Jawaban yang lebih spesifik dan membantu dirusak oleh ketidakpastian pengguna, sehingga Anda akhirnya memeriksa ulang mereka, menemukan dalam proses bahwa Google telah melakukan sesuatu yang mendekati plagiarisme. Ketika fitur ini benar-benar berfungsi dan menyintesis sesuatu yang spesifik dan relevan dari berbagai sumber, yang dalam banyak hal adalah pencapaian teknologi yang luar biasa, harapan minimum pengguna baru saja terpenuhi. Ini adalah skenario yang cukup tidak menguntungkan bagi Google tetapi yang sangat diciptakan oleh perusahaan itu sendiri.
Apa yang sebenarnya dilakukan oleh AI Overviews sedikit kurang jelas dan lebih spesifik daripada “menjawab pertanyaan.” Dalam bahasa Google, fitur ini dimaksudkan untuk “mengurangi pekerjaan mencari.” Google melakukan ini, menurut perusahaan, dengan menggabungkan “pemikiran multi-langkah, perencanaan, dan multimodalitas” Gemini dengan “sistem Pencarian terbaik di kelasnya.” Seperti kebanyakan inisiatif AI, ini adalah upaya untuk otomatisasi. Tetapi apa yang diotomatisasi oleh Google di sini, sebagian besar, adalah pekerjaan yang sebelumnya dilakukan oleh penggunanya. Itu mengotomatiskan kita.
Google hampir menganggapnya sebagai hal tersebut: Dengan mensintesis hasil pencarian menjadi jawaban, perusahaan menghilangkan langkah-langkah, mengurangi friksi, meningkatkan produktivitas, dll. Itu “melakukan pencarian untuk Anda.” Namun ini membantu menjelaskan mengapa fitur semacam itu sangat sulit untuk diperbaiki. Google, seperti yang diketahui sebagian besar orang, adalah alat yang rumit yang digunakan oleh pengguna selama bertahun-tahun. Kami memiliki kebiasaan, rutinitas, trik, dan harapan—kami, dengan cara yang sangat pribadi, terbiasa menggunakan mesin yang rumit. Ini sedikit seperti mengemudi mobil. Ini adalah sesuatu yang dilakukan banyak orang, dengan berbagai tingkat keterampilan dan perhatian, untuk berbagai tujuan, dengan risiko nyata yang sebagian besar dapat diterima oleh pengemudi individu.
