Chip Trillium AI baru Google menghadirkan kecepatan dan kekuatan 4x lipat dari Gemini 2.0

Google baru saja diresmikan Triliumchip akselerator kecerdasan buatan generasi keenam yang mengklaim peningkatan kinerja yang secara mendasar dapat mengubah keekonomian kecerdasan buatan sekaligus memperluas kemampuan pembelajaran mesin.

Prosesor khusus yang memungkinkan pelatihan Google yang baru diumumkan. Gemini 2.0 Model AI memberikan kinerja pelatihan empat kali lipat dibandingkan pendahulunya dan mengonsumsi energi secara signifikan lebih sedikit. Terobosan ini terjadi pada saat yang genting ketika perusahaan-perusahaan teknologi berlomba untuk membangun sistem kecerdasan buatan yang semakin kompleks dan memerlukan sumber daya komputasi yang sangat besar.

“TPU menjalankan 100% pelatihan dan temuan Gemini 2.0,” jelas Sundar Pichai, CEO Google. postingan iklan menyoroti peran sentral chip dalam strategi AI perusahaan. Skala penerapannya belum pernah terjadi sebelumnya: Google telah menghubungkan lebih dari 100.000 chip Trillium ke dalam satu jaringan, menciptakan salah satu superkomputer AI paling kuat di dunia.

Bagaimana Kinerja 4X Trillium Mengubah Perkembangan AI

Spesifikasi Trillium menunjukkan kemajuan signifikan dalam banyak aspek. Chip ini memberikan kinerja komputasi per chip 4,7 kali lipat dibandingkan pendahulunya, sekaligus menggandakan kapasitas memori bandwidth tinggi dan bandwidth interkoneksi chip. Mungkin yang paling penting, teknologi ini memberikan peningkatan efisiensi energi sebesar 67%, sebuah metrik penting karena pusat data menghadapi kebutuhan daya yang sangat besar untuk pelatihan AI.

“Saat melatih model Llama-2-70B, pengujian kami menunjukkan bahwa Trillium mencapai penskalaan mendekati linier dari blok chip Trillium-256 yang terdiri dari 4 bagian menjadi blok chip Trillium-256 yang terdiri dari 36 bagian dengan efisiensi penskalaan sebesar 99%. Mark Lohmeyer, Wakil Presiden Komputasi dan Infrastruktur AI di Google Cloud. Tingkat skalabilitas ini sangat luar biasa mengingat tantangan yang biasanya terkait dengan komputasi terdistribusi pada skala ini.

Ekonomi Inovasi: Mengapa Trillium Mengubah Permainan untuk Startup AI

Dampak bisnis Trillium melampaui metrik kinerja mentah. Google mengatakan chip tersebut memberikan hasil pelatihan hingga 2,5x lebih baik per dolar dibandingkan model generasi sebelumnya, yang dapat mengubah keekonomian pengembangan AI.

Efektivitas biaya ini terbukti sangat penting bagi perusahaan dan startup yang mengembangkan model bahasa besar. AI21 Labs, pelanggan awal Trillium, telah melaporkan peningkatan yang signifikan. “Kemajuan dalam skala, kecepatan dan efektivitas biaya sangatlah signifikan,” ujarnya Barak LencCTO AI21 Labs, dalam sebuah pernyataan.

Mencapai tingkatan baru: supernetwork AI 100.000 chip Google

Penerapan Trillium oleh Google dalam arsitektur hiperkomputer AI-nya menunjukkan pendekatan terintegrasi perusahaan terhadap infrastruktur AI. Sistem ini menggabungkan lebih dari 100.000 chip Trillium dengan jaringan Jupiter yang mampu menghasilkan bandwidth keseimbangan 13 petabit per detik, memungkinkan satu tugas pelatihan terdistribusi untuk ratusan ribu akselerator.

Penggunaan flash meningkat lebih dari 900%, dan ini merupakan hal yang luar biasa,” kata Logan Kilpatrick, manajer produk tim studio AI Google, pada konferensi pengembang, menyoroti permintaan sumber daya komputasi AI yang meningkat pesat.

Tanpa Nvidia: langkah berani Google dalam perang chip AI

Peluncuran Trillium meningkatkan persaingan dalam perangkat keras AI Nvidia didominasi dengan solusi berbasis GPU. Meskipun chip Nvidia tetap menjadi standar industri untuk banyak aplikasi AI, pendekatan berbasis silikon Google dapat memberikan keuntungan untuk beberapa beban kerja, terutama saat melatih model yang sangat besar.

Analis industri mengatakan investasi besar-besaran Google pada chip khusus mewakili taruhan strategis terhadap semakin pentingnya infrastruktur AI. Keputusan perusahaan untuk menyediakan Trillium bagi pelanggan cloud menunjukkan keinginan untuk bersaing lebih agresif di pasar cloud AI, di mana perusahaan menghadapi persaingan yang ketat. MicrosoftAzure Dan Layanan Web Amazon.

Kekuatan Masa Depan: Arti Trillium bagi AI Masa Depan

Nilai kemampuan Trillium lebih dari sekadar peningkatan produktivitas secara langsung. Kemampuan chip ini untuk menangani beban kerja campuran secara efisien, mulai dari melatih model berukuran besar hingga melakukan inferensi untuk aplikasi manufaktur, menunjukkan masa depan di mana komputasi kecerdasan buatan akan menjadi lebih terjangkau dan hemat biaya.

Di industri teknologi yang lebih luas, peluncuran Trillium menandakan fase baru dalam perlombaan untuk supremasi perangkat keras AI. Ketika perusahaan mendorong batasan kemampuan AI, kemampuan untuk membangun dan menerapkan perangkat keras khusus dapat menjadi keunggulan kompetitif yang semakin penting.

“Kami masih dalam tahap awal mengenai apa yang bisa dilakukan dengan AI,” tulis CEO Google DeepMind Demis Hassabi. postingan blog. “Memiliki infrastruktur yang tepat, baik perangkat keras maupun perangkat lunak, akan menjadi hal yang sangat penting seiring dengan upaya kita untuk terus mendorong batasan kemampuan AI.”

Ketika industri beralih ke model AI yang lebih canggih yang dapat beroperasi secara mandiri dan berpikir dalam berbagai mode informasi, permintaan terhadap perangkat keras yang mendasarinya akan semakin meningkat. Dengan Trillium, Google telah menunjukkan niatnya untuk tetap menjadi yang terdepan dalam evolusi ini dengan berinvestasi pada infrastruktur yang memungkinkan kemajuan AI generasi berikutnya.