Google, bugün Google I/O etkinliğinde, bugüne kadarki en güçlü ve enerji tasarruflu TPU’su olan 6. nesil Trillium TPU’yu duyurdu. Trillium TPU’lar, yapay zeka alanında çığır açan gelişmelere olanak sağlayacak.
Trillium TPU’lar, TPU v5e ile karşılaştırıldığında çip başına 4.7 kat daha fazla hesaplama performansı sunuyor. Yüksek Bant Genişliği Belleği (HBM) kapasitesi ve bant genişliği iki katına çıkarılırken, Çipler Arası Bağlantı (ICI) bant genişliği de TPU v5e’nin iki katına çıkarıldı. Ayrıca Trillium, gelişmiş sıralama ve öneri iş yüklerinde yaygın olan ultra büyük gömme işlemlerini işlemek için özel bir hızlandırıcı olan üçüncü nesil SparseCore ile donatıldı.
Trillium TPU’lar, yeni nesil temel modellerin daha hızlı eğitilmesini ve bu modellerin daha düşük gecikme süresi ve daha düşük maliyetle sunulmasını mümkün kılıyor. 6. nesil TPU’lar, aynı zamanda Google’ın en sürdürülebilir TPU’ları: Trillium TPU’lar, TPU v5e’den %67 daha fazla enerji tasarrufu sağlıyor.
Google’ın Yapay Zeka Hiperbilgisayarı’nın bir parçası olan Trillium TPU’lar, son teknoloji yapay zeka iş yükleri için özel olarak tasarlanmış çığır açan bir süper bilgisayar mimarisinin parçası. Trillium TPU’lar, açık kaynaklı yazılım çerçeveleri ve esnek tüketim modelleriyle performans için optimize edilmiş bir altyapı sunuyor.
Google DeepMind baş bilim insanı Jeff Dean, “Gemini 1.5 Pro, Google’ın en büyük ve en yetenekli yapay zeka modeli ve on binlerce TPU hızlandırıcısı kullanılarak eğitildi. Ekibimiz, 6. nesil TPU’ların duyurulması konusunda heyecanlı ve Gemini modellerimizin ölçekte eğitimi ve çıkarımı için performans ve verimlilik artışını dört gözle bekliyoruz” dedi.
Yeni Trillium TPU’lar, bu yılın sonlarında kullanıma sunulacak.
Google, Yeni nesil Trillium TPU’ları tanıttı! yazısı ilk önce TechInside üzerinde ortaya çıktı.