Bugün okuyucularımız için çok ilginç bir şeyimiz var. Yakın zamanda, Intel’in bu yıl içinde korkunç yeteneklere sahip yeni nesil bir AI eğitim hızlandırıcısını piyasaya sürmeye hazırlandığını doğrulayan bazı dahili belgelere ulaştık. Habana Gaudi 2 platformu olarak adlandırılan bu platform, NVIDIA’nın derin öğrenme için yeni veri merkezi ürünlerini (bu hafta içinde piyasaya çıkacak) hedef alacak ve (TCO perspektifinden) daha yüksek değerli bir alternatif sunmayı hedefliyor. Belgelerin bu yılın başlarında olduğunu ve bu süre zarfında başlatma penceresinin * hareket edebileceğini * unutmayın, bu yüzden bunu bir tuz tanesi ile alın.
Intel’in Habana teklifleri iki kategoriye ayrılır: AI eğitimi ve AI çıkarımı. Gaudi platformu, AI eğitim platformudur ve Goya, AI çıkarım platformudur. Gaudi 2 yongası, Intel tarafından sunulan eski Gaudi yongalarının yerini alacak. Edindiğimiz belgeler sadece bir Gaudi 2 çipinden bahsederken, [caution: editorial speculation] işin içinde Goya 2 çipi de olabilir [/editorial speculation] – Yapay zeka eğitimi ve çıkarımı genellikle çoğu satıcı tarafından birleşik bir teklif olduğundan. Satıcılar, halihazırda sunduğu Amazon AWS EC2DL1 bulut sunucusunu kullanarak Intel’in Gaudi platformunu kullanabilir Dolar başına %40 daha iyi performans NVIDIA tabanlı örneklerden daha fazla.
Ayrıca Gaudi 2 platformuna dayalı Intel HL 2080 AI çipinin ilk resmine de sahibiz:
Gaudi 2 HL 2080 yongası hakkında herhangi bir ek bilgi almamış olsak da 6 HBM’nin öldüğünü görebiliyoruz. Bunlar HBM2 türündeyse, bu yerleşik toplam 48 GB bellektir. HBM3 türüyse, sınır gökyüzüdür ve 96 GB (veya daha fazla) olabilir. 12+12 fazlı bir tasarım gibi görünen toplam 24 VRM için lehim pedlerini de görebiliriz. Bu, toplam 16 VRM için 8+8 tasarımına sahip eski Habana çipinden kabaca %50 daha fazla güçtür. Bunların standart HBM boyutlu yongalar olduğunu varsayarsak, Intel’in son nesil Gaudi işlemcilere göre kalıp boyutunu %50 artırdığı da görülüyor. Burada kalıp boyutu tahmini yapmayacağım ve bunu kaçınılmaz olarak meslektaşlarıma bırakacağım.
Bununla birlikte, kaba transistör sayısı artışı hakkında iyi bir fikir edinmek için çipin üzerine inşa edildiği süreci de bilmemiz gerekir. Intel Gaudi 2 HL 2080 yongasının ‘7nm’ bir süreç üzerine kurulduğunu biliyoruz. Eitan Medina’nın bu röportajı, Habana Labs COO’su. Ne yazık ki, bu bize pek yardımcı olmuyor çünkü 7nm, TSMC, Intel 7 (eski adıyla Intel 10nm) veya Intel 4’teki (önceden Intel 7nm ve en düşük ihtimalle) N7 sürecini ifade ediyor olabilir. Orijinal Habana Gaudi işlemcileri 16nm TSMC süreci üzerine inşa edildi ve bu da bu çipin N7 veya Intel 7’de olma olasılığını artırıyor. Durum ne olursa olsun, Gaudi 2 platformunun açıkça 16nm’den (ki bu kendisi kabaca %50’lik bir yoğunluk artışı sağlıyor) ve kalıp boyutu artışıyla birleştiğinde, NVIDIA’nın yakında çıkacak olan Hopper veri merkezi GPU’su ile – dolar başına performans açısından – kolayca başa baş gitmesi gereken bir işlemcinin mutlak canavarına bakıyoruz. ve belki de mutlak performans açısından.
Intel’in CEO’su Pat Gelsinger daha önce Habana AI kolu için “çok agresif bir yol” olduğunu ima etmişti:
Intel tarafından satın alındığından beri, Habana Labs’ın oynamak için çok daha fazla kaynağı olacaktı ve görünüşe göre şirket DL/ML uygulamaları konusunda ciddileşmeye hazırlanıyor. Intel sonunda, savuşturabilecek ve hatta NVIDIA’dan pazar payı alabilecek çok gerçek bir ürün yol haritasına sahip oldu.