Birçok şirket yapay zeka (AI) iş yükleri için hızlandırıcılar geliştiriyor olsa da Nvidia’nın CUDA platformu şu anda yapay zeka desteği konusunda rakipsiz. Sonuç olarak Nvidia tabanlı yapay zeka altyapısına olan talep yüksek. Bu sorunu çözmek için Amazon Web Services ve Nvidia stratejik ortaklığa girdi AWS, üretken yapay zeka için Nvidia tabanlı altyapı sunacak. İki şirket birçok önemli projede ortak olacak.
AWS CEO’su Adam Selipsky, “Bugün grafik, oyun, yüksek performanslı bilgi işlem, makine öğrenimi ve şimdi de üretken yapay zeka gibi iş yükleri için en geniş Nvidia GPU çözümlerini sunuyoruz” dedi. “AWS’yi GPU’ları çalıştırmak için en iyi yer haline getirmek için Nvidia ile yenilikler yapmaya devam ediyoruz; yeni nesil Nvidia Grace Hopper Superchips’i AWS’nin EFA güçlü ağ iletişimi, EC2 UltraClusters’ın hiper ölçekli kümelemesi ve Nitro’nun gelişmiş sanallaştırma yetenekleriyle birleştiriyor.”
Ceiba Projesi AWS tarafından barındırılan ve yalnızca Nvidia’ya sunulan dünyanın en hızlı GPU destekli yapay zeka süper bilgisayarını oluşturmayı amaçlayan bu iş birliğinin temel taşıdır. Bu iddialı proje, 65 ‘AI ExaFLOPS’luk şaşırtıcı bir işlem gücü sunmak üzere ayarlanmış 16.384 Nvidia GH200 Superchips’i (19,5 TB birleşik belleğe sahip 32 GH200 GPU’yu paketleyen GH200 NVL32 çözümünü kullanarak) entegre edecek. Bu süper bilgisayar, Nvidia’nın üretken yapay zeka araştırma ve geliştirme projeleri içindir.
AWS’de barındırılan Nvidia DGX Cloud ortaklığın bir diğer önemli bileşenidir. Bu hizmet olarak yapay zeka eğitimi platformu, GH200 NVL32 makinesini 19,5 TB birleştirilmiş belleğe sahip ilk ticari örnektir. Platform, geliştiricilere tek bir örnekte mevcut olan en büyük paylaşılan belleği sağlayarak, potansiyel olarak 1 trilyon parametreyi aşan gelişmiş üretken yapay zeka ve büyük dil modelleri için eğitim sürecini önemli ölçüde hızlandırır.
Ayrıca AWS, bulut tabanlı bir hizmet sunan ilk şirket olacak. Nvidia’nın GH200 Grace Hopper Süper Çiplerini temel alan yapay zeka süper bilgisayarı. Bu benzersiz yapılandırma, NVLink kullanılarak örnek başına 32 Grace Hopper Süper Çipini bağlayacak. Amazon’un EFA ağına bağlı ve gelişmiş sanallaştırma (AWS Nitro System) ve hiper ölçekli kümeleme (Amazon EC2 UltraClusters) tarafından desteklenen binlerce GH200 Süper Çipe (ve 4,5 TB HBM3e belleğe) kadar ölçeklendirilecektir.
İşbirliği aynı zamanda tanıtılacak Nvidia destekli yeni Amazon EC2 bulut sunucuları. Örneklerde, büyük ölçekli üretken yapay zeka ve yüksek performanslı bilgi işlem (HPC) iş yükleri için 141 GB’a kadar HBM3e belleğe sahip H200 Tensor Core GPU’lar bulunacak. Ek olarak, sırasıyla NvidiaL4 ve L40S GPU’larla donatılmış G6 ve G6e bulut sunucuları, yapay zeka ince ayarından 3D iş akışı geliştirmeye kadar çok çeşitli uygulamalar için tasarlandı ve yapay zeka destekli 3D uygulamalar oluşturmak için Nvidia Omniverse’den yararlanıyor.
Son olarak işbirliği tanıtılacak Nvidia’nın gelişmiş yazılımı AWS’de üretken yapay zeka gelişimini hızlandırmak için. Buna sohbet robotları ve özetleme araçları oluşturmak için NeMo LLM çerçevesi ve NeMo Retriever ve ilaç keşif süreçlerini hızlandırmak için BioNeMo dahildir.
Nvidia’nın kurucusu ve CEO’su Jensen Huang, “Üretken yapay zeka, bulut iş yüklerini dönüştürüyor ve çeşitli içerik oluşturmanın temeline hızlandırılmış bilgi işlemi yerleştiriyor” dedi. “Her müşteriye uygun maliyetli, son teknoloji ürünü üretken yapay zeka sunma ortak misyonuyla yola çıkan Nvidia ve AWS, yapay zeka altyapısından hızlandırma kitaplıklarına, temel modellerden üretken yapay zeka hizmetlerine kadar tüm bilgi işlem yığınında iş birliği yapıyor. “