Konuşmacı 1: Umarım bunun bir konser olmadığının farkındasınızdır. Bir geliştirici konferansına geldiniz. Algoritmalar, bilgisayar mimarisi, matematik gibi birçok bilimsel konu anlatılacak. Blackwell bir çip değil. Blackwell bir platformun adıdır. İnsanlar GPU ürettiğimizi düşünüyor ve yapıyoruz. [00:00:30] ancak GPU'lar eskisi gibi görünmüyor. Bu Hopper. Hopper dünyayı değiştirdi. Bu Blackwell. Sorun değil. Hazne Hoparlörü 1: 208 milyar transistör. Ve böylece görebiliyorsunuz, orada olduğunu görebiliyorum [00:01:00] iki boya arasında küçük bir çizgi. Bu, ilk kez iki boyanın bir arada böyle bir düğmeye sahip olması ve iki boyanın bunun tek bir çip olduğunu düşünmesi. Aralarında 10 terabayt veri var, saniyede 10 terabayt, böylece Blackwell çipinin bu iki tarafının hangi tarafta olduklarına dair hiçbir fikri yok. Bellek konumu sorunu yok, önbellek sorunu yok. Bu sadece dev bir çip ve iki tip sisteme giriyor. [00:01:30] İlki, hazneye uyumlu form uyum fonksiyonudur ve böylece tüm hazneyi kaydırırsınız ve Blackwell'i içeri itersiniz. Yükselişin zorluklarından birinin bu kadar verimli olmasının nedeni budur. Dünyanın her yerinde hazne kurulumları var ve bunlar aynı altyapıya, aynı tasarıma, güce, elektriğe, termiğe, yazılıma sahip olabilir, hemen geri itilebilir. Ve bu bir hazne versiyonu [00:02:00] mevcut HGX konfigürasyonu için ikinci hazne böyle görünüyor. Şimdi bu bir prototip panosu. Bu tamamen çalışan bir kurul ve burada dikkatli olacağım. Burası, ne bileyim, 10 milyar dolar. Konuşmacı 1: İkincisi beş. Konuşmacı 1: Bundan sonra ucuzlar. Yani herhangi bir müşteri [00:02:30] seyirci? Sorun değil. Gri CPU'nun süper hızlı bir çipten çipe bağlantısı vardır. Şaşırtıcı olan şey şu ki bu bilgisayar, bu kadar hesaplamanın bu kadar küçük bir yere sığdığı türünün ilk örneği. İkincisi, hafıza tutarlıdır. Tek bir uygulama üzerinde birlikte çalışan büyük, mutlu bir aile gibi hissediyorlar. Üretken yapay zeka çağına yönelik bir işlemci yarattık ve bu işlemcilerin en önemlilerinden biri [00:03:00] bunun bir kısmı içerik belirteci üretimidir. Biz buna diyoruz. Bu format FP dörttür. Bilgi işlemdeki ilerleme hızımız inanılmaz derecede yüksek ve hala yeterince hızlı değil, bu yüzden başka bir çip ürettik. Bu çip gerçekten inanılmaz bir çip. Biz buna ENV bağlantı anahtarı diyoruz. 50 milyar transistör. Tek başına neredeyse hazne büyüklüğünde. Bu anahtarın içinde her biri 1,8 olan dört ENV bağlantısı vardır. [00:03:30] Saniyede terabayt ve bahsettiğim gibi içinde hesaplama var. Bu çip ne için? Eğer böyle bir çip yaparsak, her bir GPU'nun diğer tüm GPU'larla aynı anda tam hızda konuşmasını sağlayabiliriz. Buna benzer bir sistem kurabilirsiniz. Konuşmacı 1: [00:04:00] Şimdi, bu sistem, bu sistem biraz çılgınca. Bu 1D GX'tir. Bir DGX böyle görünür. Şimdi, bildiğiniz gibi, biz konuşurken gezegende yalnızca birkaç, iki, üç çıkış flop makinesi var ve bu, tek bir raftaki çıkış flop yapay zeka sistemidir. Bu konuda bize katılan bazı ortaklarımıza teşekkür etmek istiyorum. AWS [00:04:30] Blackwell'e hazırlanıyor. Güvenli yapay zekaya sahip ilk GPU'yu oluşturacaklar. Cuda'nın SageMaker ai'yi hızlandırdığı ve Cuda'nın ana kaya ai'yi hızlandırdığı 222 exo flop sistemi inşa ediyorlar. Amazon Robotics, Nvidia Omniverse ve Isaac Sim'i kullanarak bizimle çalışıyor. AWS Health'te Nvidia Health entegre edilmiştir. Yani AWS gerçekten hızlandırılmış bilişime yöneldi. Google [00:05:00] Blackwell'e hazırlanıyoruz. GCP'nin halihazırda 100'lü, H 100'lü, T dörtlü, L dörtlü, tam bir Nvidia Kuda GPU filosu var ve kısa süre önce bunların hepsinde çalışan bir Gemma modeli duyurdular. Konuşmacı 1: GCP'yi her açıdan optimize etmek ve hızlandırmak için çalışıyoruz. Veri işleme için veri sürecini hızlandırıyoruz. Robotik için veri işleme motorları, JAK'lar XLA, vertex AI ve mu joco. Pek çok alanda Google ve GCP ile çalışıyoruz [00:05:30] girişimlerden oluşuyor. Oracle, Blackwell için hazırlanıyor. Oracle, Nvidia DGX Cloud için harika bir ortağımız ve aynı zamanda birçok şirket için gerçekten önemli olan bir şeyi hızlandırmak için de birlikte çalışıyoruz. Oracle Database, Microsoft hızlanıyor ve Microsoft Blackwell için hazırlanıyor. Microsoft, Nvidia'nın geniş kapsamlı bir ortaklığı var. Hızlanıyoruz, her türlü hizmeti hızlandırabiliriz. Açıkça sohbet ettiğinizde ve Microsoft Azure'daki AI hizmetlerinde, bu çok çok muhtemel [00:06:00] Çıkarım ve jeton oluşturma işlemlerini NVIDIA arka tarafta yapıyor. En büyük Nvidia InfiniBand süper bilgisayarını yaptılar; temelde bizim dijital ikimiz ya da fiziksel ikizimiz. Nvidia ekosistemini Azure'a, Nvidia'yı, DDRs Cloud'u Azure'a taşıyoruz. Konuşmacı 1: Nvidia Omniverse artık Azure'da barındırılıyor. Nvidia sağlık hizmetleri Azure'dadır ve tamamı Microsoft Fabric ile derinlemesine entegre ve derin bir şekilde bağlantılıdır. Yani, bu önceden eğitilmiş bir model, yani oldukça akıllı [00:06:30] ve NVIDIA'nın çok çok büyük kurulum tabanında çalışacak şekilde paketlenmiş ve optimize edilmiştir. Kışkırtılan şey inanılmaz. Tüm bu önceden eğitilmiş son teknoloji açık kaynak modellere sahipsiniz. Açık kaynak olabilirler, ortaklarımızdan birinden olabilirler. Nvidia moment gibi bizim tarafımızdan yaratılabilir. Tüm bağımlılıklarıyla birlikte paketlenmiştir. Yani Kuda, doğru sürüm, co DNN, doğru sürüm, tensör rt, LLM, birden fazla GPU'ya dağıtım, tri [00:07:00] ve çıkarım sunucusunun tamamı tamamen bir arada paketlenmiştir. Tek bir GPU çoklu GPU'nuz veya çok düğümlü GPU'nuz olmasına bağlı olarak optimize edilir. Bunun için optimize edilmiştir ve kullanımı kolay API'lerle bağlantılıdır. Konuşmacı 1: Bu paketler, inanılmaz yazılım yığınları optimize edilecek ve paketlenecek ve bunu bir web sitesine koyacağız ve onu indirebilirsin, yanında götürebilirsin, herhangi bir bulutta çalıştırabilirsin, onu çalıştırabilirsin kendi veri merkeziniz. Yapabilirsiniz [00:07:30] uygunsa iş istasyonlarında çalıştırın. Ve tek yapmanız gereken ai.nvidia.com'a gelmek. Biz buna NVIDIA Inference mikro hizmeti diyoruz, ancak şirket içinde hepimiz buna nims diyoruz. Verileri düzenlemenize, bunu yerleşik olarak öğretebilmeniz için verileri hazırlamanıza yardımcı olan NEMO mikro hizmeti adı verilen bir hizmetimiz var, bu ai. Onlara ince ayar yaparsınız ve sonra onu korursunuz. Hatta cevabı değerlendirebilir, performansını diğer örneklere göre değerlendirebilirsiniz. Ve biz aslında bir yapay zekayız [00:08:00] TSMC'nin çip yapımında bizim için yaptıklarını biz sizin ve sektör için yapay zeka üzerinde yapacağız. Ve biz de büyük fikirlerimizle TSMC'ye gidiyoruz. Konuşmacı 1: Onlar üretiyor, biz de yanımıza alıyoruz. Ve burada da tam olarak aynı şey var. AI Foundry ve üç sütunu NIMS NEMO mikro hizmeti ve DGX Cloud'dur. Nvidia AI Foundry'nin dünyanın en büyük şirketlerinden bazılarıyla çalıştığını duyuruyoruz. SAP dünyadaki küresel ticaretin %87'sini üretiyor. [00:08:30] Temelde dünya SAP üzerinde çalışıyor, biz SAP üzerinde çalışıyoruz. Nvidia ve SAP, Nvidia Nemo ve DGX Cloud ServiceNow'u kullanarak SAP, mücevher Copilot'lar oluşturuyor. Dünyadaki Fortune 500 şirketlerinin %80 ila %85'ini yönetiyorlar, çalışanlarını ve müşteri hizmetleri operasyonlarını ServiceNow üzerinde yürütüyorlar ve ServiceNow desteği sanal yardımı oluşturmak için Nvidia AI Foundry'yi kullanıyorlar. Tutarlılık dünyanın verilerini yedekler. Bir altın madeninin üzerinde oturuyorlar [00:09:00] yüzlerce eksabaytlık veri. 10.000'den fazla şirket. Nvidia AI Foundry onlarla birlikte çalışıyor ve Gaia üretken yapay zeka aracılarını oluşturmalarına yardımcı oluyor. Snowflake, dünyanın dijital deposunu bulutta saklayan ve 10.000 kurumsal müşteriye günde 3 milyardan fazla sorguya hizmet veren bir şirkettir. Konuşmacı 1: Snowflake, Nvidia Nemo ile yardımcı pilotlar oluşturmak için Nvidia AI Foundry ile çalışıyor [00:09:30] ve NIMS NetApp. Dünyadaki dosyaların neredeyse yarısı Şirket içi NetApp'te depolanıyor. Nvidia. AI Foundry, Nvidia Nemo ve nims ile vektör veritabanları ve alıcılar gibi sohbet robotları ve yardımcı pilotlar oluşturmalarına yardımcı oluyor ve bu sohbet robotlarını ve üretken yapay zekayı geliştiren herkesle birlikte Dell ile harika bir ortaklığımız var. Çalıştırmaya hazır olduğunuzda bir yapay zeka fabrikasına ihtiyacınız olacak [00:10:00] ve hiç kimse kuruluş için çok büyük ölçekli uçtan uca sistemler oluşturma konusunda Dell'den daha iyi olamaz. Ve böylece herkesin, her şirketin, her şirketin yapay zeka fabrikaları kurması gerekecek. Ve Michael'ın burada olduğu ortaya çıktı. Siparişinizi almaktan mutluluk duyar. Robotun, nasıl robot olunacağını öğrenebileceği bir spor salonuna sahip olması için, robot için dünyayı dijital olarak temsil eden bir simülasyon motoruna ihtiyacımız var. Biz buna diyoruz [00:10:30] Omniverse sanal dünyasıdır ve Omniverse'ü çalıştıran bilgisayara OVX ve OVX adı verilir. Bilgisayarın kendisi Azure Bulut'ta barındırılır. Konuşmacı 2: Ağır sanayilerin geleceği dijital ikizle başlıyor. Robotların, çalışanların ve altyapının karmaşık endüstriyel alanlarda öngörülemeyen olaylarda gezinmesine yardımcı olan yapay zeka aracıları, ilk olarak gelişmiş dijital ikizlerde oluşturulacak ve değerlendirilecek. Konuşmacı 1: Her şeyi bir kez birbirine bağladığınızda, bu çok çılgınca [00:11:00] ne kadar üretkenlik elde edebileceğinizi ve bu gerçekten çok harika. Bir anda herkes aynı temel gerçekle hareket etmeye başladı. Veri alışverişi yapmanıza, verileri dönüştürmenize, hata yapmanıza gerek yok. Tasarım departmanından sanat departmanına, mimarlık departmanından mühendisliğe ve hatta pazarlama departmanına kadar herkes aynı temel gerçek üzerinde çalışıyor. Bugün, omniverse Cloud'un Vision Pro'ya akış sağladığını duyuruyoruz ve [00:11:30] Ben o arabadan inerken sanal kapıların arasında dolaşman çok ama çok tuhaf ve bunu herkes yapıyor. Vision Pro'nun omniverse portallarına, sizin de Omniverse'e bağlanması gerçekten çok şaşırtıcı. Ve tüm bu CAD araçları ve tüm bu farklı tasarım araçları artık Omniverse'e entegre ve bağlı olduğundan, şunları yapabilirsiniz: [00:12:00] Bu tür bir iş akışı gerçekten inanılmaz. Konuşmacı 3: Bu, insansı robot öğrenimi için genel amaçlı bir temel modeli olan Nvidia Proje Grubudur. Grup modeli çok modlu talimatları ve geçmiş etkileşimleri girdi olarak alır ve robotun yürüteceği bir sonraki eylemi üretir. Robot öğrenme uygulaması olan Isaac Lab'ı geliştirdik [00:12:30] Omniverse Isaac Sim'de kararlılığı eğitmek için ölçeğimizi, eğitim için DGX sistemleri ve simülasyon için OVX sistemleri arasındaki iş akışlarını koordine eden yeni bir bilgi işlem düzenleme hizmeti olan Osmo ile genişletiyoruz. GR modeli, bir robotun bir avuç insan gösterisinden öğrenmesini sağlayacak, böylece günlük görevlerde yardımcı olabilecek ve sadece hepimizi gözlemleyerek insan hareketini taklit edebilecek. Bu inanılmaz zeka [00:13:00] gr için tasarlanan ve Isaac Lab, Osmo ve Groot ile gelecek için üretilen yeni Jetson Thor robotik çipleri tarafından desteklenmektedir. Yeni nesil yapay zeka destekli robot teknolojisinin yapı taşlarını sağlıyoruz, Konuşmacı 1: Hakkında [00:13:30] Aynı boyutta, Nvidia'nın ruhu, bilgisayar grafikleri, fizik ve yapay zekanın kesişimi. Her şey o anda ortaya çıktı. O projenin adı genel Robotik 0 0 3. Biliyorum. Süper iyi, süper [00:14:00] iyi. Sanırım özel konuklarımız var, değil mi? Merhaba arkadaşlar, sizin Jetson tarafından desteklendiğinizi anlıyorum. İçerideki küçük Jetson Robotics bilgisayarları olan Jetson'lar tarafından destekleniyorlar. [00:14:30] Isaac Sim'de yürümeyi öğrendiler. Bayanlar ve baylar, bu Orange ve bu da meşhur Yeşil. Onlar Disney'in BDX robotlarıdır. İnanılmaz Disney araştırması. Haydi çocuklar. Hadi bitirelim. Beş şeye gidelim. Nereye gidiyorsun? [00:15:00] Ben burada oturuyorum. Korkma. Buraya gel, yeşil. Acele etmek. Sen ne diyorsun? Hayır, yemek zamanı değil. Yemek zamanı değil. Birazdan sana atıştırmalık vereceğim. Çabuk bitireyim. Haydi yeşil. [00:15:30] Acele etmek. Zamanı boşa harcamak. Bugün size bunu duyurduk. Bu Blackwell. Bu muhteşem, muhteşem işlemciler, env, bağlantı anahtarları, ağ sistemleri ve sistem tasarımı bir mucizedir. Bu Blackwell ve bu benim için bir GPU'nun zihnimde nasıl göründüğü.
Kaynak bağlantısı