A­M­D­ ­D­o­s­t­u­ ­A­I­ ­L­L­M­ ­G­e­l­i­ş­t­i­r­i­c­i­s­i­ ­N­v­i­d­i­a­ ­G­P­U­ ­E­k­s­i­k­l­i­ğ­i­ ­H­a­k­k­ı­n­d­a­ ­Ş­a­k­a­ ­Y­a­p­ı­y­o­r­

Sadece birkaç GPU’yu kızartıyorum 💁🏻♀️Jensen’e ilk önce bunları pişirdiği için teşekkür ederiz https://t.co/4448NNf2JP pic.twitter.com/IV4UqIS7OR26 Eylül 2023

Daha fazla gör

Videoda Lamini CEO’su Sharon Zhou’nun AI Yüksek Lisans hızlandırıcı GPU’ları bulmak için bir fırını kontrol ettiği görülüyor. İlk önce yüzeysel olarak Jensen Huang’ın ünlü Kaliforniya coquina’sına benzeyen bir mutfağa giriyor, ancak fırını kontrol ettiğinde “52 hafta teslim süresi – hazır değil” olduğunu fark ediyor. Hayal kırıklığına uğrayan Zhou, bahçedeki ızgarayı kontrol ediyor ve yeni mangalda pişirilmiş AMD Instinct GPU’nun kullanıma hazır olduğunu görüyor.

Nvidia GPU’ların fırında uzun süre pişirmeye ihtiyaç duymasının, AMD GPU’ların ise ızgarada hazırlanabilmesinin teknik nedenlerini bilmiyoruz. Umarım okuyucularımız bu yarı iletken bilmecesine yorumlarda biraz ışık tutabilirler.

Daha ciddi bir kayda göre, LLM’nin önde gelen girişimi Lamini’ye daha yakından bakarsak, bunların şaka olmadığını görebiliriz. CRN Salı günü Palo Alto, Kaliforniya merkezli startup hakkında bazı arka plan bilgileri sundu. Haberde bahsedilen önemli şeylerden bazıları arasında Lamini CEO’su Sharon Zhou’nun bir makine öğrenimi uzmanı olması ve CTO Greg Diamos’un eski bir Nvidia CUDA yazılım mimarı olması yer alıyor.

Lamini’nin AMD Instinct GPU’larda LLM’leri “gizlice” çalıştırdığı ortaya çıktı geçen yıl içinTest dönemi boyunca çok sayıda işletmenin özel LLM’lerden yararlandığı görüldü. En dikkate değer Lamini müşterisi muhtemelen “Lamini’yi dahili Kubernetes kümemizde AMD Instinct GPU’larla konuşlandıran ve belirli geliştirici görevleri için birden fazla bileşende AMD kod tabanı üzerinde eğitilmiş modeller oluşturmak için ince ayar kullanan” AMD’dir.

Lamini’nin çok ilginç bir temel iddiası, üretime hazır LLM’leri AMD Instinct GPU’larda çalıştırmak için yalnızca “3 satır koda” ihtiyaç duymasıdır. Ek olarak, Lamini’nin hazır AMD GPU’lar üzerinde çalışmanın önemli bir avantajına sahip olduğu söyleniyor. CTO Diamos ayrıca Lamini’nin performansının Nvidia çözümlerinin gölgesinde kalmadığını, zira AMD ROCm’nin Yüksek Lisanslar için Nvidia CUDA ile “yazılım eşitliği” elde ettiğini ileri sürüyor.