MediaTekönde gelenlerden biri mobil işlemci üreticileri, geleceğe yönelik büyük yapay zeka planları var ve bunlar şunları içeriyor: Meta Lama 2 büyük dil modeli.
MetaFacebook’un ana şirketi olan Facebook, sosyal medya algoritmalarını geliştirmek için bir süredir yapay zekayı kullanıyor ve MediaTek bir oluşturmak istiyor üretken yapay zeka Facebook’un yapay zekasını temel alan, güçlendirilmiş uç bilgi işlem ekosistemi.
Peki bu ne anlama geliyor?
Mediatek’in vizyonu, bir dizi uç cihazı yapay zekayla geliştirmeye odaklanıyor. Akıllı telefonlara ve diğer uç cihazlara (arabalar, Nesnelerin İnterneti vb.) odaklanıyorlar. Daha basit bir ifadeyle, günlük olarak kullandığımız gadget’ların ve araçların çok daha akıllı ve daha duyarlı olmasını istiyorlar.
Üretken yapay zeka nedir?
Sadece mevcut içerikleri tanımak yerine yeni içerik oluşturabilen yapay zeka türlerini ifade eder. Bu resimler, müzik, metin ve hatta videolar olabilir. Yüksek Lisans ile üretken yapay zekayı kullanan en ünlü uygulamalar OpenAi’nin ChatGPT ve Google Bard’ıdır.
Adobe yakın zamanda çevrimiçi tasarım platformu Express için yeni üretken yapay zeka destekli özellikleri kullanıma sundu.
Vizyonun Arkasındaki Yapay Zeka Modeli: Meta’nın Llama 2’si
Bunu başarmak için Meta’nın Llama 2 büyük dil modelini (veya LLM) kullanacaklar. Temel olarak, önceden eğitilmiş karmaşık bir dil yapay zekasıdır. makinelerin insan dilini anlamasına ve oluşturmasına yardımcı olur. Bu araç özeldir çünkü Google ve OpenAI gibi büyük şirketlerin rakiplerinin aksine açık kaynaktır.
Açık kaynak, herhangi bir geliştiricinin iç işleyişine bakabileceği, değiştirebileceği, geliştirebileceği veya ticari amaçlarla kullanabileceği anlamına gelir telif ücreti ödemeden.
Bu neden önemli?
Mediatek temel olarak, yaklaşmakta olan çiplerle cihazların, uzaktaki sunuculara güvenmek yerine bu gelişmiş davranışların bazılarını doğrudan içlerinde barındıracağını söylüyor. Bu bir sürü şeyle birlikte geliyor potansiyel faydalar:
- Mahremiyet: Verileriniz cihazınızdan ayrılmaz.
- Hız: Verilerin seyahat etmesi beklenmediği için yanıtlar daha hızlı olabilir.
- Güvenilirlik: Uzak sunuculara daha az güvenmek, daha az olası kesinti anlamına gelir.
- Bağlantıya gerek yok: Cihazlar çevrimdışı olsanız bile çalışabilir.
- Uygun maliyetli: Yapay zekayı doğrudan uç cihazda çalıştırmak potansiyel olarak daha ucuzdur.
Mediatek ayrıca cihazlarının, özellikle de 5G’ye sahip olanların, zaten bazı AI modellerini yönetebilecek kadar gelişmiş olduğunu ve bunun doğru olduğunu ancak Yüksek Lisans’ların kendi kategorilerinde olduğunu vurguladı.
Daha fazla ayrıntı almak isteriz
Tüm bunlar kulağa heyecan verici geliyor ancak daha fazla bağlam olmadan Meta’nın Llama 2’sini uç cihazlarda kullanmanın gerçek potansiyelini ölçmek zor. Tipik olarak Yüksek Lisans’lar veri merkezlerinde çalışır çünkü çok fazla bellek kaplar ve çok fazla bilgi işlem gücü tüketirler.
ChatGPT’nin çalıştırılmasının günlük 700.000 dolara mal olduğu bildiriliyor, ancak bunun nedeni aynı zamanda çok sayıda kullanıcının olmasıdır. Bir uç cihazda yalnızca tek bir kullanıcı vardır (siz!), dolayısıyla işler çok farklı olacaktır. Bununla birlikte, ChatGPT gibi hizmetlerin çalıştırılması için evde bile genellikle oyun tipi büyük bir bilgisayar gerekiyor.
Bir referans çerçevesi olarak, telefonlar muhtemelen bazı yapay zekaları çalıştırabilir. ~1-2B parametreler bugün, çünkü bu onların hafızasına sığardı (bkz. Sıkıştırma). Bu sayının hızla artması muhtemeldir. Fakat, ChatGPT 3’ün 175B parametresi vardır ve bir sonraki 500 kat daha büyük olduğu söyleniyor.
Uç cihazlar genellikle çok daha çeviktir ve yeteneklerine bağlı olarak Meta’nın Llama 2’sinden ne kadar zeka çıkarabilecekleri ve ne tür yapay zeka hizmetleri sunabilecekleri henüz bilinmiyor.
Model ne tür optimizasyonlardan geçecek? Bu cihaz kaç token/sn işlem yapma kapasitesine sahiptir? Mediatek’in muhtemelen yılın ikinci yarısında cevaplayacağı birçok soru var.
Mobil veya uç cihazların yapay zeka iş yüklerini yüksek güç verimliliğiyle ortadan kaldırabileceğine şüphe yok. Bunun nedeni, veri merkezlerinin pil ömrü için optimize edilmiş olması, veri merkezlerinin ise mutlak performans için optimize edilmiş olmasıdır.
Ayrıca cihazda “bir miktar” yapay zeka iş yükünün oluşması ancak diğer iş yüklerinin bulutta yürütülmesi de mümkündür. Her durumda, gerçek dünya verilerinin bir sonraki optimizasyon turu için toplanıp analiz edilebilmesi nedeniyle bu daha büyük bir trendin başlangıcıdır.
Malları ne zaman alabiliriz?
Bu yılın sonuna kadar hem Mediatek teknolojisini hem de Llama 2 aracını kullanan cihazların piyasaya çıkmasını bekleyebiliriz. Llama 2 kullanıcı dostu olduğundan ve yaygın bulut platformlarına kolayca eklenebildiğinden, birçok geliştirici onu kullanmak isteyebilir. Bu, herkes için daha yenilikçi uygulamalar ve araçlar anlamına gelir.
Llama 2 hâlâ büyüyor ve henüz chatgpt gibi bazı popüler yapay zeka araçlarına doğrudan rakip olmasa da, büyük bir potansiyele sahip. Zaman verildiğinde ve Mediatek’in desteğiyle yapay zeka dünyasında önemli bir oyuncu haline gelebilir.
Sonuç olarak, günlük cihazlarımızdaki yapay zekanın geleceği parlak görünüyor ve Mediatek bu evrimin ön saflarında yer alıyor gibi görünüyor. Gelecek olana dikkat edelim!
Dosyalandı Cep telefonları. Yapay Zeka (Yapay Zeka), Nesnelerin İnterneti (Nesnelerin İnterneti) ve MediaTek hakkında daha fazlasını okuyun.