Google’ın kendi PaLM modelini ve İnsan Geri Bildirimiyle Güçlendirmeli Öğrenme olarak bilinen bir tekniği birleştiren yeni bir metin üreten dil modeli. açık kaynak teorik olarak OpenAI’nin ChatGPT’sinin yapabileceği her şeyi yapabilen bir araç.
Ancak çoğu için bu bir teori olarak kalacak. ChatGPT’den farklı olarak, AI geliştiricisi Philip Wang’s PALM + RLHF (yeni sekmede açılır) modelin öğrenmesi için gereken herhangi bir metin verisi konusunda eğitilmiş olarak gelmez. Kullanıcılar kendi veri kümelerini derlemeli ve modeli eğitmek ve istekleri işlemek için kendi donanımlarını kullanmalıdır.
ChatGPT ve PaLM + RLHF gibi insan girdilerine yanıt veren metin oluşturma modelleri, yapay zekadaki en son çılgınlıktır. Basitçe söylemek gerekirse, e-kitaplardan internet alev savaşlarına kadar her şeyi içerebilen mevcut bir veri kümesinden anlamsal kalıpları öğrendikten sonra uygun kelimeleri tahmin ederler.
PaLM + RLHF önceden eğitilmiş olarak gelmesine rağmen, İnsan Geri Bildirimiyle Güçlendirmeli Öğrenme tekniği daha sezgisel bir kullanıcı deneyimi üretmek için tasarlanmıştır.
tarafından açıklandığı gibi TechCrunch (yeni sekmede açılır), RLHF, daha sonra insan gönüllüler tarafından sıralanan bir insan istemine çok çeşitli yanıtlar üreterek bir dil modeli eğitir. Bu sıralamalar daha sonra yanıtları tercih sırasına göre sıralayan bir “ödül modeli” yetiştirmek için kullanılır.
Bu, en zengin AI meraklıları dışında herkesin modeli eğitmesini engelleyecek ucuz bir süreç değil. PaLM, veriler üzerinde eğitilmesi gereken dil modelinin (veya parametrelerinin) 540 milyar bileşenine ve 2020 ders çalışma (yeni sekmede açılır) yalnızca 1,6 milyar parametreli bir modeli eğitmenin 80.000 ila 1.6 milyon ABD Doları arasında bir maliyete mal olacağını ortaya çıkardı.
Şu anda, dahil olmak ve modeli eğitmek ve halka sunmak için zengin bir hayırsevere güveniyormuşuz gibi görünüyor. Bu tür güvenler iyi bitmedi önceki (yeni sekmede açılır)ancak ChatGPT’nin yeteneklerini çoğaltmak ve bunları ücretsiz yazılım olarak yayınlamak isteyen diğer şirketler tarafından mevcut çabalar var.
CarperAI ve EleutherAI araştırma grupları, kutudan çıkmaya hazır insan geri bildirimi ile eğitilmiş ilk dil modelini piyasaya sürmek için Scale AI ve Hugging Face adlı girişimlerle ortaklık kuruyor.
Ve henüz tam olarak hazır olmasa da, “makine öğrenimi, metinden görüntüye” modeli için eğitim veri setini sağlayan şirket LAION Kararlı Difüzyon (yeni sekmede açılır)üzerinde benzer bir proje oluşturduk GitHub (yeni sekmede açılır) tüketici donanımı için optimize edilirken API’leri kullanmasına, kendi araştırmasını derlemesine ve kullanıcı kişiselleştirmesine izin vererek OpenAI’nin yerini almak istiyor.
işletim-sistemi-1