Amazon’un Copilot rakibi Amazon Q, piyasaya sürülmesinden bir haftadan kısa bir süre sonra, yeni bir raporun önerdiği gibi halihazırda hayatta kalmasına yönelik bir tehditle karşı karşıyadır. üretken yapay zeka Asistan halüsinasyon görüyor olabilir.
Q, halüsinasyonlar ve veri sızıntıları da dahil olmak üzere yanlışlıklar ve gizlilik sorunlarıyla boğuşuyor. Platformcu sızdırılan belgelere dayanarak bildirildi. Raporun, büyük dil modellerinin (LLM’ler) kurumsal veritabanlarına bağlandığında oldukça hatalı olduğunu ve daha az şeffaf hale geldiğini gösteren iki büyük çalışmanın ardından gelmesi dikkat çekicidir.
Ancak bir Amazon sözcüsüne göre Amazon Q herhangi bir gizli bilgiyi sızdırmadı.
“Bazı çalışanlar, Amazon’da standart bir uygulama olan dahili kanallar ve biletleme sistemleri aracılığıyla geri bildirim paylaşıyor. Bu geri bildirim sonucunda herhangi bir güvenlik sorunu tespit edilmedi. Halihazırda aldığımız tüm geri bildirimleri takdir ediyoruz ve önizleme aşamasındaki bir ürün olmaktan genel kullanıma sunulmaya geçiş sürecinde Q’yu ayarlamaya devam edeceğiz” dedi sözcü.
Amazon’un iş arkadaşı olduğu yönündeki uzun iddialarına rağmen milyonlarca ve milyonlarca Sektörü takip eden analistlere göre Amazon Q, kurumsal kullanıma hazır olmayabilir.
EIIRTrend & Parekh Consulting CEO’su Pareekh Jain, “Halüsinasyonlar mevcutsa, bunu kurumsal bir ortamda karar vermek için kullanamazsınız” dedi. “Kişisel kullanım veya bilgi edinme açısından sorun yok, ancak karar verme süreçleri için değil.”
Amazon, üretken yapay zeka asistanı ticari sürüme hazır olmadan önce önemli test zorluklarıyla karşı karşıya kalabilir. Jain, hazırlığı sağlamak için kapsamlı iç denemeler yürütmenin önemini vurguladı.
Jain, “Önce şirket içi çalışanlarla daha fazla test yapmaları gerektiğini düşünüyorum” diye ekledi. “Açıkçası şu anda yaptıkları da bu. Sonuçta dış kaynaklardan hiç kimse bu sorunları bildirmedi. Burada iki şey var: biri veri, diğeri algoritmalar. Sorunun verilerle mi yoksa algoritmayla mı ilgili olduğunu görmeleri gerekiyor.”
Q, AWS’nin 17 yıllık veri ve geliştirme uzmanlığından yararlanır ve kuruluşlar için çok yönlü bir araç olarak çalışmak üzere tasarlanmıştır. Sektörün gidişatı göz önüne alındığında, bu yapay zeka teklifiyle Amazon için çok şey tehlikede.
Pazar araştırma firması IDC’nin başkan yardımcısı Sharath Srinivasamurthy’ye göre halüsinasyonlar, üretken yapay zekanın tüketici ve kurumsal kullanım durumlarındaki potansiyelini zayıflatmasa da uygun eğitim şarttır.
“Modelleri daha kaliteli verilerle eğitmek, hızlı büyütme (kullanıcıları modelin kolayca anlayabileceği önceden tanımlanmış istemlerle yönlendirmek), kuruluşa veya sektöre özgü veriler ve politikalar üzerinde modellere sürekli ince ayar yapmak, yanıt verilmesi durumunda insan kontrolü katmanını artırmak Srinivasamurthy, “bu gelişen teknolojiden en iyi şekilde yararlanmak için atılması gereken adımlardan bazıları şüphelidir” dedi.
Halüsinasyon raporları, düzenleme ihtiyacı ve bir noktada devreye girebilecek kuralların ciddiyeti konusunda endişeleri artırıyor. Ancak Greyhound Research’ün baş analisti ve CEO’su Sanchit Vir Gogia, ortaya çıkan herhangi bir düzenlemenin ters etki yaratabileceğine dikkat çekti.
Gogia, “Herhangi bir düzenleme aslında veri alışverişini ve kullanımını yavaşlatabilir” dedi. “Yani şimdilik bu endüstri ne kadar az düzenlenirse o kadar iyi. Bu, verilerin daha kolay ve sorunsuz kullanılmasına olanak tanır. Örnek olarak OpenAI’nin GPT’sini ele alalım; eğer hangi verilerin yakalanabileceği konusunda sıkı korumalar olsaydı, o zaman bu başarılamazdı.”
Jain ayrıca dış sınırlar koymanın uygulanabilir bir fikir olmayabileceğini, ancak şirketlerin kendilerinin daha fazla çaba gösterebileceğini de öne sürdü.
Jain, “Düzenlemeler mevcut olabilir, ancak odak noktası öncelikle öz düzenlemedir” diye açıkladı. “Yönetmelikler ve yönergeler gerekli olsa da, denetimin ne kadarının uygulanabileceği konusunda bir sınır var. Vurgu, ‘kara kutu’ sistemleri oluşturmak yerine mantığın müşterilere açıklanabileceği sorumlu yapay zeka üzerinde olmalıdır. Ancak benim görüşüme göre, sorumluluğun daha çok işletmelerin bu önlemleri bir güvenlik meselesi olarak nasıl algıladığı ve uyguladığına doğru kaydığı bir eşik var.”
Bu tür içgörüler, daha sağlam dahili testlerin gerekliliğine ve öz düzenlemeye doğru eğilime ışık tutarken, yapay zekayı kurumsal ortamlarda dağıtmanın yolu karmaşıklıklarla doludur. Özellikle segmente geç girmesi nedeniyle, bu zorlukların üstesinden gelme sorumluluğu artık Amazon’da.
Jain, “Microsoft ve Google şu anda lider konumda olduğundan AWS bu alanda biraz geride kalıyor” diye ekledi. “Bu nedenle insanların özellikle sohbet robotları ve diğer ilgili teknolojilerle ilgili beklentileri daha yüksek.”
(Bu hikaye bir Amazon sözcüsünün yorumlarıyla güncellendi.)