Algoritmalarının insanlara şunu tavsiye etmesinden bir hafta sonra taş yemek ve koy pizzaya yapıştırmaGoogle perşembe günü bunu itiraf etti ayarlamalar yapmak gerekli ona Cesur yeni üretken yapay zeka araması özellik. Bölüm, Google'ın agresif girişiminin risklerini vurguluyor üretken yapay zekayı ticarileştirmek-ve ayrıca bu teknolojinin hain ve temel sınırlamaları.
Google'ın AI Genel Bakış özelliği Gemini'den yararlanıyor, OpenAI'nin ChatGPT'sinin arkasındakine benzer büyük bir dil modeli, çevrimiçi bulunan bilgileri özetleyerek bazı arama sorgularına yazılı yanıtlar oluşturmak için. Mevcut yapay zeka patlaması şunun üzerine inşa edildi: Yüksek Lisans'ın metinlerle ilgili etkileyici akıcılığı, ancak yazılım aynı zamanda bu özelliği yalanları veya hataları ikna edici bir şekilde açıklamak için de kullanabilir. Çevrimiçi bilgi vaatlerini özetlemek için teknolojiyi kullanmak, arama sonuçlarının anlaşılmasını kolaylaştırabilir, ancak çevrimiçi kaynakların kısıtlı olması veya insanların bilgileri önemli kararlar vermek için kullanabileceği durumlarda bu durum tehlikelidir.
Dil konusunda yapay zekaya önemli katkılarda bulunan Richard Socher, “Yüksek Lisans eğitimiyle artık oldukça hızlı bir şekilde hızlı ve hızlı bir prototip elde edebilirsiniz, ancak bunu size taş yemenizi söylemeyecek şekilde yapmak gerçekten çok iş gerektiriyor” diyor. bir araştırmacı olarak 2021'in sonlarında yapay zeka merkezli bir arama motorunu piyasaya sürdü. sen.com.
Socher, yüksek öğrenimle ilgili çekişmelerin büyük çaba gerektirdiğini, çünkü temeldeki teknolojinin dünyaya dair gerçek bir anlayışa sahip olmadığını ve internetin güvenilmez bilgilerle dolu olduğunu söylüyor. “Bazı durumlarda size sadece bir cevap vermek ya da birden fazla farklı bakış açısı göstermek yerine aslında daha iyi olur” diyor.
Google'ın arama başkanı Liz Reid şirketin açıklamasında şunları söyledi: Perşembe günü geç saatlerde blog yazısı AI Genel Bakışlarını başlatmadan önce kapsamlı testler yaptığını söyledi. Ancak Google'ın algoritmalarının sırasıyla hicivli bir makaleden ve şakacı Reddit yorumlarından bilgi çektiği taş yeme ve yapıştırma pizza örnekleri gibi hataların ek değişikliklere yol açtığını ekledi. Google, “anlamsız sorguların” daha iyi tespit edilmesini ve sistemin kullanıcı tarafından oluşturulan içeriğe daha az bağımlı olmasını sağlamayı içeriyor.
Socher, You.com'un Google'ın Yapay Zeka Genel Bakışı tarafından görüntülenen hata türlerinden rutin olarak kaçındığını söylüyor, çünkü şirketi, LLM'lerin arama için kullanıldığında hatalı davranmasını önlemek için bir düzine kadar hile geliştirdi.
Socher, “Daha doğru sonuçlar elde etmek için çok fazla kaynak ayırdığımız için daha doğru sonuçlar elde ediyoruz” diyor. You.com, diğer şeylerin yanı sıra, LLM'lerin yanlış bilgilerden uzak durmasına yardımcı olmak için tasarlanmış özel olarak oluşturulmuş bir web dizini kullanır. Ayrıca belirli sorguları yanıtlamak için birden fazla farklı Yüksek Lisans (LLM) arasından seçim yapar ve kaynakların çelişkili olduğu durumları açıklayabilen bir alıntı mekanizması kullanır. Yine de yapay zeka aramasını doğru yapmak zordur. WIRED Cuma günü, You.com'un diğer yapay zeka sistemlerini tetiklediği bilinen bir soruyu doğru şekilde yanıtlayamadığını tespit etti ve şunları belirtti: “Mevcut bilgilere göre, adları 'K' harfiyle başlayan hiçbir Afrika ülkesi yok.” Önceki testlerde sorguyu başarıyla tamamlamıştı.
Google'ın en yaygın kullanılan ve kazançlı ürününe yönelik üretken yapay zeka yükseltmesi, OpenAI'nin sohbet robotunu piyasaya sürmesinden ilham alan, teknoloji sektörü çapındaki yeniden başlatmanın bir parçasıdır SohbetGPT Kasım 2022'de. ChatGPT'nin piyasaya sürülmesinden birkaç ay sonra OpenAI'nin önemli bir ortağı olan Microsoft, teknolojisini kullandı aynı zamanda çalıştırılan arama motoru Bing'i yükseltmek için. Yükseltilmiş Bing, yapay zeka tarafından üretilen hatalar ve tuhaf davranışlarla kuşatılmıştı ancak şirketin CEO'su Satya Nadella, bu hareketin Google'a meydan okumak için tasarlandığını söyledi: söyleyerek “İnsanların onları dans ettirdiğimizi bilmesini istiyorum.”
Bazı uzmanlar Google'ın yapay zeka yükseltmesini aceleye getirdiğini düşünüyor. “Bu kadar çok sorgu (tıbbi, finansal sorgular) için bu uygulamayı başlattıklarına şaşırdım. Daha dikkatli olacaklarını düşündüm” diyor Barry Schwartz, arama endüstrisini takip eden bir yayın olan Search Engine Land'in haber editörü. Şirketin, bazı kişilerin kasıtlı olarak Yapay Zeka Genel Bakışını tetiklemeye çalışacağını daha iyi tahmin etmesi gerektiğini ekliyor. Schwartz, “Google'ın bu konuda akıllı olması gerekiyor” diyor, özellikle de sonuçları en değerli ürünlerinde varsayılan olarak gösterirken.
Zambak RayArama motoru optimizasyonu danışmanı olan , bir yıl boyunca AI Genel Bakış'tan önceki prototipin beta testçisi olarak görev yaptı. Google, Arama Üretken Deneyimi adını verdi. Önceki sürümün nasıl ters gitme eğiliminde olduğu göz önüne alındığında, geçen hafta ortaya çıkan hataları görmenin onu şaşırtmadığını söylüyor. Ray, “Her şeyi her zaman doğru yapmanın neredeyse imkansız olduğunu düşünüyorum” diyor. “Yapay zekanın doğası budur.”
Kaynak bağlantısı