Google'ın muhteşem gafından bu yana bir ay geçti. Yeni AI Genel Bakış özelliğinin “aramanın ayak işlerini ortadan kaldırın”, birden fazla arama sonucuna dayalı olarak sorgularımıza okunması kolay yanıtlar sunuyor. Bunun yerine, insanlara taş yemek ve pizzaya peynir yapıştırmak. Google'a Afrika'da hangi ülkenin “K” harfiyle başladığını sorabilirsiniz ve Google hiçbiri demezdim. Aslında yapay zeka araması bir felaket olduğu için hâlâ bu yanlış yanıtları alabilirsiniz.
Bu bahar, alandaki önemli oyunculardan gelen birkaç büyük duyuru sayesinde AI araması için bir dönüm noktası gibi görünüyordu. Bunlardan biri Google AI Genel Bakış güncellemesiydi ve diğeri de halihazırda etiketlenmiş bir AI arama girişimi olan Perplexity'den geldi Google'a değerli bir alternatif olarak. Mayıs ayının sonunda Perplexity, sizin için ödevinizi yapan akıllı bir arkadaş gibi, belirli bir konuyla ilgili bilgilerle dolu özel web sayfaları oluşturabilen Sayfalar adı verilen yeni bir özelliği kullanıma sundu. Daha sonra Şaşkınlık intihal yaparken yakalandıYapay zekanın aramayı iyi yapabilmesi için biraz hile yapması gerekiyor gibi görünüyor.
Yapay zeka aramasının hataları ve yanlış adımları konusunda çok fazla kötü niyet var ve eleştirmenler toplu halde harekete geçiyor. Bir grup çevrimiçi yayıncı ve yaratıcı Çarşamba günü Capitol Hill'e götürüldü yasa koyucuları Google'ın AI Genel Bakış özelliğini ve bağımsız içerik üreticilerinden içerik çeken diğer AI teknolojilerini incelemeye ikna etmek için lobi yapmak. Bu, Recording Industry Association of America (RIAA) ve bir grup büyük plak şirketinin sadece birkaç gün sonrasında. iki AI şirketine dava açtı telif hakkı ihlali için metinden müzik üretenler. Ve bunu unutmayalım birkaç gazete, New York Times dahil, arama araçlarını destekleyen aynı yapay zeka modellerini eğitmek amacıyla içeriklerini kazıdıkları için OpenAI ve Microsoft'a telif hakkı ihlali nedeniyle dava açtı. (Bu arada bu yayının sahibi olan şirket Vox Media, OpenAI ile lisans anlaşması var İçeriğimizin modellerini eğitmek ve ChatGPT tarafından kullanılmasına izin verir. Gazetecilik ve editöryal kararlarımız bağımsız kalır.)
Üretken AI teknolojisinin web'de arama yapma şeklimizi dönüştürmesi bekleniyor. En azından, çizgi bu ChatGPT 2022'nin sonuna doğru sahneye çıktığından beri beslendik ve şimdi her teknoloji devi kendi AI teknolojisini zorluyor: Microsoft'un Copilot'u, Google'ın Gemini'si, Apple'ın Apple Intelligence'ı var ve benzeri. Bu araçlar çevrimiçi olarak bir şeyler bulmanıza yardımcı olmaktan daha fazlasını yapabilse de, Google Arama'yı tahtından indirmek hala AI'nın kutsal kasesi gibi görünüyor. ChatGPT'nin üreticisi olan OpenAI'nin bile bir arama motoru oluşturmak Google ile doğrudan rekabet etmek.
Ancak konuştuğum uzmanlara göre, pek çok şirketin kamuya açık çabalarına rağmen yapay zeka araması, yanıtları çevrimiçi olarak bulmayı yakın zamanda zahmetsiz hale getirmeyecek.
Yapay zeka aramasının bazı kusurları nedeniyle henüz tam olarak kullanıma hazır olmaması bir yana, bu kusurlar yapay zeka aramasının çalışma biçimine o kadar derinlemesine entegre olmuş durumda ki, Google'ın yerini alabilecek kadar iyi olup olamayacağı bile belirsiz.
Washington Üniversitesi'nde bilgi bilimi profesörü olan Chirag Shah bana, “Bu iyi bir ekleme ve gerçekten harika olduğu zamanlar oluyor,” dedi. “Ancak geleneksel aramaya yine de ihtiyacımız olacağını düşünüyorum.”
Burada AI aramanın tüm kusurlarına girmek yerine, son Google ve Perplexity karışıklıklarında sergilenen iki kusuru vurgulamama izin verin. Google pizza yapıştırıcısı olayı, üretken yapay zekanın halüsinasyon sorununun ne kadar inatçı olduğunu gösteriyor. Google'ın AI Genel Bakış'ı başlatmasından sadece birkaç gün sonra, bazı kullanıcılar Google'a peynirin pizzadan düşmesini nasıl önleyeceğini sorduğunuzda Google'ın biraz yapıştırıcı eklemenizi öneririmBu özel cevap şuradan gelmiş gibi görünüyor: eski bir Reddit konusu Her ne kadar bir insan, Reddit kullanıcılarının yapıştırıcı yemek konusunda şaka yaptığını hemen fark etse de, bir nedenden dolayı Google'ın yapay zeka düşüncesinin yetkili bir kaynak olduğu düşünülüyor. Haftalar sonra The Verge'den Elizabeth Lopatto şunu bildirdi: Google'ın AI Genel Bakış özelliği hala pizza tutkalı öneriyordu. Google AI Genel Bakış özelliğini geri aldı Mayıs ayındaki viral arızaların ardından AI Genel Bakış'a erişmek hiç de zor değil.
Sorun yalnızca üretken yapay zeka araçlarına güç veren büyük dil modellerinin halüsinasyon yaratması veya belirli durumlarda bilgi oluşturması değil. Ayrıca iyi bilgiyi kötüden ayırt edemiyorlar; en azından şu anda.
MIT'de büyük dil modelleri üzerine araştırmalar yapan yardımcı doçent Yoon Kim, “Hiçbir zaman halüsinasyonların var olmayacağını garanti edebileceğimiz bir aşamaya geleceğimizi sanmıyorum” dedi. “Ancak bu halüsinasyonları azaltmada çok fazla ilerleme kaydedildiğini düşünüyorum ve bunların kullanılabilecek kadar iyi hale geleceği bir noktaya geleceğimizi düşünüyorum.”
Son Perplexity draması AI aramasında farklı bir soruna dikkat çekiyor: Ulaşmaması gereken içeriğe erişir ve yeniden yayınlar. Yatırımcıları arasında Jeff Bezos ve Nvidia'nın da bulunduğu Perplexity, arama sorgularına daha derin yanıtlar sunarak ve kaynaklarını göstererek adından söz ettirdi. Ona bir soru verebilirsiniz ve size daha fazla soru sorarak iyileştirebileceğiniz, web'in dört bir yanından alıntılarla tamamlanan, sohbet niteliğinde bir yanıtla geri gelecektir.
Ancak Perplexity, Sayfalar özelliğini başlattığında, yapay zekasının gazeteciliği kazıklama konusunda esrarengiz bir yeteneğe sahip olduğu ortaya çıktı. Şaşkınlık, oluşturduğu Sayfaları bile yapar web sitesinin bir haber bölümüne benziyor. Yayınladığı böyle bir Sayfa şunları içeriyordu: Bazı Forbes'un özel, ödeme duvarlı araştırmacı haberlerinin özetleri Eric Schmidt'in drone projesi hakkında. Forbes Perplexity'yi içeriğini çalmakla suçladıve Kablolu daha sonra rapor edildi Perplexity'nin, bu tür tarama yapan tarayıcıları engelleyen web sitelerinden içerik kazıdığı. Yapay zeka destekli arama motoru, URL'lerdeki veya meta verilerdeki ayrıntılara dayanarak sorgulara yanlış yanıtlar bile oluşturacaktı. (Geçtiğimiz hafta Fast Company ile yapılan bir röportajda, Perplexity CEO'su Aravind Srinivas bazı bulguları reddetti Wired soruşturmasının bir parçası olarak, “Bunun nasıl işlediği konusunda temel bir yanlış anlaşılma olduğunu düşünüyorum.” dedi.)
Shah, yapay zeka destekli aramanın kaynak bulma konusunda kötü olmasının nedenlerinin hem teknik hem de basit olduğunu açıkladı. Teknik açıklama şunları içerir: geri alma-artırılmış nesil adı verilen bir şey (RAG), profesörün kişisel kütüphanesi yeterli olmadığında belirli bir konu hakkında daha fazla bilgi edinmek için araştırma görevlilerini işe alan bir profesörün çalışmasına benziyor. RAG, mevcut nesil büyük dil modellerinin, halüsinasyonların sıklığı da dahil olmak üzere içerik üretme şekliyle ilgili birkaç sorunu çözüyor, ancak aynı zamanda yeni bir sorun da yaratıyor: İyi kaynakları kötüden ayırt edemiyor. Mevcut durumunda yapay zeka iyi muhakeme yeteneğinden yoksundur.
Siz veya ben bir Google araması yaptığımızda, mavi bağlantıların uzun listesinin gazete makaleleri gibi yüksek kaliteli bağlantıları ve eski Reddit konuları veya SEO grubu çöpleri gibi düşük kaliteli veya doğrulanmamış şeyleri içereceğini biliyoruz. Yıllar süren tecrübemiz sayesinde iyiyi kötüyü saniyeler içinde ayırt edebiliyoruz. kendi Google becerilerimizi mükemmelleştirme deneyimi.
Ve sonra yapay zekanın sahip olmadığı bir sağduyu var, mesela taş ve tutkal yemenin uygun olup olmadığını bilmek gibi.
Shah, “Yapay zeka destekli arama henüz bu yeteneğe sahip değil” dedi.
Bunların hiçbiri bir dahaki sefere bir AI Genel Bakış gördüğünüzde dönüp kaçmanız gerektiği anlamına gelmiyor. Ancak bunu bir cevap almanın kolay bir yolu olarak düşünmek yerine, bunu bir başlangıç noktası olarak düşünmelisiniz. Wikipedia gibi. Bu cevabın Google aramasının en üstüne nasıl çıktığını bilmek zor, bu yüzden kaynakları kontrol etmek isteyebilirsiniz. Sonuçta, AI'dan daha akıllısınız.
Kaynak bağlantısı