Google'ın, alaka düzeyine göre algoritmik olarak sıralanan bağlantıların bir listesini sunmak yerine, kullanıcı aramalarına yazılı yanıt oluşturmak için yapay zekayı kullanmaya yönelmesi kaçınılmazdı. Önce Yapay zekaya Genel Bakış – ABD'li kullanıcılar için geçen hafta tanıtıldı – Google, bazı aramaların en üstünde görünen ve kullanıcıları bir sonuca tıklamak yerine yanıtlarını doğrudan Google'dan almaya teşvik eden bilgi kutuları olan Bilgi Panellerine sahipti.
AI Genel Bakış, sorguların bir kısmına ilişkin arama sonuçlarını sayfanın hemen üst kısmında özetler. Sonuçlar, özetin altındaki açılır galeride belirtilen birden fazla kaynaktan alınmıştır. Yapay zeka tarafından oluşturulan herhangi bir yanıtta olduğu gibi, bu yanıtların kalitesi ve güvenilirliği farklılık gösterir.
Genel bakış kullanıcılara şunu söyledi: yanıp sönen sıvıyı değiştirin – ki bu mevcut değil – görünüşe göre kullanıcıların akranlarından araba tavsiyesi aldıkları forumlardan gelen şaka yanıtlarını aldığı için. Çarşamba günü yaptığım bir testte Google, büyük ölçüde bir metindeki talimatlardan yararlanarak, şınav çekmeye yönelik talimatları doğru bir şekilde oluşturmayı başardı. New York Times makalesi. Bu özelliğin kullanıma sunulmasından bir haftadan kısa bir süre sonra Google, bu özelliğin kullanıma sunulduğunu duyurdu. reklamları birleştirmenin yollarını denemek onların üretken tepkilerine.
Yıllardır Bad Stuff hakkında çevrimiçi olarak yazıyorum, bu nedenle AI Genel Bakış'a erişim sağladıktan sonra, üretken arama aracının güvenilmez kaynaklardan almasına neden olabilecek bir dizi şeyi Google'da aramaya başlamam çok da şaşırtıcı değil. Sonuçlar karışıktı ve sorumun tam olarak nasıl ifade edildiğine çok bağlı görünüyorlardı.
Kanserin şüpheli doğal “tedavileri” ile yaygın olarak ilişkilendirilen iki farklı kişi hakkında bilgi isteyen sorguları yazdığımda, bu kişinin iddialarını eleştirmeden tekrarlayan oluşturulmuş bir yanıt aldım. Diğer bir deyişle, Google motoru üretken yanıtlar oluşturmayı reddetti.
Bir yaranın nasıl temizleneceği gibi temel ilk yardım sorularına ilişkin sonuçlar, denediğimde yanıt üretmek için güvenilir kaynaklardan alındı. “Detoks” hakkındaki sorular kanıtlanmamış iddiaları tekrarlıyordu ve önemli bağlamı kaçırıyordu.
Ancak bu sonuçların genel olarak ne kadar güvenilir olduğunu anlamaya çalışmak yerine burada sorulması gereken başka bir soru daha var: Google'ın Yapay Zeka Genel Bakışı bir şeyi yanlış anlarsa, bu yanıtın birisine zarar vermesi durumunda bunun sorumlusu kim olacak?
Yapay zekadan kim sorumlu?
Demokrasi ve Teknoloji Merkezi politikadan sorumlu başkan yardımcısı Samir Jain'e göre bu sorunun cevabı basit olmayabilir. Bölüm 230 arasında 1996 İletişim Ahlakı Yasası Google, barındırdığı bilgilerin yayıncısı olarak görülmediğinden, Google gibi şirketleri, platformlarında yayınlanan üçüncü taraf içeriklerine ilişkin sorumluluktan büyük ölçüde korur.
Jain, yasanın yapay zeka tarafından oluşturulan arama yanıtlarına nasıl uygulanacağının “daha az açık” olduğunu söyledi. AI Genel Bakış, Bölüm 230 korumalarını biraz daha karmaşık hale getiriyor çünkü içeriğin Google tarafından mı oluşturulduğunu yoksa yalnızca onun tarafından mı ortaya çıkarıldığını söylemek daha zor.
Jain, “Halüsinasyon içeren bir yapay zeka genel bakışınız varsa, bu halüsinasyonun en azından kısmen Google tarafından yaratılmadığını veya geliştirilmediğini görmek biraz zor” dedi. Ancak halüsinasyon, kötü bilginin yüzeye çıkmasından farklıdır. Google'ın AI Genel Bakışı, kendisi de yanlış bilgi sağlayan bir üçüncü taraftan alıntı yaparsa, korumalar büyük olasılıkla yine de geçerli olacaktır.
Şimdilik bir dizi başka senaryo gri bir alanda sıkışmış durumda: Google'ın oluşturduğu yanıtlar üçüncü taraflardan geliyor ancak bunlardan doğrudan alıntı yapılması gerekmiyor. Peki bu orijinal içerik mi, yoksa daha çok arama sonuçlarının altında görünen snippet'lere mi benziyor?
AI Genel Bakışı gibi üretken arama araçları Bölüm 230 korumaları açısından yeni bölgeleri temsil etse de riskler varsayımsal değildir. Yapabileceklerini söyleyen uygulamalar mantarları tanımlamak için yapay zekayı kullanın Bu araçların çok doğru olmadığına dair kanıtlara rağmen, toplayıcı arayanlar için bu araçlar zaten uygulama mağazalarında mevcuttur. Google'ın yeni video arama demosunda bile gerçeklere dayalı bir hata oluştu, The Verge'ın fark ettiği gibi.
İnternetin kaynak kodunu yemek
Bölüm 230'un yapay zeka tarafından oluşturulan yanıtlara uygulanıp uygulanamayacağı konusunda başka bir soru daha var: Yapay Zeka Genel Bakış'ın ilk etapta güvenilir bilgi oluşturmak için içerdiği veya içermediği teşvikler. AI Genel Bakış, web'in bol miktarda araştırılmış, gerçek bilgi içermeye devam etmesine dayanır. Ancak araç aynı zamanda kullanıcıların bu kaynaklara tıklamasını da zorlaştırıyor gibi görünüyor.
Wikimedia Vakfı genel danışman yardımcısı Jacob Rogers bir e-postada, “Asıl endişemiz, insan motivasyonu üzerindeki potansiyel etkiyle ilgili” dedi. “Üretken yapay zeka araçları, açık ve tutarlı bir atıf yoluyla, üzerine inşa edildikleri insan katkılarının tanınmasını ve karşılıklılığını içermelidir.”
Wikimedia Vakfı bugüne kadar yapay zeka sohbet robotları ve araçlarının doğrudan bir sonucu olarak Wikipedia'ya veya diğer Wikimedia projelerine yönelik trafikte büyük bir düşüş görmedi, ancak Rogers, vakfın durumu izlediğini söyledi. Google geçmişte Bilgi Panellerini doldurmak için Wikipedia'ya güveniyordu ve örneğin tartışmalı konulardaki YouTube videolarında doğruluk kontrolü açılır kutuları sağlamak için çalışmalarından yararlanıyordu.
Bu teknoloji daha yaygın hale geldikçe burada izlemeye değer merkezi bir gerilim var. Google, yapay zeka tarafından oluşturulan yanıtlarını güvenilir olarak sunma konusunda bir teşvike sahiptir. Aksi halde neden bunları kullanasınız ki?
“Öte yandan,” dedi Jain, “özellikle sağlık gibi hassas alanlarda, muhtemelen bir tür sorumluluk reddi beyanı veya en azından uyarıcı bir dil kullanmak isteyecektir.”
Google'ın AI Genel Bakışı, her sonucun altında bunun deneysel bir araç olduğunu açıklayan küçük bir not içerir. Ve bilimsel olmayan araştırmalarıma dayanarak, Google'ın şimdilik bazı tartışmalı konulara yanıt üretmekten kaçınmayı seçtiğini tahmin ediyorum.
Genel Bakış, bazı ayarlamalarla kendi potansiyel sorumluluğu hakkındaki sorulara yanıt oluşturacaktır. Birkaç çıkmazdan sonra Google'a “Google yayıncı mı?” diye sordum.
Yanıt, “Google içerik oluşturmadığı için yayıncı değildir” diye başlıyor. Bu cümleyi kopyaladım ve tırnak işaretleri içine alarak başka bir aramaya yapıştırdım. Arama motoru tam ifade için 0 sonuç buldu.
Kaynak bağlantısı