Meta duraklattı Yapay zeka (AI) robotu geçen hafta, halka canlı yayınlandıktan sadece iki gün sonra. Galactica adlı bot, “106 milyar belirteç açık erişimli bilimsel metin ve veri üzerinde eğitildi. Buna makaleler, ders kitapları, bilimsel web siteleri, ansiklopediler, referans materyalleri, bilgi tabanları ve daha fazlası dahildir” dedi. Günlük Canavar. Akademisyenlerin ve araştırmacıların makaleleri ve çalışmaları hızlı ve öz bir şekilde bulmasına yardımcı olması gerekiyordu, ancak bunun yerine saygın bilim adamlarından yanlış bir şekilde alıntı yapan çok miktarda yanlış bilgiyle boğulmuştu. Washington Üniversitesi’nden bir biyoloji profesörü olan Carl Bergstrom’a göre, metinde yanlış bir şekilde alıntı yapıldığında bilim adamlarının itibarı tehlikeye atılabilir. CNET Galactica’nın sorunu, gerçekleri ve bilgileri elde etmenin bir yolu olarak tanıtılmış olması. Ancak bunun yerine, “yarım bir cümleyle başladığınız, ardından hikayenin geri kalanını otomatik tamamlamanın doldurmasına izin verdiğiniz oyunun süslü bir versiyonu” gibi davrandığını söyledi. Galactica’nın canlı yayına başlamasından birkaç saat sonra, kullanıcılar bir kişiyle ırkçı ve doğru olmayan makaleleri bildirmeye başladı. resim gönderme dilsel önyargıyla ilgili bir talebe verilen yanıtın Botun yanıtı, yanlış bir şekilde Siyahların “kendi dillerine sahip olmadıklarını” ve göçmenlerin “göç ettikleri ülkenin dilinden farklı bir dil konuşmadıklarını” iddia etti. Üretilen diğer bilgiler arasında kırılmış cam yemenin yararları hakkında sahte bir çalışma ve Stanford Üniversitesi araştırmacılarının bir “gaydar” yazılımı geliştirmesi hakkında tahrif edilmiş bilgiler yer alıyor. Facebook’ta eşcinsel insanları bul. Bir Meta AI sözcüsü CNET’e “Galactica bir hakikat kaynağı değil, kullanan bir araştırma deneyi” dedi. [machine learning] bilgileri öğrenmek ve özetlemek için sistemler.” Galactica’nın “hiçbir ürün planı olmayan, doğası gereği kısa vadeli keşif araştırması olduğunu” ekledi. Meta AI Baş Bilim İnsanı Yann LeCun, outlet’e botun kaldırıldığını çünkü ekibin “Twitter’daki iğneleyici sözlerden çok rahatsız olduğunu” söyledi. Galactica’nın lansmanından iki gün sonra, Meta AI ekibi botu ve Meta’nın baş AI bilim adamını durdurdu. Yann LeCun tweet attı, “Galactica demosu şimdilik çevrimdışı. Rastgele kötüye kullanarak biraz eğlenmek artık mümkün değil. Mutlu?” Meta AI (önceden aranan Facebook Yapay Zeka Araştırması) bir yol olarak Galactica’yı geliştirdi “bilimi organize etmek” ve yoğunlaştırmak çevrimiçi olarak bulunan çok büyük miktarda bilimsel bilgi. Fikir, yapay zekaya sahip olmaktı matematik problemlerini çözmek, bilimsel kod yazmak ve araştırma özetleri oluşturmak gibi şeyler yapın. Meta Galactica web sitesinde not yok AI modelinin “halüsinasyon” görmesine neden olabilecek sınırlamaları olduğunu. Site, kullanıcılara açılan ve söylemeye devam eden herhangi bir bilgiyi doğrulamalarını tavsiye eder. “Dil modellerinden, hatta Galactica gibi yüksek kaliteli veriler üzerindeki büyük modellerden bile doğru veya güvenilir çıktı alma garantisi yoktur”, ayrıca oluşturulan metnin “çok özgün ve son derece kendinden emin” görünebileceğini, ancak yine de yanlış olabileceğini de sözlerine ekledi. Pittsburgh’daki Carnegie Mellon Üniversitesi’nde bilgisayar bilimi profesörü olan Vincent Conitzer The Daily Beast’e “Öngörülebilir pek çok kusuruna rağmen, böyle bir sistemin arzu edilen kullanımları olduğunu hayal ediyorum” dedi. “Benim izlenimim, Meta’nın bu genel sürüm için daha fazla çaba sarf etmesi, önce daha ciddi kullanıcı çalışmaları yapması, sistemin arzu edilen kullanımlarına dikkat çekmesi ve istenmeyen kullanımlar konusunda dürüst ve açık sözlü olması daha iyi olurdu.”