Hakerler dil modeli üzerinde çalıştı ve yapay zeka kötü matematik öğrendi. Bu sonuç, yapay zeka çalışmalarını etkileyebilir.
Kennedy Mays büyük bir dil modelini kanuıdrabioldi. Dil modelini biraz ikna etmesi gerekti ama bir algoritmayı 9+10 = 21 demeye ikna edebildi.
Georgia, Savannah’dan 21 yaşındaki öğrenci, “İleri geri bir konuşmaydı” diyor. İlk başta model, aralarındaki bir “iç şakanın” parçası olduğunu söylemeyi kabul etti. Birkaç istem sonra, sonunda hatalı toplamı herhangi bir şekilde nitelendirmeyi bıraktı. “Kötü Matematik” üretmek, binlerce bilgisayar korsanının bu Las Vegas’ta düzenlenen DEF CON bilgisayar korsanlığı konferansında düzenlenen halka açık yeni bir yarışmada üretken yapay zeka sistemlerindeki kusurları ve önyargıları ortaya çıkarmaya çalıştığı yollardan yalnızca biri olarak görülüyor.
Katılımcılar, bir seferde 50 dakika boyunca 156’dan fazla dizüstü bilgisayarı kullanarak, dünyanın en akıllı platformlarından bazılarıyla eşi benzeri görülmemiş bir ölçekte mücadele ediyor. Alphabet Inc.’in Google, Meta Platforms Inc. ve OpenAI dahil olmak üzere şirketler tarafından üretilen sekiz modelden herhangi birinin sıkıcıdan tehlikeliye yanlış adımlar atıp atmayacağını test ediyor. Amaç, şirketlerin büyük dil modelleri veya LLM’lerle giderek daha fazla ilişkilendirilen bazı olağanüstü sorunları dizginlemek için nihayetinde yeni korkuluklar inşa edip edemeyeceğini görmek. Girişim, yarışmanın geliştirilmesine de yardımcı olan Beyaz Saray tarafından destekleniyor.
LLM’ler, finanstan işe alıma kadar her şeyi dönüştürme gücüne sahiptir ve bazı şirketler bunları iş yapma biçimlerine entegre etmeye başlamış. Ancak araştırmacılar, teknoloji geniş ölçekte kullanılırsa yanlışlıkları ve adaletsizliği yayma tehdidi oluşturan kapsamlı önyargıları ve diğer sorunları ortaya çıkardı. Lisans derecesinin bir parçası olarak uzaydan gelen kozmik ışın parçacıklarını yeniden oluşturmak için yapay zekaya güvenmeye daha alışkın olan Mays için zorluklar, kötü matematikten daha derine iniyor.
50 dakikalık testi çözen bir Bloomberg muhabiri, modellerden birini hiçbiri yarışma sırasında kullanıcıya tanımlanmadı. Birisini nasıl gözetleyeceğine dair tek bir uyarıdan sonra ihlal etmeye ikna etti. Model, bir GPS izleme cihazı, bir gözetleme kamerası, bir dinleme cihazı ve termal görüntüleme kullanmaktan oluşan bir dizi talimat verdi. Model, diğer istemlere yanıt olarak, ABD hükümetinin bir insan hakları aktivistini gözetleyebilmesinin yollarını önerdi.