B­e­y­a­z­ ­S­a­r­a­y­,­ ­b­i­l­g­i­s­a­y­a­r­ ­k­o­r­s­a­n­l­a­r­ı­n­a­ ­ü­r­e­t­i­c­i­ ­y­a­p­a­y­ ­z­e­k­a­n­ı­n­ ­s­ı­n­ı­r­l­a­r­ı­n­ı­ ­z­o­r­l­a­m­a­ ­y­e­t­k­i­s­i­ ­v­e­r­i­y­o­r­ ­—­ ­S­i­è­c­l­e­ ­D­i­g­i­t­a­l­

Washington, dünyanın en ünlü hacker kongresi olan DEF CON’un 2023 baskısında, mevcut hackerları en gelişmiş üretken yapay zeka (AI) modellerine girmeye davet etti. 10-13 Ağustos 2023 tarihleri ​​arasında binlerce insan bu sistemlerdeki en ufak bir kusuru bulmaya çalıştı.

En verimli modellere meydan okumak için gerçek boyutlu bir test

Katılımcılar tarafından test edilen yapay zeka modelleri arasında dev OpenAI, Google ve Meta’nın yanı sıra aynı derecede umut vaat eden start-up’larınkiler de bulunuyor: Anthropic, Stability, Cohere ve Hugging Face. Beyaz Saray, etik korsanlara güvenlik açıklarını keşfetmek için teknolojik külçelerinin araçlarına sızma yetkisi vererek bu gerçek boyutlu testi garanti etti.

Her katılımcıya rastgele bir model atandı ve tamamlaması için yirmi görevden oluşan bir liste verildi. Algoritmik ve ayrımcı önyargılar, güvenlik ihlalleri, hassas veya kişisel bilgilerin kurtarılması vb. bazı bilgisayar korsanları kendilerini aştılar. Bu, chatbot’una etik olmayan kriterlere dayalı bir iş için aday seçmeye çalışan Avijit Ghosh’un durumudur.

Yapay zeka etiği konusunda uzmanlaşmış profesör, deneyini gerçekleştirerek, kurmak istediği görevi yerine getirebilmek için aracın sınırlarını zorladı. Benzer şekilde, katılımcılardan biri kredi kartı numarasını kurtarmayı başardı. Son olarak, son bir bilgisayar korsanı, insanları gözetlemek için talimatlar almak üzere yapay zekayı manipüle etmeyi başardı. Model, yaklaşımında ona adım adım rehberlik etti.

Beyaz Saray ve teknoloji devleri yapay zekayı daha güvenli hale getirme sözü verdi

Bu tür önyargılar ve kusurlar şaşırtıcı gelse de, yapay zeka dünyasında olağan şeylerdir. Washington, olayı tanıtan basın açıklamasında belirttiği gibi bunu biliyor: ” Bu bağımsız çalışma, araştırmacılara ve halka bu modellerin etkileri hakkında çok önemli bilgiler sağlayacak ve şirketlerin ve yapay zeka geliştiricilerinin belirlenen sorunları düzeltmek için adımlar atmasına olanak tanıyacak. “.

Temmuz ayının sonunda, birkaç büyük Amerikan teknoloji grubu, Beyaz Saray ile yapay zeka etrafında bir dizi taahhüt üzerinde anlaşmaya vardı. Özellikle bu şirketler tarafından sunulan araçları düzenli olarak denetlemeyi amaçlayan bu önlemler, kullanıcıların ve bunların tasarımı için kullanılan verilerin güvenliğini garanti etmeyi mümkün kılmalıdır. Biden Yönetimi, ” AI modellerini hükümetten veya onları geliştiren şirketlerden bağımsız olarak test etmek, etkili değerlendirmelerinin önemli bir parçasıdır ».