27 Ekim 2023Haber odasıYapay Zeka / Güvenlik Açığı
Google, Güvenlik Açığı Ödül Programını genişlettiğini duyurdu (VRP), yapay zeka emniyetini ve güvenliğini artırmak amacıyla üretken yapay zeka (AI) sistemlerine göre uyarlanmış saldırı senaryoları bulmaları nedeniyle araştırmacılara tazminat ödemek.
Google’dan Laurie Richardson ve Royal Hansen, “Üretken yapay zeka, haksız önyargı potansiyeli, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenliğe kıyasla yeni ve farklı endişeleri gündeme getiriyor.” söz konusu.
Kapsama giren kategorilerden bazıları katmak hızlı enjeksiyonlar, eğitim veri kümelerinden hassas verilerin sızması, model manipülasyonu, yanlış sınıflandırmayı tetikleyen düşmanca tedirginlik saldırıları ve model hırsızlığı.
Google’ın bu temmuzun başlarında bir girişim başlattığını belirtmekte fayda var. Yapay Zeka Kırmızı Takımı Güvenli Yapay Zeka Çerçevesinin bir parçası olarak yapay zeka sistemlerine yönelik tehditlerin ele alınmasına yardımcı olmak (SAIF).
Yapay zekayı güvence altına alma taahhüdünün bir parçası olarak, Yazılım Eserleri için Tedarik Zinciri Düzeyleri (SLSA) ve Sigstore gibi mevcut açık kaynaklı güvenlik girişimleri aracılığıyla yapay zeka tedarik zincirini güçlendirme çabaları da duyuruldu.
Google, “Kullanıcıların yazılıma müdahale edilmediğini veya yazılımın değiştirilmediğini doğrulamasını sağlayan Sigstore’dakiler gibi dijital imzalar” dedi. söz konusu.
“Bize yazılımın içinde ne olduğunu ve nasıl oluşturulduğunu anlatan SLSA kaynağı gibi meta veriler, tüketicilerin lisans uyumluluğunu sağlamasına, bilinen güvenlik açıklarını tespit etmesine ve daha gelişmiş tehditleri tespit etmesine olanak tanıyor.”
Geliştirme OpenAI olarak geliyor açıklanmış Siber güvenlik, kimyasal, biyolojik, radyolojik ve nükleer (KBRN) tehditleri kapsayan üretken yapay zekaya yönelik yıkıcı risklere karşı “izlemek, değerlendirmek, tahmin etmek ve korumak” için yeni bir dahili Hazırlık ekibi.
Anthropic ve Microsoft’un yanı sıra iki şirket de bir 10 milyon $ Yapay Zeka Güvenlik FonuYapay zeka güvenliği alanındaki araştırmaları teşvik etmeye odaklandı.
Popular Articles
- 03 Aug Kocasının Romantik Bir Not Bıraktığını Düşünürken Beşiktaş Kadrosuna Rastlayan Kadına Gelen Eğlenceli Yorumlar
- 14 Jul Doğu Akdeniz için sağanak uyarısı
- 20 Jul Arefe Günü Oruç Tutulur mu? Arefe Günü Ne Zaman, Hangi İbadetler Yapılmalı?
- 12 Aug Geçen Senenin Birincisi İlk 10a Bile Giremedi! Cuma Gününün Reyting Savaşını Kim Kazandı?
- 24 Jul Meteorolojiden fırtına uyarısı
Latest Articles
- 15 Jul Perspektifte AMOLED, 90Hz, NFC, IP67 ve Android 15. Avrupa’da Nokia X30 5G satışına başlandı
- 19 Aug 2021de Gerçekleşen, Sonu Hüsranla Biten 11 Uzay Görevi
- 13 Aug Rekabet Kurulu’ndan Trendyol Hakkında Şok Karar: Satıcılar Arasında Ayrımcılık Yaptığı Gerekçesiyle Geçici Tedbir Uygulanacak
- 19 Jul Startup Sesame, Webrazzi Summit dahil Avrupanın 6 önemli teknoloji konferansına ücretsiz katılma şansı sunuyor
- 09 Aug Üçüncü turda 100 milyon dolar yatırım alan BlaBlaCar’ın gözü Türkiye ve Brezilya’da
Other Articles
- DSA: Avrupa Parlamentosu ve Konseyi anlaşmaya vardı
- IMFden Türkiye tahmini: 2023te de ‘en büyük 20 ekonomi’ liginde olacak
- Fikret Orman: Chelsea ile görüşüyoruz
- Kültür ve Turizm Bakanlığı, en iyi 10 mezeyi seçti
- İzmirde korkunç kaza! İki tırın arasında kalan araçta bir can kaybı