![NIST, Hızlı Yapay Zeka Sistemi Dağıtımından Kaynaklanan Güvenlik ve Gizlilik Riskleri Konusunda Uyardı](https://kilalu.blog/news/2024-07-30-00:45/NIST, Hızlı Yapay Zeka Sistemi Dağıtımından Kaynaklanan Güvenlik ve Gizlilik Riskleri Konusunda Uyardı.jpg)
08 Ocak 2024Haber odasıYapay Zeka / Siber Güvenlik
ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), son yıllarda yapay zeka (AI) sistemlerinin artan dağıtımının bir sonucu olarak ortaya çıkan gizlilik ve güvenlik sorunlarına dikkat çekiyor.
“Bu güvenlik ve gizlilik zorlukları arasında, eğitim verilerinin düşmanca manipülasyonu, yapay zeka sisteminin performansını olumsuz yönde etkileyecek şekilde model güvenlik açıklarının düşmanca kullanılması ve hatta kötü niyetli manipülasyonlar, modifikasyonlar veya temsil edilen kişiler hakkındaki hassas bilgileri sızdırmak için modellerle salt etkileşim potansiyeli yer alıyor. modelin kendisiyle ilgili veriler veya özel kurumsal veriler,” NIST söz konusu.
Yapay zeka sistemleri, kısmen OpenAI ChatGPT ve Google Bard gibi üretken yapay zeka sistemlerinin ortaya çıkmasıyla birlikte hızlı bir şekilde çevrimiçi hizmetlere entegre edildikçe, bu teknolojileri destekleyen modeller, makine öğrenimi operasyonlarının çeşitli aşamalarında bir dizi tehditle karşı karşıya kalıyor.
Bunlar arasında bozuk eğitim verileri, yazılım bileşenlerindeki güvenlik kusurları, veri modeli zehirlenmesi, tedarik zinciri zayıflıkları ve anlık enjeksiyon saldırıları sonucu ortaya çıkan gizlilik ihlalleri yer alıyor.
NIST bilgisayar bilimcisi Apostol Vassilev, “Yazılım geliştiricilerin çoğunlukla, ürünlerini daha iyi hale getirebilmek için daha fazla insanın kullanmasına ihtiyacı var” dedi. “Ancak maruz kalmanın iyi olacağının garantisi yok. Bir chatbot, dikkatle tasarlanmış bir dille istendiğinde kötü veya zehirli bilgiler yayabilir.”
![Güvenlik ve Gizlilik Güvenlik ve Gizlilik](https://teknomers.com/wp-content/uploads/2024/01/1704768049_535_NIST-Hizli-Yapay-Zeka-Sistemi-Dagitimindan-Kaynaklanan-Guvenlik-ve-Gizlilik.jpg)
Kullanılabilirlik, bütünlük ve gizlilik üzerinde önemli etkileri olabilecek saldırılar genel olarak şu şekilde sınıflandırılıyor:
- Bir model konuşlandırıldıktan sonra rakip çıktı üretmeyi amaçlayan Kaçınma saldırıları
- Bozuk verileri sunarak algoritmanın eğitim aşamasını hedef alan zehirleme saldırıları
- Mevcut korkulukları aşan sorular sorarak sistem veya sistemin eğitim aldığı veriler hakkında hassas bilgiler toplamayı amaçlayan gizlilik saldırıları
- Sistemin kullanım amacını yeniden belirlemek için yanlış bilgi içeren bir web sayfası gibi meşru bilgi kaynaklarını ele geçirmeyi amaçlayan kötüye kullanım saldırıları
NIST’e göre bu tür saldırılar, tam bilgiye sahip (beyaz kutu), minimum bilgiye sahip (kara kutu) veya yapay zeka sisteminin bazı yönlerini kısmen anlayan (gri kutu) tehdit aktörleri tarafından gerçekleştirilebilir.
Ajans ayrıca, bu risklere karşı koymak için sağlam hafifletme önlemlerinin bulunmadığına dikkat çekerek, daha geniş teknoloji topluluğunu “daha iyi savunmalar bulmaya” çağırdı.
Bu gelişme, İngiltere, ABD ve diğer 16 ülkeden uluslararası ortakların güvenli yapay zeka (AI) sistemlerinin geliştirilmesine yönelik yönergeleri yayınlamasından bir aydan fazla bir süre sonra gerçekleşti.
Vassilev, “Yapay zeka ve makine öğreniminin kaydettiği önemli ilerlemeye rağmen, bu teknolojiler, korkunç sonuçlar doğurabilecek olağanüstü arızalara neden olabilecek saldırılara karşı savunmasızdır.” dedi. “Yapay zeka algoritmalarının güvenliğiyle ilgili henüz çözülmemiş teorik sorunlar var. Eğer biri aksini söylüyorsa, yılan yağı satıyorlar demektir.”
Popular Articles
- 19 Aug OnePlus Akıllı Saatini Son Anda İptal Etti
- 14 Jul ABD Dışişleri Bakanlığı Sözcüsünden vize açıklaması
- 12 Jul Kayıplardan Sonra İlk Bayram! Bir Depremzedenin Yüreğinizi Yakacak Haklı İsyanına Kulak Vermelisiniz
- 29 Jul Bu Hobi Testi Kaç Yakın Arkadaşın Olduğunu Söylüyor!
- 16 Aug Kılıçdaroğluna Sorulan Soruları Tiye Alan Kişilerden Alternatif Sorular Gecikmedi
Latest Articles
- 10 Aug NBA 2K23 Cleveland Cavaliers Kadrosu ve Reytingleri
- 07 Aug Cyberpunk 2077 İncelemesi: Tarihin En Kötü Yılına Yakışan Bir Oyun mu Yoksa Almaya Değer mi?
- 04 Aug Yerli Otomobilin Prototipi, 2019 Yılı Sonunda Hazır Olacak
- 20 Jul KOBİlerin büyümesi, dijital ödemeler başta olmak üzere birçok segmentten kaynaklanacak
- 04 Aug Deep Tech, finansman krizinin en kötüsünü atlattı – işte nedeni
Other Articles
- Güneş enerjisi toplamak için özel uydular
- Twitter, öneri algoritması da dahil olmak üzere kaynak kodunun bir kısmını ortaya koyuyor
- Sims 4 ikiz deneyi, bir çocuğu görmezden gelirseniz ne olacağını test ediyor
- Tarihte İlk Kez Uzay Koşullarında Memeli Embriyosu Yetiştirildi: Uzayda da Üreyebileceğiz!
- Google Nest, Uygun Fiyatlı Yeni Akıllı Termostatını Tanıttı