01 Haziran 2024Haber odasıHizmet Olarak Yapay Zeka / Veri İhlali
Yapay Zeka (AI) şirketi Hugging Face, Cuma günü, bu haftanın başlarında Spaces platformuna yetkisiz erişim tespit ettiğini açıkladı.
“Spaces’in sırlarının bir alt kümesine izinsiz erişilebileceğine dair şüphelerimiz var” söz konusu bir danışma belgesinde.
Alanlar kullanıcılara bir yol sunar oluşturun, barındırın ve paylaşın Yapay zeka ve makine öğrenimi (ML) uygulamaları. Ayrıca platformdaki diğer kullanıcılar tarafından yapılan AI uygulamalarını aramak için bir keşif hizmeti olarak da işlev görür.
Güvenlik olayına yanıt olarak Hugging Space, bir dizi güvenlik önlemini iptal etme adımını attığını söyledi. HF belirteçleri Bu sırlarda mevcut ve belirteçleri iptal edilen kullanıcılara e-posta yoluyla bildirim gönderiliyor.
“Herhangi bir anahtarı veya jetonu yenilemenizi ve HF jetonlarınızı yeni varsayılan olan ayrıntılı erişim jetonlarına geçirmenizi öneririz” diye ekledi.
Ancak Hugging Face, şu anda daha fazla soruşturma altında olan olaydan kaç kullanıcının etkilendiğini açıklamadı. Ayrıca kolluk kuvvetlerini ve veri koruma yetkililerini ihlal konusunda uyardı.
Bu gelişme, yapay zeka sektöründeki patlayıcı büyümenin, Hugging Face gibi hizmet olarak yapay zeka (AIaaS) sağlayıcılarının, onları kötü amaçlarla sömürebilecek saldırganların hedefi haline gelmesiyle ortaya çıkıyor.
Nisan ayı başlarında bulut güvenlik firması Wiz, Hugging Face’te bir saldırganın kiracılar arası erişim elde etmesine ve sürekli entegrasyon ve sürekli dağıtım (CI/CD) işlem hatlarını devralarak AI/ML modellerini zehirlemesine izin verebilecek güvenlik sorunlarını ayrıntılı olarak açıkladı.
HiddenLayer tarafından gerçekleştirilen önceki araştırmalar, Hugging Face Safetensors dönüştürme hizmetindeki, kullanıcılar tarafından gönderilen yapay zeka modellerinin ele geçirilmesini ve tedarik zinciri saldırıları düzenlemeyi mümkün kılan kusurları da ortaya çıkardı.
Wiz araştırmacıları Nisan ayında, “Kötü niyetli bir aktör Hugging Face’in platformunu tehlikeye atarsa, potansiyel olarak özel yapay zeka modellerine, veri kümelerine ve kritik uygulamalara erişim kazanabilir, bu da geniş çapta hasara ve potansiyel tedarik zinciri riskine yol açabilir” dedi.
siber-2