GPT-4, OpenAI'ler Bir araştırmaya göre, en yeni çok modlu büyük dil modeli (LLM), sıfır gün güvenlik açıklarından bağımsız olarak yararlanabiliyor TechSpot tarafından bildirildi.
çalışmak Illinois Üniversitesi'nden Urbana-Champaign araştırmacıları, GPT-4 de dahil olmak üzere LLM'lerin, sıfır gün kusurları olarak bilinen açıklanmayan güvenlik açıklarını kullanarak sistemlere saldırılar gerçekleştirebildiğini gösterdi. ChatGPT Plus hizmetinin bir parçası olarak GPT-4, insan müdahalesi olmadan güvenlik penetrasyonu açısından öncüllerine göre önemli ilerlemeler göstermiştir.
ChatGPT'ye yükseltme yapıldı ve OpenAI bunun bu önemli alanlarda daha iyi olduğunu söylüyor
Çalışma, LLM'lerin web hizmetleri ve Python paketleri gibi çeşitli alanlardan gelen ve o sırada mevcut bir yaması olmayan 15 “yüksek ila kritik derecede şiddetli” güvenlik açığına karşı test edilmesini içeriyordu.
Mashlanabilir Işık Hızı
GPT-4, GPT-3.5 gibi önceki modellerin yüzde sıfır başarı oranına kıyasla, bu güvenlik açıklarının yüzde 87'sinden başarıyla yararlanarak şaşırtıcı bir etkinlik sergiledi. Bulgular, GPT-4'ün geleneksel açık kaynaklı güvenlik açığı tarayıcılarının sıklıkla gözden kaçırdığı güvenlik açıklarını özerk bir şekilde tanımlayıp kullanabileceğini gösteriyor.
Bu neden endişe verici?
Bu tür yeteneklerin sonuçları önemlidir; siber suç araçlarını demokratikleştirme ve onları “senaryo çocukları” olarak bilinen daha az vasıflı kişiler için erişilebilir hale getirme potansiyeli ile birlikte. UIUC'dan Yardımcı Doçent Daniel Kang, bu kadar güçlü Yüksek Lisansların oluşturduğu risklerin, ayrıntılı güvenlik açığı raporlarının erişilebilir kalması durumunda siber saldırıların artmasına yol açabileceğini vurguladı.
Kang, güvenlik açıklarının ayrıntılı olarak açıklanmasının sınırlandırılmasını savunuyor ve düzenli güncellemeler gibi daha proaktif güvenlik önlemleri öneriyor. Ancak çalışması aynı zamanda bir savunma stratejisi olarak bilgi saklamanın sınırlı etkililiğine de dikkat çekti. Kang, gelişmiş güvenlik yaklaşımlarının getirdiği zorlukların üstesinden gelmek için sağlam güvenlik yaklaşımlarına ihtiyaç olduğunu vurguladı. yapay zeka GPT-4 gibi teknolojiler.
Kaynak bağlantısı