Son zamanlarda siber güvenlik ortamı göz korkutucu yeni bir gerçeklikle karşı karşıya kaldı: FraudGPT ve WormGPT gibi kötü amaçlı Üretken Yapay Zekanın yükselişi. İnternetin karanlık köşelerinde gizlenen bu haydut yaratımlar, dijital güvenlik dünyası için belirgin bir tehdit oluşturuyor. Bu makalede, Üretken Yapay Zeka dolandırıcılığının doğasına bakacağız, bu yaratımları çevreleyen mesajları analiz edeceğiz ve bunların siber güvenlik üzerindeki potansiyel etkilerini değerlendireceğiz. Dikkatli olmak çok önemli olmakla birlikte, yaygın paniğin önlenmesi de aynı derecede önemlidir; çünkü durum endişe verici olsa da henüz alarm için bir neden değildir. Kuruluşunuzun gelişmiş bir e-posta güvenliği çözümüyle üretken yapay zeka saldırılarına karşı nasıl koruma sağlayabileceğini mi merak ediyorsunuz? IRONSCALES demosunu edinin.
FraudGPT ve WormGPT ile tanışın
DolandırıcılıkGPT yanıltıcı içerik oluşturmak için gelişmiş makine öğrenimi algoritmalarından yararlanan, abonelik tabanlı kötü amaçlı bir Üretken Yapay Zekayı temsil eder. Etik yapay zeka modellerinin tam tersine, FraudGPT sınır tanımıyor ve onu sayısız hain amaç için çok yönlü bir silah haline getiriyor. Titizlikle uyarlanmış hedef odaklı kimlik avı e-postaları, sahte faturalar, uydurma haber makaleleri ve daha fazlasını oluşturma kapasitesine sahiptir; bunların tümü siber saldırılarda, çevrimiçi dolandırıcılıklarda, kamuoyunun manipülasyonunda ve hatta sözde “tespit edilemeyen kötü amaçlı yazılım ve yazılımların oluşturulmasında kullanılabilir”. Kimlik avı kampanyaları.”
SolucanGPTÖte yandan, hileli yapay zeka alanında FraudGPT’nin uğursuz kardeşi olarak duruyor. OpenAI’nin ChatGPT’sinin onaylanmamış bir karşılığı olarak geliştirilen WormGPT, etik güvenceler olmadan çalışır ve bilgisayar korsanlığı ve diğer yasa dışı faaliyetlerle ilgili sorgulara yanıt verebilir. Yetenekleri en son yapay zeka modelleriyle karşılaştırıldığında biraz sınırlı olsa da, kötü niyetli Üretken Yapay Zekanın evrimsel gidişatının çarpıcı bir örneği olarak hizmet ediyor.
GPT Kötü Adamlarının Duruşu
FraudGPT ve WormGPT’nin geliştiricileri ve yayıcıları, kötü niyetli yaratımlarını tanıtmak için hiç vakit kaybetmediler. Bu yapay zeka destekli araçlar, “siber saldırganlar için başlangıç kitleri” olarak pazarlanıyor ve bir abonelik ücreti karşılığında bir dizi kaynak sunuyor, böylece gelişmiş araçları hevesli siber suçlular için daha erişilebilir hale getiriyor.
Daha yakından incelendiğinde, bu araçların, bir siber suçlunun yaratıcı sorgu geçici çözümlerine sahip mevcut üretken yapay zeka araçlarından elde edebileceğinden çok daha fazlasını sunmayabileceği görülüyor. Bunun olası nedenleri eski model mimarilerin kullanılmasından ve eğitim verilerinin opak doğasından kaynaklanabilir. WormGPT’nin yaratıcısı, modellerinin çeşitli veri kaynakları kullanılarak ve özellikle kötü amaçlı yazılımlarla ilgili verilere odaklanılarak oluşturulduğunu iddia ediyor. Ancak, kullanılan belirli veri kümelerini açıklamaktan kaçındılar.
Benzer şekilde, FraudGPT’yi çevreleyen tanıtım anlatısı, Dil Modeli’nin (LM) performansına pek güven vermiyor. Dark Web’in karanlık forumlarında FraudGPT’nin yaratıcısı, LLM’nin “tespit edilemeyen kötü amaçlı yazılımlar” üretebildiğini ve kredi kartı dolandırıcılığına yatkın web sitelerini tespit edebildiğini iddia ederek bunun en son teknoloji olduğunu öne sürüyor. Bununla birlikte, bunun GPT-3’ün bir çeşidi olduğu iddiasının ötesinde, yaratıcı LLM’nin mimarisi hakkında çok az bilgi veriyor ve tespit edilemeyen kötü amaçlı yazılımlara dair hiçbir kanıt sunmuyor, bu da birçok spekülasyona yer bırakıyor.
Kötü Niyetli Aktörler GPT Araçlarından Nasıl Yararlanacak?
FraudGPT ve WormGPT gibi GPT tabanlı araçların kaçınılmaz olarak devreye alınması gerçek bir endişe kaynağı olmaya devam ediyor. Bu yapay zeka sistemleri son derece ikna edici içerik üretme yeteneğine sahiptir; bu da onları ikna edici kimlik avı e-postaları hazırlamaktan kurbanları dolandırıcılık planlarına zorlamaya ve hatta kötü amaçlı yazılım oluşturmaya kadar çeşitli faaliyetler için cazip hale getirir. Bu yeni saldırı biçimleriyle mücadele etmek için güvenlik araçları ve karşı önlemler mevcut olsa da, zorluk giderek karmaşıklaşmaya devam ediyor.
Dolandırıcılık amacıyla Üretken Yapay Zeka araçlarının potansiyel uygulamalarından bazıları şunlardır:
- Gelişmiş Kimlik Avı Kampanyaları: Bu araçlar, birden fazla dilde hiper-kişiselleştirilmiş kimlik avı e-postalarının (hedef odaklı kimlik avı) oluşturulmasını otomatik hale getirebilir ve böylece başarı olasılığını artırabilir. Bununla birlikte, gelişmiş e-posta güvenlik sistemleri ve dikkatli alıcılar tarafından tespit edilmekten kaçınma konusundaki etkinlikleri hala şüphelidir.
- Hızlandırılmış Açık Kaynak İstihbarat (OSINT) Toplama: Saldırganlar, kişisel bilgiler, tercihler, davranışlar ve ayrıntılı kurumsal veriler de dahil olmak üzere hedefler hakkında bilgi toplamak için bu araçları kullanarak operasyonlarının keşif aşamasını hızlandırabilirler.
- Otomatik Kötü Amaçlı Yazılım Oluşturma: Üretken yapay zeka, kötü amaçlı kod oluşturma konusunda endişe verici bir potansiyele sahiptir ve kapsamlı teknik uzmanlığa sahip olmayan kişiler için bile kötü amaçlı yazılım oluşturma sürecini kolaylaştırır. Ancak bu araçlar kod üretebilse de, ortaya çıkan çıktı hâlâ gelişmemiş olabilir ve başarılı siber saldırılar için ek adımlar gerektirebilir.
Üretken Yapay Zekanın Tehdit Ortamındaki Silahlı Etkisi
FraudGPT, WormGPT ve diğer kötü amaçlı Üretken Yapay Zeka araçlarının ortaya çıkışı, siber güvenlik topluluğu içinde inkar edilemez bir şekilde kırmızı bayraklara yol açıyor. Daha karmaşık kimlik avı kampanyaları potansiyeli ve üretken yapay zeka saldırılarının hacminde artış mevcut. Siber suçlular, siber suçlara girişin önündeki engelleri azaltmak için bu araçlardan yararlanabilir ve sınırlı teknik zekaya sahip bireyleri cezbedebilir.
Ancak ortaya çıkan bu tehditler karşısında paniğe kapılmamak şarttır. FraudGPT ve WormGPT, her ne kadar ilgi çekici olsa da, siber suçlar alanında oyunun kurallarını değiştirecek nitelikte değil; en azından şimdilik. Sınırlamaları, karmaşıklık eksikliği ve en gelişmiş yapay zeka modellerinin bu araçlarda yer almaması, onları aşağıdakiler gibi daha gelişmiş yapay zeka destekli araçlara karşı dayanıklı olmaktan uzak kılmaktadır. DEMİR TERAZİYapay zeka tarafından oluşturulan hedef odaklı kimlik avı saldırılarını otonom olarak tespit edebilen. FraudGPT ve WormGPT’nin doğrulanmamış etkinliğine rağmen, sosyal mühendislik ve hedef odaklı kimlik avının halihazırda etkinliğini gösterdiğini belirtmekte fayda var. Bununla birlikte, bu kötü amaçlı yapay zeka araçları, siber suçlulara bu tür kimlik avı kampanyaları oluşturma konusunda daha fazla erişilebilirlik ve kolaylık sağlıyor.
Bu araçlar gelişmeye ve popülerlik kazanmaya devam ettikçe, kuruluşların iş güçlerine yönelik yüksek düzeyde hedefli ve kişiselleştirilmiş saldırı dalgasına hazırlanmaları gerekiyor.
Paniğe Gerek Yok Ama Yarına Hazır Olun
FraudGPT ve WormGPT gibi araçlarla örneklendirilen Üretken Yapay Zeka dolandırıcılığının ortaya çıkışı, gerçekten de siber güvenlik alanında endişeleri artırıyor. Yine de bu tamamen beklenmedik bir durum değil ve güvenlik çözümü sağlayıcıları bu zorluğun üstesinden gelmek için özenle çalışıyor. Bu araçlar yeni ve zorlu zorluklar sunsa da hiçbir şekilde aşılamaz değildir. Yeraltı suç dünyası bu araçları benimseme konusunda henüz başlangıç aşamasındayken, güvenlik sağlayıcıları da çok daha uzun süredir bu oyunda yer alıyor. IRONSCALES gibi güçlü yapay zeka destekli güvenlik çözümleri, yapay zeka tarafından oluşturulan e-posta tehditlerine büyük bir etkinlikle karşı koymak için halihazırda mevcuttur.
Gelişen tehdit manzarasının önünde kalabilmek için kuruluşlar aşağıdakileri sunan gelişmiş e-posta güvenliği çözümlerine yatırım yapmayı düşünmelidir:
- Ticari E-posta Güvenliği (BEC), kimliğe bürünme ve fatura sahtekarlığı gibi sosyal mühendislik saldırılarına karşı savunmaya yönelik özel yeteneklere sahip gerçek zamanlı gelişmiş tehdit koruması.
- Çalışanları kişiselleştirilmiş eğitimle güçlendirmek için otomatik hedef odaklı kimlik avı simülasyon testi.
Ayrıca, Üretken Yapay Zeka alanındaki gelişmelerden ve bu teknolojileri kullanan kötü niyetli aktörlerin uyguladığı taktiklerden haberdar olmak da önemli. Hazırlıklı olmak ve dikkatli olmak, Üretken Yapay Zekanın siber suçlarda kullanılmasından kaynaklanan potansiyel riskleri azaltmanın anahtarıdır.
Kuruluşunuzun gelişmiş bir e-posta güvenliği çözümüyle üretken yapay zeka saldırılarına karşı nasıl koruma sağlayabileceğini mi merak ediyorsunuz? IRONSCALES demosunu edinin.
Not: Bu makale IRONSCALES CEO’su Eyal Benishti tarafından ustalıkla yazılmıştır.