OpenAI başlattı böcek ödülü, halkı ChatGPT de dahil olmak üzere AI hizmetlerindeki güvenlik açıklarını bulmaya ve ifşa etmeye teşvik ediyor. Ödüller, “düşük önem dereceli bulgular” için 200 ABD Doları ile “olağanüstü keşifler” için 20.000 ABD Doları arasında değişmektedir ve raporlar, kitle kaynaklı siber güvenlik platformu aracılığıyla gönderilebilir. böcek kalabalığı.
Özellikle, ödül, ChatGPT’yi hapse atma veya kötü amaçlı kod veya metin oluşturmasına neden olma ödüllerini hariç tutar. OpenAI, “Model istemlerinin ve yanıtlarının içeriğiyle ilgili sorunlar kesinlikle kapsam dışındadır ve ödüllendirilmeyecektir” diyor. Hata kalabalığı sayfası.
Jailbreaking ChatGPT genellikle sisteme kendi güvenlik filtrelerini atlamasına izin veren ayrıntılı senaryoların girilmesini içerir. Bunlar arasında, chatbot’u “kötü ikizi” rolü oynamaya teşvik etmek, kullanıcının nefret söylemi veya silah yapma talimatları gibi aksi takdirde yasaklanmış yanıtları ortaya çıkarmasına izin vermek yer alabilir.
OpenAI, bu tür “model güvenlik sorunlarının, doğrudan düzeltilebilecek bireysel, ayrı hatalar olmadığından, bir hata ödül programına pek uymadığını” söylüyor. Şirket, “bu konuların ele alınmasının genellikle önemli araştırmaları ve daha geniş bir yaklaşımı gerektirdiğini” ve bu tür sorunlarla ilgili raporların şirketin model geri bildirim sayfası.
Bu tür jailbreak’ler, AI sistemlerinin daha geniş güvenlik açıklarını gösterse de, geleneksel güvenlik başarısızlıklarıyla karşılaştırıldığında muhtemelen doğrudan OpenAI için daha az sorun teşkil ederler. Örneğin geçen ay rez0 olarak bilinen bir bilgisayar korsanı 80” ifşa edebildi.gizli eklentiler” ChatGPT API için — şirketin sohbet robotu için henüz yayınlanmamış veya deneysel eklentiler. (Rez0, güvenlik açığının Twitter’da ifşa edilmesinden sonraki bir gün içinde yamalandığını kaydetti.)
tek kullanıcı olarak cevap verdi tweet dizisine: “Keşke ücretli bir #BugBounty programı olsaydı – eminim ki kalabalık gelecekte bu uç vakaları yakalamalarına yardımcı olabilir : )”
Popular Articles
- 17 Jul Ali Özer Sarıkamış Harekatı’nın 109. Yılı Mesajı
- 30 Jul Vanda Karga İstilası, Mahalleli Endişeli
- 28 Jul Tesettürlü Kadınlar İçin Sonbahar Mevsimine Yakışan 5 Muhteşem Kombin Önerisi
- 01 Aug Fırtına ve Soğuk Havaya Aldırış Etmeden Her Gün Martıları Besleyen Güzel İnsan: Hayrullah Çorumlu
- 28 Jul Galatasaray-Anderlecht Maçının Oranları Açıklandı
Latest Articles
- 25 Jul Xiaomi, Mi 8 Lite İçin Android Pie Sürümünü İçeren MIUI 10u Dağıtmaya Başladı
- 14 Aug Minecraftın Yeni Güncellemesiyle Oyunun Yaratıcısı Notchın İsmi Açılış Ekranından Kaldırıldı
- 28 Jul Fenerbahçe Başkan Adayı Aziz Yıldırımdan Acun Ilıcalıya ağır sözler! Kaşınmasın...
- 21 Jul NYT Bulmaca: 14 Temmuz Pazar gününün cevapları
- 09 Aug Microsoft’un Designer uygulaması iOS ve Android’e geldi
Other Articles
- Son Dakika: İstanbul Valisi Ali Yerlikayadan motokurye açıklaması! Yasak ne zaman kalkıyor? - Son Dakika Haberler
- Katır Sırtında Fransadan Hindistana Yolculuk
- Efsanevi galibiyet: Jüri, Google’ın uygulama mağazası kavgasında yasa dışı tekele sahip olduğuna karar verdi
- 45 Yaşındaki Külüstürü 1100 Beygirlik Bir Canavara Dönüştürdüler!
- AB’den sonra Apple ABD’de antitröst soruşturmalarıyla karşı karşıya