Ghostery CEO’su Schmetz, ChatGPT sohbetleri için güvenlik analizi yaptı. Schmetz üçüncü taraf kontrolüne dikkat çekti.
ChatGPT, hatta Bing Chat ve Google Bard gibi üretken yapay zeka hizmetlerini daha fazla kişi kullandıkça , bunların güvenliği ve etiği sorgulanmaya başlıyor. Milyonlarca insan soru sormak, ön yazılar veya makaleler için metin oluşturmak, kod yazmak ve hatta hata ayıklamak için bir web sitesini kullanıyor. Peki bu araçlara girilen tüm bu bilgilere ne oluyor?
Ghostery CEO’su ve gizlilik uzmanı Jean-Paul Schmetz bu konuyla ilgili detaylı bir çalışma yaptı. İyi haber şu ki, OpenAI henüz ChatGPT’de üçüncü taraf izlemeye izin vermiyor. Schmetz: “ChatGPT ile sohbet ederken arkanızdan bakan kimse yok” diyor.
Schmetz: “Kullanıcının endişelenmesi gereken tek şey, verilerinizi eğitim için kullanabilmeleridir, bu nedenle ne yazarsanız yazın OpenAI tarafından kullanılıyor. Bu, şirketin gizlilik politikasında açıkça belirtilmiş, ancak yalnızca OpenAI’den bir Google Formu doldurarak veri paylaşımını devre dışı bırakma seçeneğiniz var” diyor.
2021’de araştırmacılar, modelin doğuştan gelen, kullanıcılarının girdiği verilerden öğrenme rolünden yararlanan veri çıkarma saldırılarını eğitmek için GPT-2 sistemindeki güvenlik açıklarını ortaya çıkardı. Bu güvenlik açığının GPT-4’te olup olmadığını kesin olarak bilmesek de Schmetz, bunun ücretsiz modelde de devam ettiğini açıklıyor. OpenAI başkanı ve kurucu ortağı Greg Brockman: “Güçlü eğitim çalışmalarının hükümetlere bildirilmesi, bunların kapasite ve etkilerine ilişkin giderek daha karmaşık hale gelen tahminlerin eşlik etmesi ve tehlikeli yetenek testleri gibi en iyi uygulamaları gerektirmesi gerektiğine inanıyoruz” dedi.
İnternetle iç içe büyüyen çoğumuz, bunun için üç önemli kural olduğunu biliyoruz: Özel bilgileri internete koymayın, okuduğunuz her şeye inanmayın ve internetin en büyük hükümdarı çerezlerdir. Schmetz, “Yapay zeka ile paylaştıkları bilgilere dikkat eden kullanıcılar risk altında olmayacak, çünkü bu birinci taraf verileri yalnızca kullanıcı bu bilgileri en başta girdiyse çıkarılabilir” diye ekliyor.