İngiltere’nin veri koruma gözlemcisi olan Bilgi Komiseri Ofisi (ICO), Snapchat’a karşı bir ön yaptırım bildirimi yayınladı. Sosyal ağdan şüpheleniliyor: üretken yapay zeka sohbet robotu “My AI”nın oluşturduğu gizlilik risklerini doğru şekilde değerlendirmede olası bir başarısızlık “.
OpenAI’nin GPT dil modelini temel alan My AI, yapay zekayla konuşabilen veya ondan tavsiye isteyebilen tüm Snapchat kullanıcılarının kullanımına açıktır. ICO, şirketin chatbot ile gençlerin mahremiyetini korumak için gerekli önlemleri almamasından endişe duyuyor.
“ Araştırmamızın ilk bulguları, Snap’in “Benim Yapay Zekam”ı başlatmadan önce çocuklara ve diğer kullanıcılara yönelik gizlilik risklerini yeterince tanımlayıp değerlendirmede başarısız olduğunu gösteriyor “, diye yorumladı Bilgi Komiseri John Edwards. Ön icra bildiriminin açılması bir ihlal bulgusu değildir ancak şirketin nihai bir karar vermeden önce düzenleyici kurumun endişelerini gidermesi gerekir.
“ Veri koruma risk değerlendirmesi, yenilikçi teknolojilerin kullanımını ve 13 ila 17 yaş arası çocukların kişisel verilerinin işlenmesini içeren bu bağlamda özellikle önemlidir. », ICO’yu belirtir. Nihai bir yaptırım bildiriminin kabul edilmesi durumunda Snachat’ın My AI ile ilgili verileri işlemeyi durdurması gerekebilir.
“ Bu, Snap’in uygun bir risk değerlendirmesi yapana kadar ‘Benim Yapay Zekam’ ürününü Birleşik Krallık kullanıcılarına sunmayacağı anlamına geliyor », ajansa devam ediyor.
“ Ürün geliştirmeye yönelik standart yaklaşımımızla tutarlı olarak My AI, kamuya sunulmadan önce sağlam bir yasal ve gizlilik inceleme sürecinden geçti », Snapchat’e tepki gösterdi.
Bu, konuşmaya dayalı yapay zekanın kişisel verilerle ilgili olarak Avrupalı düzenleyicilerin ilgi odağında yer aldığı ilk sefer değil. Mart ayında İtalyan otoritesi ChatGPT’nin askıya alınması emrini verdi. OpenAI, kullanıcılar için daha ayrıntılı gizlilik bilgilerinin yanı sıra yeni kontroller eklediğinde model yeniden sunulabildi.
Yukarı yönde, Google Bard’ın Avrupa lansmanı İrlanda Veri Koruma Komisyonu’nun emriyle ertelendi. Araç, Redmond firmasının düzenleyicilerin endişelerine yanıt vermesinin ardından daha sonra devreye alınabilir.