OpenAI, üretken yapay zeka sohbet robotu ChatGPT’nin Avrupa Birliği gizlilik yasalarına uyup uymadığına ilişkin başka bir soruşturmayla karşı karşıya.
Geçen ay Polonya’da ChatGPT ve OpenAI’ye karşı, şirketi AB’nin Genel Veri Koruma Yönetmeliğini (GDPR) bir dizi ihlal etmekle suçlayan bir şikayette bulunulmuştu. Dün Polonyalı yetkililer alışılmadık bir adım attı. kamu duyurusu soruşturma başlattığını doğruladı.
“Kişisel Verileri Koruma Dairesi [UODO] Şikayetçinin aracın yaratıcısı OpenAI’yi diğer şeylerin yanı sıra verileri yasa dışı, güvenilmez bir şekilde işlemekle suçladığı ve bunun yapıldığı kuralların şeffaf olmadığı ChatGPT ile ilgili bir şikayeti araştırıyoruz.” basın bülteni [translated from Polish to English using DeepL].
Otorite, “zor” bir soruşturma beklediğini söyledi; OpenAI’nin AB dışında bulunduğunu belirterek, uyumluluğunu inceleyeceği üretken AI chatbot teknolojisinin yeniliğini işaretledi.
UODO başkanı Jan Nowak yaptığı açıklamada, “Dava, kişisel verilerin korunmasına ilişkin birçok hükmün ihlaliyle ilgili, bu nedenle idari işlemleri eksiksiz bir şekilde yürütmek için OpenAI’den bir dizi soruyu yanıtlamasını isteyeceğiz” dedi.
Başkan yardımcısı Jakub Groszkowski, otoritenin talimatına bir uyarı ekledi: basın bülteni — yeni teknolojilerin yasal çerçevenin dışında çalışmadığını ve GDPR’ye saygı duyması gerektiğini yazıyor. Şikayetin, OpenAI’nin Avrupa veri koruma ilkelerine sistemik yaklaşımı hakkında şüphe uyandıran iddialar içerdiğini belirterek, otoritenin “özellikle GDPR’de yer alan tasarım gereği gizlilik temel ilkesinin arka planına karşı bu şüpheleri açıklığa kavuşturacağını” ekledi.
Yerel gizlilik ve güvenlik araştırmacısı tarafından yapılan şikayet Lukasz OlejnikOpenAI’yi yasal dayanak, şeffaflık, adalet, veri erişim hakları ve tasarım gereği mahremiyeti kapsayan bir dizi pan-AB düzenlemesini ihlal etmekle suçluyor.
OpenAI’nin, Olejnik’in ChatGPT’nin kendisi hakkında oluşturduğu biyografideki yanlış kişisel verileri düzeltme talebine verdiği yanıta odaklanıyor – ancak OpenAI ona bunu yapamayacağını söyledi. Ayrıca AI devini, konuya erişim talebine düzgün bir şekilde yanıt vermemekle ve veri erişimine ilişkin yasal haklarını kullanmaya çalışırken kaçamak, yanıltıcı ve kendi içinde çelişkili yanıtlar vermekle suçluyor.
ChatGPT’nin altında yatan teknoloji, büyük dil modeli (LLM) olarak adlandırılan, doğal dil verileri yığınları üzerinde eğitilen ve böylece her ikisinin de insan benzeri bir şekilde yanıt verebildiği bir tür üretken yapay zeka modelidir. Ancak aynı zamanda, aracın genel amaçlı kullanışlılığı göz önüne alındığında, her türlü bilgi üzerinde eğitildiği ve böylece farklı soru ve sorulara yanıt verebileceği, çoğu durumda yaşayan insanlarla ilgili verilerle beslenmek de dahil olduğu açıktır.
OpenAI’nin insanların bilgisi veya rızası olmadan eğitim verileri için halka açık İnternet’i kullanması, ChatGPT’nin AB’deki düzenleyici sıcak sulara düşmesine neden olan en büyük faktörlerden biridir. Kişisel verileri tam olarak nasıl işlediğini açıkça ifade edememesi; veya yapay zeka “halüsinasyon gördüğünde” ve adı geçen kişiler hakkında yanlış bilgi ürettiğinde hataları düzeltmek için kullanılabilir.
Blok, kişisel verilerin nasıl işleneceğini düzenleyerek, işleyicinin insanların bilgilerini toplamak ve kullanmak için yasal bir temele sahip olmasını gerektiriyor. İşleyicilerin ayrıca şeffaflık ve adalet gerekliliklerini de karşılaması gerekir. Ayrıca, AB’deki insanlara bir dizi veri erişim hakkı tanınmaktadır; bu, AB bireylerinin (diğer şeylerin yanı sıra) kendileri hakkındaki yanlış verilerin düzeltilmesini isteme hakkına sahip olduğu anlamına gelir.
Olejnik’in şikayeti, OpenAI’nin GDPR uyumluluğunu bu boyutların bir kısmında test ediyor. Dolayısıyla herhangi bir yaptırım, üretken yapay zekanın nasıl gelişeceğini şekillendirmede önemli olabilir.
UODO’nun ChatGPT şikayetini araştırdığını onaylamasına tepki gösteren Olejnik, TechCrunch’a şunları söyledi: “Tasarım yoluyla gizliliğe/tasarım yoluyla veri korumasına odaklanmak kesinlikle kritik öneme sahip ve bunun ana husus olmasını bekliyordum. Yani bu mantıklı geliyor. Bu, LLM sistemlerinin tasarım ve dağıtım yönleriyle ilgilidir.”
Daha önce Kafka’nın kitabında OpenAI’den bilgilerinin işlenmesiyle ilgili yanıtlar almaya çalışma deneyimini Josef K gibi hissettiğini anlatmıştı. Deneme. Şimdi, “Eğer bu AI/LLM için Josef K.’nin anıysa, bunun ilgili süreçlere ışık tutacağını umalım” diye ekledi.
Polonyalı yetkililerin şikayete yanıt verme hızı ve soruşturma konusundaki açıklığı dikkate değer görünüyor.
Bu, OpenAI’nin Avrupa Birliği’nin karşı karşıya olduğu artan düzenleme sorunlarına katkıda bulunuyor. Polonya’daki soruşturma, İtalya’nın DPA’sının bu yılın başlarında yaptığı ve ülkede ChatGPT’nin geçici olarak askıya alınmasına yol açan müdahalenin ardından geldi. Tarafından yapılan inceleme Garanti yasal dayanak ve veri erişim hakları gibi faktörlerle bağlantılı GDPR uyumluluğu endişelerini de inceleyerek devam ediyor.
Başka yerlerde İspanya’nın DPA’sı bir soruşturma başlattı. Bu yılın başlarında Avrupa Veri Koruma Kurulu aracılığıyla oluşturulan bir görev gücü, bloğun gizlilik gözlemcileri arasında bu tür yeni teknolojilerin nasıl düzenleneceği konusunda bir fikir birliğine varmak amacıyla veri koruma yetkililerinin AI chatbot teknolojisine nasıl yanıt vermesi gerektiğini inceliyor.
Görev gücü bireysel yetkililer tarafından yürütülen soruşturmaların yerini almaz. Ancak gelecekte DPA’ların son teknoloji yapay zekayı düzenlemeye yaklaşımı konusunda bir miktar uyumlaşmaya yol açabilir. Bununla birlikte, DPA’lar arasında güçlü ve çeşitli görüşlerin olması durumunda farklılık da mümkündür. Ve bloğun gözlemcilerinin ChatGPT gibi araçlara karşı ne gibi yaptırım önlemleri alabileceği henüz bilinmiyor. (Ya da aslında ne kadar çabuk harekete geçebilirler.)
UODO’nun – görev gücünün varlığına işaret eden – basın açıklamasında, başkanı, otoritenin ChatGPT soruşturmasını “çok ciddiye” aldığını söylüyor. Ayrıca şikayet iddialarının, ChatGPT’nin Avrupa veri koruma ve gizlilik kurallarına uyumu konusundaki ilk şüpheler olmadığını da belirtiyor.
Şikayette Olejnik’i temsil eden hukuk firması GP Partners’tan Maciej Gawronski, otoritenin açıklığını ve hızını tartışırken TechCrunch’a şunları söyledi: “UODO gizlilik, veri koruma, teknoloji ve insan hakları konusunda giderek daha fazla ses çıkarıyor. Dolayısıyla şikayetimizin bir fırsat yarattığını düşünüyorum. [it] dijital ve toplumsal ilerlemeyi bireysel eylemlilik ve insan haklarıyla uzlaştırmak için çalışmak.
“Polonya’nın bilişim konusunda çok gelişmiş bir ülke olduğunu unutmayın. UODO’nun yaklaşım ve işlemlerinde oldukça makul olmasını beklerdim. Elbette OpenAI tartışmaya açık kaldığı sürece.”
Şikayetle ilgili hızlı bir karar beklenip beklenmediği sorulduğunda Gawronski şunları ekledi: “Yetkili teknolojideki gelişmeleri oldukça yakından izliyor. Şu anda UODO’nun yeni teknolojiler konulu konferansındayım. UODO’ya yapay zeka konusunda çeşitli aktörler tarafından zaten yaklaşıldı. Ancak hızlı bir karar beklemiyorum. Davayı erken bitirmek gibi bir niyetim de yok. OpenAI ile ChatGPT’nin GDPR uyumluluğuna ilişkin neyin, ne zaman, nasıl ve ne kadar olduğu ve özellikle veri sahibinin haklarının nasıl yerine getirileceği konusunda dürüst ve anlayışlı bir tartışma yapmayı tercih ederim.”
Polonya DPA’nın soruşturması hakkında yorum yapmak için OpenAI ile temasa geçildi ancak herhangi bir yanıt göndermedi.
Yapay zeka devi, AB’de giderek daha karmaşık hale gelen düzenleyici tabloya yanıt olarak yerinde durmuyor. Geçtiğimiz günlerde Dublin, İrlanda’da bir ofis açtığını duyurdu; bu ofis, herhangi bir GDPR şikayetini İrlanda üzerinden iletebilirse muhtemelen veri korumasına yönelik düzenleyici durumunu düzene koymayı hedefliyor.
Ancak şimdilik ABD şirketi, GDPR amaçları açısından herhangi bir AB Üye Devletinde (İrlanda dahil) “ana kuruluş” olarak kabul edilmiyor çünkü yerel kullanıcıları etkileyen kararlar Kaliforniya’daki ABD Genel Merkezinde alınmaya devam ediyor. Şu ana kadar Dublin ofisi sadece küçük bir uydu. Bu, bloktaki veri koruma yetkililerinin, yamalarında ChatGPT ile ilgili ortaya çıkan endişeleri araştırma konusunda yetkili kaldığı anlamına geliyor. Yani daha fazla soruşturma takip edebilir.
OpenAI için gelecekteki herhangi bir ana kuruluş statüsü değişikliğinden önce gelen şikayetler de AB’nin herhangi bir yerinde yapılabilir.