Biden yönetimi, deepfake'lere karşı tutumunu net bir şekilde ortaya koydu: Teknoloji şirketlerinin, internet üzerinden oluşturulan bu tür görüntülerin durdurulmasında kritik bir rol oynaması gerekiyor. yapay zeka.
Perşembe günü, Beyaz Saray atılacak adımların listesini yayınladı teknoloji şirketleri, genellikle kızlara, kadınlara ve lezbiyen, gey, biseksüel ve trans bireylere uygulanan bir tür dijital şiddet olan imaja dayalı cinsel istismarı engellemeye çalışmalıdır.
Deepfake, doğası gereği genellikle müstehcen veya cinsel içerikli olan bir görselin veya videonun sentetik olarak oluşturulmasını tanımlamak için kullanılan bir terimdir. Bazen materyal, mağdurun rızası olmadan mevcut bir resim veya videodan elde edilen yüzü kullanılarak hazırlanır. Diğer durumlarda failler tamamen sahte içerik oluşturmak için yapay zekayı kullanıyor.
Bir ceza davasında Wisconsin'li bir adam yakın zamanda tutuklandı ve suçlandı Stable Diffusion adı verilen metinden resme üretken yapay zeka aracını kullanarak çocukların cinsel istismarına ilişkin binlerce görüntü üreterek.
Birisi sizin deepfake'inizi yaparsa ne yapmalısınız?
Beyaz Saray bu vakaya özel olarak değinmese de görüntüye dayalı cinsel istismarı “bugüne kadar yapay zekanın en hızlı büyüyen zararlı kullanımlarından” biri olarak tanımladı.
Duyuru, Beyaz Saray yetkilileri Cinsiyet Politikası Konseyi direktörü Jennifer Klein ve Bilim ve Teknoloji Politikası Ofisi direktörü Arati Prabhakar tarafından yazılmıştır.
Prabhakar bir telefon görüşmesinde Mashable'a, Beyaz Saray'ın imaja dayalı cinsel istismarın yükselişinde adı geçen şirketlerin hemen harekete geçmesini ve bunu durdurmaya yardımcı olmak için hızlı hareket etmesini umduğunu söyledi.
Prabhakar, “Şirketlerin neler yapabilecekleri konusunda daha fazla düşünmelerini ve bu sorun üzerinde gerçekten ilerleme kaydetmeye çabalamalarını istiyoruz” dedi.
Mashable En Çok Okunan Hikayeler
Beyaz Saray, teknoloji şirketlerinin görüntüye dayalı cinsel istismar oluşturan, kolaylaştıran, para kazandıran veya yayan web sitelerini ve uygulamaları sınırlamasını ve kullanıcılara bireylerin rızası olmadan cinsel görüntüler oluşturma ve değiştirme araçları sağlayacak şekilde pazarlanan web hizmetlerini ve uygulamaları kısıtlamasını önerdi. . Bulut hizmeti sağlayıcıları da benzer şekilde açık deepfake sitelerin ve uygulamaların ürünlerine erişmesini yasaklayabilir.
Beyaz Saray'a göre uygulama mağazaları geliştiricilerin rıza dışı görsellerin oluşturulmasını engellemesini de isteyebilir. Pek çok AI uygulamasının, bu amaçla reklamı yapılmasa bile, açık deepfake oluşturabildiği göz önüne alındığında, bu gereklilik kritik öneme sahip olacaktır.
Beyaz Saray, ödeme platformlarına ve finans kuruluşlarına, görsele dayalı cinsel istismarla iş yapan site ve uygulamaların, özellikle de bu kuruluşların küçüklerin görsellerinin reklamını yapması durumunda, ödeme hizmetlerine erişimi kısıtlamaları çağrısında bulundu.
Beyaz Saray, endüstriyi, hayatta kalan yetişkinlerin ve gençlerin rızası olmayan içeriklerini katılımcı çevrimiçi platformlardan kaldırmalarına yardımcı olacak yollar bulma konusunda “katılmaya” çağırdı. Şu anda, kaldırma süreci kafa karıştırıcı ve yorucu olabilir mağdurlar için çünkü her çevrimiçi platformun net bir süreci yoktur.
Beyaz Saray, Kongre'nin de oynayacağı bir rol olduğunu söyledi. Yönetim kurulundan “yasal korumaları güçlendirmesi ve imaja dayalı cinsel istismardan kurtulanlar ve mağdurlar için kritik kaynaklar sağlaması” istendi. Şu anda açık deepfake görüntülerin oluşturulmasını veya yayılmasını suç sayan bir federal yasa bulunmamaktadır.
Beyaz Saray açıklamasında imaja dayalı cinsel istismarın büyük tehlikeleri kabul edildi: “Hayatta kalanlar için bu istismar yıkıcı olabilir, hayatlarını altüst edebilir, eğitimlerini ve kariyerlerini sekteye uğratabilir ve depresyona, kaygıya, travma sonrası stres bozukluğuna ve artan şiddete yol açabilir. intihar riski var.”
Prabhakar, üretken yapay zekanın altında yatan teknolojinin muazzam bir umut vaat ettiğini söyledi ancak görüntüye dayalı cinsel istismarı, giderek büyüyen “zarar verici ve çirkin bir uygulama” olarak tanımladı.
“Bunu doğru yapmanın nedenlerinden biri de bu teknolojinin gelecek iyi şeyler için kullanılmasına izin vermektir” diye ekledi.
GÜNCELLEME: Mayıs. 23 Kasım 2024 17:42 EDT Bu hikaye Mashable'ın Arati Prabhakar ile yaptığı röportajı içerecek şekilde güncellendi.
Konular
Yapay zeka
Sosyal Fayda
Kaynak bağlantısı