Üretken yapay zekanın ortaya çıkmasıyla mükemmelleşen ve daha erişilebilir hale gelen deepfake’ler son derece endişe verici. 500’den fazla araştırmacı ve uzman, açık bir mektupta bu kuralların sıkı bir şekilde düzenlenmesini talep ediyor.
“ Deepfake’ler toplum için giderek büyüyen bir tehdit oluşturuyor ve hükümetlerin bunların yayılmasını durdurmak için tedarik zinciri boyunca yükümlülükler getirmesi gerekiyor » diye uyarıyorlar. Bu yıl dünya çapında çok sayıda seçim yapılacak olduğundan durum daha da endişe verici.
Ocak ayında, Joe Biden’ın Amerikalı seçmenleri Demokratların ön seçimleri için sandık başına gitmemeye teşvik ettiği derin sahte bir ses, uzmanları özellikle uyardı. Bu, bu teknolojinin demokratik süreçler üzerindeki potansiyel etkisinin yalnızca bir örneğidir. İmzacılar, aynı şekilde, pornografik ve çocuk pornografisi deepfake’inin yeniden canlanmasının da güçlü önlemlerle durdurulması gerektiğini tavsiye ediyor.
Tasvir edilen karakterler ister gerçek ister kurgu olsun, çocukların yer aldığı bu tür içeriğin tamamen suç sayılması çağrısında bulunuyorlar. Zararlı deepfake’ler oluşturan veya dağıtanlara da cezai yaptırımlar getirilmesi gerekiyor, devam ediyorlar. Geliştiricilerin ayrıca bunların oluşturulmasını engelleme teşviki vardır ve eğer önleme tedbirleri yetersizse cezalandırılmalıdırlar.
Bu mektubun yayınlanması, Avrupa Birliği’nin, örneğin yapay zeka tarafından oluşturulan tüm içeriği tespit ederek soruna karşı harekete geçmeye çalıştığı bir dönemde geldi. Kanun koyucular ayrıca pornografik deepfake’lerin cezai açıdan cezalandırılabilir hale getirilmesini istiyor.
Atlantik’in diğer tarafında, Taylor Swift’in X’teki (eski adıyla Twitter) sahte görsellerinin hızla yayılması, yakın zamanda siyasi sınıfı alarma geçirdi. Washington yine de yapay zekayı denetleme konusunda ölçülü olmaya devam ediyor ve her şeyden önce riskleri azaltmaları için şirketlere baskı yapıyor. Bu hafta, yapay zeka ile ilgili tehditler ve bunları yasal olarak sınırlandırmanın yolları hakkında bir rapor hazırlama misyonuyla bir görev gücü açıklandı.
“ Yapay zeka hızla geliştikçe ve deepfake oluşturmak çok daha kolaylaştıkça güvenlik önlemlerine ihtiyaç duyuluyor », Mektubu imzalayanları belirtiniz. Bunların arasında Google DeepMind’dan araştırmacılar ve bir OpenAI çalışanı da var.
Geçen yıl Elon Musk gibi binlerce büyük ismin imzaladığı benzer bir mektup, üretken yapay zeka araştırmalarının geçici olarak durdurulması çağrısında bulunmuştu. Amaç: Risklere karşı daha etkili koruma sağlamak için riskleri daha iyi değerlendirmek. Bu öneriyi kimse uygulamadı.