Deepfake gerçeklik algısını manipüle ederek kullanıcıları yanlış yönlendiriyor. WITNESS deepfake içerikleri hem tehlike hem de teknoloji aracı olarak görüyor.
Bilgisayarlar gerçekliği simüle etmede giderek daha iyi hale geliyor. Yapay zeka tarafından üretilen medya içerikleri artık manşetlere konu oluyor. Özellikle birini taklit etmek için tasarlanmış videolar, sanki yapmadıkları bir şeyi söylüyor veya yapıyormuş gibi gösteriyor.
Bir Twitch yayıncısı, akranlarının yapay zeka tarafından oluşturulmuş pornografisini yaptığı bilinen bir web sitesinde yakalandı. Bir grup New Yorklu öğrenci, müdürlerinin ırkçı sözler söylediği ve öğrencileri tehdit ettiği bir video çekti. Venezuela’da oluşturulan videolar siyasi propaganda yapmak için kullanıldı. Bu ve bunlar gibi sayısız örnek deepfake ile yapılıyor. Oluşturulan sahte içeriklerle deepfake gerçeklik algısında değişiklik yaratıyor.
Her üç durumda da yapay zeka tarafından oluşturulan video, sizi birinin aslında hiç yapmadığı bir şeyi yaptığına ikna etmek amacıyla kullanılıyor. Bu tür içerikler Deepfake olarak isimlendiriliyor.
Deepfake oluşturmak için birkaç yöntem var. Ancak en yaygın olanı, yüz değiştirme tekniği kullanan derin sinir ağlarının kullanımına dayanıyor. Deepfake’in temeli olarak kullanmak için önce bir hedef videoya, ardından hedefe eklemek istediğiniz kişinin video kliplerinden oluşan bir koleksiyona ihtiyacınız var. Videolar tamamen ilgisiz olabilir. Örneğin bir Hollywood filminden bir klip olabilir ve filme eklemek istediğiniz kişinin videoları, YouTube’dan indirilen rastgele klipler olabilir.
Program, bir kişinin çeşitli açılardan ve koşullardan nasıl göründüğünü tahmin eder ve ardından ortak özellikleri bularak o kişiyi hedef videodaki diğer kişiyle eşler.
Süreç karmaşık olsa da, yazılıma oldukça erişilebilir. Çin uygulaması Zao, DeepFace Lab, FakeApp ve Face Swap gibi çeşitli uygulamalar yeni başlayanlar için bile deepfake oluşturmayı kolaylaştırıyor. Ayrıca açık kaynak geliştirme topluluğu olan GitHub’da çok sayıda deepfake yazılımı bulunuyor.
İnsan haklarını savunmak için medya kullanımına odaklanan bir kuruluş olan WITNESS, dijital tehditleri kabul ediyor. Ancak bu şekilde kullanıldığında teknoloji konusunda iyimser olduğunu ifade ediyor.
WITNESS medya teknoloji uzmanı Shirin Anlen: “Çalışmamızın bir kısmı, insanları videodaki aktivistler gibi korumaktan, savunuculuk yaklaşımları benimsemeye ve siyasi hiciv yapmaya kadar bu teknolojinin olumlu kullanımını gerçekten araştırıyor” dedi. Anlen ve WITNESS için teknoloji tamamen korkulacak bir şey değil. Bunun yerine, bir araç olarak görülmeli.
Deepfake içerikleri tespit edebilmek için aşağıdaki soruları cevaplamamız gerekmektedir.