D­e­e­p­f­a­k­e­s­ ­K­u­r­b­a­n­l­a­r­ı­ ­K­a­r­ş­ı­ ­M­ü­c­a­d­e­l­e­ ­E­d­i­y­o­r­

Bruce Willis Yüzünü Koruyor

Ancak tırnak çiğneyen milletvekilleri partiye geç kaldı. Politikacıları hedef alan deepfake’ler yeni görünebilir, ancak Yapay zeka tarafından oluşturulan pornografiRıza dışı deepfake’lerin büyük çoğunluğunu hala oluşturan bu video, yarım on yılı aşkın bir süredir binlerce kadına eziyet ediyor ve onların hikayeleri genellikle ana akım kaygıların altında gömülü kalıyor. Bir grup deepfake kurbanı, travmalarını ve saldırganlara karşı savaşmak için attıkları adımları, şok edici yeni bir belgeselde anlatarak bu perdeyi kaldırmaya çalışıyor. Başka Bir Vücut.

Hedef alınan kadınlardan biri, Twitch’te 280.000 takipçisi olan popüler bir ASMR yayıncısının adıydı. Gibi, Gizmodo ile kendisi hakkında yapılan derin cinsel sahtekarlıkları kamuya açık olarak kabul etme kararı hakkında konuştu. Platformunun sıklıkla gözden kaçan bu konuya ışık tutmasına yardımcı olabileceğini umuyor.

Gibi, Gizmodo ile yaptığı bir röportajda, “Sanırım zamanımızın çoğunu kendimizi bunun o kadar da önemli olmadığına ve dünyada daha kötü şeylerin olduğuna inandırarak harcıyoruz” dedi. “Ben günümü böyle geçiriyorum; bunun seni rahatsız etmesine izin veremezsin, o yüzden kendini durumun o kadar da kötü olmadığına inandırırsın.”

“Bunu başkalarından duymak dır-dir bu kötü duyguların bir karışımıdır” diye ekledi. “Bu biraz rahatlatıcı ve aynı zamanda biraz da korkutucu.”

Gibi, filmde kendi derin sahtelerini bulduktan sonra deneyimlerini anlatan birkaç kadından biriydi. Film yapımcıları Sophie Compton ve Reubyn Hamlyn tarafından yönetilen belgesel, büyük ölçüde internette dolaşan derin sahte pornografiyi keşfeden Taylor adında bir mühendislik fakültesi öğrencisinin hayatını konu alıyor. Taylor öğrencinin gerçek adı değil. Aslında Taylor ve bir başka deepfake kurbanının belgeselde sunulan tüm görüntüleri aslında onların gerçek kimliklerini gizlemek için oluşturulmuş deepfake videolardır.

22 yaşındaki öğrenci, deepfake’i bir arkadaşından “Gerçekten üzgünüm ama sanırım bunu görmeniz gerektiğini düşünüyorum” diyen tüyler ürpertici bir Facebook mesajı aldıktan sonra keşfeder. Bir PornHub bağlantısı aşağıdadır.

Taylor ilk başta mesaja inanmaz ve arkadaşının hesabının hacklenip hacklenmediğini merak eder. Sonunda bağlantıya tıklamaya karar verir ve ciltli pornografiyle dolu yüzü ona bakarken sunulur. Taylor daha sonra birisinin yüzünün resimlerini sosyal medya hesaplarından aldığını ve bunları bir yapay zeka modelinden geçirerek altı derin sahte seks videosunda göründüğünü öğrenir. Daha da kötüsü, videoların arkasındaki suçlu, gerçek üniversitesi ve memleketi listelenerek kendi adını taklit ederek videoları bir PornHub profilinde yayınladı.

Bazen yıkıcı derecede korkunç olan bu film, kendilerinin cinselleştirilmiş tasvirleri sunulduğunda deepfake kurbanlarının katlanmak zorunda kaldıkları travmayı ve çaresizliği açığa çıkarıyor. Deepfake’leri tasvir eden konuşmaların ve medyanın çoğu ünlülere veya kamuoyunun gözünde yüksek profilli kişilere odaklanırken, Başka Bir Vücut rahatsız edici bir gerçeği ortaya koyuyor: Giderek daha güçlü ve erişimi kolay olan büyük dil modelleriyle desteklenen Deepfake teknolojisi, şöhretlerine bakılmaksızın herkesin yüzünün kapılabileceği anlamına geliyor.

Film, kasvetli bir sonuca varmak yerine, zamanının çoğunu Taylor’ın deepfake’leriyle ilgili ipuçlarını ortaya çıkarmasını takip ederek geçiriyor. Sonunda, okulunda başka bir kızın kendi rızası olmadan benzer deepfake’lerin hedefi olduğunu öğrenir. İkili daha sonra 4Chan’ın ve diğer derin sahte ahlaksızlık yuvalarının derinliklerine dalar ve onlara eziyet edenlerin maskesini düşürmek için ellerinden gelen tüm ipuçlarını keşfederler. Taylor, deepfake yeraltının derinliklerine inerken Twitch yayıncısı Gibi’nin sahte görüntülerine rastlıyor.

Twitch yayıncısı konuşuyor

Gizmodo ile konuşan Gibi, bu noktada o kadar çok deepfake videoya maruz kaldığını, ilkini ne zaman fark ettiğini bile hatırlayamadığını söyledi.

“Hepsi birbirine karışıyor” dedi.

Bir yayıncı olarak Gibi, uzun süredir cinselleştirilmiş kısa mesajlar ve ara sıra ortaya çıkan sik resmiyle başlayan bir dizi tacizle karşı karşıya kaldı. Teknoloji geliştikçe Deepfake’lerin de yavaş yavaş bu karışıma eklendiğini söyledi.

Başlangıçta sahtelerin o kadar karmaşık olmadığını ancak kalitenin hızla geliştiğini ve “giderek daha gerçekçi görünmeye başladığını” söylüyor.

Ancak sahte olduğu açıkça belli olan videolar bile bazılarını kandırmayı başarıyor. Gibi, tanıdığı insanların onun kaba, aceleyle bir araya getirilmiş ilk görüntülerine aşık olduklarını duyduğunda hayrete düştüğünü söylüyor. Bazı durumlarda yayıncı, reklamverenlerin diğer içerik oluşturucularla bağlarını tamamen kopardıklarını duyduğunu, çünkü pornografiye bulaşmadıkları halde bulaştıklarına inandıklarını söylüyor.

Gibi, deepfake nedeniyle reklamveren desteğini kaybeden arkadaşı hakkında şunları söyledi: “‘O ben değilim’ dedi.”

Gibi, Taylor’la olan etkileşimlerinin ona, yapay zeka tarafından oluşturulan manipüle edilmiş medyanın alıcı tarafındaki deneyimlerini anlattığı “Derin sahtekarlıklara karşı konuşmak” başlıklı bir YouTube videosu yayınlaması için kısmen ilham verdiğini söylüyor. Geçen yıl yayınlanan video o zamandan beri neredeyse yarım milyon görüntüleme aldı.

Gibi, “Bundan bahsetmek, daha çok dikkatin üzerinde olacağı ve daha büyük bir izleyici kitlesine ulaşacağı anlamına geliyordu” dedi. “Gücümün daha çok kamusal alanda yattığını, internette paylaşımda bulunarak, zor konular hakkında konuşarak ve dürüst olmak gerekirse çok çalışmaktan kaynaklandığını biliyordum.”

Gibi konuyu açmaya karar verdiğinde, insanların nasıl tepki vereceğini bilmediği için başlangıçta yorumları okumaktan kaçındığını söyledi. Neyse ki, yanıtlar son derece olumluydu. Şimdi, belgesele katılımının, son aylarda siyasi deepfake mevzuatında arka planda kalan bir konu olan cinsel deepfake’leri önlemeye veya cezalandırmaya yönelik potansiyel yasal çözümlere daha fazla ilgi çekebileceğini umuyor. Gizmodo ile konuşan Gibi, halkın deepfake’lere olan ilgisinin yeniden canlandığı konusunda iyimser olduğunu ancak konunun erkek egemen bölgeleri daha fazla etkilemeye başlamasından sonra aydınlanan ilgi odağının ortaya çıkmasından duyduğu rahatsızlığı dile getirdi.

Gibi, “Erkekler hem suçlu hem tüketici, aynı zamanda da herhangi bir şeyi değiştirmek için başvurmamız gerektiğini düşündüğümüz insanlar” dedi. “Yani bu çok sinir bozucu.”

Bu hayal kırıklıkları EndTAB’ın kurucusu Adam Dodge tarafından da tekrarlandı. Başka Bir Vücut. 15 yıldır cinsiyete dayalı şiddet alanında çalışan bir avukat olan Dodge, mağdurlara hizmet sağlayan sağlayıcıları güçlendirmek ve liderleri taciz için kullanılan teknolojinin yarattığı tehditler konusunda eğitmek amacıyla EndTab’ı kurduğunu söyledi. Filmde yer alan üniversite öğrencisi Taylor, kendi deepfake’lerini keşfettikten sonra tavsiye almak için Dodge’a ulaştı.

Gizmodo ile konuşan Dodge, çevrimiçi tacizin aslında yeni olmadığını kabul etmenin önemli olduğunu söyledi. Yapay zeka ve diğer gelişen teknolojiler, heyecan verici bir sorunu daha da büyütüyor.

Dodge, “İnsanlar uzun süredir mağdurların çıplak resimlerini onları taciz etmek, üzerlerinde güç ve kontrol uygulamak veya aşağılamak için kullanıyor” dedi. “Bu, insanların bunu yapabilmesinin yeni bir yolu.”

Dodge, Deepfake’in denklemi çok önemli bir şekilde değiştirdiğini belirtiyor. Mağdurların artık hedef alınabilmeleri için çevrimiçi ortamda kendilerine ait mahrem görüntülere sahip olmaları gerekmiyor. Instagram’da veya bir üniversitenin web sitesinde halka açık fotoğrafların olması yeterlidir.

Dodge, “Artık hepimiz potansiyel kurbanız çünkü tek ihtiyaçları olan yüzümüzün bir resmi” dedi.

Kuruluşu öncelikli olarak eğitim amaçlı olsa da Dodge, mağdurların yardım aramak için onu arayacağını çünkü kendisinin zararlarla ilgili farkındalığı erkenden artırmaya çalışan birkaç kişiden biri olduğunu söylüyor. Taylor’la böyle tanıştı.

Gizmodo ile konuşan Dodge, ortaya çıkan bazı deepfake mevzuatının kapsamıyla ilgili benzer hayal kırıklıklarını dile getirdi. İnternette yayınlanan deepfake’lerin ezici çoğunluğu kadınların rızası olmayan pornografisini içerse de Dodge, gördüğü yasa tasarılarının yaklaşık yarısının bunun yerine seçim dürüstlüğüne odaklandığını tahmin ediyor

“Bunun nedeni, kadına yönelik şiddetin hiçbir zaman yeterince dikkate alınmaması, sürekli olarak başka söylemler lehine çarpıtılması ve yasa koyucuların ve politikacıların siyasi alanı hedef alacak derin sahte yanlış bilgilere odaklanmış olması. bizzat kendileri” dedi. “Aslında bahsettiğimiz şey bir ayrıcalık meselesi.”

Deepfake’ler interneti tüketiyor

Cinsel deepfake’ler şaşırtıcı bir hızla çoğalıyor. Bağımsız bir araştırmacı Wired’la konuşuyorum Bu hafta, son yedi yılda en iyi 35 deepfake porno sitesine yaklaşık 244.625 video yüklendiği tahmin ediliyor. Bu videoların neredeyse yarısı (113.000) bu yılın ilk dokuz ayında yüklendi. Araştırmacı, 2023’ün sonuna kadar tüm diğer yılların toplamından daha fazla deepfake videonun yükleneceğini tahmin ediyor. Bu, sosyal medyada veya bir içerik oluşturucunun kişisel koleksiyonlarında bulunabilecek diğer deepfake’leri bile içermiyor.

Monash Üniversitesi Doçenti Asher Flynn, Wired ile yaptığı röportajda şöyle konuştu: “Rıza dışı, derin sahte pornografik görüntüler oluşturmaya yönelik yapay zeka araçlarının kullanılabilirliğinde önemli bir artış oldu ve pornografi platformları ile yasa dışı çevrimiçi ağlarda bu tür içeriklere yönelik talepte bir artış oldu.” . “Bunun yalnızca yeni üretken yapay zeka araçlarıyla artması muhtemel.”

Bütün bunlar kulağa üzücü gelse de yasa koyucular potansiyel çözümler bulmak için aktif olarak çalışıyorlar. Yaklaşık yarım düzine eyalet zaten kabul edilen mevzuat Bir bireyin rızası olmadan cinselleştirilmiş deepfake’lerin oluşturulmasını ve paylaşılmasını suç saymak. New York’ta yakın zamanda kabul edilen bir yasa, birinin yapay zeka tarafından oluşturulan müstehcen görüntülerinin yayılmasını veya dağıtılmasını yasa dışı hale getiriyor Aralık ayında yürürlüğe giriyor. Yasayı ihlal edenler bir yıla kadar hapis cezasıyla karşı karşıya kalabilir.

Tasarının yazarı eyalet senatörü Michelle Hinchey, “Tasarım, New York’un bu tür suistimallere tolerans göstermeyeceğine dair güçlü bir mesaj gönderiyor” dedi. yakın zamanda söylendi Hudson Valley One, “Mağdurlar haklı olarak mahkemede günlerini geçirecekler.”

Diğer yerlerde, federal düzeydeki kanun yapıcılar Yapay zeka şirketlerine baskı yapmak medya kendi programları kullanılarak değiştirildiğinde kamuya açıkça açıklanacak dijital filigranlar oluşturmak. OpenAI, Microsoft ve Google gibi yapay zeka yarışına katılan bazı büyük şirketler, gönüllü olarak kabul edildi net bir filigranlama sistemi üzerinde çalışmak. Yine de Dodge, tespit çabalarının ve filigranlamanın yalnızca bu kadar işe yaradığını söylüyor. Pornografik deepfake’lerin yıkıcı derecede zararlı olduğunu ve herkes bunların sahte olduğunu bilse bile kalıcı travma yarattığını belirtiyor.

Yakın gelecekte hızla artmaya hazırlanan, rıza dışı deepfake’lere rağmen Dodge şok edici ve güven verici bir şekilde iyimser olmaya devam ediyor. Milletvekillerinin geçmişteki hatalarından ders almaya istekli göründüklerini söyledi.

“Hala çok erken olduğumuzu düşünüyorum ve bunun yasalaştığını görüyoruz. İnsanların bunun hakkında konuştuğunu görüyoruz” dedi Dodge. “Sosyal medyanın on yıldır ortalıkta olmasından farklı olarak ve [lawmakers] İnsanları kendi platformlarında taciz ve istismardan korumak için gerçekten yeterince çaba sarf etmiyoruz; bu, insanların bu konuyu tüm platformlarda ele almakla ve yasama kanunlarının uygulanmasından, genel olarak toplumdaki teknolojiye kadar ilgi duyduğu bir alandır.