Avukat Sean Smith, görüntü tabanlı cinsel tacizin bir biçimi olan rızaya dayanmayan deepfake'lerin hayatları nasıl mahvedebileceğini yakından gördü.
Roseland, New Jersey merkezli Brach Eichler firmasında aile hukuku avukatı olan Smith, yakın zamanda hem küçük mağdurların ailelerini hem de failleri eğitim disiplin süreçlerinde temsil etti.
Müşterileri arasında görüntüleri alınan genç kızlar da vardı sosyal medyadaha sonra yazılım destekli erkek sınıf arkadaşları tarafından dijital olarak “soyuldular” yapay zeka.
Açıkça rızaya dayanmayan deepfake'ler oluşturabilen uygulamalar ve web siteleri genellikle kendilerini bir merakı tatmin etmek veya eğlence sağlamak olarak pazarlar. Sonuç olarak, kullanıcılar muhtemelen ortaya çıkan görüntülerin acı verici, ömür boyu sürecek travmalara yol açmak Benzerliği çalınan kişide — ki bu neredeyse her zaman bir kız veya kadındır. Mağdur, bu tür içerikleri takip etmenin ve silmenin ne kadar zor olduğu göz önüne alındığında, internetten her sentetik fotoğrafı veya videoyu asla kaldıramayabilir.
Açık deepfake'ler travmatiktir. Acıyla nasıl başa çıkılır.
Bu, kurtulanlar için profesyonel, kişisel ve finansal yıkıma yol açabilir. Aynısı, isimleri ve itibarları rızaya dayanmayan deepfake'ler oluşturmakla ilişkilendirildiğinde failler için de geçerli olabilir. Öğrenciyseler uzaklaştırma veya okuldan atılma ile karşı karşıya kalabilirler ve ayrıca yaşadıkları yere bağlı olarak cezai ve hukuki yaptırımlarla karşı karşıya kalabilirler.
Smith, Mashable'a yaptığı açıklamada, “Her tarafta hayatları mahvediyor” dedi.
Bu durum, genellikle görüntü tabanlı cinsel tacize karışan genç ve yetişkin kullanıcılara açıkça anlatılmaz.
Deepfake yapmak yasa dışı mı?
Rıza dışı deepfake'lerin sonuçları hakkında bilgi bulunmamasına rağmen, bunların artışı şu sorunları beraberinde getirdi: Birkaç eyalet, suç sayılan yasaları geçirmek üzere onlara.
Bu arada, Kongre bir yasa tasarısı sundu ancak henüz oylama yapmadı Mağdurlara hak tanıyacak yasa tasarısı faillere karşı hukuki dava açmak. ayrı bir federal yasa tasarısı, yayını suç sayacaktır Yapay zeka tarafından oluşturulanlar da dahil olmak üzere, rızaya dayanmayan mahrem görüntülerin paylaşılması ve sosyal medya şirketlerinin mağdurun talebi üzerine bu tür içerikleri kaldırması gerekiyor.
Bazı eyaletlerde, mağdurun kendilerine tazminat davası açması durumunda suçlular hukuki yaptırımlarla karşı karşıya kalabilir. Maaşlarına haciz konulabilir veya bu tür zararları karşılamak için mallarına el konulabilir.
Geçtiğimiz yıl, Illinois mevcut bir yasayı değiştirdi deepfake suçlularının rıza dışı sentetik görüntüleri dağıttıklarında sorumlu tutulmaları için. Bir kurtulan, içeriği yayan kişiyi, duygusal sıkıntı, ruh sağlığı tedavisinin maliyeti, iş kaybı ve diğer ilgili maliyetlerden kaynaklanabilecek zararlar için dava edebilir.
“Kanunlar yürürlüğe girdiğinde, çok uzun süre kişinin peşini bırakmayacak kara bir leke olacak…”
New York'ta, yaygınlaştırılması rızaya dayanmayan deepfake'ler yol açabilir bir yıl hapis, bir para cezası ve bir hukuk davası ile cezalandırıldı. Florida hem cezai hem de hukuki yaptırımlar uyguluyor rızaya dayanmayan sentetik materyalin “tanıtımı” için. Eyaletin yasası ayrıca “çocuk pornografisi” tanımını, küçüklerin cinsel ilişkiye girdiği deepfake'leri de kapsayacak şekilde genişletti.
Mashable En İyi Hikayeleri
Indiana, TeksasVe Virjinya Rızaya dayanmayan deepfake içeriklerin yaratılmasının hapis cezasıyla cezalandırılmasını sağlayan eyaletler arasında yer alıyor.
Ancak birçok eyalette henüz deepfake'lerin oluşturulmasını veya dağıtılmasını yasadışı kılan veya mağdurlara dava açma hakkı veren yasalar bulunmuyor. Ayrıca, mağdurların içeriği tanıtan kişiye karşı cezai veya hukuki yaptırımlar talep etmesi zor olabilir çünkü kimliği bilinmiyor veya kolluk kuvvetleri potansiyel suçları araştırmak için yetersiz personel bulunduruyor.
Ancak Northwestern Üniversitesi'nde hukuk profesörü olan Matthew B. Kugler, bunun insanlara yanlış bir güvenlik hissi vermemesi gerektiğini söylüyor.
“Yasalar yürürlüğe girdiğinde, bu çok uzun bir süre boyunca bir kişiyi takip edecek kara bir leke olacak ve hiç kimse bu kara lekenin takip edilmesinden dolayı kötü hissetmeyecek. [the offender] Kugler, “Çok uzun bir süredir,” diyor.
2020 yılında Kugler Cinsel içerikli, rızaya dayanmayan deepfake videolarına yönelik kamuoyunun tutumlarını inceledi 1.141 ABD yetişkini üzerinde yapılan bir ankette. Katılımcıların büyük çoğunluğu bu eylemin suç sayılmasını istiyordu.
Suçlunun eyaletinin cezai veya hukuki yaptırımlar uygulayıp uygulamamasından bağımsız olarak, rızaya dayanmayan deepfake görüntüleri oluşturmanın başka bir potansiyel yasal sonucu daha var.
Avukat ve kurucusu Adam Dodge Teknolojinin Desteklediği Kötüye Kullanımın Sonlandırılması (EndTAB)bir mağdurun, görsellerin yaratılmasından veya dağıtımından kimin sorumlu olduğunu biliyorsa, koruyucu veya yasaklama emri için başvuruda bulunabileceğini söylüyor. Birçok yargı bölgesinde, görsele dayalı taciz bir taciz biçimi olarak nitelendiriliyor.
Dodge, bu tür yasaklama emirlerinin potansiyel işverenler tarafından yapılan geçmiş aramalarında keşfedilebileceğini söylüyor. Yasaklama emri genç suçlulara da uygulanabilir. Bir küçüğün yasal kaydının mühürlenmesi amaçlanmış olsa da Dodge, bilgilerin kamuya açık hale geldiği durumlara tanık oldu.
Rıza dışı deepfake oluşturan veya paylaşan küçüklere ne olur?
Smith, ağızdan ağıza veya acımasız internet pazarlama ve arama stratejileri yoluyla deepfake uygulamaları veya siteleri bulan gençlerin, genellikle kurbanlar veya kendileri için potansiyel sonuçların farkında olmadıklarını söylüyor.
Olayın çok yeni olması nedeniyle, okul tabanlı disiplin büyük ölçüde değişebilirÖğrencilerin mümkün olduğu ölçüde kayıtlı kalmasını yasal olarak zorunlu kılan devlet okullarında, cezalar okul içinde veya dışında kısa süreli uzaklaştırmalardan oluşabiliyor.
Ancak Smith, kendi davranış kurallarına sahip özel okulların, öğrencileri kısa sürede okuldan atmaya kadar gidebileceğini söylüyor.
Kurbanın ebeveynleri de faili ve ailesini sorumlu tutmak için yasal işlem başlatabilir. Smith henüz böyle bir dava görmemiş olsa da, bazı ebeveynlerin ihmalkar gözetim gerekçesiyle failin ebeveynlerine karşı hukuki davalar açmaya başlamasını bekliyor. Kazanılan herhangi bir zarar, ebeveynlerin taşıyıcısı bu tür iddiaları kısıtlamadığı sürece, potansiyel olarak ev sahibi sigortası tarafından karşılanabilir.
Ergenler ayrıca çocuk pornografisi ve diğer ceza kanunlarıyla ilgili olanlar da dahil olmak üzere cezai yaptırımlara tabi tutulabilirler. Smith, rızaya dayanmayan deepfake'ler oluşturan ergenlere karşı açılan gençlik davalarının farkındadır. Hapishanede yatmamış olsalar da, suçlular eylemleri için suçluluk olarak devletle özel bir anlaşmaya girmişlerdir.
Ancak Florida'da geçen Aralık ayında iki genç, rızaları olmadan deepfake içerik yaydıkları gerekçesiyle tutuklanarak suçlandı.
Smith, ebeveynlerin ve gençlerin bu ve diğer sonuçları acilen anlamaları gerektiğini söylüyor.
“Bu teknolojiyle ilgili sorun, ebeveynlerin ve çocukların teknolojinin kullanımının ne kadar büyük bir hata olduğunu fark etmemeleridir,” diyor Smith. “Teknolojinin sadece bir cep telefonuna getirilmesinin… çok daha büyük bir ömür boyu hataya yol açabilmesi.”
Eğer izniniz olmadan mahrem görüntüleriniz paylaşıldıysa, ücretsiz ve gizli destek için Cyber Civil Rights Initiative'in 7/24 yardım hattını 844-878-2274 numaralı telefondan arayın. CCRI web sitesi ayrıca şunları içerir: yardımcı bilgi ve bir liste olarak uluslararası kaynaklar.
Konular
Yapay zeka
Sosyal Fayda
Kaynak bağlantısı