Bir ay evvel, türü değiştiren elektronik müzisyen FKA Twigs ifade verdi ABD Senatosu Fikri Mülkiyet Yargı Alt Komitesi huzurunda politika yapıcıları, sanatçıları şarkı üretmek için seslerini kullanmaktan, pornografi oluşturmak için benzerliklerini kopyalamaktan veya eğitim verileri için eserlerinden alıntı yapmaktan yapay zeka tarafından sömürülmekten korumaya çağırıyor.
Seyretme bir C-SPAN2 videosu benim fikrimce genellikle bir tanrıça olan düğmeli bir kadının bir direkte altın kırmızısı yeraltı dünyasına düşüyorum büyüleyiciydi. Senatörler, yasal adı Tahliah Debrett Barnett olan Twigs'in onlara şunu söylemesini sessizce izlediler: “Sanatım, üzerine kimliğimi resmettiğim tuval ve geçimimi sağlayan temeldir.” Üretken yapay zeka, “varlığımın dokusunu yeniden yazmak ve çözmekle tehdit ediyor” dedi.
FKA Twigs, dijital benzerliğinin rıza dışı kullanımıyla ilgili korku, öfke ve aciliyet duygusunu ifade eden ilk sanatçı değil. Nisan ayının başında, 200'den fazla müzisyen tarafından yayınlanan açık mektuba imza attı. Sanatçı Hakları İttifakı Yapay zeka geliştiricilerine, teknoloji şirketlerine ve müzik hizmetlerine, insan sanatını baltalamama veya değiştirmeme sözü vermeleri çağrısında bulunuyoruz.
Daha sonra OpenAI açıkça flörtöz bir açıklama yayınladı Oİlham veren sesli asistan kulağa hoş gelen Sky adlı şüpheyle Scarlett Johansson'a benziyor – ve koştu aşağı çekmek Johansson itiraz ettikten sonra. Bu fiyasko, fikri mülkiyet sınırlarının, özellikle de birinin sesi ve benzerliği söz konusu olduğunda, ne kadar belirsiz olabileceğini gösterdi. (Açıklama: Vox Media, OpenAI ile ortaklık anlaşmaları imzalayan birkaç yayıncıdan biridir. Raporlarımız editoryal olarak bağımsız olmaya devam etmektedir.)
Ünlüleri çevreleyen atmosfere ve üretken yapay zekaya ilişkin resmi olmayan değerlendirmem: kötü.
… Peki ya eğer öyle kendi klonunuzla çalışan bir ünlü mü?
FKA Twigs, yapay zekanın sanatçıların kimliklerini kötüye kullanmak için kullanılmasını kınadıktan sonra senatörlere geçen yılı bu şekilde geçirdiğini söyledi. kendisinin deepfake'ini eğitiyor, kişiliğini ve ses tonunu birden fazla dilde taklit edebilir. “Bu yılın ilerleyen zamanlarında, erişim alanımı genişletmek ve çevrimiçi sosyal medya etkileşimlerimi yönetmek için Yapay Zeka Twigs'imi kullanacağım” dedi ve “stüdyomun rahatlığı ve tesellisiyle sanatıma odaklanmaya devam edeceğim.”
Geçen ayki duruşma bağlamında “AI Twigs” bir yan nottan fazlası değildi ama onu düşünmeyi bırakmadım. Sanatçılar üretken yapay zekanın gücünden yararlanabilseydi bu ne anlama gelirdi? homurdanan işi boşalt – içerik oluşturma, basın bültenleri, kendini tanıtma – dijital kopyalarına, insan orijinallerine yaratıcılıklarına tüm kalpleriyle yatırım yapma özgürlüğüne mi sahip olacaklar?
OpenAI Sky ve AI Twigs arasındaki fark “rıza fikridir” Sarah BarringtonUC Berkeley Bilgi Okulu'ndan bir mühendis, yapay zeka araştırmacısı ve deepfake tespit uzmanı bana şunu söyledi. Twigs onay verirken Johansson vermedi.
Ancak Barrington, coşkulu bir onayla bile kişinin dijital benzerliği üzerinde tam kontrol sahibi olmasının neredeyse imkansız olduğundan şüpheleniyor. O zaman soru, müzik endüstrisinin pazarlama taleplerinin, kendinizin deepfake'ini ortaya koymaya değecek kadar külfetli olup olmadığı haline geliyor.
Deepfake'ler sanatçıları TikTok'tan kurtarabilir mi? (Muhtemelen değil.)
Bugün sanatçı olmak eskisi gibi değil.
Müzisyenler, yazarlar ve görsel sanatçılar artık yalnızca yetenek, sıkı çalışma ve güzel görünümle geçinemezler. Biz şu ülkede yaşıyoruz: “kişisel marka” dönemiÇoğu sanatçının bir plak şirketine imza atabilmek için stratejik olarak savunmasız, havalı ve hepsinden önemlisi tutarlı bir sosyal medya varlığı oluşturması gerekiyor.
Acımasız kişisel pazarlama en iyi ihtimalle zaman alıcıdır ve en kötü ihtimalle ruh kırıcı. Kaç tane olursa olsun”Bakış açısı: yeni favori bağımsız grubunuzu buldunuzBir müzisyenin yaptığı videolar, yalnızca yayın yaparak ve turne yaparak geçimini sağlıyor her zamankinden daha zorlu.
TikTok viralliği plak anlaşması için bir grup kurduğunda bile içerik oluşturmaya yönelik talep sabit kalıyor ve bu da onu imkansızın yanında sanatçılar için basitçe sanat yapmak. Trendleri takip etmek, parçaları planlamak, film çekmek ve video klipleri bir araya getirmek saatler alabilir. Bir sosyal medya yöneticisi olsa bile, içerik yaratmanın yarattığı baskı, değerli beyin alanını dolduruyor ve her olayı bir fırsata dönüştürüyor. B-roll çekimi.
Vox'taki işimin dışında, San Francisco merkezli bir müzik şirketinde bas çalıyorum. bağımsız müzik grubu. Müzik benim büyük aşkımdır ama grup arkadaşımın asıl amacı ve tam zamanlı işidir. Tıpkı tüm favori yerel sanatçılarımın umutsuzca izleyici kitlesi oluşturmaya çalıştığı gibi, grup adına düzenli olarak kendi tanıtımını yapan TikTok videoları yayınlıyor.
AI Twigs'i duyduğumda aklıma hemen boşluk için video hazırlayan sayısız müzisyen geldi. Eğer hepsi bu işi kendi adına yapmak için deepfake'leri kullanabilselerdi, telefonlarını bir kenara bırakıp daha iyi müzik yazabilirlerdi. hakkında konuşarak çok zaman harcıyoruz Deepfake'ler nasıl yanlış gidebilir?. AI Twigs, yeterince güçlü korkuluklarla mümkün olup olmayacağını merak etmeme neden oldu. Gitmek Sağ.
Bir kişinin erişim alanını genişletmek için bilinçli olarak üretken yapay zekayı kullanmak duyulmamış bir şey değil. ABD Temsilciler Meclisi Pennsylvania 10. Bölge için ön seçime katılan Demokrat aday Shamaine Daniels şunları kullandı: Ashley adında üretken bir yapay zeka telefon bankacısı Bu Nisan ayında yapılacak seçimlere giden seçmenlere ulaşmak için. Bir insan telefon bankacısının aksine, Ashley Seçmenlerle, telaşlanmadan veya hayal kırıklığına uğramadan, ana dillerinde binlerce eşzamanlı bire bir görüşme yapabilirler. Ashley, günlük otomatik aramanızdan çok daha kişisel ve etkileşimli olsa da, derin bir sahtekarlık değil. CivoxBotun arkasındaki şirket, Ashley'nin sesini, seçmenlerin sesi gerçek bir insanla karıştırmaması için yeterince robot gibi yaptı.
Bunu yapmak zorunda değillerdi; Civox gibi şirketlerin ne yaptığını doğrudan düzenleyen hiçbir federal yasa yok. Twigs'in ifadesinde söylediği gibi, yapay zeka destekli araçlar mutlaka bir sorun değil, ancak bir müzisyenin benzerliğini onun rızası olmadan çalmak ve istismar etmek büyük ölçüde sorun. Uygun düzenleme olmadığında yapay zekanın “iyi” ve “kötü” uygulamaları arasındaki çizgi belirsizdir.
Soru hala ortada: Deepfake'ler aslında sanatçıları TikTok'tan ve içerik oluşturmaya yönelik bitmek bilmeyen talepten kurtarabilir mi?
Üretken yapay zekanın, hayranlar için kişiselleştirilmiş içerik oluşturmak için kullanılması mümkün; bu, doğru yapılırsa, şüphe uyandırmadan ilgi çekici olabilir. Hayranlar giderek özgünlük talep et takip ettikleri müzisyenlerden ve etkileyicilerden geliyor, ancak gerçek şu ki çoğu büyük sanatçı aslında kendi sosyal medya içeriklerini yapmıyorlar çok açık bir sırdır. Belki de bu sadece arzuladığımız yakınlık duygusudur; özgünlük isteğe bağlıdır. Örneğin AI Twigs, Yakın Arkadaşlar Instagram hikayelerini her hayranın ana dilinde yayınlayabilir. (Billie Eilish kısaca Herkesi Yakın Arkadaşlar hikayesine ekledi Son albümünün çıkışına kadar olan süreçte 10 milyon yeni takipçi kazandı; insanlar buna bayılıyor.)
Ne yazık ki, artıların eksilere ağır basması pek mümkün değil. Barrington bana şu anda deepfake uygulamalarının yaklaşık yüzde 95'inin kötü, yüzde 5'inin iyi olduğunu söyledi. Rıza dışı pornografi ve kimlik sahtekarlığının ötesinde, “dezenformasyon yaratılarak demokrasinin temelden erozyona uğratılması söz konusu.” AI Twigs ilginç bir olumlu kullanım örneği sunarken Barrington, “bu yüzde 5'lik faydaya yalnızca yüzde 1 oranında katkıda bulunmasından” korkuyor.
Kendi deepfake'inizi yapabilirsiniz – ancak herkes de yapabilir
Bazı eyaletler ise Geçti Rıza dışı deepfake'leri ele alan mevzuatve çeşitli iki partili kanunlar sahte pornografik görseller Ve sanatta dijital kopyalar Federal düzeyde uygulamaya konulsa da, herhangi birinin üretken yapay zekayı istediğini yapmak için kullanmasını engelleyecek fiilen hiçbir yasa mevcut değildir.
Diyelim ki AI Twigs Instagram'da yayına giriyor. AI Twigs'i içeren içeriğin, doğrulanmış Instagram hesabı gibi bazı resmi FKA Twigs kaynaklarından geldiğini doğrulamak oldukça basit olacaktır. Ancak başkalarının sahte Twigs yapmasını engellemek çok zor olurdu.
Barrington bana “Muhtemelen bunu bir günde yapabilirim” dedi. Barrington'un bilgisayar bilimi bilgisine sahip olmayan biri bile çözebilirdim birkaç dolar ve bazı YouTube eğitimleriyle nispeten hızlı bir şekilde. FKA Twigs gibi bir sanatçı, dijital klonunu çevrimiçi olarak görebilecek olsa da, bunun tek sahibi olmayı sürdürdüğü sürece, Barrington, “Bunu gerçekte nasıl uygulayacağını bilmiyorum” dedi.
En azından görsel deepfake'ler — özellikle orijinal kişiyi son derece şok edici bir şey yaparken tasvir ediyorlarsa ya da her zamanki hallerinden farklı olarak tekinsiz vadide bir yere inme eğilimindedirler, bu yüzden ne arayacağınızı biliyorsanız onları tespit etmek yine de mümkündür. Bu arada, yüksek kaliteli sentetik sesler zaten gerçek olanlardan ayırt edilemez; gelişmiş tespit araçları (ve Barrington bunların bile her zaman işe yaramadığını söyledi).
Her halükarda, geçen ayki ScarJo fiyaskosundan öğrendiğimiz gibi, birinin sesi üzerinde tam sahiplik iddia etmek zordurne kadar ayırt edici olursa olsun.
Tespit teknolojisi, derin sahtekarlıkların potansiyel zararlarını geride bırakamayacak. Barrington bana, “Bir şeyin sahte olup olmadığını yüzde 100 doğrulukla tespit etmek için hiçbir zaman sihirli bir çözüm olmayacak” dedi ve “ve bir şeyin gerçek olduğunu asla gerçekten kanıtlayamazsınız.”
Yapay zeka tarafından oluşturulan medya kalıcı olacak, ancak FKA Twigs eğrinin çok ilerisinde yarışıyor olabilir. Bir sanatçı olarak üretken yapay zekayı benimsemek, biraz şeytanla anlaşma yapmaya benziyor: Promosyon amaçlı tek satırlık yazılar yazmayı bırakabilirsiniz, ancak sonunda porno veya bir Yapay zeka tarafından üretilen şarkı rızanız olmadan.
Üretken yapay zekanın kullanımıyla ilgili yasal mücadeleler muhtemelen yakın gelecekte daha fazla düzenlemeye ilham verecek. Ancak şu anda uğraştığımız yasal gri bölgede, AI Twigs muhtemelen çözdüğünden daha fazla sorun sunuyor.
Bu hikayenin bir versiyonu ilk olarak Future Perfect bülteninde yayınlandı. Abone olmak için buradan kaydolun!
Kaynak bağlantısı