Londra merkezli startup Synthesia tarafından geliştirilen üretken AI araçları, Venezuela’da gerçekçi ama yanlış haberler oluşturmak için kullanıldı ve dünyaya çok abartılı teknolojiyi çevreleyen karmaşık etik kaygıları hatırlattı.
Birkaç çevrimiçi video, çevrimiçi haber sitesi Venezuela Devlet Başkanı Nicolás Maduro’yu destekleyen gerçekçi görünümlü TV muhabirlerini gösterdi semafor Birinci bildirildi.
House of News adlı bir YouTube kanalına yüklenen yapay zeka tarafından oluşturulan propaganda videoları, Venezuela turizmindeki büyük artışı kutladı, Güney Amerika ulusunun vatandaşlarının yaşadığı aşırı yoksulluğu küçümsedi ve Maduro karşıtı politikacıları olaya karışmakla suçladı. 152 milyon dolarlık bir finansal kötü yönetim skandalında.
Yapay sunum yapanlardan biri, “Venezüellalılar aslında hükümete karşı herhangi bir muhalefet olduğunu hissetmiyorlar” dedi.
Raporlara göre, ‘deepfake’ videolar, İngiltere’nin önde gelen yapay zeka şirketlerinden biri olan Synthesia tarafından oluşturulan araçlar kullanılarak oluşturuldu. Synthesia kullanıcıları, daha sonra Synthesia’nın genellikle gerçek bir insandan neredeyse ayırt edilemeyen avatarlarından biri tarafından gerçekleştirilen bir komut dosyası girebilir. Teknolojisinin birincil kullanımı kurumsal eğitim videoları içindir.
Synthesia anlattı Finans Zamanları Videolar dikkatini çeker çekmez Venezüellalı kullanıcıyı banladı. Şirketin bir sözcüsü şunları söyledi: “Platformumuzda hangi tür içeriklerin oluşturulmasına izin verdiğimiz konusunda katı yönergelerimiz var. Hizmet şartlarımızı uyguluyoruz ve bunları ihlal eden kullanıcıları yasaklıyoruz.”
Üretken yapay zeka iş dünyasında heyecan uyandırmaya devam ederken, Synthesia’nın ürününün kötüye kullanılması, teknolojinin propaganda ve yanlış bilgilendirme amaçlarıyla nasıl birlikte seçilebileceğine dair bir fikir veriyor.
Dealroom tarafından şu anda 286 milyon dolar olarak değer biçilen Synthesia, gerçekçi yapay insan video sunucuları sayesinde Birleşik Krallık yapay zekasında büyük bir isim haline geldi. Hizmetin kullanıcıları, daha sonra Synthesia’nın avatarlarından biri tarafından gerçekleştirilen ve en iyi durumda gerçek bir kişiden neredeyse ayırt edilemeyen bir komut dosyası girebilir.
UKTN daha fazla yorum için Synthesia ile temasa geçti.