Boğucu bir şekilde Nisan öğleden sonra Hindistan'ın Rajasthan eyaletindeki Ajmer'de yerel politikacı Shakti Singh Rathore kısa bir video çekmek için yeşil ekranın önüne oturdu. Gergin görünüyordu. İlk kez klonlanıyordu.
Berrak beyaz bir gömlek ve ülkenin iktidar partisi BJP'nin logosu olan lotus çiçeği taşıyan safran rengi bir tören atkısı takan Rathor, avuçlarını birbirine bastırdı ve dinleyicilerini Hintçe selamladı. “Namaşkar,” diye başladı. “Bütün kardeşlerime…”
Devam edemeden çekimin yönetmeni çerçeveye girdi. Kel kafalı ve kalın siyah sakallı 31 yaşındaki Divyendra Singh Jadoun, Rathore'a kamera karşısında çok fazla hareket ettiğini söyledi. Jadoun bir yapay zeka oluşturmak için yeterli ses ve video verisini toplamaya çalışıyordu derin sahte Bu, Ajmer'in çevresindeki 300.000 potansiyel seçmeni onunla kişiselleştirilmiş bir görüşme yaptıklarına ikna edecekti ancak aşırı hareket algoritmayı bozacaktı. Jadoun, deneğine doğrudan kameraya bakmasını ve yalnızca dudaklarını hareket ettirmesini söyledi. “Yeniden başla” dedi.
Polymath Synthetic Media Solutions'da, kendi kendini yetiştirmiş deepfaker Divyendra Singh Jadoun, seçmenlere ulaşmak amacıyla konuşmalarını farklı dillere çevirmek amacıyla yerel politikacıların video ve ses verilerini topluyor. Burada Shakti Singh Rathore'un konuşması Hintçe, Tamilce, Sanskritçe ve Marathi dillerinde oluşturulmuştur. Video: Nilesh Christopher/Divyendra Singh Jadoun/WIRED
Şu anda dünyanın en büyük demokrasisi sandık başına gidiyor. Ülkedeki genel seçimlerde bir milyara yakın Hintli oy kullanma hakkına sahip ve deepfake'ler belirleyici ve potansiyel olarak bölücü bir rol oynayabilir. Hindistan'ın siyasi partileri yapay zekayı ucuza gerçeği çarpıtmak için kullandı ses sahteleri, propaganda görsellerive AI parodiler. Ancak deepfake'lere ilişkin küresel söylem sıklıkla yanlış bilgilendirme, dezenformasyon ve diğer toplumsal zararlara odaklanırken, birçok Hintli politikacı bu teknolojiyi farklı bir amaç için kullanıyor: seçmenlere ulaşma.
İdeolojik yelpazenin her yerinde, ülkenin 22 resmi dili ve binlerce bölgesel lehçesinde gezinmelerine ve daha uzak topluluklara kişiselleştirilmiş mesajlar iletmelerine yardımcı olması için yapay zekaya güveniyorlar. ABD yakın zamanda bunu yapmış olsa da yasadışı İstenmeyen aramalar için yapay zeka tarafından üretilen sesleri kullanan Hindistan'da, onaylı deepfake'ler 60 milyon dolarlık bir iş fırsatı haline geldi. Ülkenin en büyük ticari mesajlaşma operatörlerinden biri WIRED'e, Nisan ayındaki seçimlerin başlamasından önceki iki ay içinde 50 milyondan fazla yapay zeka tarafından üretilen ses klonu araması yapıldığını ve oylama sırasında milyonlarcasının daha yapılacağını söyledi.
Jadoun bu gelişen endüstrinin poster çocuğudur. Firması Polymath Synthetic Media Solutions, Hindistan'ın dört bir yanından siyasi kesime hitap etmek için ortaya çıkan birçok deepfake hizmet sağlayıcısından biri. Bu seçim sezonunda Jadoun şu ana kadar beş yapay zeka kampanyası gerçekleştirdi ve bunun için şirketine toplam 55.000 dolar ödendi. (Büyük siyasi danışmanlardan önemli ölçüde daha az ücret alıyor; 125.000 rupi [$1,500] dijital bir avatar yapmak ve 60.000 rupi [$720] Himalaya eyaleti Sikkim'in başbakanı Prem Singh Tamang için derin sahtekarlıklar yaptı ve 2009'da bir helikopter kazasında ölen ikonik politikacı YS Rajasekhara Reddy'yi, oğlu YS Jagan Mohan Reddy'yi desteklemek için yeniden diriltti. şu anda Andhra Pradesh eyaletinin başbakanı. Jadoun ayrıca yerel parlamento adayı Tamang ve batıdaki Maharashtra eyaletinin başbakanı da dahil olmak üzere çok sayıda politikacı için yapay zeka tarafından üretilen propaganda şarkıları da yarattı. Ajmer'deki yerel bir politikacı hakkında, erkek ve kadın seslerinin şevkli bir melodiyle ayarlandığı Hintçe bir şarkı, “O bizim gururumuz” diye çalınıyordu. “Her zaman tarafsız olmuştur.”
Jadoun ayrıca, Ajmer'deki yerel politikacı Ram Chandra Choudhary için olan bu şarkı da dahil olmak üzere yapay zeka tarafından oluşturulan kampanya şarkıları da yapıyor. İngilizceye çevrilen şarkı sözleri şöyle: “Ajmer için yeni bir hediye getirdi / Adı Ram Chandra / Herkese yardım ediyor / Ajmer Dairy'nin başkanıydı / Her zaman tarafsızdı / Adında Ram var / O bizim gururumuz / Kongre'nin bir askeri / Halkın acısını paylaşıyor / Ajmer'in oğlu / Kalkınmanın koruyucusu / Ajmer'in oğlu / Kalkınmanın gerçek biçimi / Herkesin hakları için mücadele / Ram Chandra klarnet çaldı.” Ses: Divyendra Singh Jadoun
Rathore bu yıl seçime aday olmasa da, Başbakan Narendra Modi hükümetinin iktidarını sürdürmesini sağlamakla görevli 18 milyondan fazla BJP gönüllüsünden biri. Geçmişte bu, seçmenlerle bireysel olarak konuşmak ve onlara emekli maaşları, yemek pişirmek için ücretsiz gaz tankları, nakit para gibi çeşitli BJP sosyal programlarından nasıl faydalandıklarını hatırlatmak için aylarca kabaca İtalya büyüklüğünde bir çöl eyaleti olan Rajasthan'ı çapraz geçmek anlamına geliyordu. hamile kadınlar için ödemeler. Ancak Jadoun'un deepfake'lerinin yardımıyla Rathore'un işi çok daha kolaylaştı.
Jadoun ona sorular sorarken kendisi burada 15 dakika boyunca önemli seçim meseleleri hakkında kameraya konuşacak. Ama ne söylediğinin pek önemi yok. Jadoun'un ihtiyacı olan tek şey Rathore'un sesidir. Bu işlem tamamlandıktan sonra Jadoun, verileri doğrudan seçmenlerin telefonlarına gidecek videolar ve çağrılar oluşturmak için kullanacak. Kapılarını çalmak ya da bir mitingde hızlı bir el sıkışmak yerine, Rathore'un onlara isimleriyle hitap ettiğini ve kendileri için en önemli konular hakkında ürkütücü bir açıklıkla konuştuğunu ve onlardan BJP'ye oy vermelerini istediğini görecek ya da duyacaklar. Soru sorarlarsa yapay zeka, gerçek Rathore'un hızlı konuşmasından neredeyse daha iyi olan net ve sakin bir sesle yanıt vermelidir. Teknolojiye daha az meraklı seçmenler bir makineyle konuştuklarının farkına bile varmayabilir. Rathore bile yapay zeka hakkında pek bir şey bilmediğini itiraf ediyor. Ama psikolojiden anlıyor. “Bu tür çağrılar kararsız seçmenlere yardımcı olabilir.”
Omuzları fırçalamak Politikacılar Jadoun için yeni değil. O da biriydi. 2015 yılında Ajmer'de, Hindistan Ulusal Kongresi'nin gençlik kanadı olan Hindistan Ulusal Öğrenci Birliği'nin (NSUI) bölge başkanı olarak seçime girdi; bir zamanlar zorlu ulusal parti olan ve şu anda Modi'nin BJP'sinin ana muhalefeti haline geldi.
Kaynak bağlantısı