Popüler üretken yapay zeka programı Midjourney, politikacıların sahte görüntülerini oluşturmak amacıyla kullanıldı ve bunu yapan kullanıcının siteye girişi yasaklandı
Geçtiğimiz aylarda, yapay zekanın (AI) bize yararları ve zararları hakkında bir çok çekişmeli tartışma yaşandı ve AI uzmanları ve araştırmacıları, dikkatli olmazsak insanlığın sonunun geleceği gibi iddialarda bulundular. Yapay zeka ‘halüsinasyonları’ ve Deepfake ile ilgili vakaların tartışmaya neden olmasıyla birlikte, yanlış bilgilerin yayılması sıcak konulardan biri oldu. Son zamanlarda popüler ve üretken AI programlarından biri olan Midjourney, politikacıların şok edici sahte görüntülerini oluşturmak için kullanıldı. Hızla viral oldular ve artık kullanıcının bu platforma erişimi şirket tarafından yasaklandı.
Bilmeyenler için Midjourney, San Francisco merkezli bağımsız araştırma laboratuvarı Midjourney Inc. tarafından oluşturulan üretken bir yapay zeka platformudur. OpenAI’ın DALL–E’si ve BigSleep’in Imagen’ı gibi, bilgi istemleri adı verilen doğal dil açıklamalarından görüntüler üretir. Futurism’in bir raporuna göre, bir video editörü olan Justin Brown, ünlü politikacıların gerçek olmayan AI fotoğraflarını oluşturmak için bu bilgi istemlerini kullandı.
Brown, twitter paylaşımında “AI şantaj endüstrisinde devrim yaratacak. Eşlerini aldatan politikacıların gerçekçi görüntülerini ürettiğim için Midjourney’den yasaklandım.’’ dedi.
Sahte görüntüler, 2024 ABD başkanlık yarışına katılan Joe Biden, Donald Trump ve Florida Valisi Ron DeSantis gibi çeşitli siyasi kişiliklerin yanı sıra eski Başkan Yardımcısı Mark Pence, United Azınlık Lideri gibi diğer şahsiyetleri içeriyor. Eyalet Senatosu Mitch McConnell ve ABD Senatörü Bernie Sanders da bu çeşitli siyasi kişilerden bazıları.
Midjourney, platformu aracılığıyla bu görüntülerin oluşturmasına izin verirken, kullanıcı bunu Reddit’de yayınladıktan kısa bir süre sonra yasaklandı ve bu görüntüler platformdan kaldırıldı. Ancak resim dizisi, yapay zeka teknolojisinin aslında ne kadar kolayca bir silaha dönüştürülebileceğini ortaya koydu. Brown, sahte görüntülerin kötüye kullanıldığını ve bağlam dışında paylaşıldığını belirtti.