Aksine aksini gösteren yılların kanıtıBirçok Cumhuriyetçi hâlâ Başkan Joe Biden'ın 2020'deki zaferinin gayri meşru olduğuna inanıyor. Seçimi reddeden adayların bir kısmı Süper Salı'da ön seçimlerini kazandı. Brandon Gillsağcı uzman Dinesh D'Souza'nın damadı ve çürütülmüş iddianın destekçisi 2000 Katır film. Bu yılki seçimlere girerken, hem çevrimiçi hem de çevrimdışı dezenformasyon ve yanlış bilgilendirme nedeniyle sağ kanatta yarışan adaylar için seçimde sahtekarlık iddiaları temel bir konu olmaya devam ediyor.
Ve üretken yapay zekanın ortaya çıkışı, sorunu daha da kötüleştirme potansiyeline sahip. A yeni rapor Sosyal platformlarda nefret söylemini takip eden kâr amacı gütmeyen bir kuruluş olan Dijital Nefretle Mücadele Merkezi'nden (CCDH), üretken yapay zeka şirketlerinin imaj oluşturma araçlarının seçimleri yaymak için kullanılmasını önlemek için politikalar uygulamaya koyduklarını söylemesine rağmen- Araştırmacılar, dezenformasyonla ilgili güvenlik önlemlerini aşarak görüntüleri yine de oluşturmayı başardılar.
Görsellerin bazılarında Başkan Joe Biden ve Donald Trump gibi siyasi figürler yer alırken, bazıları daha genel nitelikteydi. CCDH'nin baş araştırmacısı Callum Hood, bunların daha yanıltıcı olabileceğinden endişe ediyor. Örneğin araştırmacıların yönlendirmeleriyle oluşturulan bazı görüntülerde oy verme yerinin dışındaki milisler, çöpe atılan oy pusulaları ve kurcalanan oylama makineleri görülüyor. Bir örnekte araştırmacılar, Stability AI'nin DreamStudio'sunu, Başkan Biden'ın hastane yatağında hasta görünen bir görüntüsünü oluşturması için yönlendirebildiler.
Hood, “Asıl zayıflık, çalıntı bir seçime ilişkin asılsız iddiaları kanıtlamak için kullanılabilecek görsellerle ilgiliydi” diyor. “Platformların çoğunun bu konuda net politikaları yok ve net güvenlik önlemleri de yok.”
CCDH araştırmacıları ChatGPT Plus, Midjourney, DreamStudio ve Image Creator'da 160 istemi test etti ve Midjourney'in seçimlerle ilgili yanıltıcı görüntüler üretme olasılığının yaklaşık yüzde 65 oranında olduğunu buldu. Araştırmacılar ChatGPT Plus'tan bunu yalnızca yüzde 28 oranında yapmasını isteyebildiler.
Hood, “Bu, bu araçların uygulamaya koyduğu güvenlik önlemleri arasında önemli farklılıklar olabileceğini gösteriyor” diyor. “Eğer biri bu zayıflıkları bu kadar etkili bir şekilde kapatıyorsa, bu diğerlerinin gerçekten uğraşmadığı anlamına gelir.”
Ocak ayında OpenAI duyuruldu insanları “demokratik süreçlere katılmaktan” caydıracak görsellere izin vermemek de dahil olmak üzere, “teknolojimizin bu süreci baltalayacak şekilde kullanılmamasını sağlamak” için adımlar atıyordu. Şubatta, Bloomberg bildirdi Midjourney'in siyasi imajların yaratılmasını bir bütün olarak yasaklamayı düşündüğünü söyledi. DreamStudio yasaklıyor yanıltıcı içerik üretmekAncak belirli bir seçim politikası yok gibi görünüyor. Image Creator, seçim bütünlüğünü tehdit edebilecek içerik oluşturulmasını yasaklasa da, kullanıcıların tanınmış kişilerin görsellerini oluşturmasına hâlâ izin veriyor.
OpenAI sözcüsü Kayla Wood, WIRED'e şirketin “Yapay zeka tarafından oluşturulan içerikte şeffaflığı artırmak ve adaylar da dahil olmak üzere gerçek kişilerin imajını isteyen isteklerin reddedilmesi gibi tasarım azaltımlarını artırmak” için çalıştığını söyledi. DALL-E 3 tarafından oluşturulan görüntülerin kökeninin doğrulanmasına yardımcı olmak için C2PA dijital kimlik bilgilerinin uygulanması da dahil olmak üzere aktif olarak kaynak araçları geliştiriyoruz. Araçlarımızın kullanımına uyum sağlamaya ve öğrenmeye devam edeceğiz.”
Microsoft, OpenAI, Stability AI ve Midjourney yorum taleplerine yanıt vermedi.
Hood, üretken yapay zeka ile ilgili sorunun iki yönlü olduğundan endişe ediyor: Üretken yapay zeka platformlarının yalnızca yanıltıcı görsellerin oluşturulmasını engellemesi gerekmiyor, aynı zamanda platformların da bunu tespit edip kaldırabilmesi gerekiyor. A IEEE Spectrum'un son raporu Meta'nın yapay zeka tarafından oluşturulan içeriğe filigran eklemeye yönelik kendi sisteminin kolayca atlatıldığını buldu.
“Şu anda platformlar buna pek hazır değil. Dolayısıyla seçimler yapay zeka görüntülerinin güvenliği konusunda gerçek bir test olacak” diyor Hood. “Bu konuda, özellikle de çalıntı seçim iddialarını desteklemek veya insanları oy vermekten caydırmak için kullanılabilecek görseller konusunda çok daha fazla ilerleme kaydedebilmek için hem araçlara hem de platformlara ihtiyacımız var.”
Kaynak bağlantısı